Les modèles disponibles
La bibliothèque d'Ollama permet de télécharger des modèles open-weight : Llama (Meta), Gemma (Google), Qwen (Alibaba), DeepSeek, Mistral. Un modèle open-weight, ce sont les poids déjà entraînés, prêts à tourner chez soi, mais on ne vous donne pas le code d'entraînement ni les données qui ont servi à le construire.
Installer Ollama
macOS
Vous pouvez l'installer de deux manières : l'interface graphique via le .dmg à télécharger, ou la ligne de commande.
# Via le script officiel
curl -fsSL https://ollama.com/install.sh | sh
# Ou via Homebrew
brew install ollama
Il est possible d'installer l'interface graphique aussi via Homebrew, avec brew install --cask ollama-app.
Windows
L'installateur se télécharge depuis le site et guide l'installation. Une commande PowerShell est disponible :
irm https://ollama.com/install.ps1 | iex
Linux
curl -fsSL https://ollama.com/install.sh | sh
Pas d'interface graphique native sur Linux, seulement la ligne de commande. On aime ça sur Linux 🔥.
Lancer un modèle
Une commande télécharge le modèle s'il n'est pas déjà présent, puis ouvre une conversation dans le terminal.
ollama run llama3.2:3b
/bye pour terminer une session. Sur une configuration légère (comme mon Mac M1 8go), un modèle Mistral comme ministral-3:3b reste utilisable sans faire ramer la machine.
Les commandes essentielles
ollama pull llama3.2:3b # télécharger un modèle sans le lancer
ollama run llama3.2:3b # lancer une discussion avec un modèle
ollama list # lister les modèles installés
ollama ps # voir les modèles chargés en mémoire
ollama rm llama3.2:3b # supprimer un modèle
Quel modèle choisir
Les modèles existent en plusieurs tailles, 1B, 3B, 7B, 70B. Ce chiffre correspond au nombre de paramètres, en milliards. Il faut compter environ 1 Go de mémoire par milliard de paramètres, sans oublier la marge pour le reste du système, ça donne une bonne idée de quel modèle choisir.
Un Copilot local dans VS Code
Il est possible de brancher un modèle Ollama directement dans le chat GitHub Copilot de VS Code, via l'extension Ollama officielle du Marketplace. Une fois Ollama lancé, le modèle local apparaît comme option dans le chat, au même titre que les modèles distants. De cette manière vous n'aurez pas besoin d'avoir un abonnement.
Les limites
Un modèle de 3 milliards de paramètres sur un ordinateur portable ne rivalise évidemment pas avec Claude ou GPT et leurs modèles de plusieurs centaines de milliards de paramètres exécutés sur des fermes de GPU. Vous utiliserez Ollama plutôt pour des tâches plus légères comme traiter un document.
Mon avis
J'utilise rarement un modèle en local. J'y vois un intérêt sur un VPS pour des applications qui demandent de traiter des tâches sans qu'elles en sortent.