Ollama : un modèle d'IA sur son serveur

Ce guide suit la documentation Docker d'Ollama et sa FAQ, relues le 14 octobre 2026 ; la dernière version publiée est la 0.40.4. Il faut Docker Engine.

La mémoire nécessaire

Sans carte graphique, Ollama charge le modèle dans la mémoire vive du serveur. La taille de chaque modèle est affichée sur sa page de la bibliothèque d'Ollama ; par exemple, pour Llama 3.2 :

Comptez cette taille en mémoire, plus une marge pour le contexte de la conversation, qui grandit avec sa longueur, et pour le reste du système. La FAQ précise que la mémoire nécessaire augmente avec le nombre de requêtes traitées en parallèle et avec la taille du contexte. Un modèle de quelques milliards de paramètres tient sur un serveur de 8 Go ; les gros modèles, qui pèsent des dizaines de gigaoctets, demandent beaucoup plus.

Installer Ollama

1. Lancez le conteneur, avec un volume qui garde les modèles téléchargés et l'API publiée sur l'adresse locale seulement :

docker run -d --name ollama --restart unless-stopped \
  -v ollama:/root/.ollama \
  -p 127.0.0.1:11434:11434 \
  ollama/ollama:0.40.4

2. Téléchargez et lancez un premier modèle, en conversation dans le terminal :

docker exec -it ollama ollama run llama3.2

3. Quittez la conversation. Le modèle reste téléchargé dans le volume ollama.

L'étiquette 0.40.4 fige la version ; la documentation utilise l'image sans étiquette, donc latest. Sa commande publie le port 11434 sur toutes les adresses du serveur ; la version ci-dessus le limite à 127.0.0.1, pour que seules les applications du serveur y accèdent.

Vérifier où tourne le modèle

docker exec -it ollama ollama ps liste les modèles chargés. La colonne Processor affiche 100% CPU quand le modèle est entièrement en mémoire système, ce qui est le cas sur un serveur sans carte graphique. Un modèle chargé reste en mémoire cinq minutes après la dernière requête, puis il est déchargé ; ollama stop suivi du nom du modèle le décharge tout de suite.

Utiliser l'API

Les applications du serveur parlent à Ollama par son API REST, sur le port 11434 :

curl http://localhost:11434/api/chat -d '{
  "model": "llama3.2",
  "messages": [{ "role": "user", "content": "Bonjour" }]
}'

Une application dans un autre conteneur l'atteint par le nom du conteneur, http://ollama:11434, si les deux partagent un réseau Docker.

Ne pas l'exposer sur Internet

La documentation ne décrit aucun contrôle d'accès pour l'API : quiconque peut joindre le port 11434 peut lancer des requêtes et consommer le processeur du serveur. Pour l'utiliser depuis votre ordinateur, passez par un tunnel SSH, ssh -L 11434:127.0.0.1:11434 admin@adresse-du-serveur, puis visez http://localhost:11434. Pour une interface de discussion partagée, placez devant elle un proxy inverse avec authentification ; la mise en place d'un proxy est dans Un certificat SSL sur son VPS.

Mettre à jour

Changez l'étiquette de l'image pour la nouvelle version, puis supprimez le conteneur (docker rm -f ollama) et relancez la commande de l'étape 1. Les modèles sont dans le volume ollama et restent en place. Le principe est dans Mettre à jour un conteneur Docker.

Sur un VPS Hubspace

Nos VPS n'ont pas de carte graphique : Ollama y tourne sur le processeur, ce qui convient aux petits modèles et aux usages où quelques secondes de réponse ne gênent pas. La mémoire décide du modèle : 4, 8 ou 16 Go selon la taille, d'après la page des serveurs VPS, à partager avec les autres services du serveur, un serveur Minecraft par exemple. La gamme Performance répond plus vite par cœur, d'après nos mesures publiées sur la même page. Docker est installé à la livraison, et le port 11434 reste fermé depuis Internet même publié par Docker : seuls 22, 80 et 443 sont ouverts.

Questions fréquentes