gpt-oss en local : faire tourner gpt-oss-20b et gpt-oss-120b
En août 2025, OpenAI a publié ses premiers modèles de langage ouverts depuis GPT-2 : gpt-oss-20b et gpt-oss-120b. Ils sont téléchargeables, sous licence Apache 2.0, et conçus pour tourner sur votre propre matériel. C'est un moyen d'utiliser la technologie d'OpenAI sans envoyer une seule donnée chez OpenAI. Voici ce qu'il faut pour les faire tourner, et à quelle vitesse.
gpt-oss figure dans notre sélection mensuelle du meilleur LLM local, classée selon la mémoire de votre machine.
gpt-oss-20b et gpt-oss-120b en bref
| gpt-oss-20b | gpt-oss-120b | |
|---|---|---|
| Paramètres | 21 milliards, dont 3,6 milliards actifs à chaque token | 117 milliards, dont 5,1 milliards actifs |
| Contexte | 128 000 tokens | 128 000 tokens |
| Licence | Apache 2.0 | Apache 2.0 |
| Mémoire selon OpenAI | 16 Go suffisent | tient dans 80 Go (un GPU H100) |
| Taille sur Ollama | 14 Go | 65 Go |
Les deux modèles utilisent une architecture « mixture of experts » : seule une petite partie du modèle travaille pour chaque token. C'est ce qui les rend rapides malgré leur taille. Ils sont aussi livrés directement dans un format compressé (MXFP4), ce qui explique leur faible encombrement.
Depuis, OpenAI n'a pas publié de « gpt-oss 2 ». La seule nouveauté est gpt-oss-safeguard (octobre 2025), une variante spécialisée dans la classification de contenus selon une politique de sécurité, pas un modèle de discussion.
Quel matériel pour gpt-oss ?
gpt-oss-20b tient dans une carte graphique de 16 Go. Vitesses de génération publiées par la communauté llama.cpp :
| Carte graphique | Génération | Notre station correspondante |
|---|---|---|
| RTX 5060 Ti 16 Go | environ 112 tokens/s | Station Essentiel 16 Go, 2 490 € TTC |
| RTX 5070 Ti 16 Go | environ 190 tokens/s | Station Essentiel Rapide 16 Go, 2 990 € TTC |
| RTX 5090 32 Go | environ 283 tokens/s | Carte RTX 5090, sur devis |
gpt-oss-120b demande 65 Go rien que pour le modèle. Il ne tient donc ni dans une RTX 5090 ni dans une station à deux cartes de 16 Go. llama.cpp peut répartir le modèle entre la carte graphique et le processeur, mais la vitesse chute fortement. Les machines adaptées :
| Machine | Mémoire | Vitesse mesurée sur gpt-oss-120b |
|---|---|---|
| Station Threadripper avec RTX PRO 6000 Blackwell | 96 Go par carte, jusqu'à 3 cartes | environ 196 tokens/s avec une carte (llama.cpp) |
| Station GB10 type DGX Spark | 128 Go unifiés | environ 60 tokens/s (llama.cpp) |
| Mini PC Ryzen AI Max+ 395 | 128 Go unifiés | environ 45 tokens/s (ServeTheHome) |
| Carte H200 NVL | 141 Go HBM3e | pour un serveur partagé par de nombreux utilisateurs |
Avec la RTX PRO 6000, le gros modèle tourne plus vite que le petit sur une RTX 5060 Ti : c'est la station idéale pour un assistant d'entreprise basé sur gpt-oss-120b.
Installer gpt-oss avec Ollama
- Installez Ollama sur Windows, macOS ou Linux depuis son site officiel.
- Lancez le modèle adapté à votre machine :
ollama run gpt-oss:20b
# ou, avec au moins 80 Go de mémoire GPU :
ollama run gpt-oss:120b
- Au premier lancement, le modèle se télécharge (14 ou 65 Go), puis la discussion démarre dans le terminal.
Attention aux étiquettes se terminant par « -cloud » sur Ollama : elles font tourner le modèle sur des serveurs distants, et vos données quittent alors votre machine.
Régler l'effort de raisonnement
gpt-oss « réfléchit » avant de répondre, et vous choisissez combien. Trois niveaux existent : faible, moyen et élevé. Il suffit de l'indiquer dans le message système, par exemple « Reasoning: high ». Le niveau faible répond plus vite pour les tâches simples. Le niveau élevé prend plus de temps mais donne de meilleurs résultats sur les problèmes complexes (calcul, code, analyse).
Pourquoi faire tourner gpt-oss en local ?
- Confidentialité : vos questions et vos documents ne quittent pas votre machine. Aucun fournisseur, américain ou autre, n'y a accès.
- Coût prévisible : pas d'abonnement par utilisateur ni de facturation au token.
- Liberté : la licence Apache 2.0 autorise l'usage commercial, la modification et l'intégration dans vos propres outils.
C'est sur ce principe que repose notre assistant IA privé : un modèle ouvert, sur une machine chez vous, qui répond à partir de vos documents. Pour choisir la bonne configuration, contactez-nous ou appelez le +33 6 32 49 26 41.
À lire aussi
- Mistral AI en local : quel modèle pour quel GPU ?
- DeepSeek avec Ollama : installer DeepSeek en local
- Toutes nos machines pour l'IA locale : stations et serveurs IA
Questions fréquentes
gpt-oss est-il gratuit ? Oui. Les deux modèles sont sous licence Apache 2.0, y compris pour un usage commercial. Il faut seulement le matériel pour les faire tourner.
Quelle carte graphique pour gpt-oss-20b ? Une carte de 16 Go suffit, comme une RTX 5060 Ti 16 Go ou une RTX 5070 Ti.
gpt-oss-120b tourne-t-il sur une RTX 5090 ? Pas entièrement : le modèle pèse 65 Go, deux fois la mémoire de la carte. Il faut une RTX PRO 6000 (96 Go), une machine à 128 Go de mémoire unifiée, ou un GPU de datacenter.
gpt-oss, est-ce ChatGPT en local ? Non. ChatGPT utilise les modèles privés d'OpenAI, hébergés chez OpenAI. gpt-oss est un modèle distinct, ouvert, que vous hébergez vous-même.
Sources
- OpenAI, Introducing gpt-oss (5 août 2025), modèles ouverts et Introducing gpt-oss-safeguard (29 octobre 2025)
- Hugging Face, fiche du modèle gpt-oss-20b
- Ollama, étiquettes et tailles gpt-oss (consulté le 14 octobre 2026)
- llama.cpp, benchmarks gpt-oss par GPU (#15396) et résultats DGX Spark (#16578)
- ServeTheHome, AMD Ryzen AI Halo review (6 juillet 2026)
- llama.cpp sur GitHub (répartition entre processeur et GPU)