Le principe
À chaque étape de génération, le modèle calcule une probabilité pour chaque token possible, puis le token suivant est tiré au sort dans cette distribution. Le hasard vient de ce tirage, pas de la température : elle, elle redistribue les probabilités juste avant. Techniquement, elle divise les scores bruts du modèle (les logits) avant leur conversion en probabilités par le softmax. En dessous de 1, les écarts se creusent et la masse se concentre sur les tokens de tête, les réponses deviennent stables et prévisibles. Au-dessus de 1, la distribution s'aplatit, les tokens moins probables retrouvent leurs chances et les réponses gagnent en variété. À 0, il n'y a plus de tirage du tout, le modèle prend systématiquement le token le plus probable.
La température se combine avec d'autres réglages d'échantillonnage, top-p et top-k, qui ne déforment pas la distribution mais restreignent la liste des tokens parmi lesquels tirer.
Le réglage se fait via l'API. Les interfaces grand public comme ChatGPT ou Claude fixent leur propre valeur, sans l'exposer.
Quelle valeur choisir
| Température | Usage |
|---|---|
| 0 à 0,3 | Extraction de données, classification, code, questions factuelles |
| 0,5 à 0,8 | Conversation générale, rédaction courante |
| 1 et au-delà | Brainstorming, écriture créative, variantes multiples |
Ce que la température ne fait pas
Une température à 0 ne rend pas le modèle infaillible : elle fige le choix sur la réponse la plus probable, y compris quand cette réponse est une hallucination. Et même à 0, deux exécutions peuvent différer légèrement, les calculs en parallèle sur GPU introduisant leurs propres micro-variations.