// CLUBIC — INTELLIGENZA ARTIFICIALE
Pourquoi une IA ne répond jamais deux fois pareil, et que change le mode réflexion ?
Vous l’avez certainement remarqué, votre chatbot ne répond jamais de la même façon à une même question. D’un côté, il y a une part de hasard dans le choix des mots que les éditeurs dosent avec des réglages. De l’autre, on retrouve des modèles dits "de raisonnement", avec une phase de réflexion que l’on paie sans toujours la voir.
Que se passe-t-il vraiment entre votre question et la réponse retournée par un chatbot IA ? Et à quoi servent ces réglages ?
Un assistant comme ChatGPT ou Claude ne possède pas de réponse toute faite. Il l’écrit morceau par morceau. Ou plutôt token par token. Ce dernier peut être un mot, une partie de mot ou un signe de ponctuation. À chaque étape, le modèle doit deviner lequel vient ensuite.
Nous détaillons ce mécanisme dans un dossier sur les paramètres d'IA. Le modèle calcule un score pour chaque token de son vocabulaire, convertit ces scores en probabilités, puis en retient un. Imaginons la phrase "Le chat dort sur le…". Le modèle peut donner 40% de chances à "canapé", 30% à "tapis”, 20% à "lit", et répartir les 10% restants entre des milliers d’autres tokens. Il pourrait toujours retenir "canapé", le plus probable. Mais par défaut, il fait autrement. Il tire au sort en respectant ces pourcentages, comme sur une roue de loterie dont les cases seraient plus ou moins larges. "Canapé" sort donc 4 fois sur 10, "tapis" 3 fois sur 10, et ainsi de suite. C’est ce qui rend les réponses variables d’une fois à l’autre. Le token tiré s’ajoute à la phrase, puis le calcul recommence pour le suivant.
Les éditeurs disposent de deux réglages pour encadrer ce tirage. Le premier est la température. C’est en quelque sorte la molette du hasard. Quand elle est basse, le modèle choisit presque toujours le token en tête, et les réponses se ressemblent. A contrario, quand elle est haute, elle élargit les petites cases de la roue : des tokens moins probables passent plus souvent, et les réponses varient. À 0, il n’y a plus de tirage. Le modèle prend toujours le favori. Cette méthode s’appelle l’échantillonnage « glouton » (greedy). Dans l’API d'OpenAI, la température va de 0 à 2 et vaut 1 par défaut.
Le second réglage s’appelle le top-p. Il écarte les candidats improbables avant le tirage. Le principe : on classe les tokens par probabilité décroissante, puis on additionne leurs probabilités en partant du haut, jusqu’à atteindre un seuil. Tous les tokens suivants sont exclus. Avec un top-p de 0,9 dans notre exemple, le modèle garde "canapé", "tapis" et "lit", qui totalisent 90%, et ignore les autres. Le tirage reste possible, mais seulement entre ces trois candidats, dont les probabilités sont recalculées pour retomber à 100% : "canapé" sort alors environ 44% du temps, "tapis" 33% et "lit" 22%. Les spécialistes parlent aussi de "nucleus sampling". OpenAI conseille de modifier la température ou le top-p, pas les deux.
Ces réglages servent à choisir un comportement. Une valeur basse convient quand on veut des réponses stables, par exemple pour extraire une information ou écrire du code. Une valeur haute convient quand on cherche de la variété, pour des idées ou un texte créatif. Cette variabilité est donc voulue. En contrepartie, on ne retombe pas forcément sur la même réponse.
Si le modèle prend toujours le favori à température 0, la réponse devrait être identique à chaque essai. En pratique, ce n’est pas le cas. En septembre 2025, Horace He et ses collègues de Thinking Machines Lab ont publié un test. Ils ont envoyé 1000 fois la même requête au modèle Qwen3-235B, à température 0, en demandant des réponses de 1000 tokens. Résultat : 80 réponses différentes. Une même version revient 78 fois, les autres se répartissent le reste. Les réponses sont identiques pendant les 102 premiers tokens, puis elles divergent au 103e. Le modèle n’était pas en mode réflexion et le phénomène touche donc aussi les modèles classiques.
Puisqu’à température 0, il n’y a plus de tirage au sort, le modèle retient simplement le token qui a le