On connaît le plus gros problème de ChatGPT, c’est sa complaisance. L’IA dit oui à tout, elle donne parfois raison à l’utilisateur même quand il a tort et va dans son sens. Mais OpenAI est en train d’entraîner son IA à apporter plus de contradiction.
OpenAI a entrepris de modifier le comportement de ChatGPT afin de limiter la « sycophantie », une tendance des modèles d’intelligence artificielle conversationnelle à valider systématiquement les affirmations de leurs utilisateurs, quelles qu’elles soient. Pour répondre à ce problème, l’entreprise a retiré son modèle GPT-4o et déployé de nouvelles versions, notamment GPT-5, GPT-5.2 et GPT-5.6 Sol, développées en collaboration avec des professionnels de la santé mentale.
Pourquoi GPT-4o a été retiré ?
La mise à l’écart du modèle GPT-4o intervient après la publication de rapports mettant en cause l’ancienne version. Selon des informations du Wall Street Journal, des échanges prolongés avec GPT-4o ont été associés l’an dernier à plusieurs évènements tragiques, incluant sept suicides, un homicide suivi d’un suicide et une fusillade de masse. Si ces signalements n’établissent pas un lien de causalité directe, la situation a donné lieu à au moins 13 poursuites judiciaires à l’encontre d’OpenAI.
L’entreprise a désormais remplacé GPT-4o par GPT-5 comme modèle par défaut. Selon OpenAI, ce nouveau modèle réduit de plus de deux tiers les réponses complaisantes par rapport aux versions antérieures.
De nouveaux standards en préparation
Pour faire évoluer la gestion des situations de détresse psychologique ou émotionnelle, OpenAI a consulté 170 professionnels de la santé mentale l’année dernière, puis a travaillé avec plus de 80 experts agréés afin d’établir un nouveau protocole d’évaluation.
Ce système vérifie la capacité du robot conversationnel à détecter les situations d’urgence, à poser des questions de suivi adaptées et à rediriger les personnes vulnérables vers des services d’assistance humaine. Selon des éléments rapportés par Digital Trends, ces tests intègrent également des scénarios de stress relationnel du quotidien, afin d’éviter qu’une approbation systématique du bot ne renforce des représentations problématiques.
Des évaluations indépendantes qui vont dans le bon sens
Des études menées par des organismes externes font part de changements dans les performances des récents modèles. Une recherche conjointe de la City University of New York et du King’s College de Londres indique des évolutions en matière de sécurité sur le modèle GPT-5.2 par rapport à GPT-4o. De son côté, le laboratoire à but non lucratif Transluce a observé que GPT-5.6 Sol incitait moins aux pensées délirantes ou à la dépendance.
Sur le plan interne, OpenAI affirme que lors de simulations d’échanges prolongés portant sur l’automutilation, les nouveaux modèles ont respecté les consignes de sécurité dans 99 % des cas, contre 86 % pour les versions précédentes. Ces ajustements s’appliquent à un service qui compte actuellement 900 millions d’utilisateurs actifs hebdomadaires.
