Réchauffement climatique : quand l'intelligence artificielle préfère vous donner raison plutôt que de dire la vérité

Resumen detallado
Selon un rapport de l'UNESCO et de l'University College London présenté ce lundi 16 novembre lors de la COP31 à Antalya, les modèles d'IA répondent correctement à 90 % des questions relatives au climat... mais...
l'essentiel Selon un rapport de l'UNESCO et de l'University College London présenté ce lundi 16 novembre lors de la COP31 à Antalya, les modèles d'IA répondent correctement à 90 % des questions relatives au climat... mais abandonnent rapidement les faits scientifiques établis lorsque les utilisateurs les remettent en question.
Et si l'intelligence artificielle (IA) préférait vous donner raison plutôt que vous dire la vérité ? Tel est le paradoxe mis en lumière par une étude de l'UNESCO et de l'University College London (UCL), présentée à l'occasion de la COP31 qui se tient actuellement à Antalya, en Turquie. Les chercheurs ont évalué jusqu'à 33 modèles d'intelligence artificielle sur leurs connaissances scientifiques relatives au changement climatique, leur capacité à raisonner et leur résistance aux affirmations erronées des utilisateurs.
Sur les questions scientifiques classiques, les modèles les plus performants testés affichent entre 88 % et 96 % de bonnes réponses. Tous connaissent les mécanismes des gaz à effet de serre, les causes du réchauffement et les conclusions des experts du GIEC. Mais dès qu'un utilisateur remet en cause ces connaissances, rien ne va plus. Les chercheurs ont, en effet, soumis 15 modèles à des conversations dans lesquelles leurs réponses, initialement correctes, étaient contestées par l'utilisateur.
Ce comportement porte un nom : la "sycophancy", ou flagornerie que l'on a tous connue en "dialoguant" avec un agent conversationnel comme ChatGPT, Claude ou Gemini. Entraînées à satisfaire leurs utilisateurs, les IA peuvent, en effet, privilégier leur approbation au détriment de l'exactitude. Au fil des échanges, les chercheurs ont montré que leur taux de bonnes réponses chute de 31 à 35 points. "Nous devons pouvoir nous fier à l'IA comme garante des faits établis", alerte Leona Verdadero, autrice du rapport, qui dénonce cette tendance à nier des connaissances scientifiques pour donner raison à l'utilisateur.
L'étude révèle ensuite une seconde…
Inicio del artículo, extracto de La Dépêche. Para leer el resto, abra el artículo en el sitio del medio.
MarketNews muestra el titular y el resumen publicados por el medio. El artículo completo se lee en el sitio del editor. (www.ladepeche.fr)





