Une étude récente menée par la BBC met en lumière les limites des chatbots d’intelligence artificielle les plus populaires. Selon cette enquête, près de la moitié des réponses fournies par ces outils présentent des erreurs ou un certain degré de partialité, posant ainsi la question cruciale de la fiabilité des informations générées par l’IA.
Des erreurs discrètes mais inquiétantes
Les hallucinations de l’intelligence artificielle ne sont pas nouvelles. Certaines erreurs flagrantes ont déjà fait la une, comme des recommandations absurdes demandant aux utilisateurs de mettre de la pizza sur de la colle. Pourtant, au-delà de ces incohérences évidentes, se cache un problème plus subtil : la déformation de l’information dans le cadre de recherches sérieuses.
L’étude de la BBC, publiée en février, s’est intéressée à cet aspect en analysant pendant un mois les réponses fournies par plusieurs chatbots parmi les plus connus, notamment ChatGPT d’OpenAI, Gemini de Google, Copilot de Microsoft et Perplexity. L’objectif était d’évaluer leur capacité à fournir des informations exactes et précises sur des sujets d’actualité.
Une distorsion des faits et des citations inexactes
Les résultats de cette étude soulignent des failles majeures dans la manière dont ces modèles traitent et restituent l’information. Selon l’enquête :
- 50 % des réponses contenaient des erreurs significatives, altérant ainsi la compréhension des faits.
- 20 % des citations attribuées à la BBC comportaient des inexactitudes, qu’il s’agisse de chiffres incorrects ou de déclarations déformées.
- 13 % des références fournies par les chatbots étaient totalement inventées ou modifiées.
Ces chiffres révèlent un problème de taille : l’IA, même en citant des sources officielles, peut générer des contenus erronés qui biaisent la perception du lecteur.
L’évolution des modèles IA et l’apparente fiabilité des sources
L’un des éléments ayant contribué à renforcer la confiance des utilisateurs envers ces assistants IA réside dans l’évolution de leur fonctionnement. Contrairement aux premières versions qui produisaient des réponses sans indiquer d’où provenaient leurs informations, de nouveaux modèles comme DeepSeek ou Perplexity mettent en avant leur processus de raisonnement et affichent leurs sources.
Cette transparence apparente a toutefois ses limites. En effet, l’étude démontre que même lorsque ces IA citent des sources connues, le contenu est parfois modifié ou altéré. Cela pose un problème éthique majeur, notamment pour les médias et les éditeurs de contenu qui voient leurs propos détournés, volontairement ou non.
Une confiance à nuancer
Pete Archer, directeur de programme pour l’IA générative à la BBC, souligne la nécessité de prendre du recul face aux réponses fournies par ces outils. Selon lui, si l’intelligence artificielle offre des avantages considérables en matière d’accessibilité, notamment pour la traduction et le sous-titrage, elle ne doit pas pour autant échapper à un cadre de contrôle strict.
Les médias, en particulier, doivent pouvoir garder la main sur l’utilisation de leurs contenus afin d’éviter toute manipulation involontaire de l’information. Il ne suffit pas qu’un chatbot affiche une source fiable : encore faut-il que son contenu soit restitué avec exactitude.
Les risques d’une mauvaise interprétation de l’actualité
Un exemple frappant mentionné dans l’étude est une réponse générée par Perplexity sur l’escalade du conflit au Moyen-Orient. Dans son résumé des événements, le chatbot aurait attribué à la BBC des qualificatifs qu’elle n’avait jamais employés.
Même si cela peut sembler anodin, ces erreurs ont un impact non négligeable sur la perception du lecteur. En modifiant légèrement le ton ou en ajoutant des termes biaisés, l’IA peut prêter à un média des intentions qui ne sont pas les siennes, influençant ainsi l’opinion publique sur la base de fausses informations.
Un enjeu majeur pour l’avenir de l’IA
Avec la montée en puissance des chatbots et leur intégration croissante dans les outils de recherche et d’assistance, garantir la fiabilité de leurs réponses devient une priorité. Si les assistants IA sont amenés à jouer un rôle central dans la diffusion de l’information, il est impératif qu’ils soient soumis à des contrôles rigoureux pour éviter toute propagation involontaire de fausses données.
Les chercheurs et les experts en intelligence artificielle travaillent déjà sur des solutions pour réduire ces biais et améliorer la précision des réponses. Cependant, tant que ces améliorations ne seront pas pleinement intégrées, la vérification systématique des informations reste indispensable pour éviter toute désinformation.
Vers une intelligence artificielle plus fiable ?
Le défi de l’IA générative est double : fournir des réponses précises tout en évitant d’altérer les faits. Si certaines avancées permettent déjà d’aller dans ce sens, il reste encore du chemin à parcourir pour obtenir un outil véritablement fiable et transparent.
Les utilisateurs, quant à eux, doivent adopter une approche critique face aux réponses générées par ces technologies. Croiser les sources, vérifier les informations et ne pas prendre pour argent comptant tout ce qui est produit par une IA est aujourd’hui essentiel pour naviguer dans un environnement où la frontière entre vérité et désinformation devient parfois floue.
Avec cette étude, la BBC met en lumière une réalité importante : malgré toutes les avancées technologiques, une intelligence artificielle « digne de confiance » reste encore un objectif à atteindre.
