Une étude du New York Times démontre que la fonctionnalité AI Overviews de Google diffuse des informations erronées. Google conteste ces résultats.
Depuis un peu plus d’un an, il est devenu impossible de passer à côté des AI Overviews dans Google. Les AI Overviews regroupent les résultats les plus populaires pour votre requête dans un aperçu concis. Vous obtenez ainsi une réponse rapide à votre question, mais pouvez-vous vous fier à ces informations ? Le New York Times a voulu en avoir le cœur net.
Lorsque Google a lancé les AI Overviews, cela a donné lieu à des réponses d’une nullité hilarante, allant de l’ajout de colle sur une pizza aux conseils sur le nombre de pierres à manger par jour. Les résultats de recherche par IA se sont sérieusement améliorés depuis, mais l’étude constate que des informations erronées sont encore diffusées dans une recherche sur dix.
Réponses fausses et infondées
Le New York Times a collaboré avec la société d’IA Oumi pour cette étude. Un benchmark public nommé SimpleQA, développé par OpenAI, a été utilisé. Ce benchmark soumet plus de 4 000 questions factuelles à un modèle d’IA pour tester l’exactitude des réponses. Le test a été effectué à deux reprises, car les AI Overviews ont bénéficié d’une mise à niveau vers le modèle Gemini 3 après le premier test.
Gemini 2 a obtenu un score de 85 % au test, contre 90 % pour Gemini 3. Cela semble positif à première vue, mais cela signifie également que Google peut vous afficher des informations erronées pour environ une recherche sur dix. Si l’on extrapole cela à la fréquence à laquelle les gens effectuent des recherches sur Google, il s’agit de centaines de milliers d’erreurs par minute et de millions par heure, écrit le New York Times.
Les chercheurs ont également constaté un problème avec les sources citées par les AI Overviews. Les réponses de l’IA contenaient soit des sources avec des informations contradictoires, soit des sources discutables telles que des publications Facebook et Reddit. Malgré des réponses plus précises, Gemini 3 a commis davantage d’erreurs dans l’attribution des sources. Cela rend la vérification des réponses difficile.
Google conteste
Google remet en question la fiabilité de l’étude. Dans une réaction adressée au New York Times, l’entreprise affirme que l’étude n’est « pas représentative » de ce que les gens recherchent réellement avec le moteur de recherche. Selon Google, les AI Overviews fournissent des réponses plus exactes que si vous posiez les mêmes questions à Gemini, bien que l’entreprise n’ait jamais nié que des erreurs soient possibles.
En plaçant le mode IA en haut des résultats de recherche, Google a modifié la manière dont les gens recherchent l’information. Les utilisateurs acceptent souvent les réponses générées par l’IA comme étant vraies, sans les vérifier. Dès lors, le fait que Google contribue à la diffusion d’informations erronées pose un réel problème.