Google a ignoré des employés lors du lancement du chatbot IA inutile et menteur Bard

bard google

Avant le lancement de Bard, les employés de Google ont prévenu que le chatbot d’IA n’était pas encore prêt pour le grand public. Cependant, les considérations éthiques ont été ignorées au profit de la rapidité.

Les employés de Google qui ont pu travailler en interne avec le chatbot IA Bard ont prié leur entreprise de ne pas lancer l’outil. C’est ce qu’a découvert Bloomberg après avoir discuté avec d'(anciens) employés, grâce à des captures d’écran de conversations. Des tests internes ont montré que Bard était « plus inutile qu’inutile ». Un autre testeur a qualifié le système de « menteur pathologique ».

Réponses potentiellement dangereuses

Les réponses données par Bard étaient en effet souvent erronées et pouvaient même causer des dommages. Par exemple, quand les employés demandaient des conseils sur la plongée sous-marine, les réponses étaient synonymes de difficultés, voire de blessures.

Google dispose de mécanismes internes permettant d’attribuer à un produit une note dans différentes catégories indiquant son état de préparation au lancement. Bard n’a pas obtenu un score suffisamment élevé dans plusieurs catégories. Les tests effectués auprès des employés et les politiques internes suggèrent donc qu’un lancement n’est pas encore prévu.

Pression concurrentielle

Toutefois, sous la pression d’OpenAI et de ChatGPT, Google a choisi de faire fi de ces craintes. La solution : qualifier le produit d’« expérimental » en espérant que le public pardonne les imperfections. Les employés consultés par Bloomberg ont regardé à regret comment « le géant de la recherche fiable fournissait des informations de faible qualité afin de ne pas perdre de terrain par rapport à la concurrence ».

Et le résultat était piteux. Bien des choses ont mal tourné lors du lancement de Bard et, entre autres, Bard a donné de fausses informations, comme l’avaient prédit les employés. Suite à cette présentation, les actions du géant de la recherche se sont écroulées.

Tests publics

Chez Google, la rapidité de l’approche ne pose pas de problème à tout le monde. Certains pensent simplement que les tests publics sont une partie cruciale du développement de l’IA générative. Il est vrai qu’OpenAI a mis sur le marché un outil plus mature avec le lancement de ChatGPT, même si cet outil n’était pas et n’est toujours pas parfait.

Les témoignages montrent principalement que Google a perdu à cause de la vitesse chez OpenAI et Microsoft. L’entreprise craint de perdre encore plus du terrain. Un porte-parole affirme que les considérations éthiques restent une priorité absolue pour Google, mais l’enquête de Bloomberg montre que d’autres aspects prennent le pas sur la concurrence pour les produits de l’intelligence artificielle. Cette situation montre également qu’il n’est pas réaliste d’attendre des entreprises qu’elles s’autorégulent correctement pendant que se déroule une compétition de grande ampleur.

newsletter

Abonnez-vous gratuitement à ITdaily !

Category(Required)
This field is for validation purposes and should be left unchanged.