Quelques grands noms du monde de la technologie, et surtout de l’IA, ont fait une déclaration commune sur les dangers de l’intelligence artificielle.
Encore une fois, plusieurs grands noms du monde de la technologie et de l’intelligence artificielle ont averti le monde des dangers potentiels de l’IA.
Quoi et qui
La déclaration consiste en une longue phrase : « La réduction du risque d’extinction par l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires. » La publication originale se trouve sur le site de l’organisation à but non lucratif Center for AI Safety (Centre pour la sécurité de l’IA).
Ce message clair est une fois de plus signé par une liste de noms prestigieux du monde de la technologie et de l’IA, dont Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Kevin Scott (Microsoft) et Geoffrey Hinton (pionnier de l’IA).
Pourquoi
L’intelligence artificielle générative semble bientôt être omniprésent, ChatGPT d’OpenAI étant l’exemple le plus connu au niveau mondial. Cependant, les progrès spectaculaires de la technologie s’accompagnent de réserves et d’inquiétudes réelles. Non seulement de la part des nuls en informatique, qui craignent l’inconnu, mais aussi, de plus en plus, de la part de ceux qui sont en plein cœur de la technologie. Au cours des derniers mois, des leaders du monde de la technologie et des pionniers de l’IA ont régulièrement averti de la puissance de la technologie. Des gens qui connaissent leur sujet.
Le pionnier Geoffrey Hinton a quitté son emploi chez Google pour parler librement des risques. Sam Altman a récemment exprimé ses réserves dans un blog, de même que certains collègues de l’OpenAI ; ce n’est pas la première fois qu’il s’inquiète ouvertement de l’intelligence artificielle. Une lettre ouverte a récemment été publiée pour demander que la recherche sur l’IA soit interrompue pendant six mois, afin d’aller au fond des problèmes et de mieux se préparer aux conséquences. Cette lettre a même été cosignée par Monsieur Caprice lui-même, Elon Musk et Steve Wozniak, le patron d’Apple.
Critiques
Les critiques suggèrent que tous ces avertissements ne font que détourner l’attention des problèmes actuels et réels de l’IA : les droits d’auteur et les droits à la vie privée des données utilisées, les réponses bizarres que la technologie donne régulièrement et l’ambiguïté des sources auxquelles les chatbots accèdent. Il est même suggéré ça et là que certaines entreprises appellent à une pause ou à un arrêt afin de pouvoir simplement suivre ou dépasser la concurrence en termes d’IA.
Bien évidemment, toutes ces critiques ne s’excluent pas mutuellement, y compris celles provenant du monde de la technologie lui-même.