Lors de la dernière conférence Collision à Toronto, Geoffrey Hinton, le parrain de l’intelligence artificielle, a encore une fois souligné les dangers de cette technologie.
Geoffrey Hinton a participé à la conférence Collision qui s’est tenue à Toronto, au Canada, dans son ancienne fac. Le parrain de l’IA est venu parler des dangers et des risques d’une technologie qu’il a lui-même contribué à développer. Il a de nouveau invité le monde à être prudent.
Le parrain
Comme informaticien, Hinton se trouvait à l’origine de l’intelligence artificielle ; il a même reçu un prix Turing pour cela. Ces derniers mois, cependant, il a formulé des commentaires sévères sur la technologie à chaque fois qu’il en a eu l’occasion.
Il utilise désormais son nom dans le monde technologique pour sensibiliser l’humanité aux menaces potentielles de l’intelligence artificielle. Au début de l’année, Hinton a même quitté son poste chez Google pour s’exprimer librement sur les risques et les dangers de l’IA.
Danger réel
Lors de Collision, Hinton a répété ses inquiétudes. Pour lui, la situation actuelle se résume à 99 personnes intelligentes qui travaillent à renforcer l’IA et à une personne qui tente de résister à l’emprise de la technologie sur tout.
Hinton invite les décideurs politiques à veiller au développement de l’intelligence artificielle. Il ne cherche pas à l’arrêter ; il l’aime encore trop pour cela, dit-il. Toutefois, Hinton estime que toute personne travaillant sur l’IA devrait d’abord mieux comprendre la technologie afin d’évaluer correctement les risques potentiels.
Pour renforcer son discours, M. Hinton a donné quelques exemples. Le fait que la mise en œuvre de l’automatisation de l’IA augmente la productivité, pense-t-il, est positif en soi ; mais les bénéfices qui en découlent ne vont pas aux travailleurs. Ainsi, le fossé de la pauvreté augmente encore plus ; les riches s’enrichissent.
Selon Hinton, un autre danger sont les chatbots qui produisent constamment des infox. Il espère que tout ce qui est faux pourra être étiqueté de cette manière. Un filigrane qui permettra aux gens de voir que quelque chose a été généré par l’IA, pour ainsi dire.
De plus, il n’est pas convaincu qu’une bonne IA puisse battre une mauvaise IA, comme les applications militaires. Les guerres sans victimes humaines, avec seulement des pions mécaniques, sont trop attrayantes, selon Hinton. Il craint également l’impact potentiellement énorme de l’IA sur le marché de l’emploi et il n’est pas le seul. Même Sam Altman, de l’OpenAI, a exprimé des réserves à ce sujet.
Contrepoints
Cependant, tout le monde n’est pas d’accord avec Hinton. On le traite parfois de défaitiste, et certains acteurs du secteur pensent qu’il exagère. Lors de Collision, plusieurs personnes ont déclaré qu’elles voyaient l’avenir de l’IA sous un jour beaucoup plus prometteur et qu’une réglementation trop stricte n’était pas nécessaire.
Hinton est conscient que son message est plutôt négatif, mais il souligne qu’il ne s’agit pas d’un simple pessimisme. L’avenir (proche) déterminera qui a raison.