Aujourd’hui, tous les éditeurs de logiciels chantent les louanges de l’IA. SAS fait pareil, mais souligne en même temps l’importance de la fiabilité dans l’adoption de la technologie.
Lors du SAS Innovate on Tour à Rotterdam, la session de Sterlina Smith, responsable senior de la pratique de l’éthique des données chez SAS, est très fréquentée. La session porte sur la manière de proposer une IA fiable, et elle commence par un problème évident : « les nouvelles innovations se heurtent toujours à d’anciennes inégalités. »
Selon Smith, deux choix sont possibles à partir de ce stade. « Nous pouvons tolérer que ces problèmes persistent, ou nous pouvons apporter des changements qui limitent ou atténuent le problème. Et c’est là que se trouve le fossé de confiance en matière d’IA. »
« La méfiance est à l’origine des inquiétudes sociales, juridiques, éthiques et économiques liées à l’IA. Les gens hésitent à croire que l’IA garantira leur sécurité et qu’elle a été développée en comprenant leurs besoins. Ils doutent qu’elle leur soit bénéfique. »
Électricité et électrocution
Chaque technologie entraîne son lot de négativité, et il en va de même pour l’IA. Smith cite le philosophe français Paul Virilio : « Inventer le bateau, c’est inventer le naufrage. Alors, l’électricité peut provoquer l’électrocution. »
Elle souligne que tout ce qui pousse rapidement engendre la méfiance.
Selon elle, la peur de l’IA est un problème actuel. Elle cite le 2024 Trust Barometer d’Edelman (PDF). La technologie arrive à un carrefour décisif. « Pour que l’IA soit perçue de manière positive, le gouvernement et les médias peuvent aider, mais c’est aussi là que le bât blesse. » Elle cite à nouveau l’étude d’Edelman.
« Nous y voyons que les organisations ont un rôle important à jouer. Aujourd’hui, les gens font assez confiance aux entreprises quant à leur capacité à intégrer l’innovation dans la société. Les entreprises peuvent donc jouer un rôle de catalyseur dans l’intégration et l’adoption de l’IA. »
En même temps, Smith souligne que l’intelligence artificielle implique une grande responsabilité. « Il faut absolument éviter que le fossé entre les pays les plus riches et les pays les moins avancés grandisse. En 48 ans d’existence, nous avons appris que c’est en donnant la priorité à l’aspect humain que nous avons le plus d’impact. »
Transparence
Lors de sa présentation, Smith met souvent l’accent sur les données synthétiques. « Certaines données sont sous-représentées, ce qui rend les ensembles de données inéquitables. Les données synthétiques peuvent résoudre ce problème. Le public croira-t-il les données présentées ? Comment lutter contre la désinformation ? C’est pourquoi nous discutons aujourd’hui avec les gouvernements et l’industrie pour promouvoir l’utilisation du filigrane et des étiquettes. Ainsi, les utilisateurs peuvent voir clairement ce qui est authentique et ce qui provient de SAS Data Maker, par exemple. »
Il faut impliquer les gens quand on parle d’IA.
Sterlina Smith, responsable senior de la pratique de l’éthique des données chez SAS
Elle soulève le problème le plus important en matière d’IA : la transparence. Chez SAS, on continue d’améliorer les techniques pour déterminer l’origine des données. « C’est nécessaire pour la transparence et l’honnêteté », explique Smith.
« Il faut impliquer les gens quand on parle d’IA. L’intelligence artificielle peut être magnifique, mais les gens doivent la guider. » Elle insiste beaucoup sur l’aspect humain, sur le fait qu’il existe une approche consciente de l’utilisation de l’innovation. « Une IA fiable commence commence par la première ligne de code. »
Course à l’IA
La course à l’IA est en pleine forme et SAS y participe activement. Smith le sait très bien, mais veut nuancer ce constat : « Quand on parle d’éthique, de confiance et d’innovation responsable, il est facile de tomber dans le piège du défaitisme. Un sentiment collectif de badaudisme. Mais je voudrais que vous réfléchissiez, au lieu de passer aux ténèbres, au côté où on voit briller la lumière, où les choses se passent bien. Et que se passe-t-il quand nous faisons cela correctement ? »
« Et si nous pouvions concentrer les services gouvernementaux sur ceux qui en ont besoin, tout en évitant les fraudes et les abus ? Et si nous pouvions réduire le nombre d’interventions policières tout en maintenant la sécurité ? Et si l’IA ne réduisait pas la démocratie, mais la renforçait ? Ces objectifs valent la peine. J’espère que vous êtes d’accord. »
———————————————————
Cet édito est réalisé en collaboration avec SAS. Cliquez ici pour en savoir plus sur la confidentialité des données, la sécurité et la fiabilité, ainsi que sur la manière dont SAS gère ces questions.