La Journée internationale des droits des femmes est l’occasion de se pencher sur un sujet brûlant dans le domaine de la technologie : la discrimination homme-femme dans les systèmes d’intelligence artificielle (IA). Si l’industrie technologique a (ou prend) conscience du problème et a commencé à déployer des mesures, il reste fort à faire. Les systèmes d’IA gagnent de plus en plus notre vie quotidienne, des soins de santé aux prêts. Il reste néanmoins urgent d’éradiquer la discrimination. Les organisations doivent être à l’écoute des femmes et créer des plateformes où elles peuvent faire entendre leurs points de vue.
L’IA générative (celle de ChatGPT) a suscité une vague d’intérêt pour la technologie de l’IA. Nombre de ces systèmes véhiculent, hélas, encore des stéréotypes qui ont la vie dure et qui réduisent à néant des décennies de progrès au niveau de l’image de la femme. Selon une récente étude de l’Université de Washington, le générateur d’art Stable Diffusion génère souvent des images d’hommes à la peau claire quand on lui demande une « personne ». À mesure que ce genre d’outil s’insinue dans nos vies, on s’expose à une dominance du blanc et du sexe masculin à l’avenir. Pour ne pas en arriver là, les organisations doivent donner aux femmes un rôle de premier plan dans la lutte contre les préjugés sexistes. On pense ici aux tests, au contrôle et à l’identification des problèmes liés aux systèmes d’IA.
Les dirigeants ne doivent pas attendre une réglementation du gouvernement pour agir. Ils doivent dès à présent écouter les femmes qui travaillent dans leur organisation afin de bâtir un avenir où l’IA ne compromet pas l’égalité des sexes, mais la favorise. Le groupe « Women in AI » de Lenovo est un groupe où les femmes peuvent parler librement de ces questions. D’autres organisations devraient suivre cet exemple. Le moment est venu pour les femmes de faire entendre leur voix.
Développer une IA impartiale
Pour concevoir des systèmes réellement impartiaux, il convient de prendre en compte les préjugés sexistes dès le départ et d’impliquer les femmes à tous les niveaux. Il faut favoriser la diversité des genres au sein des équipes, et les organisations doivent s’intéresser autant à la diversité qu’à la protection de la vie privée et à la sécurité quand elles envisagent l’IA. Dans le cadre des technologies à haut risque telles que l’IA, il vaut la peine de renforcer la diversité lors des tests utilisateurs, afin que les personnes qui testent le produit soient réellement différentes de celles qui le conçoivent. Les équipes peuvent également tirer les leçons du développement de technologies destinées aux personnes handicapées, par exemple. De quoi mieux comprendre les différentes formes de discrimination, et y remédier.
Les organisations ne peuvent pas se reposer sur leurs lauriers. Les problèmes liés aux préjugés sexistes dans le cadre de l’IA se sont déjà souvent manifestés par le passé. Pensez aux femmes qui se voient proposer des limites de crédit inférieures sur la base d’un algorithme. Mais l’essor de l’IA dans des domaines tels que l’enseignement peut aussi donner lieu à de nouvelles formes de discrimination, des formes auxquelles on ne penserait pas spontanément, ce qui pourrait notamment se traduire par un manque de promotion des filières STEM (Science, Technology, Engineering, Mathematics) pour les femmes.
Prêter l’oreille aux collaborateurs
Les organisations viennent tout juste de prendre le train de l’IA et mettent en place les premières mesures pour comprendre ce qu’est une « bonne » IA. La communication et la sensibilisation doivent servir de points de départ. Les organisations doivent faire en sorte que les collaborateurs (et en particulier les femmes) se sentent libres de s’exprimer.
Les organisations doivent faire en sorte que les collaborateurs (et en particulier les femmes) se sentent libres de s’exprimer.
Ada Lopez, Senior Manager, Product Diversity Office chez Lenovo
D’où l’importance de créer un « point central » où signaler les problèmes. Il est aussi essentiel d’instaurer une culture où les femmes se sentent écoutées. Il est bien sûr aussi important de s’attaquer aux problèmes. Chez Lenovo, par exemple, des inquiétudes ont récemment été soulevées au sujet d’un avatar féminin. Elles ont débouché sur un débat important et plus général quant à la manière dont les femmes devraient être représentées via l’IA. Comme dans le cadre des tests de produits, plus la discussion sur les préjugés sexistes potentiels est large et diversifiée, mieux c’est.
Collaborer
La solution pour remédier au problème à long terme ? La collaboration au sein de l’industrie technologique et avec des organisations externes. Les entreprises doivent partager leurs bonnes pratiques et s’associer à des organisations d’enseignement pour proposer des formations sur la manière de faire face aux préjugés dans le domaine de l’IA.
Les organisations devraient adopter une vision à long terme et collaborer avec les écoles techniques afin de sensibiliser les futurs développeurs de systèmes d’IA aux préjugés sexistes. Il n’en reste évidemment pas moins important de susciter l’intérêt des filles et des jeunes femmes pour les disciplines STEM, afin qu’il y ait plus de femmes actives dans ce domaine et dans les équipes chargées de concevoir les systèmes d’IA. Selon Gartner, le secteur IT ne compte que 26 % de femmes. Un changement rapide s’impose si l’on veut garantir l’impartialité des systèmes d’IA.
Un avenir exempt de préjugés
La discrimination dans le domaine de l’IA est un problème complexe, impossible à régler du jour au lendemain. D’où l’importance de viser le progrès plutôt que la perfection. En effet, ce n’est pas une question qui peut être résolue par une commission. Tous les membres de l’organisation doivent être impliqués et il convient d’aborder les idées préconçues sur l’IA au début de tout projet d’intelligence artificielle. Il est aussi crucial que les organisations donnent la parole aux femmes à tous les niveaux, et les écoutent. Ce n’est que lorsqu’il sera envisagé sous tous les angles que ce problème pourra être résolu à long terme. En réalisant des progrès concrets dès maintenant, les entreprises peuvent poser les jalons d’un avenir où l’équité et la diversité seront garanties dans le domaine de l’IA.
Ceci est une contribution soumise par Ada Lopez, Senior Manager, Product Diversity Office chez Lenovo