Aux États-Unis, on crée un « consortium de sécurité » pour diriger le développement de l’intelligence artificielle. Avec Google, Microsoft, OpenAI, Nvidia et Meta, entre autres, tous les grands acteurs de l’industrie sont représentés.
Le NIST, institut américain qui a créé le célèbre cadre de cybersécurité, annonce la création de l’AI Safety Institute (Institut pour la sécurité de l’IA). Avec ce consortium, les parties des secteurs public et privé se discuteront et partageront des données concernant la manière de garder la technologie de l’IA bien en main. L’organisation poursuit les objectifs suivants :
- Développer de nouvelles lignes directrices, outils, méthodes, protocoles et meilleures pratiques autour de l’IA sécurisée et fiable.
- Élaborer des lignes directrices et des critères de référence pour identifier et évaluer les capacités de l’IA potentiellement nuisibles.
- Développer des approches pour intégrer des pratiques de développement sûres pour l’IA générative.
- Développer des méthodes et des pratiques pour que l’équipe rouge puisse être employé avec succès.
- Développer des outils pour vérifier les contenus numériques générés par l’IA.
- Préciser et stimuler les compétences des travailleurs de l’IA.
En excellente compagnie
Les entreprises du secteur pouvaient se rejoindre au consortium jusqu’au 15 janvier. Plus de 600 organisations l’ont fait, où le NIST a sélectionné 200 parties. Tous les grands acteurs de l’industrie de la technologie et de l’IA y participent, notamment Apple, Anthropic, Cisco, Hewlett Packard Enterprise, Hugging Face, Microsoft, Meta, NVIDIA, OpenAI, Salesforce. Les concurrents entreprendent donc parfois des colloborations pour réaliser des objectifs communs.
La sécurité et la réglementation de la technologie de l’IA jouent également un rôle important de l’autre côté de l’océan. Suite à l’exemple de l’Union européenne, la Maison-Blanche a approuvé le mois dernier une série de règles pour les entreprises spécialisées dans l’IA. Toutefois, il semble que les Américains avancent plus rapidement vers des mesures concrètes. La finalisation de la loi européenne sur l’IA n’est pas encore visible, et doit donc encore passer plusieurs phases d’approbation avant d’entrer en vigueur.
Les géants de la tech se sont également unis par le passé au sein de l’AI Alliance. Cette initiative, dirigée par Meta et IBM, vise à développer des normes et des modèles ouverts autour de l’intelligence artificielle. OpenAI ne figure pas dans ce projet, ce qui est plutôt ironique.
lees ook