Nvidia lance de nouveaux microservices NIM au sein de NeMo Guardrails pour améliorer la sécurité, la précision et le contrôle des applications d’IA, en particulier des agents.
Nvidia a présenté de nouveaux microservices NIM dans le cadre de NeMo Guardrails: une collection de logiciels pour gérer la sécurité de l’IA. Ces microservices aident les entreprises à déployer des solutions d’IA générative de manière plus sûre et plus efficace. Ils se concentrent sur la prévention des réponses malveillantes ou indésirables de l’IA et fournissent une protection contre les tentatives de contournement des restrictions.
Les trois nouveaux microservices sont les suivants :
- Microservice de sécurité des contenus: empêche l’IA de générer des contenus inappropriés ou nuisibles.
- Microservice de contrôle des sujets: garantit que les conversations restent dans les sujets autorisés.
- Microservice de détection de jailbreak: permet d’éviter que les systèmes d’intelligence artificielle ne soient manipulés pour donner des réponses non autorisées.
Optimisation
Les microservices utilisent des modèles linguistiques spécialisés à faible latence et sont optimisés pour des secteurs tels que les soins de santé, la fabrication et la vente au détail.
lire aussi
Nvidia présente de nouveaux microservices NIM pour la sécurité de l’IA
Nvidia a précédemment lancé un plan directeur d’IA pour le commerce de détail, qui utilise les nouveaux microservices pour améliorer les interactions avec les clients. Pour aider les développeurs à tester les systèmes d’IA afin de détecter les vulnérabilités, Nvidia propose également Garak, un kit d’outils open-source permettant d’analyser les applications d’IA afin de détecter les problèmes de sécurité tels que les injections rapides et les fuites de données.
Dans son annonce, Nvidia mentionne spécifiquement l’IA agentique, dans laquelle l’IA agit de manière semi-autonome en tant qu’agent. En termes de sécurité et de garde-fous, la différence entre l’IA agentique et une IA travaillant exclusivement avec des hommes n’est pas si grande. Cependant, le degré d’automatisation plus élevé d’un agent rend d’autant plus important le fait qu’il fonctionne dans le respect des attentes.
Les microservices NeMo Guardrails et la boîte à outils Garak sont désormais disponibles pour les entreprises et les développeurs.