Root Signals a annoncé Root Judge. Il s’agit d’un modèle d’évaluation des grands modèles de langage (LLM). La formation s’est déroulée sur le supercalculateur européen LUMI, auquel la Belgique a également participé.
La société américaine Root Signals lance Root Judge. Il s’agit d’un LLM doté d’une fonctionnalité unique. Le modèle doit évaluer les résultats d’autres modèles pour en extraire les erreurs et les hallucinations.
Root Judge est une version modifiée de Llama-3.3-70B de Meta. L’entraînement a été effectué sur 384 GPU AMD Radeon Instinct MI250X à l’intérieur du supercalculateur LUMI. Ce système est situé en Finlande et fait partie des superordinateurs les plus rapides au monde. La Belgique a également participé à la construction de LUMI.
Révision
Conçu comme un modèle d’évaluation pour les LLM, Root Judge aide les organisations à détecter les réponses hallucinatoires dans les applications d’IA. Le modèle peut également être utilisé pour comparer différentes implémentations de modèles et soutient les implémentations où la protection de la vie privée est une question importante.
Selon Root Signals, Root Judge fournit des évaluations transparentes et explicables, permettant aux entreprises de déployer des modèles d’IA de manière plus fiable. Le modèle est accessible sous licence ouverte.
Le LLM se distingue en outre par le fait qu’il a été formé sur un système européen équipé de matériel AMD. En effet, trop de LLM sont le fruit d’une formation sur des clusters HPC américains, généralement équipés d’accélérateurs Nvidia. Cette innovation montre que l’Europe dispose également de systèmes suffisamment puissants pour la formation à l’IA, ainsi que d’alternatives à Nvidia.