Snowflake réunit les solutions de la suite Nvidia AI Enterprise dans sa propre solution Cortex AI.
Pas de données sans IA, et pas d’IA sans Nvidia. Cela fait plus d’un an que » Nvidia » est le thème inévitable de tout spécialiste de la technologie organisant un événement, et cela vaut aussi pour Snowflake. Lors du Snowflake Summit à San Francisco, l’entreprise présente une intégration plus poussée des logiciels et du matériel Nvidia avec sa propre solution Cortex et Arctic-LLM.
Huang en tant que base
L’intégration de Nvidia dans l’écosystème Snowflake a fait grand bruit lors du Summit l’année dernière. Le PDG de Nvidia, Jensen Huang, était là, et à juste titre : la combinaison du cloud de données de Snowflake et des capacités de Nvidia en matière d’intelligence artificielle offre un potentiel considérable. Le Summit de cette année permet aux deux parties de renforcer cette collaboration.
Par exemple, Snowflake intègre les capacités de Nvidia AI Enterprise dans Cortex AI. Cette couche se trouve entre les fonctionnalités d’IA et les données, et devrait permettre aux utilisateurs de déployer facilement des solutions d’IA propriétaires et des fonctionnalités d’IA prêtes à l’emploi sur leurs données. On parlera surtout de deux intégrations.
NeMo et Triton
Cortex AI fonctionnera avec Nvidia NeMo Retriever. Ainsi, il sera possible d’accéder rapidement et efficacement aux bonnes données dans le cadre d’une génération de recherche augmentée, en envoyant des invites à un LLM avec des données spécifiques à l’entreprise afin d’obtenir des résultats plus précis. » C’est une annonce importante « , déclare Jensen Huang, PDG de Nvidia, sur l’écran pendant la présentation, sur lequel il passe un appel directement à Taipei. « Désormais, nous pouvons communiquer avec les données de l’entreprise. NeMo retriever est un moteur de calcul, qu’on a développé pendant des années. »
Pour aller un peu plus vite, Snowflake propose désormais d’exécuter vos applications d’inférence d’IA sur un serveur d’inférence Nvidia Triton. « Le coût baisse en fonction de la rapidité et de l’efficacité avec lesquelles vous pouvez générer des données », explique M. Huang.
Cortex AI est une implémentation de l’IA sans serveur pour les clients de Snowflake. En partie, vous n’avez donc pas à vous soucier du matériel sous-jacent en tant que client. D’un autre côté, les serveurs spécialisés comme un serveur Triton sont plus efficaces (mais aussi plus chers). Snowflake permet désormais aux utilisateurs de choisir ce qui alimente leurs charges de travail d’IA.
Conteneurs Nvidia
Snowflake est aussi en train d’intégrer Nvidia NIM dans sa propre plateforme. Nvidia a lancé NIM lors de la GTC 2024, décrivant alors la solution comme un ensemble de microservices cloud-native optimisés conçus pour réduire le TTM et simplifier le déploiement de modèles d’IA génératifs partout, dans le cloud, le centre de données et les stations de travail accélérées par le GPU. En bref, on peut qualifier NIM de microservices d’inférence.
Les utilisateurs de Snowflake peuvent désormais travailler avec le NIP au sein de Snowflake en tant qu’applications natives dans les services de conteneurs Snowpark. Ces conteneurs s’exécutent donc au sein du compte Snowflake du client, de sorte que les données restent toujours protégées. Après tout, un contrôle solide des données dans un environnement sans copie reste un élément clé de tous les produits construits par Snowflake.
« Nous appliquons la GenAI aux données », ajoute Huang. « Avant, les données étaient transmises à l’ordinateur par l’intermédiaire du réseau. Le volume des données a tellement augmenté qu’il est devenu plus facile d’amener le calcul aux données. »
Arctic
Enfin, on parle d’Arctic LLM. Snowflake a lancé Arctic au début de l’année. Arctic rivalise avec GPT-4 et d’autres LLM, et est conçu pour convenir aux entreprises qui mettent l’accent sur le contrôle des données. L’inférence avec Arctic est présente dans Nvidia NIM (qui à son tour fait partie de Snowpark).
Pendant des années, Snowflake s’est qualifiée d’« entreprise de cloud de données », utilisant cette description pour faire référence au fait que l’entreprise n’offre pas simplement des fonctionnalités d’entrepôt de données ou de lac de données. Snowflake tire sa force de la simplicité avec laquelle il est possible de gérer les données internes de manière sécurisée, mais aussi de la manière dont on peut rendre ces données accessibles à des tiers ou les combiner avec des sources de données externes pertinentes. Cette année, il faut plus, et Snowflake se présente comme l’« entreprise de cloud de données IA ». Pas d’IA sans données, et pas de données sans IA : ces deux lettres résument bien la situation.