IBM et Groq intègrent leurs technologies pour offrir aux entreprises des solutions d’IA plus rapides et plus efficaces. Les capacités d’inférence de Groq sont intégrées par IBM.
IBM et Groq annoncent un partenariat stratégique dans lequel GroqCloud, la plateforme d’inférence IA de Groq, est intégrée dans watsonx Orchestrate d’IBM.
Dans le cadre de ce partenariat, IBM et Groq prévoient également de combiner la technologie open source vLLM de Red Hat avec l’architecture LPU de Groq. De plus, les modèles Granite d’IBM seront disponibles sur GroqCloud pour les clients IBM.
Groq, pas Grok
Groq est un spécialiste autoproclamé de l’inférence qui s’appuie sur ses propres puces : les LPU. Groq a lancé ses Language Processing Units dès 2016 comme accélérateur alternatif conçu pour l’inférence. Ces puces doivent offrir efficacité et performances à un coût inférieur aux GPU des concurrents Nvidia et AMD. Les capacités de l’entreprise sont disponibles via GroqCloud, qui promet une inférence plus rapide et plus efficace que les systèmes traditionnels basés sur GPU.
Ne confondez pas Groq avec le plus récent Grok d’Elon Musk. Grok est un LLM et une alternative à ChatGPT par exemple, populaire auprès des utilisateurs qui n’ont aucun problème avec le fait qu’une IA génère sans difficulté des images provocantes de célébrités comme Taylor Swift, sans autorisation.
Performances et intégrations
La collaboration se concentre sur trois points principaux : hautes performances en inférence, support d’applications d’IA sécurisées et respectueuses de la vie privée, et intégration transparente avec la plateforme d’IA agentique watsonx Orchestrate d’IBM.
Enfin, l’intégration de vLLM et des développements matériels de Groq aidera les développeurs dans l’orchestration d’inférence, l’équilibrage de charge et l’accélération matérielle. Les clients continuent de travailler dans leurs outils familiers, mais bénéficient d’un traitement plus rapide via GroqCloud.
IBM peut se différencier des autres fournisseurs de technologie IA grâce à cette collaboration. Groq obtient de son côté l’accès à l’écosystème IBM et peut ainsi cibler un nouveau marché. En associant la technologie LPU moins connue au nom d’IBM, Groq peut démontrer que son approche apporte une valeur ajoutée et est mature. Les nouvelles capacités seront disponibles immédiatement.