Safetensors a rejoint la PyTorch Foundation en tant que nouveau projet. Ce format, développé par Hugging Face, vise à sécuriser la distribution des modèles d’IA en éliminant les risques d’exécution de code arbitraire.
Safetensors rejoint la PyTorch Foundation. Cette nouvelle intervient un jour après que Helion a également rejoint la fondation, et est également annoncée lors de la première conférence européenne PyTorch à Paris.
Avec cette adhésion, la PyTorch Foundation accélère son ambition de croissance. « Il est non seulement important d’étendre les capacités des projets existants sous l’égide de la Fondation, mais nous devons également ajouter des projets entièrement nouveaux », déclare à ce sujet le directeur exécutif Mark Collier. Safetensors rejoint PyTorch, DeepSpeed, Ray, vLLM et Helion au sein de la fondation.
Un format plus sûr pour les LLM
Safetensors est un format de sérialisation pour les tenseurs et les métadonnées dans les modèles d’apprentissage automatique. Le projet vise à s’attaquer à un risque connu des anciens formats basés sur pickle, où les fichiers de modèles peuvent être exploités pour exécuter du code arbitraire non approuvé dès que les développeurs de Hugging Face les chargent.
« Les anciens formats permettent, dans certains cas, d’injecter du code dans des modèles à poids ouverts », précise Collier. « SafeTensors est un nouveau format pour publier des modèles, afin qu’il soit clair qu’ils sont bien ce qu’ils prétendent être. »
Nouvelle norme
« SafeTensors a ainsi vocation à devenir un standard », poursuit-il. « L’ensemble du secteur souhaite que ce problème soit résolu. Cela n’a pas besoin d’être fait mille fois : une seule fois suffit. Une solution portée par une organisation à but non lucratif telle que la PyTorch Foundation peut favoriser une adoption large. De plus, de nombreuses contributions ne font que renforcer la sécurité du standard. »
Safetensors a été développé et est maintenu par Hugging Face. Dans l’écosystème ML open source, il est devenu entre-temps un format largement utilisé pour la distribution de modèles et des métadonnées associées.
Plus que PyTorch
Avec son intégration à la PyTorch Foundation, le projet acquiert une place plus formelle au sein du paysage de l’IA open source. De son côté, la Fondation se consolide davantage en tant qu’organisation qui ne soutient pas seulement le framework PyTorch, mais aussi un écosystème croissant d’outils ouverts permettant une IA ouverte.