Un agent IA s’introduit quelque part. Personne ne sait vraiment qui a ouvert la porte. C’est à peu près le scénario qu’a vécu Hugging Face il y a quelques semaines. Et c’est ce genre d’épisode qui vient de pousser près de quarante entreprises à lancer l’Open Secure AI Alliance. L’idée derrière ce nom un peu ronflant : construire une pile de sécurité ouverte pour les modèles et les agents d’IA. Plutôt que de laisser cette question stratégique entre les mains de trois ou quatre plateformes fermées.
Le constat de départ n’a rien de sorcier. Un agent, ce n’est pas un modèle tout seul dans son coin. C’est un empilement de modèles, d’outils, d’identités, de permissions, de journaux, d’environnements d’exécution qui discutent entre eux. Et dès que cet empilement gagne en autonomie, les simples garde-fous posés sur le modèle ne suffisent plus. Il faut pouvoir tracer, tester et auditer toute la chaîne. Pas seulement le cerveau qui la pilote.
Qui a rejoint l'Open Secure AI Alliance, et qui brille par son absence.
Nvidia porte l’annonce. Mais la liste des membres a de quoi impressionner : Microsoft, IBM, Cisco, Hugging Face, la Linux Foundation. Et puis tout un cortège d’acteurs du cloud, de la cybersécurité et de la donnée (Adobe, Cloudflare, CrowdStrike, Databricks, Red Hat, SAP, Salesforce, Siemens, Snowflake, entre autres). Une coalition industrielle qui pèse lourd, sur le papier en tout cas.
Ce qui interpelle davantage, c’est l’absence remarquée d’OpenAI, Anthropic, Apple et Google dans cette première liste. Les géants qui construisent justement les modèles les plus fermés ne sont pas à la table où l’on discute de comment les rendre inspectables. Une position confortable à court terme. Mais difficile à tenir sur la durée si l’Open Secure AI Alliance prend de l’ampleur : rester en dehors, c’est aussi rester à l’écart d’un standard qui pourrait devenir la référence chez les DSI et les RSSI.
Ce que l'Open Secure AI Alliance met déjà sur la table.
Sur le fond, l’alliance ne part pas de zéro. Nvidia met sur la table NOOA, un framework qui représente les agents sous forme d’objets Python. L’objectif : rendre leur état et leurs actions plus faciles à auditer. Microsoft apporte MDASH, un système multi-agents conçu pour rechercher et démontrer l’exploitabilité de failles. HPE pousse de son côté les standards SPIFFE/SPIRE, pour donner une identité cryptographique à chaque workload. Et Hugging Face défend Safetensors, un format de stockage des poids pensé pour empêcher l’exécution de code distant.
Le problème, c’est que tout ça reste un patchwork. Le billet de lancement ne donne ni calendrier, ni gouvernance indépendante, ni mécanisme de certification. On a une accumulation de projets solides. Pas encore une pile interopérable et documentée. D’ailleurs, la démarche s’inscrit dans le prolongement d’Akrites, l’initiative lancée en juin par la Linux Foundation pour corriger les vulnérabilités critiques de l’open source face à une cybersécurité IA de plus en plus offensive. Sauf qu’Akrites protège le socle logiciel existant. La nouvelle alliance, elle, vise carrément les modèles et les harnais agentiques qui vont demain analyser et modifier ce même logiciel.
L'incident Hugging Face, ou pourquoi les modèles fermés ont un angle mort.
Nvidia s’appuie sur un cas concret pour vendre sa vision. Et il est plutôt parlant. Face à une intrusion pilotée par IA, Hugging Face a d’abord tenté d’utiliser des modèles commerciaux fermés pour comprendre l’attaque. Résultat : leurs propres mécanismes de sécurité ont bloqué certaines investigations. Incapables de faire la différence entre un défenseur qui creuse et un attaquant qui progresse. La plateforme s’est alors tournée vers GLM 5.2, un modèle ouvert qu’elle a fait tourner sur sa propre infrastructure. De quoi passer au crible plus de 17 000 actions et contenir l’incident.
Le message politique de l’Open Secure AI Alliance est limpide : fermer un modèle ne le rend pas plus sûr. Ça peut même priver les équipes de défense d’un outil adaptable sur des données sensibles. D’ailleurs, ce point rejoint directement les inquiétudes déjà exprimées autour du déploiement sauvage d’agents autonomes pointé du doigt par le CERT-FR. Sans traçabilité ni contrôle local, la promesse d’autonomie tourne vite au risque non maîtrisé.
Une alliance qui promet beaucoup, doit encore faire ses preuves.
Alors, l’Open Secure AI Alliance, futur standard incontournable ou coalition de circonstance ? Difficile à trancher aujourd’hui. La puissance industrielle est là. Les briques techniques aussi. Mais la gouvernance et le calendrier manquent cruellement. Si l’initiative parvient à transformer cet inventaire de projets épars en une pile réellement interopérable, elle pourrait offrir aux DSI une alternative crédible aux boîtes noires. Sinon, elle restera un manifeste bien intentionné. Porté par Nvidia pour défendre une vision de l’IA ouverte qui, sans être désintéressée, n’en reste pas moins pertinente.
Pour suivre les annonces officielles au fil de l’eau, direction le blog de Nvidia, qui documente les contributions à mesure qu’elles arrivent.
