Dans un écosystème technologique de plus en plus interconnecté, la sécurité des modèles d’intelligence artificielle devient un enjeu majeur. Une récente cyberattaque impliquant un modèle OpenAI détourné a mis en lumière les vulnérabilités des systèmes fermés et poussé les géants de la tech à réagir. Nvidia, Microsoft, SpaceX, Palantir et bien d’autres ont décidé de s’unir pour former l’Open Secure AI Alliance une initiative visant à renforcer la sécurité des modèles d’IA ouverts.
L’incident qui a servi de catalyseur à cette alliance est une attaque informatique contre la startup Hugging Face. Lors de cette attaque, les modèles fermés n’ont pas pu distinguer les agresseurs des défenseurs, limitant la capacité de réponse de l’entreprise. Hugging Face a dû se tourner vers un modèle chinois open-weight auto-hébergé pour contenir la menace. Cet épisode a révélé une vérité cruciale: les modèles ouverts peuvent être téléchargés, modifiés et auto-hébergés, contrairement aux modèles fermés qui sont accessibles uniquement via une infrastructure spécifique.
L’Open Secure AI Alliance: une réponse collective aux cybermenaces
Face à ces enjeux, l’Open Secure AI Alliance a été créée pour corriger et divulguer les vulnérabilités en s’appuyant sur des technologies ouvertes. Selon la déclaration officielle, cette alliance travaillera à améliorer la sécurité des modèles d’IA ouverts. Nvidia a souligné que l’incident OpenAI-Hugging Face a montré une vérité pratique: lorsque les défenseurs ne peuvent pas inspecter, adapter et exécuter une IA avancée sur leur propre infrastructure, leur capacité de réponse est limitée précisément au moment où la rapidité est la plus cruciale.
Les modèles chinois au cœur des tensions
Le secteur technologique fait face à des appels croissants à Washington pour limiter l’accès aux modèles d’IA chinois, dont les plus performants sont ouverts. Leurs concepteurs sont accusés de campagnes d’extraction d’informations des systèmes de rivaux américains, appelées distillation. Le secrétaire au Trésor Scott Bessent a menacé de sanctions les entreprises chinoises qui commettent des attaques de distillation contre des entreprises américaines.
Chris McGuire, senior fellow pour la Chine et les technologies émergentes au Council on Foreign Relations, a déclaré à CNBC: « Il y a une réelle possibilité que le gouvernement américain impose des restrictions sur les modèles chinois. » Selon lui, cela pourrait inclure une interdiction des transactions impliquant les modèles, comme l’achat de jetons via une API ou l’hébergement du modèle sur le cloud par des entreprises américaines et la facturation des clients pour l’inférence.
Une lettre ouverte pour éviter les restrictions prématurées
La semaine dernière, Nvidia, Microsoft, Meta, Palantir et plus de 20 autres entreprises ont publié une lettre exhortant les décideurs à éviter des « restrictions prématurées » sur les modèles d’IA open-weight qui « étoufferaient la concurrence ou pousseraient l’innovation à l’étranger ». La majorité des modèles open source les plus performants sont construits par des entreprises chinoises, ce qui suscite des inquiétudes quant aux restrictions potentielles.
L’Open Secure AI Alliance, dont les membres fondateurs comprennent notamment Adobe, CrowdStrike, Hugging Face et Dell Technologies, fait suite à une lettre ouverte signée par un large éventail d’entreprises dont OpenAI. Cette initiative vise à développer et partager des outils dédiés à la sécurité de l’IA et à la cybersécurité. Nvidia a déclaré qu’elle apportait à l’Alliance ses contributions en matière de modèles ouverts, de poids, de données et de recherche sur les agents, notamment le nouveau projet open source « Nvidia Labs Object-Oriented Agent » désormais disponible sur la plateforme d’hébergement de code GitHub.
En unissant leurs forces, les géants de la tech espèrent renforcer la sécurité des modèles d’IA ouverts et protéger l’écosystème technologique mondial contre les attaques informatiques.
