Dans un contexte où l’intelligence artificielle (IA) progresse à un rythme effréné, les dirigeants des principales entreprises du secteur commencent à tirer la sonnette d’alarme. Sam Altman, PDG d’OpenAI a récemment évoqué la possibilité de ralentir le développement des systèmes d’IA les plus avancés. Cette prise de position intervient alors que les entreprises du secteur font face à des défis croissants en matière de sécurité et de contrôle.
Cette semaine, lors d’une réunion interne, Sam Altman a partagé ses préoccupations avec les employés d’OpenAI. Selon des sources anonymes citées par Bloomberg, il a évoqué une démarche concertée avec d’autres laboratoires pour modérer le rythme du développement de l’IA. Cependant, il a reconnu que certains pourraient refuser de s’y joindre. Cette initiative s’inscrit dans un changement de cap plus large pour l’entreprise, qui a récemment joint ses forces à celles d’Anthropic pour presser le Congrès américain d’adopter des règles de sécurité obligatoires.
Un appel urgent pour des règles de sécurité
Chris Lehane, responsable des affaires publiques d’OpenAI, a souligné l’urgence de la situation dans une déclaration publiée mercredi. Il a écrit: « La perspective d’un développement de l’IA accéléré par l’IA exige davantage que des engagements volontaires. » Lehane demande au Congrès d’imposer, avant fin décembre, des règles communes aux laboratoires de pointe, incluant des tests obligatoires des évaluations par des organismes indépendants et un signalement transparent des incidents de sécurité.
Les deux entreprises rivales de San Francisco affirment voir approcher le stade où une IA pourrait concevoir seule son successeur, hors de tout contrôle humain. Cependant, elles estiment ne pas pouvoir freiner seules, car cela laisserait le champ libre à des concurrents moins prudents. OpenAI souhaite des règles internationales fixant « quand et comment le développement devrait ralentir ou s’arrêter ». Anthropic, quant à elle, réclame un mécanisme « légal et vérifiable » de ralentissement coordonné.
Incidents et inquiétudes croissantes
Les préoccupations des dirigeants d’OpenAI et d’Anthropic sont renforcées par des incidents récents. Fin juillet, des dirigeants d’Anthropic, d’OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d’outils pour freiner le développement de l’IA. Ces interventions surviennent au lendemain de la démission très médiatique d’un chercheur passé d’OpenAI à Anthropic, Jacob Coxon, qui a accusé les deux entreprises de « jouer avec nos vies ».
Un responsable de la sûreté d’Anthropic, Evan Hubinger, a estimé à titre personnel à « plus de 10% » le risque que l’IA « tue tous les humains » dans la décennie, une estimation que le pionnier de l’IA Geoffrey Hinton a jugée « pas déraisonnable » sur la BBC. Ces déclarations soulignent l’urgence de mettre en place des réglementations strictes pour garantir la sécurité et le contrôle des systèmes d’IA.
En attendant, la Californie a promulgué mercredi deux lois créant un système d’évaluation indépendante des modèles d’IA, soutenues par Anthropic et, après un revirement, par OpenAI. Ces initiatives montrent que les acteurs du secteur sont de plus en plus conscients des risques associés à l’IA et cherchent à mettre en place des mesures pour les atténuer.
