Cette semaine, lors d’une session de témoignages à l’APPG sur l’intelligence artificielle au parlement britannique,Yann LeCun, ancien chef de la recherche en IA chez Meta et l’un des pionniers de ce domaine, a partagé ses réflexions sur les enjeux d’avenir liés à l’IA. Ses commentaires sont particulièrement pertinents pour les gestionnaires d’investissements, car ils touchent à des domaines souvent considérés de manière isolée : lacapacité de l’IA, lecontrôle de l’IAet l’économie de l’IA.
Les principaux risques associés à l’IA ne se trouvent plus seulement dans la taille des modèles ou la puissance des accélérateurs. Ils résident désormais dans la manière dont les systèmes d’IA sont contrôlés, dans les flux d’informations et dans la rentabilité des investissements liés aux modèles de langage à grande échelle.
Index du contenu:
Les risques souverains liés à l’IA
LeCun a exprimé une préoccupation majeure :la capture d’informations par un nombre restreint d’entreprises à travers des systèmes propriétaires. Pour les États, ce phénomène représente un enjeu de sécurité nationale, tandis que pour les entreprises et les gestionnaires d’investissement, cela constitue un risque de dépendance. Lorsque la recherche et le soutien à la décision reposent sur un petit nombre de plateformes, laconfiance, larésilience, laconfidentialité des donnéeset le pouvoir de négociation s’érodent avec le temps.
Apprentissage fédéré comme solution partielle
LeCun a présenté le concept d’apprentissage fédérécomme une solution potentielle. Ce système permet d’entraîner des modèles centralisés sans avoir accès aux données sous-jacentes, en utilisant plutôt des paramètres de modèle échangés. Cela permet d’atteindre un modèle qui fonctionne «comme s’il avait été formé sur l’ensemble des données sans que celles-ci ne quittent votre domaine». Cependant, cette approche n’est pas sans défis, nécessitant une orchestration digne de confiance entre les parties et une infrastructure cloud sécurisée à l’échelle nationale ou régionale.
Les assistants IA et leur vulnérabilité stratégique
LeCun a également souligné l’importance de diversifier lesassistants IA:« Nous ne pouvons pas nous permettre d’avoir ces assistants IA sous le contrôle propriétaire d’un petit nombre d’entreprises américaines ou chinoises ». Ces outils ne se limiteront pas à des fonctions productives simples ; ils influenceront de plus en plus les flux d’informations quotidiens, affectant les décisions des utilisateurs. Le risque de concentration à ce niveau est structurel et peut mener à une homogénéisation des analyses, ce qui est préoccupant pour les investisseurs.
Dépendance au cloud malgré le calcul local
Bien que certaines applications puissent fonctionner sur des appareils locaux, une grande partie des traitements doit encore s’effectuer dans le cloud. Cela soulève des questions dejuridiction, deconfidentialitéet desécurité. Le déploiement en périphérie peut réduire certains flux de travail, mais ne résout pas complètement les problèmes de contrôle et de dépendance.
Les limites des modèles de langage à grande échelle
LeCun a averti que« nous sommes trompés en pensant que ces systèmes sont intelligents simplement parce qu’ils maîtrisent le langage ». La distinction entrefluiditéetraisonnementest cruciale pour les systèmes qui dépendent des modèles de langage pour la planification et l’exécution. Bien que ces modèles soient efficaces, ils ne doivent pas être confondus avec une véritable compréhension du monde.
Les investisseurs doivent se poser une question importante :combien des dépenses actuelles en IA contribuent à créer une intelligence durable, et combien se limitent à optimiser l’expérience utilisateur par rapport à des modèles statistiques ?
Vers des modèles du monde et un avenir post-LLM
LeCun a introduit le concept demodèles du monde, qui se concentre sur la compréhension du comportement du monde plutôt que sur les corrélations linguistiques. Cette approche vise à anticiper les conséquences, différenciant Cela suggère que les architectures actuelles, bien que persistantes, pourraient ne pas être celles qui offriront les gains de productivité à long terme.
La surveillance des tendances de l’IA devient essentielle pour éviter les risques de dépendance et de capture d’informations. Le témoignage de LeCun nous invite à nous concentrer sur le contrôle des données et des interfaces, tout en nous interrogeant sur la direction à prendre pour un développement durable de l’IA.