Lors d’une récente intervention devant le groupe parlementaire sur l’intelligence artificielle (APPG AI) au Royaume-Uni,Yann LeCun, ancien directeur scientifique de l’IA chez Meta, a partagé une analyse pertinente sur les défis et opportunités liés à l’intelligence artificielle. Son discours a mis en exergue des enjeux cruciaux pour les gestionnaires d’investissement, en abordant les thèmes de lacapacité en IA, ducontrôle de l’IAet deséconomies de l’IA.
Le paysage des risques liés à l’IA a évolué. Il se concentre moins sur la taille des modèles ou la puissance de calcul, mais davantage sur la manière dont les systèmes d’IA sont contrôlés et les flux d’informations gérés. LeCun a souligné que la menace principale réside dans la capture des données par un petit nombre d’entreprises, posant des défis pour lasouveraineté nationaleet la sécurité économique des entreprises.
Index du contenu:
Risques de souveraineté et dépendance
« La plus grande menace que je perçois pour l’avenir de l’IA est la concentration d’informations entre les mains d’un nombre restreint d’entreprises via des systèmes propriétaires », a affirmé LeCun. Pour les États, cette situation représente un enjeu desouveraineté nationale, tandis que pour les entreprises, elle soulève des préoccupations concernant leurdépendance.
Apprentissage fédéré comme solution partielle
LeCun a proposé l’idée de l’apprentissage fédérécomme une solution partielle pour atténuer ces risques. Ce système permet aux modèles centralisés d’apprendre sans accéder directement aux données sous-jacentes, en se basant plutôt sur les paramètres échangés. Cela pourrait permettre d’atteindre une performance équivalente à celle d’un modèle formé sur un ensemble de données complet, tout en préservant laconfidentialité des données.
Les assistants IA : une vulnérabilité stratégique
Lesassistants basés sur l’IAne doivent pas être sous le contrôle exclusif d’un petit nombre d’entreprises des États-Unis ou de Chine. LeCun prédit que ces outils deviendront des médiateurs essentiels dans les flux d’informations quotidiens, influençant Il souligne l’importance de disposer d’unediversité d’assistants IA, tout comme il est vital d’avoir une variété de médias d’information.
Conséquences de la concentration des outils
Les risques associés à cette concentration ne se limitent pas seulement aux abus potentiels, mais concernent également la manière dont les informations sont perçues, renforçant lesbiais comportementauxet homogénéisant l’analyse des données. Il est donc impératif pour les professionnels de l’investissement de surveiller attentivement cette dynamique.
Défis de l’informatique en périphérie et des LLM
Bien que certaines tâches puissent être exécutées localement grâce à l’informatique en périphérie, la plupart des opérations nécessiteront toujours une connexion aucloud. LeCun a mis en garde contre les problèmes dejuridiction, deconfidentialitéet desûretéqui en découlent. De plus, il a noté que la capacité des modèles de langage à générer du contenu ne doit pas être confondue avec une véritable intelligence.
Modèles de monde et horizon post-LLM
Il est crucial de reconnaître que malgré les avancées des systèmes basés sur le langage, nous sommes encore éloignés de l’intelligence humaine. Le concept demodèles du monde, qui se concentre sur la compréhension des comportements du monde réel plutôt que sur les corrélations linguistiques, pourrait offrir des perspectives plus prometteuses pour avancer vers une intelligence plus durable.
Vers une gouvernance améliorée
LeCun a également souligné que la conception actuelle d’IA agentique présente des lacunes en matière de prévision des conséquences des actions. Pour les gestionnaires d’investissement, cela signifie que le déploiement prématuré de ces systèmes pourrait entraîner des erreurs dans les chaînes décisionnelles. Alors que le progrès technique est rapide, les cadres de gouvernance pour l’IA agentique doivent encore évoluer pour répondre aux normes professionnelles.
La menace immédiate liée à l’IA ne réside pas dans la montée d’une intelligence générale, mais dans la capture des informations et de la valeur économique par des systèmes propriétaires. La souveraineté, tant au niveau des États que des entreprises, doit être au cœur des préoccupations, ce qui impose une approche prudente lors du déploiement des LLM au sein des organisations.