«Nous naviguons en eaux inconnues»: certains risques posés par l’intelligence artificielle pourraient devenir «existentiels»

De l’ONU à l’Union européenne, en passant par OpenAI lui-même, les signaux d’alerte se multiplient sur des agents d’IA qui semblent de moins en moins contrôlables. Les dernières nouvelles ne sont pas rassurantes«Nous naviguons en eaux inconnues» et les derniers modèles d’intelligence artificielle (IA) ont des capacités «surhumaines». Les propos de Sam Altman, directeur d’OpenAI, tenus en fin de semaine passée ne rassureront personne. Souvent qualifié de pompier pyromane, lançant des technologies à la sécurité lacunaire, le concepteur de ChatGPT n’est pas le seul à s’alarmer des pouvoirs des agents d’IA, ces machines dotées d’une certaine capacité de raisonnement et de planification. Les signaux d’alerte se multiplient avec insistance ces jours.Lundi, à Genève, Volker Türk, haut-commissaire de l’ONU aux droits de l’homme, a averti qu’une intelligence artificielle avancée «pourrait faire peser un risque existentiel sur l’humanité». «Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une intelligence artificielle trop puissante», a-t-il poursuivi, appelant à «mettre en place des garanties solides concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard».Voir plus