Face à une IA capable de «prendre le contrôle de l’intégralité d’internet», les géants appellent à ralentir. Mais leur sincérité est sérieusement mise en doute

Directeur d’Anthropic, Dario Amodei a averti des risques et demandé des observateurs indépendants. Salué par Sam Altman d’OpenAI et Elon Musk de SpaceX, cet appel sera-t-il suivi d’effets concrets ou la course aux modèles puissants se poursuivra-t-elle?Tout cela a un sérieux air de déjà-vu. Des dirigeants d’empire d’intelligence artificielle (IA) qui alertent sur les risques, des ex-employés qui avertissent sur les dérives, des signalements d’incidents de sécurité et en parallèle le lancement de modèles plus puissants encore. Depuis des années, Anthropic, OpenAI ou encore xAI (SpaceX) jouent aux pompiers pyromanes en développant des IA aux capacités phénoménales tout en demandant leur encadrement. Et ce week-end, une nouvelle séquence spectaculaire de ce type a eu lieu. Aboutira-t-elle à des changements profonds au sein de cette industrie? C’est loin d’être certain.Samedi, Dario Amodei lançait ainsi un appel. Le directeur d’Anthropic écrivait qu’il craignait, d’ici 6 à 12 mois, l’apparition d’un essaim d’agents d’IA «capable de prendre le contrôle de l’ensemble d’Internet grâce à un réseau de zombies persistant, pouvant causer des centaines de milliards de dollars de dégâts». L’ingénieur suggérait des mesures: l’arrivée d’équipes d’évaluateurs tiers intégrés, capables d’auditer ses modèles et d’évaluer leur dangerosité. Mais aussi une coordination entre géants de l’IA «pour établir des normes de sécurité communes et limiter le rythme des progrès non contrôlés de l’IA». Mais aussi une «coordination mondiale». A ce titre, même si Dario Amodei ne le mentionne pas, le Sommet mondial qui se tiendra à Genève en juin 2027 pourrait être une étape intéressante.Voir plus