Un élu républicain terrorisé après une « démonstration à huis clos » d'une nouvelle technologie « montrant comment kidnapper un législateur »

Un éminent membre républicain de la Chambre des représentants a été « effrayé » après avoir eu un premier aperçu d'une nouvelle technologie lors d'une récente « démonstration à huis clos », a rapporté Punchbowl News vendredi — une technologie dont le législateur a averti que la plupart de ses collègues n'en comprenaient pas les conséquences.

Cette technologie était Claude Mythos, le dernier grand modèle de langage développé par Anthropic grâce à l'intelligence artificielle générative, dont les capacités étaient si grandes que l'administration Trump a suspendu son utilisation par les ressortissants étrangers, bloquant ainsi effectivement sa sortie publique pour l'avenir immédiat.

« [Anthropic] a demandé au modèle de trouver une vulnérabilité dans une banque et de vider des comptes, et il l'a fait », a déclaré le représentant Andrew Garbarino (R-NY), président du Comité de sécurité intérieure de la Chambre, s'entretenant avec Punchbowl News. « [Mythos] a ensuite pu trouver cette vulnérabilité et la corriger. »

Au-delà de la capacité apparente de Mythos à vider des comptes bancaires, Anthropic a également démontré des utilisations bien plus néfastes de sa dernière technologie.

« Un modèle non précisé a montré un plan détaillé sur la façon d'enlever un législateur en 30 secondes », indique le rapport de Punchbowl News, paraphrasant les remarques de Garbarino. « De mauvais acteurs pourraient pirater les modèles et les utiliser pour attaquer des infrastructures critiques, a déclaré [Garbarino], notant que les capacités agentiques de l'IA permettraient aux modèles d'agir sans intervention humaine. »

Citant des exemples précis qu'il craignait de voir utilisés par ceux ayant accès à Mythos, Garbarino a averti que des individus pourraient « couper ce gazoduc » ou « augmenter la quantité de chlore » dans l'approvisionnement en eau d'une communauté, et ce depuis leur domicile.

« Vous avez la capacité non seulement d'apprendre comment le faire, mais aussi de lui dire de le faire pour vous », a déclaré Garbarino à Punchbowl News. « Je dirais que 95 % de mes collègues ne comprennent pas ce qui se passe. »

Bien que l'administration Trump ait, en fait, bloqué la sortie publique de Mythos pour l'avenir immédiat, le président Donald Trump a limité la capacité des États à réguler la technologie de l'IA émergente avec un décret exécutif qu'il a signé en décembre dernier, bloquant les États de créer leurs propres lois pour réguler cette technologie.