共和党议员在新技术"闭门演示""展示如何绑架议员"后感到恐惧

著名な共和党下院議員が、最近の「非公開デモ」で新技術を初めて目にした後、「恐怖を感じた」とPunchbowl Newsが金曜日に報じた。この議員は、同僚の大半がその影響を理解できていないと警告した。

その技術は、AnthropicがジェネラティブAIを用いて開発した最新の大規模言語モデル「Claude Mythos」であり、その能力はあまりにも高度なため、トランプ政権は外国籍の人物による使用を停止し、事実上の公開を当面の間封じた。

「[Anthropic]はモデルに銀行の脆弱性を見つけてアカウントを空にするよう指示したところ、実際にそれを実行した」と、下院国土安全保障委員会委員長のアンドリュー・ガルバリーノ議員（共和党・ニューヨーク州）はPunchbowl Newsに語った。「[Mythos]はその脆弱性を発見し、修正することもできた。」

銀行口座を空にする明らかな能力に加え、AnthropicはMythosの最新技術のさらに悪質な用途も実演した。

「ある特定されていないモデルが、30秒で議員を誘拐する詳細な計画を示した」とPunchbowl Newsの記事はガルバリーノの発言を言い換えて伝えている。「悪意ある者がモデルをハッキングして重要インフラへの攻撃に使用する可能性があり、AIのエージェント的な能力によりモデルが人間の指示なしに行動できるようになると[ガルバリーノ]は指摘した。」

Mythosにアクセスできる者が利用しかねない具体的な例を挙げ、ガルバリーノ議員は個人が「このガスパイプラインを停止する」または地域の水道供給における「塩素の量を増加させる」ことができ、しかも自宅から操作できると警告した。

「やり方を学ぶだけでなく、それを代わりにやらせる能力がある」とガルバリーノはPunchbowl Newsに語った。「同僚の95%は何が起きているかまったく理解していないと思う。」

トランプ政権は事実上、当面の間Mythosの公開を阻止しているが、ドナルド・トランプ大統領は昨年12月に署名した大統領令により、各州が独自の規制法を制定することを禁じ、新興AIテクノロジーを規制する州の能力を制限している。