ダリオ・アモデイ氏、危険なAI制御権を要求　Claude Fable 5発表翌日

Anthropicのダリオ・アモデイCEOは水曜日、最先端AIモデルに対する第三者による義務的なテストの実施を呼びかけた。さらに、安全監査に不合格となったシステムについては政府が公開を阻止できる権限も求めている。

このエッセイ「Policy on the AI Exponential」は、AnthropicがClaude Fable 5を発表した翌日に公開された。あわせて、モデルテストに関する法制化の提案や雇用喪失対応の枠組みも提示した。

ダリオ・アモデイCEO、透明性から拘束力ある規則へ転換

Anthropicは2025年まで情報開示規定を盛り込んだ法整備を後押ししてきた。カリフォルニアのSB 53、ニューヨークのRAISE法、イリノイ州のSB 315を支援してきた。しかし、アモデイCEOは透明性のみではリスクに対応できないと明言した。

同氏は米連邦航空局（FAA）を参考にした規制体制を提唱している。一定の計算能力を超えるモデルには、4分野で第三者による義務的監査を課す。

監査対象はサイバーセキュリティ、生物兵器、制御喪失、自律型AI研究の4領域。

最新ニュースはXで随時発信中

この計画は、アモデイCEOが「一歩前進」と評価したホワイトハウスの6月のAIに関する大統領令を上回る規制内容となる。

同氏はまた、安全インシデントの迅速な報告義務化やモデルデータの厳格な保護も求めている。

サイバーリスク、暗号資産インフラに警鐘

アモデイCEOはサイバーセキュリティが最初に顕在化するリスクだと述べた。Claude Mythos Previewが従来AIが突破できなかった専門家レベルのサイバー課題の73％を解決した点を指摘した。

エッセイは、最先端モデルが金融部門や重要インフラを混乱させる可能性を警告する。

BeInCryptoの分析も、Mythosクラスのモデルに関連したDeFiセキュリティリスクを指摘している。分散型金融（DeFi）は攻撃可能な価値が公開状態で存在すると分析する。

一方で、Anthropicは6月9日にClaude Fable 5モデルをリリースし、高リスクなサイバー・生物関連リクエストを遮断する安全措置を導入した。

しかしアモデイCEOは、このような自主的な制限だけでは業界全体に拘束力ある規則の代替にはならないと主張した。

また、今後は自律性リスクが顕在化する可能性があると警鐘を鳴らす。Anthropic自身のデータでも、AIがより優れたAIを開発する事例が既に観測されている。Claudeが主要なAI研究機関で多くのコードを自動生成している。

雇用喪失・市民的自由・民主主義連合

経済面では、エッセイで賃金保険・雇用維持のための税制優遇・職業訓練助成を提案する。

雇用喪失が長期化するなら、企業やキャピタルゲイン課税によるベーシック・インカムの資金調達もあり得るとアモデイCEOは記した。

市民的自由についても明確な姿勢を示す。完全自律型兵器の国内法執行機関での利用禁止や、大量監視を可能にするデータブローカー取引の抜け穴閉鎖を米議会に求めている。

地政学的には、民主主義諸国の連携による半導体・製造装置の管理を提唱する。

米国で審議中のMATCH法とOVERWATCH法を、より厳格かつ連携した輸出規制の第一歩と評価する。

アモデイCEOは、AIに対する世論の恐怖はマーケティング上の課題ではなく正当な懸念とし、議会がAnthropicのテスト案を採用するかどうかがAI政策の次の段階を決定づけるとの見方を示した。