El modelo Mythos de Anthropic encontró vulnerabilidades en sistemas clasificados del gobierno de EE. UU. – informe

El modelo Mythos de Anthropic identificó vulnerabilidades en sistemas informáticos altamente sensibles del gobierno de EE. UU. durante un ejercicio de prueba, informó The Associated Press el martes 23 de junio.

Anthropic se asoció con las agencias de inteligencia de Washington para realizar pruebas con Mythos en el marco del Proyecto Glasswing, según la AP, refiriéndose a un programa restringido diseñado para encontrar y corregir vulnerabilidades en software crítico antes de que los atacantes pudieran explotarlas.

El senador Mark Warner de Virginia hizo referencia a las pruebas en una audiencia del Congreso este mes, afirmando que el director de la Agencia de Seguridad Nacional, Joshua Rudd, le había informado que Mythos "entró en casi todos nuestros sistemas clasificados, no en semanas, sino en horas".

Citando a un funcionario estadounidense no identificado, la AP señaló que, aunque Mythos identificó ciertas vulnerabilidades en cuestión de horas, eso no significaba que el modelo fuera capaz de explotarlas en ese mismo tiempo.

La Casa Blanca, Anthropic y el Departamento de Defensa no respondieron de inmediato a las solicitudes de comentarios de Reuters.

La relación de Anthropic —que se prepara para salir a bolsa— con el gobierno de EE. UU. ha sido conflictiva. La empresa se negó a permitir que el ejército estadounidense utilizara sus modelos de IA para vigilancia doméstica y sistemas de armas totalmente autónomos, y el gobierno respondió incluyéndola en una lista negra de seguridad nacional.

El gobierno de EE. UU. también ordenó este mes a la empresa suspender las exportaciones de sus últimos modelos de IA Mythos y Fable a destinos de todo el mundo y a todos los ciudadanos extranjeros, alegando razones de seguridad nacional.

The New York Times informó a principios del día que la NSA perdió acceso a Mythos en medio de la disputa. – Rappler.com