El modelo Mythos de Anthropic encontró vulnerabilidades en sistemas clasificados del gobierno estadounidense, según informes.
Según ha informado Associated Press, el modelo Mythos de Anthropic identificó vulnerabilidades en sistemas informáticos altamente sensibles del gobierno estadounidense durante un ejercicio de prueba.
Según la AP, Anthropic se asoció con las agencias de inteligencia de Washington para realizar pruebas utilizando Mythos en el marco del Proyecto Glasswing, un programa restringido diseñado para encontrar y corregir vulnerabilidades en software crítico antes de que los atacantes pudieran explotarlas.
El senador Mark Warner, de Virginia, se refirió a las pruebas en una audiencia del Congreso este mes, diciendo que el jefe de la Agencia de Seguridad Nacional, Joshua Rudd, le había informado de que Mythos "irrumpió en casi todos nuestros sistemas clasificados, no en semanas, sino en horas".
Según la agencia AP, que cita a un funcionario estadounidense no identificado, si bien Mythos identificó ciertas vulnerabilidades en cuestión de horas, eso no significaba que el modelo pudiera explotarlas en ese mismo lapso.
La relación de Anthropic, empresa que se prepara para salir a bolsa, con el gobierno estadounidense ha sido complicada.
La empresa se negó a permitir que el ejército estadounidense utilizara sus modelos de IA para la vigilancia interna y los sistemas de armas totalmente autónomos, y el gobierno respondió incluyéndola en una lista negra de seguridad nacional.
Este mes, el gobierno estadounidense también ordenó a la empresa que suspendiera las exportaciones de sus últimos modelos de IA, Mythos y Fable, a destinos en todo el mundo y a todos los ciudadanos extranjeros, alegando motivos de seguridad nacional.
El New York Times informó a primera hora del día que la NSA perdió el acceso a Mythos en medio de la disputa.