Un funcionario estadounidense confirmó que el modelo Mythos identificó vulnerabilidades en sistemas gubernamentales altamente sensibles durante un ejercicio de prueba con agencias de inteligencia. Un senador había dicho que la herramienta «irrumpió en casi todos nuestros sistemas clasificados» en horas, no en semanas (Fuente Securityweek).
Un funcionario estadounidense le confirmó el martes a Associated Press que uno de los modelos de inteligencia artificial de Anthropic identificó vulnerabilidades en sistemas informáticos del gobierno de EE.UU. altamente sensibles y seguros, durante un ejercicio de prueba.
El funcionario, que habló bajo condición de anonimato, dijo que Anthropic se asoció con agencias de inteligencia estadounidenses para realizar pruebas usando el modelo Mythos de la compañía. El modelo identificó ciertas vulnerabilidades en cuestión de horas, aunque eso no significa que haya sido capaz de explotarlas en ese mismo lapso, aclaró el funcionario.
El marco en que se realizaron las pruebas tiene nombre propio. El funcionario explicó que las pruebas se hicieron a través de una iniciativa de Anthropic llamada Project Glasswing, que reunió a gigantes tecnológicos y otras empresas con la esperanza de proteger el software crítico del mundo de las consecuencias «severas» que el modelo Mythos podría representar para la seguridad pública, la seguridad nacional y la economía.
El episodio ya había tenido una mención pública previa, aunque sin contexto completo. El senador demócrata de Virginia Mark Warner había mencionado brevemente estas pruebas durante una audiencia del 11 de junio ante el Comité de Banca, Vivienda y Asuntos Urbanos del Senado. Warner dijo: «Esta herramienta irrumpió en casi todos nuestros sistemas clasificados, no en semanas, sino en horas.» Atribuyó esa información al jefe de la NSA y del Cibercomando de EE.UU., el general Joshua Rudd. La NSA declinó hacer comentarios sobre el tema por correo electrónico, y un vocero de Anthropic también declinó comentar.
El trasfondo de esta cooperación es, paradójicamente, una relación cada vez más tensa entre la compañía y el gobierno. A pesar de la reciente colaboración entre Anthropic y agencias de EE.UU. para realizar pruebas de vulnerabilidades, las tensiones entre la empresa californiana y la administración Trump vienen creciendo. Anthropic expresó preocupaciones sobre cómo el ejército estadounidense usaría su IA, mientras que la administración restringió el uso de algunos de los modelos de la compañía.
La administración emitió a comienzos de este mes una directiva que exige a Anthropic impedir que ciudadanos extranjeros usen sus modelos de inteligencia artificial más recientes, conocidos como Fable 5 y Mythos 5. Anthropic lanzó Fable de forma amplia a comienzos de este mes; ese modelo es una versión limitada del más avanzado Mythos, al que la compañía restringió fuertemente el acceso por temores de ciberseguridad. La directiva llegó diez días después de que el presidente Donald Trump firmara una orden ejecutiva para establecer un marco que permita al gobierno federal evaluar los riesgos de seguridad nacional de los sistemas de IA más avanzados durante hasta un mes antes de su lanzamiento público, con participación voluntaria de los desarrolladores.
Anthropic dijo que desactivó los modelos para todos sus clientes con el fin de cumplir con la directiva de la administración. La compañía de IA agregó que no consideraba que las medidas tomadas por el gobierno estuvieran justificadas por la preocupación de seguridad que ella mismo había señalado.
La presión para revertir la restricción ya tiene un frente organizado desde el propio sector privado. Un grupo de ejecutivos de ciberseguridad le pidió a la administración Trump que levante su directiva, argumentando que la medida podría ayudar más a los adversarios de EE.UU. que perjudicarlos. Más de 100 expertos y líderes en ciberseguridad de empresas como Adobe y Nvidia le dijeron al gobierno en una carta que los modelos Mythos de Anthropic son «bastante buenos» para encontrar fallas en software y convertir exploits en armas, pero que no son «excepcionalmente buenos» en esas tareas en comparación con otras opciones. Muchos de los firmantes de la carta dijeron que usan regularmente otros modelos fundacionales y de código abierto para auditorías de seguridad y entrenamiento. La carta advirtió que es peligroso quitarle al país sus mejores capacidades de defensa cibernética «sin una buena razón» mientras los adversarios de Estados Unidos avanzan rápidamente.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. [Conocé nuestro proceso editorial].