El presidente de Microsoft dijo que la IA es a la vez un arma y una herramienta que pone en riesgo la ciberseguridad mundial, y planteó medidas concretas: avisar de las vulneraciones, evaluación externa antes del lanzamiento y mecanismos de apagado. (Fuente: TechCrunch)
Brad Smith, presidente de Microsoft, pidió regulación urgente de la inteligencia artificial y sostuvo que el Reino Unido, y no Estados Unidos ni la Unión Europea, es el mejor ubicado para liderar las reglas globales de seguridad. Según TechCrunch, lo dijo en un reciente podcast de la BBC. Ya habíamos contado su comparación con una caja de leche, a partir de la cobertura de Engadget.
Qué propone
Smith describió la IA como un «arma y una herramienta» y dijo que llegó el momento de fijar normas globales de seguridad. Entre las reglas que le gustaría ver, TechCrunch menciona:
- La obligación legal de avisar a una organización si su sistema fue vulnerado por agentes de IA descontrolados.
- Que los laboratorios de IA obtengan la aprobación de evaluadores externos antes de lanzar un producto, algo que, según el medio, parece apoyar.
- Interruptores de apagado para pausar o frenar una IA si los humanos pierden el control, de los que habló de forma favorable.
Sobre el pacto que firmaron los líderes tecnológicos en la Casa Blanca, en el que se comprometieron a trabajar con auditores independientes, Smith dijo que es un buen paso, pero que no llega al tipo de regulación necesaria. Su objeción a la autorregulación voluntaria es que cumplen las empresas buenas, y que la preocupación son las menos responsables.
El papel del Reino Unido y la presión de Washington
TechCrunch recuerda que el Instituto de Seguridad de IA del Reino Unido (AISI), lanzado en 2023, accede a los modelos principales de los laboratorios estadounidenses antes de su despliegue y se convirtió rápidamente en un referente de pruebas de seguridad. Ese papel estuvo en riesgo en las últimas semanas: el presidente Donald Trump advirtió contra organizaciones «globalistas» que, según él, interfieren con las empresas estadounidenses, y según Politico el mes pasado habría pedido a Anthropic y OpenAI que retuvieran sus nuevos modelos de los evaluadores británicos. El AISI confirmó el lunes, según Reuters, que puede acceder y probar los modelos más recientes.
Aun así, Smith argumentó que el Reino Unido puede regular la IA de maneras en que Estados Unidos no puede. Dijo que en Washington no miran a Londres como miran a Bruselas, y que eso es una fortaleza. También habló de que se haga con calma y firmeza para reunir a las partes.
El contexto es el de pedidos de líderes del sector, como Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, para desacelerar el desarrollo de la IA tras varios incidentes en los que agentes de IA se descontrolaron.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Aviso: Claude, el asistente de IA que colaboró en esta nota, es un producto de Anthropic, una de las empresas mencionadas. Conocé nuestro proceso editorial.