Mientras el presidente lanzaba America.gov, Sam Altman reconoció en CNBC que OpenAI frenó GPT-6.1 Astra por seguridad, y expertos advirtieron que confiar tanta fe en la autorregulación podría no alcanzar. (Fuente: SecurityWeek / Associated Press)
El presidente Donald Trump dijo el martes que él y un gran grupo de líderes de empresas de inteligencia artificial habían firmado un acuerdo voluntario que va a incluir revisiones internas y externas, durante una reunión en la Casa Blanca apuntada a atender los temores de los estadounidenses sobre la tecnología. Trump les dijo a los periodistas durante una conferencia de prensa improvisada afuera del Ala Oeste que estaba viendo una autorregulación tremenda, y que las empresas entienden que tienen que autorregularse.
Trump y el presidente de la Cámara, Mike Johnson, se reunieron con altos ejecutivos de las principales empresas tecnológicas que están gastando cientos de miles de millones de dólares para construir infraestructura de IA, incluidos centros de datos en comunidades de todo el país, que generaron oposición de base bipartidista. El acuerdo, publicado por Trump en Truth Social, indica que las empresas van a implementar controles internos robustos, se van a asociar con un auditor externo independiente para evaluar si esos controles funcionan, y van a establecer un comité dentro del directorio de cada empresa para evaluar los reportes de auditores internos y externos. El texto agrega que, con el tiempo, podría tener sentido codificar estos pasos en leyes y regulaciones.
Amodei, que fue una de las voces más vocales pidiendo desacelerar el desarrollo de IA, dijo que la tecnología tiene riesgos muy reales y que el mecanismo de cómo abordar esos riesgos todavía está en discusión. Trump sugirió que se nombraría a unas 10 personas para un comité que vigile todo el emprendimiento y dijo que el acuerdo sería moralmente vinculante. También dijo que iba a nombrar a alguien para supervisar el acuerdo en los próximos días.
Shri Narayanan, profesor de la Universidad del Sur de California, dijo que la intención del acuerdo equilibra la libertad necesaria para la innovación con la regulación. Otros expertos se mostraron escépticos de depositar tanta fe en la autorregulación, como Robin Jia, profesor asistente de esa misma universidad, quien dijo que es crucial asegurarse de que las intenciones de los principales laboratorios estén bien alineadas con el interés más amplio del público estadounidense, señalando las recientes revelaciones de incidentes de hackeo. Alex Pascal, director ejecutivo del Berkman Klein Center, dijo que la única forma de reducir los riesgos de la IA para los estadounidenses es a través de responsabilidad legal robusta, regulación, y cambiar fundamentalmente la dinámica de carrera que está impulsando decisiones inseguras por parte de los desarrolladores de IA de frontera.
Más temprano ese martes, Trump había presentado America.gov, un chatbot de IA pensado para ayudar a los estadounidenses a moverse por los servicios de gobierno. El secretario de Estado, Marco Rubio, destacó que el chatbot podría usarse pronto para solicitar un pasaporte por primera vez completamente online, sin la visita presencial a un centro de procesamiento que actualmente se requiere.
Ese mismo martes, el CEO de OpenAI, Sam Altman, dijo en una entrevista televisiva que la compañía está cada vez más enfocada en seguridad. Un día antes, su empresa había frenado el lanzamiento de un nuevo modelo por preocupaciones de seguridad. En CNBC, Altman dijo que están marcando el ritmo de su progreso, lo que incluye a veces no entrenar un modelo, y que tienen que hacer esto de una manera en la que puedan armar casos y afirmaciones de seguridad muy confiables, para que la gente no tenga un montón de ansiedad.
Trump retrató la carrera por desarrollar IA principalmente como una competencia global entre Estados Unidos y China, diciendo que iba a haber un ganador y un perdedor, sin segundo lugar. Ambos países habían acordado la semana pasada establecer un canal para manejar incidentes relacionados con IA durante la visita del presidente chino Xi Jinping a Washington, pero Trump remarcó que no quería cooperar demasiado con China, diciendo que no quiso hacer nada porque están liderando, y preguntándose por qué querría hacer algo.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.