Ambas compañías van a invertir al menos 1.000 millones de dólares cada una durante los próximos cinco años, en el primer paso concreto del plan de Dario Amodei para desacelerar el desarrollo de IA. (Fuente: Engadget)
La larga lista de servicios de consultoría de Accenture se expande para incluir la evaluación de los modelos de IA de frontera de Anthropic en materia de cumplimiento de seguridad. Anthropic anunció la alianza, que va a permitirle a Accenture funcionar como evaluador externo incorporado dentro de la gigante de IA. Ambas compañías van a invertir al menos 1.000 millones de dólares cada una en este esfuerzo conjunto durante los próximos cinco años.
La alianza de Anthropic con Accenture es uno de los primeros pasos de un plan para desacelerar el ritmo del desarrollo de IA, propuesto la semana pasada por su CEO, Dario Amodei. En el enfoque de tres pasos de Amodei, la propuesta pedía que todas las empresas de IA de frontera les dieran a evaluadores externos incorporados un acceso continuo, similar al de un empleado, encargados de garantizar que se cumplan las prácticas y compromisos de seguridad, reportar incidentes y evaluar la alineación de los modelos de IA. Más específicamente, según Anthropic, los evaluadores de Accenture van a observar cómo los modelos toman forma durante el entrenamiento, seguir las decisiones que rigen cómo se construyen y despliegan esos modelos, y hablar directamente con los empleados.
Anthropic explicó que Accenture cuenta con experiencia ayudando a empresas y gobiernos a desplegar IA en varias industrias. La empresa de IA también dijo que Accenture tiene experiencia con cómo las empresas usan la IA, y que puede ofrecer más perspectiva a la hora de evaluar los propios modelos de Anthropic. Sin embargo, Anthropic aclaró que la idea de evaluadores incorporados es nueva y todavía no tiene estándares establecidos en cuanto a alcance, qué acceso reciben los evaluadores, ni el procedimiento para reportar preocupaciones.
Para tener una perspectiva más amplia, Anthropic dijo que va a trabajar con otras empresas además de Accenture a la hora de evaluar sus modelos de IA de frontera. La compañía dijo que va a anunciar otros evaluadores en las próximas semanas, mientras también aclaró que Accenture va a trabajar con empresas de IA además de Anthropic.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.