Según Wired, instrucciones internas obtenidas por un investigador ordenan al agente crear cada hora una página por cada persona en la vida del usuario. Meta dice que la información sale de fuentes públicas y de lo que el propio usuario decide compartir. (Fuente: Wired / Gizmodo / Infobae)
Apenas un mes después de su lanzamiento, investigadores empezaron a examinar cómo funciona Muse, el agente de IA de Meta, y los hallazgos plantean dudas de privacidad que van más allá de quien lo usa. Según reportó Wired, el investigador independiente de seguridad y seguridad de IA Karan Joshi logró extraer instrucciones internas del agente simplemente pidiéndole desde el chat que compartiera parte de sus propios archivos.
Una de esas instrucciones, que Wired analizó, ordena al sistema crear una página para cada persona en la vida del usuario, mediante un proceso que puede correr cada hora. Esas páginas abarcan familiares, parejas, amigos, compañeros de trabajo, colaboradores y hasta personas a las que el usuario simplemente sigue en redes sociales. Según las instrucciones publicadas por The Future Society, esas fichas pueden incluir el nombre de la persona, su relación con el usuario, temas recurrentes como una mudanza próxima o un objetivo de ahorro, fechas importantes como cumpleaños y aniversarios, y un historial de la relación con eventos o hitos, además de datos sobre la cercanía entre ambos.
El problema de consentimiento es evidente: la persona descrita en la ficha no necesariamente decidió compartir nada con Meta. Es el usuario quien conecta su correo, sus mensajes o sus servicios, y la información de terceros llega de manera indirecta. Según los reportes, el usuario puede borrar en cualquier momento la memoria acumulada por el asistente o desconectar los servicios que alimentan esos perfiles, pero ese control recae en quien instaló Muse y no en las personas perfiladas.
Un vocero de Meta le explicó a Wired que un agente verdaderamente útil necesita entender no solo al usuario sino también el contexto de quienes interactúan con él, y que Muse obtiene esa información de fuentes públicas y de lo que el propio usuario decide compartir. Los ejemplos que dio la compañía a Gizmodo fueron recordar que quien envió una factura era el plomero que arregló el baño, o qué flores prefiere el cónyuge. Meta también afirma que los datos permanecen en la máquina virtual segura de cada usuario, aunque los investigadores advierten que las instrucciones internas expuestas debilitan esa garantía en la práctica.
Los reportes aclaran, además, que los usos potenciales preocupan pero no demuestran un uso indebido de estos perfiles por parte de Meta. El tema se suma a otros cuestionamientos recientes al agente: Amazon lo bloqueó para hacer compras en su sitio, y Meta tuvo que corregir una vulnerabilidad de día cero en la versión para Mac de Muse.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.