La nueva etiqueta perfil generado con IA reemplaza al rótulo opcional anterior, en medio de una ola de cuentas falsas usadas para promocionar productos y hasta hacerse pasar por profesionales de la salud. (Fuente: Engadget)
Instagram está cambiando sus reglas para los perfiles que muestran personajes generados con inteligencia artificial. La app ahora exige que ese tipo de cuentas usen una nueva etiqueta, perfil generado con IA, que identifica al perfil como una creación de IA y no como una persona real. Las cuentas que no usen la etiqueta van a ver reducido su alcance, según confirmó la compañía.
La medida llega en un momento donde otras plataformas ya tomaron acciones para volver menos prominente el contenido generado con IA, a medida que los usuarios de redes sociales rechazan cada vez más la avalancha de contenido de baja calidad hecho con IA. Sin embargo, Meta, que suele alentar a sus propios usuarios a generar ese mismo tipo de contenido, hizo relativamente poco hasta ahora para desalentarlo. Este cambio puntual, de todas formas, no es tanto una ofensiva contra todo el contenido de IA, sino una nueva regla para un tipo particular de contenido que puede resultar especialmente engañoso.
La nueva etiqueta apunta específicamente a cuentas que muestran personajes generados con IA. Anteriormente, Instagram usaba una etiqueta opcional de creador de IA como un rótulo genérico para cualquier perfil que mostrara contenido de IA con regularidad, pero la compañía ahora la reemplaza por la etiqueta de perfil generado con IA, pensada específicamente para perfiles que muestran a una persona generada con IA, según su descripción dentro de la app.
A medida que los modelos de IA se volvieron más avanzados y resultó más fácil crear contenido convincente, creció también la cantidad de influencers falsos generados con inteligencia artificial. The Guardian había revelado recientemente una ola de influencers de IA promocionando aplicaciones y otras marcas, mientras que The New York Times encontró cientos de influencers de bienestar generados con IA, incluidos algunos que se hacían pasar por médicos. Aunque buena parte de este contenido no viola explícitamente las reglas de Meta, sí generó preocupación por la propagación de desinformación.
Según un vocero de Instagram, la comunidad de la plataforma expresó que no le gusta encontrarse con un perfil que parece humano, para después descubrir que la persona que aparece fue generada con IA. El vocero agregó que las cuentas con personas de IA que no usen la etiqueta podrían empezar a ver limitado su alcance próximamente. Los creadores que consideren que fueron penalizados injustamente por esto van a tener la opción de apelar a través del panel de Estado de Cuenta de Instagram.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.