Autoridades de Francia y Malasia han iniciado investigaciones formales contra Grok, el asistente de inteligencia artificial de X, tras reportes de que la herramienta está siendo utilizada para generar imágenes sexuales explícitas no consentidas. El caso reaviva el debate sobre la falta de moderación y salvaguardas en las plataformas de Elon Musk.
La presión regulatoria sobre X (anteriormente Twitter) se intensifica a nivel global. Organismos de control en Francia y Malasia han puesto el foco en Grok, la inteligencia artificial integrada en la red social, debido a su capacidad para generar deepfakes de contenido sexual. Según las investigaciones preliminares, la herramienta habría sido utilizada para crear imágenes degradantes de figuras públicas y ciudadanos particulares, vulnerando leyes de privacidad y seguridad digital en ambas naciones.
A diferencia de otros modelos de IA como ChatGPT o Gemini, que cuentan con filtros estrictos para evitar la creación de contenido sexual o violento, Grok ha sido promocionado bajo una filosofía de «libertad de expresión» con restricciones mínimas. Sin embargo, esta apertura ha facilitado que usuarios malintencionados generen material explícito sin el consentimiento de las víctimas, lo que para las autoridades francesas y malayas representa un riesgo grave para la integridad de las personas y una violación a las normativas de protección de datos.
Este nuevo frente legal podría derivar en sanciones económicas millonarias o incluso en la suspensión temporal del servicio en dichos territorios si no se implementan medidas de control inmediatas. El caso pone de manifiesto la creciente preocupación de los gobiernos por el uso de la IA generativa como arma de acoso, exigiendo a las empresas tecnológicas una mayor responsabilidad sobre las herramientas que ponen a disposición del público.
infosertecla.com 