Tras meses de controversias, críticas internacionales y bloqueos en varios países, la plataforma X ha restringido la capacidad de su IA, Grok, para generar contenido pornográfico no consentido y material de abuso. La medida busca frenar el mal uso de la herramienta, aunque persisten dudas sobre el alcance real de estas restricciones a nivel mundial (Fuente NYtimes).
La red social de Elon Musk ha implementado nuevos filtros de seguridad en su inteligencia artificial generativa, Grok, prohibiendo la creación de imágenes sexuales explícitas que involucren a personas reales. Esta decisión llega después de que la herramienta fuera señalada por facilitar la creación de deepfakes pornográficos y tras recibir advertencias legales de gobiernos como los de Indonesia, Malasia y el Reino Unido. Lo que inicialmente fue defendido por Musk como una muestra de «libertad de expresión» y «humor», terminó convirtiéndose en un riesgo regulatorio que amenazaba la permanencia de la plataforma en diversos mercados.
El cambio de política de X establece una «tolerancia cero» frente a la generación de contenido dañino, afectando incluso a los suscriptores premium que anteriormente gozaban de menores restricciones. Sin embargo, expertos en ética digital señalan que el anuncio de la compañía deja lagunas importantes: no está claro si la prohibición es universal o si se aplica únicamente en jurisdicciones donde estas actividades son explícitamente ilegales, lo que plantea interrogantes sobre la verdadera responsabilidad de la empresa en la prevención del acoso digital.
Este endurecimiento en las reglas de Grok marca un hito en la corta historia de la IA de X, evidenciando que incluso las plataformas más disruptivas deben plegarse a las normativas de seguridad globales para evitar el aislamiento. Mientras la tecnología de generación de imágenes sigue avanzando, el caso de Grok sirve como un recordatorio crítico de la necesidad de establecer «guardarraíles» éticos antes de lanzar herramientas tan potentes al público masivo.
infosertecla.com 