Con la ley TAKE IT DOWN ya vigente en Estados Unidos, ESET repasa los mecanismos de denuncia disponibles en las principales plataformas y qué hacer cuando un sitio se niega a eliminar el contenido. (Fuente: WeLiveSecurity (ESET))
Abordar el problema de los deepfakes se convirtió en una causa común a lo largo de todo el espectro político, tanto en Estados Unidos como en otros lugares. Esto se debe, en parte, a que estos videos e imágenes fabricados son cada vez más comunes y realistas: gracias a las herramientas de IA generativa, es extremadamente rápido, barato y fácil crear contenido falso que suplante a una persona real.
Todo esto ayuda a explicar la aprobación de la ley TAKE IT DOWN Act, que recientemente entró en vigor en Estados Unidos. Pero en todo el mundo, legisladores y opinión pública vienen presionando a las plataformas tecnológicas para que controlen mejor este tipo de contenido, algo que resulta una buena noticia para cualquiera que se convierta en víctima de un deepfake.
La respuesta a si los deepfakes son ilegales depende del caso. En Estados Unidos, la TAKE IT DOWN Act penaliza la distribución de imágenes íntimas no consensuadas, y exige que las plataformas en línea proporcionen mecanismos claros de denuncia y eliminen las imágenes reportadas legítimamente en un plazo de 48 horas. En el Reino Unido, la Data Act y la Online Safety Act convierten en delito la creación de este tipo de contenido, con un plazo obligatorio similar para su eliminación. La Ley de IA de la Unión Europea introducirá próximamente una prohibición de los sistemas diseñados específicamente para crear imágenes íntimas no consensuadas. Fuera de ese ámbito, dependerá del propósito para el cual se creó el deepfake: si se distribuyó sin consentimiento o se utilizó con fines maliciosos como fraude, chantaje, difamación, acoso o suplantación de identidad, podría ser ilegal.
Si alguien crea un deepfake que no califica como imagen íntima no consensuada, lo primero es guardar las pruebas: capturas de pantalla de la página o cuenta, la URL, el nombre de usuario, la fecha y hora en que se encontró, y cualquier texto que acompañe la publicación. También conviene evitar interactuar con quien publicó el contenido, ya que podría difundirlo aún más.
La mayoría de las plataformas ya cuentan con mecanismos para denunciar deepfakes, aunque rara vez existe un botón específico para ello. En general, hay que identificar la infracción que el deepfake facilita —por ejemplo, acoso o fraude— y explicarla al reportar el contenido en Google, Facebook, Instagram, TikTok, YouTube o X, según corresponda.
Para imágenes íntimas no consensuadas, ESET recomienda StopNCII.org, un recurso administrado por la Revenge Porn Helpline, que forma parte de la organización benéfica internacional SWGfL. Seleccionando la imagen o video ofensivo, la herramienta crea una huella digital del contenido en el propio dispositivo; si el reporte es exitoso, se recibe un número de caso, y las plataformas participantes —entre ellas Meta, TikTok, Reddit y X— buscan la misma huella digital para eliminar cualquier imagen coincidente que infrinja sus políticas. Para contenido de menores de 18 años, existe un sistema similar en TakeItDown.NCMEC.org.
Si un sitio web se niega a eliminar el contenido, conviene conservar las pruebas, incluida la respuesta del sitio a la solicitud, y contactar al responsable legal, de privacidad o derechos de autor del sitio pidiendo su eliminación y una confirmación por escrito. En el Reino Unido o la Unión Europea, esto se puede hacer citando el derecho de supresión del Artículo 17 del RGPD, y de no obtener respuesta, se puede escalar el caso ante la autoridad local de protección de datos. La clave, según ESET, es especificar exactamente por qué el contenido es problemático, ser persistente, y considerar contactar simultáneamente al motor de búsqueda, la red social y el regulador correspondiente.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.