YouTube está implementando una nueva herramienta de «detección de seguridad» impulsada por IA dentro de YouTube Studio para combatir el creciente problema de los deepfakes y el contenido generado por inteligencia artificial. Esta función, que se había anunciado el año pasado, comienza a desplegarse para un grupo selecto de creadores de contenido, permitiéndoles defenderse contra el uso no autorizado de su imagen. La iniciativa busca restaurar la confianza en el contenido de vídeo frente al aumento de la generación de imágenes hiperrealistas por IA (Fuente Youtube Latam).
La herramienta de «detección de seguridad» es la respuesta de YouTube a la preocupación de que el contenido generado por IA pueda socavar la credibilidad de todo el material audiovisual, especialmente afectado a las figuras públicas. Al ser activada por el creador, este sistema utiliza presumiblemente IA para escanear YouTube en busca de videos que utilicen su rostro o apariencia.
Los primeros creadores elegibles están siendo notificados por correo electrónico, y se espera que el despliegue se extienda a más usuarios en los próximos meses. YouTube ha anunciado que, en esta fase inicial, es probable que haya falsos positivos (videos legítimos del creador o colaboraciones). La compañía deberá implementar filtros para manejar estos casos, evitando que la herramienta se sature.
La función se encuentra bajo la pestaña «Detección de contenido» en YouTube Studio. Si bien los detalles técnicos sobre su funcionamiento son limitados, se especula que requiere una base de datos significativos de la imagen del creador para detectar usos fraudulentos. Por lo tanto, parece ser más útil para personas con alta exposición pública, ya que la herramienta podría requerir que los usuarios entreguen una porción de sus datos faciales para que funcione correctamente. A pesar de que Google ha sido criticado por permitir la creación de contenido AI a través de sus propias herramientas, este paso es visto como una acción positiva para ayudar a los creadores a proteger su propiedad intelectual y su identidad.
infosertecla.com 