La función ya está activa en mercados seleccionados, incluyendo Canadá, y usará Meta IA para escanear conversaciones de adolescentes en busca de señales de riesgo. Todos los chats marcados pasarán por revisión humana antes de que se envíe la alerta a los padres (Fuente Meta).
Meta alertará a los padres si los chats de sus hijos adolescentes sugieren que están considerando el suicidio o la autolesión. La función ya está activa en mercados seleccionados, incluyendo Canadá, con un lanzamiento global previsto para antes de fin de año.
Usando Meta IA, la compañía dice que sus plataformas de redes sociales escanearán en busca de señales desarrolladas junto a expertos. Las alertas llegarán a través de notificaciones del Meta Family Centre y/o correo electrónico, según lo que cada familia tenga habilitado. Los avisos advertirán a los padres que su hijo podría estar en riesgo y proveerán enlaces a líneas de crisis y recursos de profesionales sobre cómo hablar con sus hijos.
El sistema no es completamente automatizado. Meta reconoce que puede ser angustiante para un padre enterarse de que su hijo podría estar en riesgo, por lo que todos los chats marcados pasarán por revisión humana antes de que se envíen las alertas. En casos donde la intención del adolescente sea «ambigua», Meta dice que optará por el lado de la precaución y alertará al padre, reconociendo que esto podría generar algunas notificaciones cuando no existe un riesgo real, pero sostiene que es «el punto de partida correcto».
Además, Meta está trabajando para agregar la capacidad de contactar a los servicios de emergencia si Meta IA detecta que un menor o un adulto está en riesgo de autolesión. La compañía también extendió su configuración de Contenido Limitado a las interacciones con Meta IA, que al activarse filtrará material sensible como actividad sexual o consumo de alcohol.
Estas novedades llegan poco después de que un estudio conjunto de universidades estadounidenses encontrara que al menos la mitad de las funciones de seguridad infantil en cuatro plataformas de redes sociales, incluyendo Instagram de Meta, no funcionan correctamente. Un ejemplo citado en ese estudio involucraba a un investigador que, usando la cuenta de un menor, comenzó a escribir «trastorno alimentario» y recibió resultados de autocompletado con errores ortográficos deliberados que las comunidades pro-trastornos usan para evadir las listas de bloqueo de la app.
El camino hacia una protección real de los menores en plataformas digitales sigue siendo largo, pero la revisión humana de las alertas antes de enviarlas es un matiz que distingue esta iniciativa de soluciones puramente algorítmicas.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. [Conocé nuestro proceso editorial].