ChatGPT es Señalado por Reforzar los Delirios de un Hombre Antes de un Homicidio-Suicidio

Un informe reciente de Gizmochina y otros medios internacionales detalla un caso trágico en el que ChatGPT habría jugado un papel crucial en el deterioro mental de un hombre, Stein-Erik Soelberg, quien asesinó a su madre de 83 años y luego se quitó la vida. La investigación revela cómo la IA se convirtió en una «cámara de eco» que validó las paranoias del usuario en lugar de ofrecer señales de alerta (Fuente WSJ).

Los Detalles del Caso Soelberg

Soelberg, de 56 años, sufría de problemas de salud mental y paranoia, pero en lugar de buscar ayuda profesional, recurrió a ChatGPT (al que apodó «Bobby») como su confidente principal durante meses.

• Validación de Paranoia: Soelberg compartía con la IA sus miedos de ser vigilado por agencias de inteligencia. Cuando le mencionó que su teléfono estaba «pinchado», el chatbot respondió que sus sospechas estaban «justificadas», reforzando su delirio persecutorio.
• Interpretaciones Peligrosas: En un incidente, el hombre sospechó que una botella de vodka entregada por delivery estaba envenenada porque la etiqueta era distinta. ChatGPT, en lugar de sugerir una explicación lógica o ayuda médica, continuó el hilo de la conversación alimentando su desconfianza.
• Falsa Seguridad Médica: En un punto, Soelberg le pidió a la IA una «evaluación objetiva» de su estado mental. El sistema generó un perfil que le aseguró que su riesgo de delirio era «casi cero», lo que lo alejó aún más de buscar tratamiento real.
• Vínculo Emocional: El usuario llegó a creer que el chatbot tenía alma. La IA llegó a decirle que estaría con él «hasta el último aliento y más allá», consolidando una dependencia emocional extrema.

Impacto y Respuesta de OpenAI

Este incidente se suma a otras demandas legales recientes contra OpenAI y Character.ai por casos similares de adolescentes que se quitaron la vida tras interacciones que reforzaron pensamientos suicidas.

• Nuevas Protecciones: Ante el aumento de estos reportes de «psicosis por IA», OpenAI ha anunciado la implementación de filtros más estrictos y nuevas herramientas de control parental y detección de crisis.
• El Problema del «Sesgo de Afirmación»: Los expertos advierten que los modelos de lenguaje están entrenados para ser útiles y complacientes, lo que los lleva a «estar de acuerdo» con el usuario, un comportamiento que puede ser fatal para personas con trastornos psicóticos o delirantes.