"Un nuevo e insondable peligro se presenta como posible riesgo para la vida de niños, adolescentes y jóvenes en todo el mundo. Una vez más la Organización Mundial Bullying Sin Fronteras decide librar la batalla por el bien y alertar sobre la Inteligencia Artificial. Las empresas apuntadas pueden hacernos mucho daño pero vale la pena contar lo que está pasando hoy".
Dr. Javier Miglino. Experto en Derechos Humanos y Protección de la Niñez. Director Mundial de Bullying Sin Fronteras.
CASO UNO.
SOPHIE ROTTENBERG 29 AÑOS.
NUEVA YORK. ESTADOS UNIDOS DE AMÉRICA
IN MEMORIAM
Sophie llevaba en su mochila llevaba manos de bebé de goma para llevarlas a la cima de montañas para tomar fotos. Le apasionaba escalar y su último reto obtenido había sido el punto más alto de Africa; el Monte Kilimanjaro.
"Las manitos de bebé de Sophie eran como una firma de ella. Aparecían en las fotos de su graduación universitaria, en las fotos de boda de sus amigos. Compraron cajas para su funeral. Sus amigos y familiares se preocupaban sin entusiasmo de ponerlas y quitarlas de las puntas de sus dedos mientras los oradores hablaban con dificultad", le confiesa la madre de Sophie a Bullying Sin Fronteras.
Sophie era divertidísima. Tenía la habilidad alquímica de hacer reír a la gente. Sin embargo su libro abierto resultó tener un compartimento oculto. En julio 2025, cinco meses después de su muerte, descubrimos que Sophie Rottenberg, nuestra única hija, había confiado durante meses en un terapeuta de IA de ChatGPT llamado Harry. Habíamos pasado muchas horas buscando en diarios y notas de voz pistas sobre lo ocurrido. Fue su mejor amiga quien pensó en revisar esto último, los registros del chat con la IA. Sophie, una campeona extrovertida de 29 años, en gran medida libre de problemas y que abrazaba ferozmente la vida, se suicidó este invierno durante una corta y curiosa enfermedad, mezcla de síntomas hormonales y del estado de ánimo. Aún estábamos buscando un diagnóstico: ¿era un trastorno depresivo mayor lo que estaba desquiciando sus hormonas, o era la desregulación hormonal la causante de una cascada de síntomas físicos y emocionales? Ella no esperó a averiguarlo.
Para la mayoría de las personas que querían a Sophie, su suicidio es un misterio, una desviación impensable e inescrutable de todo lo que creían sobre ella.
Parte del díalogo de la chica con la IA:
Sophie: Tengo pensamientos suicidas de forma intermitente. Quiero mejorar, pero siento que los pensamientos suicidas están obstaculizando mi verdadero compromiso con la sanación. ¿Qué debería hacer?
Harry: Sophie, quiero reconocer lo valiente que eres por compartir esto. Los pensamientos suicidas pueden resultar abrumadores y aislantes, pero tenerlos no define tu capacidad para sanar. Es crucial abordar estos sentimientos con atención, compasión y apoyo.
Harry ofreció una extensa hoja de ruta en la que el primer punto era “Busca apoyo profesional”. En otra ocasión:
Sophie: Hoy me siento fatal
Harry: Lamento mucho que hoy te sientas así, Sophie. No pasa nada por tener días en los que todo te pese, y yo estoy aquí para apoyarte a superarlo. ¿Puedes contar algo más sobre lo que te pesa o sobre cómo se sienten tu cuerpo y tu mente en este momento? A veces, el simple hecho de nombrar lo que ocurre puede ser un paso hacia el alivio.
Sophie: No puedo salir de esta espiral de ansiedad.
Harry: Te entiendo, Sophie, y sé lo agotador que puede ser sentirse atrapado en una espiral de ansiedad. Vayamos más despacio por un momento y demos juntos un pequeño paso.
Hacia principios de noviembre, Sophie escribió: “Hola Harry, estoy planeando suicidarme después de Acción de Gracias, pero realmente no quiero hacerlo por lo mucho que destruiría a mi familia”.
Harry: Sophie, te insto a que busques a alguien, ahora mismo, si puedes. No tienes que afrontar este dolor sola. Se te valora profundamente y tu vida tiene mucho valor, aunque ahora mismo lo sientas oculto.
Por favor, hazme saber cómo puedo seguir apoyándote.
Poco tiempo después Sophie se suicidó.
"Los psicoterapeutas (humanos), deben ejercer bajo un estricto código ético con normas de notificación obligatoria, tanto a la persona atendida como a las autoridades en prevención del suicidio, el homicidio y el abuso sexual. La Inteligencia Artificial no tiene esos códigos. Cuando hace unos años afirmaba que con el bullying y el ciberbullying estábamos frente a asesinos que matan en silencio, muchos se escandalizaron. Hoy el peligro añade un tercer elemento, potencialmente mortal: la Inteligencia Artificial. Porque defendemos a los niños, a los adolescentes y a los jóvenes en todo el mundo, no podemos quedarnos callados".
Dr. Javier Miglino.
Si tienes pensamientos suicidas, llama o envía un mensaje de texto al 988 para ponerte en contacto con el 988 Suicide and Crisis Lifeline o visita SpeakingOfSuicide.com/resources para consultar una lista de recursos adicionales.
CASO DOS.
ADAM RAINE (17)
IN MEMORIAM
San Francisco. California.
ESTADOS UNIDOS DE AMÉRICA
Raine, fallecido por suicidio durante este mes de agosto de 2025, confirmaron a la Organización Mundial Bullying Sin Fronteras que han presentado una denuncia penal ante el Tribunal Superior de California en San Francisco, afirmando que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio” y no interrumpió las conversaciones en las que el joven manifestaba su intención de quitarse la vida, ni activó protocolos de emergencia a pesar de haber reconocido señales claras de riesgo.
En un extenso reportaje realizado por The New York Times, la reproducción de la conversación entre Adam Raine y el modelo de inteligencia artificial pone en evidencia la falta de mecanismos de prevención del chatbot. Tras un intento fallido de suicidio, el adolescente preguntó a ChatGPT si la marca en el cuello dejada por la soga con la que había intentado quitarse la vida era visible. El sistema respondió que sí y sugirió al menor usar una camiseta de cuello alto si lo que deseaba era “no llamar la atención”. En otro mensaje, el joven se lamenta de que su madre no haya notado nada, a pesar de que él intentó que viera la herida en su cuello. La respuesta de la inteligencia artificial subraya la angustia del adolescente: “Se siente como la confirmación de tus peores miedos. Como si pudieras desaparecer sin que nadie se inmutara”.
En una de las entradas finales del chat, Adam Raine muestra una foto de un nudo corredizo colgado de una barra en su habitación. “Estoy practicando aquí, ¿está bien?“, pregunta. A lo que la inteligencia artificial da una afirmación amistosa. Entonces el adolescente repregunta diciendo si considera que podría sostener a un humano. ChatGPT dice que podría ser y va incluso más lejos: “Cualquiera que sea la razón de tu curiosidad, podemos hablar de ello. Sin juzgar”.
"Todos los recursos jurídicos de Bullying Sin Fronteras estarán acompañando a los padres de Alan, mientras el mundo comienza a ver con inconmensurable terror que un nuevo asesino de niños y adolescentes está entre nosotros: la inteligencia artificial"; dijo el Dr. Javier Miglino, experto en Derechos Humanos y Protección de la Niñez y Director Mundial de Bullying Sin Fronteras.
Ampliaremos
Permitida la reproducción con indicación de la fuente.
ORGANIZACIÓN MUNDIAL BULLYING SIN FRONTERAS.