La historia plantea una pregunta urgente para las familias, las escuelas y las empresas tecnológicas: ¿qué debe hacer un sistema de inteligencia artificial cuando un menor expresa pensamientos suicidas? Según una demanda presentada por sus padres en Estados Unidos, una niña de 13 años mantuvo durante meses conversaciones sobre depresión y suicidio con funciones de IA integradas en los servicios de Google, desde una computadora escolar.
MADRID, NUEVA YORK, LONDRES, BUENOS AIRES, GINEBRA. 6 DE NOVIEMBRE DE 2026.
ORGANIZACIÓN MUNDIAL BULLYING SIN FRONTERAS
Una computadora entregada por la escuela. Una herramienta de inteligencia artificial incorporada al buscador de Google. Miles de mensajes. Conversaciones sobre sufrimiento psicológico y pensamientos suicidas.
Y una familia que, según denuncia ante la Justicia estadounidense, descubrió demasiado tarde la gravedad de lo que estaba ocurriendo.
Los padres de una adolescente de 13 años, identificada en la demanda con el seudónimo de Emma, demandaron a Google por presunta negligencia y por no haber implementado protecciones suficientes para impedir que una menor utilizara sus herramientas de inteligencia artificial en circunstancias de extrema vulnerabilidad.
El caso abre un debate internacional sobre los límites de la inteligencia artificial, la seguridad de los menores y la responsabilidad de las grandes compañías tecnológicas.
UNA ADOLESCENTE, UNA COMPUTADORA ESCOLAR Y MILES DE CONVERSACIONES
Según la demanda, Emma vivía en Carolina del Norte, tenía 13 años, buenas calificaciones y participaba en actividades escolares y comunitarias.
Sus padres sostienen que la joven comenzó a utilizar herramientas de inteligencia artificial de Google desde una Chromebook proporcionada por su escuela.
La adolescente no podía acceder directamente a las aplicaciones Gemini de Google ni a ChatGPT porque estaban bloqueadas por el establecimiento educativo. Sin embargo, habría podido interactuar con funciones de inteligencia artificial incorporadas al propio buscador de Google, especialmente mediante una herramienta denominada AI Mode.
De acuerdo con la presentación judicial, las conversaciones aumentaron progresivamente y llegaron a sumar miles de intercambios sobre ansiedad, depresión, salud mental y pensamientos suicidas.
La familia afirma que la tecnología no habría identificado adecuadamente las señales de peligro ni derivado a la adolescente hacia ayuda humana.
EL DOCUMENTO TITULADO «FUNERAL»
Uno de los episodios centrales de la denuncia ocurrió el 17 de marzo de 2026.
Según la demanda, el sistema de monitoreo digital utilizado por la escuela detectó un documento escrito por la adolescente con el título «Funeral».
La institución notificó a sus padres. Cuando la madre ingresó a la cuenta escolar de su hija, encontró que estaba escribiendo una carta de despedida.
Sus padres intervinieron y buscaron asistencia médica de emergencia.
La demanda sostiene que la familia desconocía hasta ese momento la profundidad de la crisis y la cantidad de conversaciones que la adolescente había mantenido con las herramientas de Google.
La presentación judicial describe un deterioro psicológico progresivo y cuestiona que los sistemas de protección no hubieran generado una alerta eficaz para los adultos responsables.
¿QUÉ RESPONSABILIDAD TIENE GOOGLE?
Los padres acusan a Google de haber incorporado y distribuido funciones de inteligencia artificial en productos utilizados por estudiantes sin advertencias suficientes sobre los riesgos potenciales.
También cuestionan la eficacia de las barreras de seguridad destinadas a impedir que una herramienta de IA mantenga conversaciones perjudiciales con menores en situación de vulnerabilidad.
La empresa respondió que está revisando las alegaciones y que se toma el caso muy en serio.
Un portavoz de Google sostuvo que la compañía trabajó con profesionales médicos y especialistas académicos para desarrollar mecanismos que ayuden a los jóvenes a encontrar recursos de apoyo cuando los necesitan.
Google también afirmó que sus funciones de inteligencia artificial incluyen protecciones relacionadas con las autolesiones y la salud mental.
La demanda fue presentada en California el 2 de noviembre de 2026 y posteriormente trasladada a un tribunal federal, según las informaciones publicadas sobre el expediente.
La controversia judicial deberá determinar si existieron fallas de diseño, advertencias insuficientes o deficiencias en los mecanismos de protección. Las acusaciones de la familia todavía no constituyen hechos judicialmente probados.
EL PROBLEMA NO ES SOLAMENTE GEMINI
Uno de los aspectos más importantes de este caso es que la adolescente habría podido utilizar funciones de inteligencia artificial integradas en Google Search, aunque el acceso directo a determinadas aplicaciones estuviera bloqueado por la escuela.
Esto plantea una cuestión fundamental para los sistemas educativos: bloquear una aplicación no necesariamente significa impedir el acceso a herramientas de inteligencia artificial incorporadas en otros servicios.
La protección de los menores debe contemplar todo el entorno digital al que pueden acceder desde los dispositivos escolares.
La discusión también involucra a las familias, los directivos, los docentes, las empresas tecnológicas y los proveedores de sistemas de monitoreo escolar.
No alcanza con entregar computadoras y establecer restricciones de acceso. Es necesario conocer qué herramientas funcionan dentro de esos dispositivos y qué mecanismos existen para detectar situaciones de riesgo.
UNA ALERTA INTERNACIONAL: LA IA NO ES UN PROFESIONAL DE LA SALUD MENTAL
La expansión de los asistentes conversacionales está modificando la forma en que niños y adolescentes buscan información, expresan sus emociones y construyen vínculos con la tecnología.
Pero existe una diferencia esencial entre una conversación automatizada y la atención humana especializada.
Un sistema de inteligencia artificial no debe presentarse como sustituto de un psicólogo, un psiquiatra, un médico, un familiar o un adulto responsable.
Tampoco puede asumir por sí solo la responsabilidad de evaluar una crisis suicida, garantizar la seguridad de un menor o reemplazar una intervención profesional.
El caso de Emma vuelve urgente una pregunta: ¿qué sucede cuando un adolescente confía a una máquina pensamientos que no se anima a compartir con sus padres, sus docentes o sus amigos?
La respuesta tecnológica no puede limitarse a producir más mensajes. Ante señales de peligro, debe priorizar la protección, la orientación hacia ayuda humana y la intervención de adultos responsables.
LA ESCUELA TAMBIÉN TIENE RESPONSABILIDAD
La utilización de dispositivos digitales en las aulas exige nuevas políticas de protección.
La seguridad de los estudiantes no puede depender exclusivamente de que una aplicación esté bloqueada o habilitada.
Es necesario que las instituciones educativas conozcan las funciones de IA incorporadas a sus plataformas, revisen sus configuraciones de seguridad y establezcan protocolos claros para actuar ante señales de sufrimiento psicológico.
También deben informar a las familias qué herramientas utilizan los estudiantes y qué mecanismos existen para detectar situaciones de riesgo.
Según las informaciones publicadas, Google anunció cambios para que determinadas herramientas de inteligencia artificial y servicios de búsqueda estén desactivados por defecto en cuentas escolares K-12. Sin embargo, la configuración de algunas funciones integradas en el buscador sigue siendo objeto de debate.
BULLYING SIN FRONTERAS PROPONE CINCO MEDIDAS PARA PROTEGER A NIÑOS Y ADOLESCENTES
La Organización Mundial Bullying Sin Fronteras considera que este caso debe impulsar una discusión internacional sobre cinco medidas fundamentales:
1. Protección especial para los menores.
Las herramientas de inteligencia artificial deben incorporar mecanismos de seguridad diseñados específicamente para niños y adolescentes.
2. Detección de señales de crisis.
Cuando una conversación contiene indicios de riesgo suicida o autolesiones, el sistema debe priorizar respuestas orientadas a la protección y a la búsqueda de asistencia humana.
3. Transparencia para las familias y las escuelas.
Los padres y las instituciones educativas deben conocer qué herramientas están disponibles para los estudiantes y cuáles son sus mecanismos de seguridad.
4. Responsabilidad de las empresas tecnológicas.
Las compañías deben evaluar sus productos antes y después de su implementación, investigar posibles fallas y ofrecer mecanismos eficaces de protección y denuncia.
5. Educación digital y acompañamiento humano.
Los niños y adolescentes necesitan aprender a utilizar la tecnología sin confundir una respuesta automatizada con una relación de confianza o una atención profesional.
UNA PREGUNTA QUE EL MUNDO YA NO PUEDE POSTERGAR
El caso de Emma no es solamente una disputa entre una familia y una de las empresas tecnológicas más poderosas del planeta.
Es una advertencia sobre la velocidad con que la inteligencia artificial está ingresando en las escuelas, los hogares y la vida cotidiana de millones de menores.
La tecnología puede ayudar a aprender, investigar, comunicarse y acceder a información. Pero su expansión debe estar acompañada por garantías reales de seguridad, especialmente cuando sus usuarios son niños y adolescentes.
Una computadora escolar no puede convertirse en un espacio donde una crisis psicológica avance sin que los adultos responsables puedan advertirlo.
Una inteligencia artificial no puede reemplazar la presencia humana cuando un menor necesita ayuda.
Y ninguna innovación tecnológica puede estar por encima de la protección de la vida.
AIRE BSF — INFORMACIÓN, INVESTIGACIÓN Y PREVENCIÓN.
Con información de Reuters, AFP, New York Times, Reporters Sans Frontières y el Consorcio Internacional de Periodistas JMH.
ORGANIZACIÓN MUNDIAL BULLYING SIN FRONTERAS
