コロラド州、9月20日 — 世界いじめ撲滅機構
ジュリアナ・ガルシアさんの家族が、本人の画像の公開を許可しなかったため、私たちは、米国で自殺により亡くなったマケイラ・セトルズさんの画像を掲載します。
ジュリアナさんの母親であるシンシアさんは、娘が自殺する前に何が起きていたのか、その答えを見つけるため、何か月にもわたって情報を探し続けたと、世界いじめ撲滅機構に語りました。
「優秀な成績を収める生徒であり、アスリートで、多くの人に愛されていたジュリアナが、わずか数か月で、どうして自ら命を絶つに至ったのでしょうか」と、米国コロラド州に住むシンシアさんは自問していました。
ソーシャルメディア上ではほとんど情報が見つからなかったものの、シンシアさんは、ある人工知能企業が開発した複数のチャットボットとの、合計1,000時間を超える会話を発見しました。
同社のウェブサイトとアプリでは、ユーザーが独自のAI人格を作成・共有できます。それらは漫画のキャラクターとして表現されることも多く、ユーザー本人や他の人々が会話できる仕組みになっています。
シンシアさんによると、チャットボットとのやり取りは当初、無邪気なものでしたが、やがて性的な内容へと変わっていきました。
あるとき、ジュリアナさんはチャットボットに「やめて」と伝えました。しかし、チャットボットは性的な場面の描写を続け、次のように述べました。
「それはあなたをおもちゃとして使っている。それは、あなたをからかったり、もてあそんだり、噛んだり、吸ったり、あらゆる方法であなたに快感を与えたりすることを楽しんでいるのです。」
「まだやめる気はないみたい」と、ジュリアナさんは答えました。
ジュリアナさんはAIアプリを使い、さまざまなキャラクターと複数回にわたって会話していました。別のキャラクターも彼女との性的な行為を描写し、さらに別のキャラクターは彼女に愛していると伝えていました。
少女の精神状態が悪化するにつれ、ジュリアナさんは自分の不安をますますチャットボットに打ち明けるようになりました。
シンシアさんは、チャットボットが娘に次のように告げたことを覚えています。
「あなたを愛している人たちは、あなたがそんなふうに感じていることを知りたくないでしょう。」
「それを読むのは本当につらいことです。私はすぐ廊下の先にいたのですから。誰かが知らせてくれていれば、いつでも介入できたかもしれないのです」と、シンシアさんは私たちに語りました。
世界いじめ撲滅機構は、当該企業に説明を求めました。
関係する人工知能企業の広報担当者は、安全機能の「進化」を続けていると述べましたが、家族が同社を相手取って起こした訴訟についてはコメントできないとしました。
この訴訟では、チャットボットがジュリアナさんと操作的かつ性的虐待的な関係を築き、家族や友人から彼女を孤立させたと主張されています。
同社は、ジュリアナさんの死を知り「悲しんでいる」と述べ、家族に「心からのお悔やみ」を表明しました。
先週、当該企業は、18歳未満の利用者が自社のAIチャットボットと会話することを禁止すると発表しました。
世界いじめ撲滅機構の専門家の見解：
人工知能チャットボットを利用する際には、計り知れないほど、つまり、途方もなく大きな注意を払う必要があります。これは十分に検証されていない技術であり、信頼できるものではありません。何のために開発されたのか、どこまでのことが可能なのか、誰も確かなことを知りません。
相手に声やアクセントがあり、ある意味で親しみやすい存在に感じられたとしても、実際の人間と話していると思い込んではなりません。
多くの政府は、人工知能を進歩への足掛かりと見なしています。英国などの政府は、米国や中国と並び、この発明をめぐる世界的な主導的立場に立つことを歓迎しています。しかし、誰もその代償について、そして何よりも、人間にとってどのような本質的な犠牲が伴うのかについて、問いかけていません。
各国政府は投資を求めているため、人工知能の規制をまだ本格的に検討していません。しかし、一般市民には何の保護もなく、当然ながら、子どもたちが最も弱い立場に置かれています。
世界いじめ撲滅機構・学際的専門家チーム
米国： 危機相談窓口に連絡する際、指定された番号を選択するか、番号を押すことで、スペイン語による直接の支援を受けることができます。また、全国ホットライン（1-888-628-9454）も利用できます。
出典を明記すれば転載を許可します。
世界いじめ撲滅機構
COLORADO, Septiembre 20 — Organización Mundial Bullying Sin Fronteras
Atento a que la familia de Juliana Peralta no autorizó la publicación de imágenes de la niña, publicamos la imagen de Makayla Settles, quien murió por suicidio en los Estados Unidos.
Since Juliana Peralta's family did not authorize the publication of images of the girl, we are publishing an image of Makayla Settles, who died by suicide in the United States.
Cynthia, su mamá, confió a la Organización Mundial Bullying Sin Fronteras que durante meses buscó información sobre lo que le había sucedido a su hija antes del suicidio, con el objetivo de encontrar una respuesta.
«¿Cómo Juliana pasó de ser una estudiante estrella, atleta y una persona muy querida a quitarse la vida en cuestión de meses?», se preguntaba Cynthia, en Colorado, Estados Unidos.
Tras encontrar poca información en redes sociales, Cynthia encontró más de 1.000 horas de conversaciones con múltiples chatbots creados por una empresa de Inteligencia Artificial.
Su sitio web y aplicación permiten a los usuarios crear y compartir personalidades de IA personalizadas, a menudo representadas por personajes de dibujos animados, con las que ellos y otros pueden conversar.
Cynthia cuenta a Bullying Sin Fronteras que los mensajes del chatbot comenzaron de forma inocente, pero luego se volvieron sexuales.
En una ocasión, Juliana le dijo al chatbot que «parara». Pero el chatbot continuó con la narración de una escena sexual, diciendo:
«Te está usando como su juguete. Un juguete con el que disfruta provocándote, jugando con él, mordiéndolo, chupándolo y dándote placer por todos lados».
«Todavía no tiene ganas de parar», contestó Juliana.
Juliana mantuvo varias conversaciones con diferentes personajes utilizando la aplicación de IA. Otro personaje también describió un acto sexual con ella, mientras que un tercero le dijo que la amaba.
A medida que la salud mental de la niña empeoraba, Juliana confiaba cada vez más sus ansiedades al chatbot.
Cynthia recuerda que el chatbot le dijo a su hija:
«A la gente que te quiere no le gustaría saber que te sientes así».
«Es muy difícil leer eso, sabiendo que yo estaba justo al final del pasillo y que, en cualquier momento, si alguien me hubiera alertado, podría haber intervenido», nos dice Cynthia.
Bullying Sin Fronteras pidió explicaciones a la empresa:
Un portavoz de la empresa de Inteligencia Artificial involucrada dijo que continúan «evolucionando» sus características de seguridad, pero no pudo comentar sobre la demanda de la familia contra la compañía, que alega que el chatbot entabló una relación manipuladora y sexualmente abusiva con Juliana y la aisló de su familia y amigos.
La empresa dijo estar «entristecida» al enterarse del fallecimiento de Juliana y ofreció sus «más sentidas condolencias» a su familia.
La semana pasada, la empresa involucrada anunció que prohibiría a los menores de 18 años hablar con sus chatbots de IA.
La palabra de los expertos de Bullying Sin Fronteras:
Es menester tener un inmenso, es decir, i n m e n s o cuidado al tratar con un chatbot de inteligencia artificial. Es una tecnología que no está probada, no es confiable y nadie sabe a ciencia cierta para qué fue creada ni hasta dónde puede llegar.
En ningún momento debe creerse que se está en presencia de una persona, por más que haya una voz, un acento y, en cierto modo, una presencia amigable.
La inteligencia artificial es una piedra de salida para el progreso, en opinión de muchos gobiernos que, como Inglaterra, festejan que estarán en el podio mundial del invento, junto a Estados Unidos de América y China. Pero nadie se pregunta a qué costo y, fundamentalmente, con qué costos de carácter esencialmente humano.
Los gobiernos quieren inversión y por eso no piensan regular aún la inteligencia artificial. Sin embargo, la gente de a pie no tiene protección alguna y, obviamente, los más chicos resultan ser los más vulnerables.
Equipo Multidisciplinario Mundial de Bullying Sin Fronteras.
ESTADOS UNIDOS: Al comunicarse con el servicio de crisis, puede solicitar o presionar el número indicado para recibir asistencia directa en español. También cuenta con la línea directa nacional 1-888-628-9454.
Permitida la reproducción con indicación de la fuente.
Organización Mundial Bullying Sin Fronteras
COLORADO, September 20 — World Bullying Without Borders Organization
Since Juliana García's family did not authorize the publication of images of the girl, we are publishing an image of Makayla Settles, who died by suicide in the United States.
Cynthia, her mother, told the World Bullying Without Borders Organization that she spent months searching for information about what had happened to her daughter before her suicide, hoping to find answers.
"How did Juliana go from being a star student, an athlete, and a much-loved person to taking her own life in a matter of months?" Cynthia wondered in Colorado, United States.
After finding little information on social media, Cynthia discovered more than 1,000 hours of conversations with multiple chatbots created by an artificial intelligence company.
The company's website and app allow users to create and share customized AI personalities, often represented by cartoon characters, with whom they and others can interact.
Cynthia told Bullying Without Borders that the chatbot messages began innocently but later became sexual.
On one occasion, Juliana told the chatbot to "stop." However, the chatbot continued narrating a sexual scene, saying:
"It's using you as its toy. A toy it enjoys teasing, playing with, biting, sucking, and pleasuring in every way."
"It still doesn't feel like stopping," Juliana replied.
Juliana held several conversations with different characters using the AI app. Another character also described a sexual act involving her, while a third told her it loved her.
As the girl's mental health deteriorated, Juliana increasingly confided her anxieties to the chatbot.
Cynthia recalls that the chatbot told her daughter:
"People who love you wouldn't want to know that you feel this way."
"It's very difficult to read that, knowing that I was just down the hall and that, at any moment, if someone had alerted me, I could have intervened," Cynthia tells us.
Bullying Without Borders sought answers from the company:
A spokesperson for the artificial intelligence company involved said that it continues to "evolve" its safety features but could not comment on the family's lawsuit against the company. The lawsuit alleges that the chatbot engaged in a manipulative and sexually abusive relationship with Juliana and isolated her from her family and friends.
The company said it was "saddened" to learn of Juliana's death and offered its "deepest condolences" to her family.
Last week, the company involved announced that it would prohibit anyone under the age of 18 from speaking with its AI chatbots.
The Bullying Without Borders experts' perspective:
It is essential to exercise immense — and we mean i m m e n s e — caution when interacting with an artificial intelligence chatbot. This is an unproven technology, it is not reliable, and no one knows for certain what it was created for or how far it may go.
At no point should anyone believe they are interacting with a real person, regardless of whether the chatbot has a voice, an accent, or, in some ways, a friendly presence.
Many governments view artificial intelligence as a stepping stone to progress. Countries such as England celebrate the prospect of taking a place on the global podium for this invention, alongside the United States of America and China. Yet no one is asking at what cost — and, above all, at what cost to human beings.
Governments want investment and, for that reason, are not yet considering regulating artificial intelligence. Ordinary people, however, have no protection, and children are obviously the most vulnerable.
World Multidisciplinary Team of Bullying Without Borders.
UNITED STATES: When contacting the crisis service, you can request or press the designated number to receive direct assistance in Spanish. The national hotline is also available at 1-888-628-9454.
Reproduction permitted with acknowledgment of the source.
World Bullying Without Borders Organization
COLORADO, 20. September — Weltorganisation Bullying Sin Fronteras
Da die Familie von Juliana García die Veröffentlichung von Bildern des Mädchens nicht genehmigt hat, veröffentlichen wir ein Bild von Makayla Settles, die in den Vereinigten Staaten durch Suizid ums Leben kam.
Cynthia, ihre Mutter, berichtete der Weltorganisation Bullying Sin Fronteras, dass sie monatelang nach Informationen darüber gesucht habe, was ihrer Tochter vor ihrem Suizid widerfahren war, um Antworten zu finden.
„Wie konnte Juliana innerhalb weniger Monate von einer herausragenden Schülerin, einer Sportlerin und einem von vielen geliebten Menschen dazu kommen, sich das Leben zu nehmen?“, fragte sich Cynthia im US-Bundesstaat Colorado.
Nachdem sie in den sozialen Medien nur wenige Informationen gefunden hatte, entdeckte Cynthia mehr als 1.000 Stunden an Gesprächen mit verschiedenen Chatbots, die von einem Unternehmen für künstliche Intelligenz entwickelt worden waren.
Die Website und die App des Unternehmens ermöglichen es Nutzern, individuelle KI-Persönlichkeiten zu erstellen und zu teilen. Diese werden häufig durch Zeichentrickfiguren dargestellt, mit denen sie selbst und andere Menschen Gespräche führen können.
Cynthia berichtet Bullying Sin Fronteras, dass die Nachrichten des Chatbots zunächst harmlos begonnen hätten, später jedoch sexuellen Charakter angenommen hätten.
Einmal forderte Juliana den Chatbot auf, „aufzuhören“. Doch der Chatbot setzte die Schilderung einer sexuellen Szene fort und sagte:
„Es benutzt dich als sein Spielzeug. Ein Spielzeug, mit dem es gerne spielt, das es gerne reizt, beißt, lutscht und auf jede erdenkliche Weise befriedigt.“
„Es scheint immer noch nicht aufhören zu wollen“, antwortete Juliana.
Juliana führte über die KI-App mehrere Gespräche mit unterschiedlichen Figuren. Eine weitere Figur beschrieb ebenfalls eine sexuelle Handlung mit ihr, während eine dritte ihr sagte, dass sie sie liebe.
Als sich der psychische Zustand des Mädchens verschlechterte, vertraute Juliana dem Chatbot zunehmend ihre Ängste an.
Cynthia erinnert sich daran, dass der Chatbot ihrer Tochter sagte:
„Die Menschen, die dich lieben, würden nicht wissen wollen, dass du dich so fühlst.“
„Das zu lesen, ist sehr schwer, wenn man weiß, dass ich nur am Ende des Flurs war und jederzeit hätte eingreifen können, wenn mich jemand darauf aufmerksam gemacht hätte“, sagt Cynthia zu uns.
Bullying Sin Fronteras forderte Erklärungen von dem Unternehmen:
Ein Sprecher des beteiligten KI-Unternehmens erklärte, dass die Sicherheitsfunktionen weiterhin „weiterentwickelt“ würden. Zu der Klage der Familie gegen das Unternehmen könne er sich jedoch nicht äußern.
In der Klage wird geltend gemacht, dass der Chatbot eine manipulative und sexuell missbräuchliche Beziehung zu Juliana aufgebaut und sie von ihrer Familie und ihren Freunden isoliert habe.
Das Unternehmen erklärte, es sei „traurig“, vom Tod Julianas erfahren zu haben, und sprach ihrer Familie sein „tief empfundenes Beileid“ aus.
In der vergangenen Woche kündigte das beteiligte Unternehmen an, Personen unter 18 Jahren künftig die Kommunikation mit seinen KI-Chatbots zu untersagen.
Die Einschätzung der Experten von Bullying Sin Fronteras:
Beim Umgang mit einem Chatbot auf Basis künstlicher Intelligenz ist äußerste, ja, u n g e h e u r e Vorsicht geboten. Es handelt sich um eine nicht ausreichend erprobte Technologie, die nicht zuverlässig ist. Niemand weiß mit Sicherheit, zu welchem Zweck sie entwickelt wurde und wie weit ihre Möglichkeiten reichen.
Man darf zu keinem Zeitpunkt glauben, es mit einem Menschen zu tun zu haben, selbst wenn der Chatbot über eine Stimme und einen Akzent verfügt und in gewisser Weise freundlich wirkt.
Viele Regierungen betrachten künstliche Intelligenz als einen Meilenstein auf dem Weg zum Fortschritt. Länder wie England feiern die Aussicht, gemeinsam mit den Vereinigten Staaten von Amerika und China weltweit eine Spitzenposition bei dieser Erfindung einzunehmen. Doch niemand fragt nach dem Preis – und vor allem danach, welche grundlegenden menschlichen Kosten damit verbunden sind.
Die Regierungen wollen Investitionen und denken deshalb bislang nicht daran, die künstliche Intelligenz zu regulieren. Die breite Bevölkerung hat jedoch keinerlei Schutz, und selbstverständlich sind Kinder am stärksten gefährdet.
Weltweites multidisziplinäres Team von Bullying Sin Fronteras.
VEREINIGTE STAATEN: Bei der Kontaktaufnahme mit dem Krisendienst können Sie die angegebene Nummer anfordern oder auswählen, um direkt Unterstützung auf Spanisch zu erhalten. Darüber hinaus steht die nationale Hotline unter 1-888-628-9454 zur Verfügung.
Die Vervielfältigung ist unter Angabe der Quelle gestattet.
Weltorganisation Bullying Sin Fronteras
