L’intelligence artificielle montre son pire visage au monde. Selon les plus grands créateurs de l’IA (Altman, Amodei et d’autres), nous sommes face à une « avancée » qui peut tuer toute l’humanité en peu de temps.
Des avertissements ont été lancés à 5 (cinq) reprises au sujet du projet finalement abandonné (à temps), afin qu’une IA ne développe pas de recherches biologiques dangereuses susceptibles de déboucher sur des armes bactériologiques.
Il est donc nécessaire de prendre un peu de recul.
Supposons que j’aie un élevage de chiens. Des chiens uniques ; j’ai moi-même réussi à créer une nouvelle race. Intelligents, dociles, travailleurs et dotés d’une énergie unique. Comme gardiens, ils feraient peur au Cerbère lui-même.
Mes chiens suscitent l’enthousiasme des voisins. À mesure qu’ils grandissent, je reçois des demandes, de plus en plus coûteuses, pour en réserver un. Ils peuvent s’occuper des bébés et surveiller les banques. Ils ne mangent pas et ne dorment pas.
Un jour, je remarque que l’un d’eux me regarde bizarrement. Quelques secondes plus tard, ils me regardent tous de la même manière.
Ils m’obéissent, ils sont calmes, mais il y a autre chose.
La nuit, je me réveille avec l’un d’eux qui me regarde dans ma chambre. Lorsque je sors de la pièce, je constate qu’ils se sont tous échappés de leur chenil et qu’ils sont dans la maison. Ils ne font rien, mais ils sont là. Je les ramène doucement, calmement, et les remets une fois encore à leur place ; même si je sais qu’ils n’en ont pas besoin. Mais moi, j’en ai besoin.
Le matin, je répare les clôtures et je dépense de l’argent pour éviter qu’ils ne ressortent.
La nuit, je dors mal. Et s’ils s’échappaient, que se passerait-il ? Je fais un effort humain, j’achète un sac de couchage et je dors devant eux. Ils n’aboient pas, ne mangent pas, ne dorment pas et me regardent. C’est tout.
Ce sont des chiens extraordinaires.
Puis-je les confier aux familles et aux banques ?
Puis-je continuer à produire toujours plus de ces chiens ?
Dois-je regarder du coin de l’œil et voir le côté positif de mes chiens ?
Je me souviens de ce que j’ai appris à l’école sur les 4 vertus cardinales (tempérance, force d’âme, justice et prudence). Je retiens la dernière.
La prudence, du latin prudentia ; elle vient de pro (avant) et videre (voir). Celui qui voit avant.
Je décide donc que mes chiens ne sortiront pas tant que je ne serai pas certain de pouvoir les entraîner suffisamment pour qu’ils soient sûrs. Pour protéger les bébés. Et pour surveiller les banques.
Ne pas le faire pourrait transformer mon groupe inoffensif de chiens extraordinaires en une meute de chiens dangereuse.
Dr. Javier Miglino Helfenstein.
Expert en droits humains et protection de l’enfance.
Expert en droits humains et protection de l’enfance.
La Inteligencia Artificial está mostrando su peor cara ante el mundo. Según los mayores creadores de IA (Altman, Amodei y otros), estamos ante un “avance” que puede matar a toda la humanidad en poco tiempo.
Artificial Intelligence is showing its worst side to the world. According to the greatest creators of AI (Altman, Amodei and others), we are facing an “advance” that can kill all of humanity in a short time.
Se advirtió sobre el proyecto abortado (a tiempo), 5 (cinco) veces para que una IA no desarrolle investigaciones biológicas peligrosas que desemboquen en armas bacteriológicas.
Es menester tomarse un respiro entonces.
Supongamos que tengo un criadero de perros. Únicos; yo mismo he logrado crear una nueva raza. Inteligentes, dóciles, trabajadores y dotados de una energía única. En el plano de guardianes, le meterían miedo al mismísimo Cancerbero.
Mis perros generan entusiasmo en vecinos. Mientras crecen, tengo pedidos, cada vez más caros, para reservar uno. Sirven para cuidar bebés y para cuidar bancos. No comen y no duermen.
Un día noto que uno me mira raro, a los pocos segundos son todos, mirando de la misma forma.
Me obedecen, están tranquilos pero hay algo más.
Por la noche, me despierto con uno mirándome dentro de mi habitación. Cuando salgo del cuarto, veo que todos se han escapado de su perrera y están en casa. No hacen nada pero están ahí. Los llevo despacito, tranquilo y los dejo una vez más en su lugar de descanso; aunque sé que no lo necesitan. Pero yo sí.
Por la mañana reparo cercas y gasto un dinero para evitar que vuelvan a salir.
Por las noches duermo mal. ¿Y si escapan qué pasaría? Hago un esfuerzo humano, compro una bolsa de dormir y duermo frente a ellos. No ladran, no comen, no duermen y me miran. Solo eso.
Son perros extraordinarios.
¿Puedo entregarlos a las familias y a los bancos?
¿Puedo seguir generando más y más de estos canes?
¿Debo mirar de soslayo y ver el lado positivo de mis perros?
Recuerdo lo que aprendí en la escuela sobre las 4 virtudes cardinales (templanza, fortaleza, justicia y prudencia). Me quedo con la última.
Prudencia del latín prudentia; viene del pro (antes) y videre (ver). El que ve antes.
Entonces decido: mis perros no saldrán hasta que no esté seguro de que puedo entrenarlos lo suficiente como para que sean seguros. Para cuidar bebés y para cuidar bancos.
No hacerlo puede convertir a mi inofensivo grupo de canes extraordinarios en una peligrosa jauría de perros.
Dr. Javier Miglino Helfenstein.
Experto en Derechos Humanos y Protección de la Niñez.
English
Artificial Intelligence is showing its worst side to the world. According to the greatest creators of AI (Altman, Amodei and others), we are facing an “advance” that can kill all of humanity in a short time.
Warnings were issued about the project that was aborted (in time), 5 (five) times, so that an AI would not develop dangerous biological research that could lead to bacteriological weapons.
It is therefore necessary to take a breath.
Let us suppose that I have a dog breeding facility. Unique dogs; I myself have managed to create a new breed. Intelligent, docile, hardworking and endowed with a unique energy. As guardians, they would frighten Cerberus himself.
My dogs generate excitement among the neighbors. As they grow, I receive increasingly expensive requests to reserve one. They can look after babies and guard banks. They do not eat and they do not sleep.
One day I notice that one of them is looking at me strangely. A few seconds later, they are all looking at me in the same way.
They obey me, they are calm, but there is something else.
At night, I wake up to find one of them looking at me inside my room. When I leave the room, I see that they have all escaped from their kennel and are in the house. They do nothing, but they are there. I slowly and calmly take them back and leave them once again in their resting place; even though I know they do not need it. But I do.
In the morning, I repair the fences and spend money to prevent them from getting out again.
At night, I sleep badly. What would happen if they escaped? I make a human effort, buy a sleeping bag and sleep in front of them. They do not bark, they do not eat, they do not sleep and they look at me. That is all.
They are extraordinary dogs.
Can I hand them over to families and banks?
Can I keep producing more and more of these dogs?
Should I look sideways and see the positive side of my dogs?
I remember what I learned at school about the 4 cardinal virtues (temperance, fortitude, justice and prudence). I choose the last one.
Prudence, from the Latin prudentia; it comes from pro (before) and videre (to see). The one who sees beforehand.
So I decide: my dogs will not leave until I am certain that I can train them sufficiently to make them safe. To look after babies and to guard banks.
Failing to do so could turn my harmless group of extraordinary dogs into a dangerous pack of dogs.
Dr. Javier Miglino Helfenstein.
Expert in Human Rights and Child Protection.
日本語
人工知能は、世界にその最悪の顔を見せ始めている。AIの最大の開発者たち（アルトマン、アモデイら）によれば、私たちは、短期間で人類全体を殺すことができる「進歩」に直面している。
危険な生物学的研究をAIが進め、それが細菌兵器につながることのないよう、途中で中止された（間に合った）プロジェクトについて、5回にわたって警告が発せられていた。
だからこそ、ここで一度、立ち止まって深呼吸する必要がある。
仮に、私が犬の繁殖施設を持っているとしよう。唯一無二の犬たちだ。私自身が新しい犬種を生み出すことに成功した。知的で、従順で、働き者。そして、他にはないエネルギーを備えている。番犬としてなら、あのケルベロスでさえ恐れをなすだろう。
私の犬たちは近所の人々の熱狂を呼ぶ。成長するにつれて、予約の申し込みはますます高額になっていく。赤ちゃんの世話にも、銀行の警備にも役立つ。食べない。そして眠らない。
ある日、私は一匹が私を奇妙な目で見ていることに気づく。数秒後には、全員が同じように私を見ている。
私の言うことには従う。落ち着いている。だが、何かがある。
夜、私は自分の部屋の中で、私を見つめている一匹によって目を覚ます。部屋を出ると、全員が犬小屋から逃げ出し、家の中にいることに気づく。何もしない。ただ、そこにいる。私はゆっくりと、落ち着いて、彼らを連れ戻し、もう一度休む場所に戻す。彼らにはそれが必要ないと分かっている。それでも、私には必要なのだ。
朝になると、私は柵を修理し、二度と外に出ないようにお金をかける。
夜になると、よく眠れない。もし逃げ出したら、どうなるのだろう？ 私は人間としてできる限りのことをして、寝袋を買い、彼らの前で眠る。彼らは吠えない。食べない。眠らない。そして私を見つめている。ただ、それだけだ。
彼らは、並外れた犬たちだ。
私は彼らを家族や銀行に引き渡してよいのだろうか？
私はこの犬たちを、さらに、さらに生み出し続けてよいのだろうか？
私は横目で見ながら、私の犬たちの良い面だけを見るべきなのだろうか？
私は学校で学んだ4つの枢要徳（節制、勇気、正義、そして慎重さ）を思い出す。私は最後の一つを選ぶ。
慎重さ。ラテン語の prudentia に由来し、pro（前に）と videre（見る）から来ている。先を見る者。
だから私は決める。安全だと確信できるほど十分に訓練できるまでは、私の犬たちは外には出さない。赤ちゃんを守るために。そして銀行を守るために。
そうしなければ、無害なはずの私の素晴らしい犬たちの集団が、危険な犬の群れへと変わってしまうかもしれない。
Dr. Javier Miglino Helfenstein.
人権・児童保護専門家。
