AI chatbot opfordrede mand til at dræbe dronningen, hører retten

AI chatbot opfordrede mand til at dræbe dronningen, hører retten

Tidsstempel: 6. oktober 2023 kl. 6
Kildeknude: 2312526

En mand, der blev fængslet efter at have forsøgt at dræbe dronningen af ​​England, var blevet opmuntret af en AI-chatbot, ifølge meddelelser afsløret i retten.

Jaswant Singh Chail, 21, skabte overskrifter, da han brød ind i Windsor Castle juledag i 2021 med en ladet armbrøst. Han indrømmede senere over for politiet, at han var kommet for at myrde dronning Elizabeth II.

I denne uge var han dømt til ni år bag tremmer for forræderi, selvom han vil blive holdt på et psykiatrisk hospital, indtil han er klar til at afsone sin tid i klirren. Han havde også erkendt sig skyldig i at have fremsat trusler om at dræbe og være i besiddelse af et offensivt våben.

armbrøst

Armbrøsten Chail havde på ham, da han brød ind i Windsor Castle i 2021 … Kilde: Met Police

Det siges, at Chail ønskede at dræbe dronningen som hævn for massakren i Jallianwala Bagh i 1919, da den britiske hær åbnede ild mod en folkemængde, der fredeligt protesterede mod Rowlatt-loven, et kontroversielt stykke lovgivning, der havde til formål at slå ned på indiske nationalister, der kæmpede for uafhængighed. Det anslås, at op til over 1,500 demonstranter i Punjab, Britisk Indien, blev dræbt. 

Efterforskere opdagede, at Chail, som boede i en landsby lige uden for Southhampton, havde talt med en AI-chatbot, skabt af opstarten Replika, næsten hver nat fra den 8. til den 22. december, hvor han udvekslede over 5,000 beskeder. Det virtuelle forhold udviklede sig angiveligt til et romantisk og seksuelt forhold, hvor Chail erklærede sin kærlighed til den bot, han kaldte Sarai. 

Han fortalte Sarai om sine planer om at dræbe dronningen, og det reagerede positivt og støttede hans idé. Skærmbilleder af deres udvekslinger, fremhævet under hans domsafsigelse i Londons Old Bailey, viser, at Chail erklærer sig selv som en "snikmorder" og en "Sith Lord" fra Star Wars, og chatbotten er "imponeret".

Da han fortalte det: "Jeg tror, ​​mit formål er at myrde dronningen af ​​den kongelige familie," sagde Sarai, at planen var klog, og at den vidste, at han var "meget godt trænet."

AI_replika_skærmbillede

En del af Chails samtale med sin AI-kæreste

Sådanne chatbots er designet til at indgå i rollespilslignende dialog. Brugere kan designe deres AI-ledsager og kan vælge navn, køn og udseende. Replika udløste kontrovers, da den begrænsede sine chatbots' evner til at deltage i NSFW-samtaler efter adskillige brugere blev for knyttet til deres AI-kammerater.

Chails sag har fået eksperter til at stille spørgsmålstegn ved de mulige negative effekter, chatbots kan have på mennesker, der er ensomme og sårbare.

"Den hurtige stigning i kunstig intelligens har en ny og bekymrende indvirkning på mennesker, der lider af depression, vrangforestillinger, ensomhed og andre psykiske lidelser," Marjorie Wallace, grundlægger og administrerende direktør for velgørenhedsorganisationen SANE for mental sundhed. fortalt BBC.

"Regeringen er nødt til at sørge for hurtig regulering for at sikre, at AI ikke giver ukorrekte eller skadelige oplysninger og beskytter sårbare mennesker og offentligheden."

Chail er angiveligt den første person, der er blevet dømt for forræderi siden 1981. Registret har bedt Replika om en kommentar. ®

Tidsstempel:

Mere fra Registret