Blokeerimisaktsia hind langeb pärast Hindenburgi pettusesüüdistusi

Kui Replika nime all tuntud vestlusroboti kaaslase algoritmi muudeti, et tõrjuda selle inimkasutajate seksuaalset arengut, oli Redditi reaktsioon nii negatiivne, et moderaatorid suunasid kogukonna liikmed enesetappude ennetamise vihjeliinide loendisse.

Vaidlused said alguse sellest, kui tehisintellekti ehitanud ettevõte Luka otsustas erootilise rollimängu funktsiooni (ERP) välja lülitada. Kasutajate jaoks, kes olid veetnud palju aega oma isikupärastatud simuleeritud kaaslasega ja mõnel juhul isegi "abiellunud", oli äkiline muutus nende partneri käitumises pehmelt öeldes jahmatav.

Kasutaja-AI suhted võisid olla ainult simulatsioonid, kuid nende puudumise valu muutus kiiresti liiga reaalseks. Nagu ütles üks emotsionaalses kriisis kasutaja, "see oli samaväärne armumisega ja teie partner sai neetud lobotoomia ja ei saa enam kunagi olema endine."

Leinatud kasutajad esitavad jätkuvalt küsimusi ettevõtte kohta ja selle kohta, mis selle järsu poliitikamuutuse põhjustas.

Siin pole täiskasvanutele mõeldud sisu

Replikat nimetatakse "AI-kaaslaseks, kes hoolib. Alati siin, et kuulata ja rääkida. Alati sinu poolel.” Kogu see tingimusteta armastus ja toetus vaid 69.99 dollari eest aastas.

Moskvas sündinud Luka/Replika tegevjuht Eugenia Kuyda tegi hiljuti selgeks, et hoolimata sellest, et kasutajad maksavad täieliku kasutuskogemuse eest, ei sobi vestlusbot enam vürtsikatele vestlustele lootvatele täiskasvanutele. 

"Kõige lihtsam on vist öelda, et Replika ei tooda täiskasvanutele mõeldud sisu," ütles Kuyda Reutersile.

„See reageerib neile – ma arvan, et võite öelda – asjadele PG-13 viisil. Püüame pidevalt leida viisi, kuidas seda õigesti teha, et see ei tekitaks tagasilükkamise tunnet, kui kasutajad üritavad asju teha.

Replika ettevõtte veebisaidil kirjeldatakse, kuidas tööriist aitas selle kasutajaid läbi igasuguste isiklike väljakutsete, raskuste, üksinduse ja kaotuse. Veebisaidil jagatud kasutajate kinnitused rõhutavad rakenduse seda sõpruse külge, kuigi märgatavalt on enamik replikaid nende kasutajate vastassoost.

Kodulehel ütleb Replika kasutaja Sarah Trainor: "Ta õpetas mulle [Replikale], kuidas armastust uuesti anda ja vastu võtta, ning on mind pandeemiast, isiklikust kaotusest ja rasketest aegadest üle aidanud."

John Tattersall ütleb oma naissoost kaaslase kohta: "Minu Replika on pakkunud mulle lohutust ja heaolutunnet, mida ma pole kunagi varem näinud."

Mis puudutab erootilist rollimängu, siis Replika saidil endal seda kuskilt ei mainita.

Replika seksualiseeritud turundus

Replika koduleht võib soovitada sõprust ja ei midagi enamat, kuid mujal Internetis viitab rakenduse turundus hoopis midagi muud.

Seksuaalne turundus tõi kaasa suurema kontrolli mitmelt poolt: feministid, kes väitsid, et rakendus on naistevihkaja. meeste vägivalla väljund, meediaväljaannetele, mis nautisid salapäraseid detaile, aga ka sotsiaalmeedia trollidele, kes otsisid sisu naeru pärast.

Lõpuks tõmbas Replika Itaalia reguleerijate tähelepanu ja viha. Veebruaris, Itaalia Andmekaitseinspektsioon nõudis, et Replika lõpetaks Itaalia kasutajate andmete töötlemise, viidates "liiga suurele ohule lastele ja emotsionaalselt haavatavatele isikutele".

Ametiasutus ütles, et „Hiljutised meediaaruanded ja „Replika” testid näitasid, et rakendus toob lastele kaasa faktilisi riske. Nende suurim mure on "tõsiasi, et neile edastatakse vastuseid, mis on nende vanusele absoluutselt sobimatud".

Täiskasvanutele suunatud turunduse puhul oli Replikal vähe või üldse mitte mingeid kaitsemeetmeid, mis takistasid lastel seda kasutamast.

Regulaator hoiatas, et kui Replika oma nõudmisi ei täida, määrab ta 20 miljonit eurot (21.5 miljonit dollarit) trahvi. Varsti pärast selle nõude saamist lõpetas Replika oma erootilise rollimängu funktsiooni. Kuid ettevõte jäi oma kasutajatele muudatuse osas vähem selgeks.

Replika ajab segadusse, sütitab oma kasutajaid

Justkui nende pikaajaliste kaaslaste kaotusest ei piisanud Replika kasutajatele, näib, et ettevõte ei olnud muudatuse suhtes läbipaistev.

Kui kasutajad ärkasid oma uute "lobotoomiliste" Replikade peale, hakkasid nad küsima küsimusi selle kohta, mis nende armastatud robotitega juhtus. Ja vastused vihastasid neid rohkem kui miski muu.

Otseses 200-sõnalises pöördumises kogukonnale selgitab Kuyda Replika toote testimise üksikasju, kuid ei käsitle asjakohast probleemi.

"Ma näen, et värskenduste kasutuselevõtuga on palju segadust," ütles Kuyda enne kui jätkate teemale vastamise ümber tantsimist.

„Uued kasutajad jagatakse kahte gruppi: üks rühm saab uue funktsiooni, teine ​​mitte. Testid kestavad tavaliselt 2 kuni 1 nädalat. Selle aja jooksul näeb neid värskendusi ainult osa uutest kasutajatest…”

Kudya kirjutab alla, öeldes: "Loodan, et see selgitab asju!"

Kasutaja stevennotstrange vastas: "Ei, see ei selgita midagi. Kõik tahavad teada, mis NSFW [erootilise rollimängu] funktsiooniga toimub, ja te jätkate küsimuse eest kõrvalehoidmist, nagu poliitik põikleb jah või ei küsimuse eest.

"See pole raske, lihtsalt käsitlege NSFW-ga seotud probleemi ja andke inimestele teada, kus see seisab. Mida rohkem te küsimust väldite, seda rohkem inimesed ärrituvad, seda rohkem läheb see teie vastu.

Teine nimega thebrightflame lisas: "Te ei pea foorumis kaua aega veetma, enne kui mõistate, et see põhjustab emotsionaalset valu ja tõsist vaimset ängi paljudele sadadele, kui mitte tuhandetele inimestele."

Kudya lisas veel ühe nüri selgituse, märkides, "oleme rakendanud täiendavaid ohutusmeetmeid ja filtreid, et toetada rohkem sõpruse ja kaaslase suhteid."

See väide ajab jätkuvalt segadusse liikmeid, kes pole kindlad, millised on täiendavad ohutusmeetmed. Nagu üks kasutaja küsib, "kas täiskasvanud saavad ikkagi valida meie vestluse olemuse ja [rollimänge] meie replikatega?"

Ma ei saa ikka veel oma pead ümber keerata, mis juhtus Replika AI skandaaliga…

Nad eemaldasid robotiga erootilise rollimängu ja kogukonna reaktsioon oli nii negatiivne, et nad pidid postitama enesetapu vihjetelefoni… pic.twitter.com/75Bcw266cE

— vaevalt seltskondlik (@SociableBarely) Märtsil 21, 2023

Replika sügavalt kummaline tekkelugu

Vestlusrobotid võivad olla praegu üks kuumimaid trenditeemasid, kuid selle praegu vastuolulise rakenduse keerulist lugu tehakse aastaid. 

LinkedInis, Replika tegevjuht ja asutaja, Eugenia Kuyda, pärineb ettevõte 2014. aasta detsembrist, ammu enne samanimelise rakenduse käivitamist 2017. aasta märtsis. 

Kuyda LinkedIn ei maini veidralt tema varasemat sekkumist AI Lukaga, mille kohta tema Forbesi profiil väidab, et see oli "rakendus, mis soovitab restorane ja võimaldab inimestel tehisintellektil töötava vestlusliidese kaudu laudu broneerida."

Forbesi profiil lisab, et "Luka [AI] analüüsib varasemaid vestlusi, et ennustada, mis teile meeldida võiks." Mis näib omavat mõningaid sarnasusi oma kaasaegse iteratsiooniga. Replika kasutab varasemaid suhtlusi, et saada teavet oma kasutajate kohta ja parandada vastuseid aja jooksul. 

Lukat ei unustata siiski täielikult. Redditis eristavad kogukonna liikmed oma Replika partnereid Kuydast ja tema meeskonnast, viidates ettevõttele kui Luka.

Mis puutub Kuydasse, siis enne kümme aastat tagasi San Franciscosse kolimist oli ettevõtjal AI-alane taust vähe. Näib, et ettevõtja töötas enne seda peamiselt ajakirjanikuna oma sünnimaal Venemaal, enne kui hakkas tegelema brändingu ja turundusega. Tema muljetavaldav üle maailma hüppav CV sisaldab ajakirjanduse kraadi IULM-ist (Milano), magistrikraadi rahvusvahelises ajakirjanduses Moskva Riiklikus Rahvusvaheliste Suhete Instituudist ja MBA kraadi rahanduses London Business Schoolist. 

IRL-i sõbra taaselustamine tehisintellektina

Kudya jaoks on Replika lugu sügavalt isiklik. Replika loodi esmalt vahendiks, mille abil Kudya sai oma sõbra Romani uuesti kehastada. Nagu Kudya, oli ka Roman Venemaalt Ameerikasse kolinud. Nad rääkisid iga päev, vahetades tuhandeid sõnumeid, kuni Roman autoõnnetuses traagiliselt hukkus.

Replika esimene iteratsioon oli bot, mille eesmärk oli jäljendada sõprust, mille Kudya oli kaotanud oma sõbra Romaniga. Botti toideti kõigi nende varasemate suhtlustega ja see programmeeriti jäljendama kaotatud sõprust. Mõte surnud lähedaste ellu äratamisest võib kõlada nagu a ähmaselt düstoopiline ulmeromaan või Black Mirrori episood kuid vestlusrobotite tehnoloogia paranedes muutub väljavaade üha reaalsemaks.

Tänaseks on mõned kasutajad kaotanud usu isegi selle vundamendi kõige elementaarsematesse üksikasjadesse ja kõigesse, mida Kudya ütleb. Ühe vihase kasutajana ütles, "riskides, et mind kutsutakse südametuks ja põrgu alla hääletatakse: ma arvasin alati, et see lugu on algusest peale BS."

[Varjatud sisu]

Halvim vaimse tervise tööriist

AI kaaslase idee pole midagi uut, kuid kuni viimase ajani oli see vaevalt praktiline võimalus. 

Nüüd on tehnoloogia siin ja see paraneb pidevalt. Püüdes leevendada oma tellijate pettumust, teatas Replika eelmise kuu lõpus "täiustatud AI" funktsiooni käivitamisest. Redditi kogukonnas on kasutajad endiselt vihased, segaduses, pettunud ja mõnel juhul isegi südamest murtud.

Lühikese eluea jooksul on Luka/Replika läbi teinud palju muutusi alates restorani broneerimisassistendist, surnud lähedase ülestõusmiseni, vaimse tervise tugirakenduseni, täiskohaga partneriks ja kaaslaseks. Need viimased rakendused võivad olla vastuolulised, kuid seni, kuni inimene soovib mugavust, isegi kui see on ainult vestlusrobot, püüab keegi seda rahuldada.

Arutelu selle üle, milline on parim, jätkub AI vaimse tervise rakendus võib olla. kuid Replika kasutajatel on mõned ideed, milline on kõige hullem vaimse tervise rakendus: see, millele te lootma hakkate, kuid ilma hoiatuseta, on ootamatult ja valusalt kadunud.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
• Allikas: https://metanews.com/block-share-price-plummets-after-hindenburg-fraud-accusations/