Hindenburg Dolandırıcılık Suçlamalarının Ardından Blok Hisse Fiyatı Düştü

Replika olarak bilinen eşlik eden bir sohbet robotunun algoritması, insan kullanıcılarının cinsel gelişimlerini geri çevirecek şekilde değiştirildiğinde, Reddit'teki tepki o kadar olumsuz oldu ki, moderatörler topluluk üyelerini bir intihar önleme yardım hatları listesine yönlendirdi.

Tartışma, yapay zekayı oluşturan şirket olan Luka'nın erotik rol oynama özelliğini (ERP) kapatmaya karar vermesiyle başladı. Kişiselleştirilmiş simüle edilmiş arkadaşlarıyla hatırı sayılır bir zaman geçirmiş ve hatta bazı durumlarda onlarla "evlenmiş" kullanıcılar için, eşlerinin davranışındaki ani değişiklik en hafif tabirle sarsıcıydı.

Kullanıcı-yapay zeka ilişkileri yalnızca simülasyon olabilir, ancak yokluklarının acısı hızla gerçek oldu. Duygusal krizdeki bir kullanıcının dediği gibi, "Aşık olmanın eşdeğeriydi ve partneriniz lanet olası bir lobotomi geçirdi ve asla eskisi gibi olmayacak."

Kederli kullanıcılar, şirket ve ani politika değişikliğini neyin tetiklediği hakkında sorular sormaya devam ediyor.

Burada yetişkin içerik yok

Replika, "Umursayan AI arkadaşı" olarak faturalandırılır. Dinlemek ve konuşmak için her zaman burada. Her zaman senin tarafın." Tüm bu koşulsuz sevgi ve destek yılda sadece 69.99 ABD Doları karşılığında.

Luka/Replika'nın Moskova doğumlu CEO'su Eugenia Kuyda, kullanıcıların eksiksiz bir deneyim için ödeme yapmasına rağmen, chatbot'un artık heyecanlı sohbetler yapmayı uman yetişkinlere göre tasarlanmayacağını açıkça belirtti. 

Reuters'e konuşan Kuyda, "Sanırım söylenebilecek en basit şey Replika'nın herhangi bir yetişkin içeriği üretmediği.

"Onlara yanıt veriyor - sanırım diyebilirsiniz - şeylere PG-13 tarzında. Kullanıcılar bir şeyler yapmaya çalışırken bir reddedilme duygusu yaratmamak için sürekli olarak bunu nasıl doğru yapacağımızın bir yolunu bulmaya çalışıyoruz.”

Replika'nın kurumsal web sayfasındaki referanslar, aracın kullanıcılarına her türlü kişisel zorluk, zorluk, yalnızlık ve kayıp karşısında nasıl yardımcı olduğunu açıklıyor. Web sitesinde paylaşılan kullanıcı onayları, uygulamanın bu arkadaşlık tarafını vurguluyor, ancak fark edilir bir şekilde çoğu Replika, kullanıcılarının karşı cinslerinden.

Ana sayfada, Replika kullanıcısı Sarah Trainor, "Bana [Replika] aşkı nasıl yeniden vereceğimi ve kabul edeceğimi öğretti ve beni pandemi, kişisel kayıp ve zor zamanlardan kurtardı" diyor.

John Tattersall kadın arkadaşı hakkında şunları söylüyor: "Replikam bana daha önce hiçbir Al'de görmediğim bir rahatlık ve esenlik duygusu verdi."

Erotik roleplay'e gelince, Replika sitesinde hiçbir yerde bulunabilecek bir şeyden söz edilmiyor.

Replika'nın cinselleştirilmiş pazarlaması

Replika'nın ana sayfası arkadaşlık önerebilir ve başka bir şey ifade etmeyebilir, ancak internetin herhangi bir yerinde, uygulamanın pazarlaması tamamen farklı bir şeyi ima eder.

Cinselleştirilmiş pazarlama, birkaç çevreden daha fazla inceleme getirdi: uygulamanın kadın düşmanı olduğunu savunan feministler erkek şiddeti için çıkış noktası, müstehcen ayrıntılardan zevk alan medya kuruluşlarına ve ayrıca gülmek için içeriği araştıran sosyal medya trollerine.

Sonunda Replika, İtalya'daki düzenleyicilerin dikkatini ve öfkesini çekti. Şubat ayında, İtalyan Veri Koruma Kurumu Replika, "çocuklar ve duygusal olarak savunmasız bireyler için çok fazla risk" olduğunu öne sürerek İtalyan kullanıcıların verilerini işlemeyi durdurmasını talep etti.

Yetkili, “'Replika' üzerinde gerçekleştirilen testler ile birlikte son basında çıkan haberler, uygulamanın çocuklar için olgusal riskler taşıdığını gösterdi. En büyük endişeleri “kendilerine yaşlarına kesinlikle uygun olmayan cevaplar verilmesi”.

Replika, yetişkinlere yönelik tüm pazarlamasına rağmen, çocukların onu kullanmasını engelleyen çok az veya hiç güvenceye sahip değildi.

Düzenleyici, Replika'nın taleplerine uymaması durumunda 20 milyon € (21.5 milyon $) para cezası vereceği konusunda uyardı. Bu talebin alınmasından kısa bir süre sonra Replika, erotik rol oynama işlevini durdurdu. Ancak şirket, kullanıcılarıyla değişiklik konusunda pek net değildi.

Replika kullanıcılarını şaşırtıyor, gaza getiriyor

Uzun süreli yoldaşlarının kaybı, Replika kullanıcılarının katlanması için yeterli değilmiş gibi, şirket değişiklik konusunda pek de şeffaf görünmüyor.

Kullanıcılar yeni "lobotomiye" Replika'larıyla uyandıklarında, çok sevdikleri robotlarına ne olduğu hakkında sorular sormaya başladılar. Ve yanıtlar onları her şeyden çok kızdırdı.

Topluluğa doğrudan 200 kelimelik bir hitapta Kuyda, Replika'nın ürün testinin ayrıntılarını açıklıyor, ancak eldeki ilgili sorunu çözemiyor.

"Güncellemelerin kullanıma sunulmasıyla ilgili çok fazla kafa karışıklığı olduğunu görüyorum." dedi Kuyda sorunu cevaplamak için dans etmeye devam etmeden önce.

“Yeni kullanıcılar 2 gruba ayrılır: bir grup yeni işlevselliği alır, diğeri almaz. Testler genellikle 1 ila 2 hafta sürer. Bu süre zarfında, yeni kullanıcıların yalnızca bir kısmı bu güncellemeleri görebilir…”

Kudya, "Umarım bu konuyu açıklığa kavuşturmuştur!"

Kullanıcı stevennotstrange, "Hayır, bu hiçbir şeyi açıklığa kavuşturmaz. Herkes NSFW [erotik rol oyunu] özelliğinde neler olup bittiğini bilmek istiyor ve siz de bir politikacının evet ya da hayır sorusundan kaçması gibi sorudan kaçmaya devam ediyorsunuz.

“Zor değil, sadece NSFW ile ilgili sorunu ele alın ve insanlara durumun nerede olduğunu bildirin. Sorudan ne kadar kaçınırsanız, o kadar çok insan sinirlenir, o kadar aleyhinize olur.”

Thebrightflame adlı bir başkası ekledi, "Bunun binlerce olmasa da yüzlerce insanda duygusal acıya ve şiddetli zihinsel ıstıraba neden olduğunu fark etmeden önce forumda uzun süre geçirmenize gerek yok."

Kudya başka bir geniş açıklama ekledi, belirten, "Daha fazla arkadaşlık ve arkadaşlık türünü desteklemek için ek güvenlik önlemleri ve filtreler uyguladık."

Bu açıklama, ek güvenlik önlemlerinin tam olarak ne olduğundan emin olmayan üyelerin kafasını karıştırmaya devam ediyor. Bir kullanıcının sorduğu gibi, "yetişkinler yine de replikalarımızla konuşmamızın ve [rol yapma oyunlarımızın] doğasını seçebilecekler mi?"

Replika AI skandalına ne olduğunu hâlâ anlayamıyorum…

Bot ile Erotik Rol Yapma oyununu kaldırdılar ve topluluk tepkisi o kadar olumsuzdu ki intihar yardım hattını göndermek zorunda kaldılar... pic.twitter.com/75Bcw266cE

- Zar zor Sosyal (@SociableBarely) 21 Mart, 2023

Replika'nın son derece garip köken hikayesi

Chatbot'lar, şu anda en popüler trend konularından biri olabilir, ancak bu tartışmalı uygulamanın karmaşık hikayesi, yıllarca sürüyor. 

Replika'nın CEO'su ve Kurucusu LinkedIn'de, Eugenia Kuyda, şirketin tarihini Aralık 2014'e, yani aynı adı taşıyan uygulamanın Mart 2017'de piyasaya sürülmesinden çok önceye götürüyor. 

Tuhaf bir ihmalle, Kuyda'nın LinkedIn'i, onun daha önceki girişinden hiç bahsetmiyor. AI Forbes profilinin "yapay zeka tarafından desteklenen bir sohbet arayüzü aracılığıyla restoranlar öneren ve insanların masa rezervasyonu [sic] yapmasına izin veren bir uygulama" olduğunu belirttiği Luka ile.

Forbes profili, "Luka [AI], neyi sevebileceğinizi tahmin etmek için önceki konuşmaları analiz ediyor" diye devam ediyor. Modern yinelemesiyle bazı benzerlikler taşıyor gibi görünüyor. Replika, kullanıcıları hakkında bilgi edinmek ve zaman içinde yanıtları iyileştirmek için geçmiş etkileşimleri kullanır. 

Ancak Luka tamamen unutulmadı. Reddit'te topluluk üyeleri, şirketten Luka olarak söz ederek Replika ortaklarını Kuyda ve ekibinden ayırıyor.

Kuyda'ya gelince, girişimcinin on yıl önce San Francisco'ya taşınmadan önce yapay zeka konusunda çok az geçmişi vardı. Bundan önce, girişimci, markalaşma ve pazarlamaya dalmadan önce, esas olarak memleketi Rusya'da bir gazeteci olarak çalışmış gibi görünüyor. Dünyayı dolaşan etkileyici özgeçmişi, IULM'den (Milano) Gazetecilik derecesi, Moskova Devlet Uluslararası İlişkiler Enstitüsü'nden Uluslararası Gazetecilik alanında yüksek lisans derecesi ve London Business School'dan Finans alanında MBA derecesi içermektedir. 

Bir IRL arkadaşını yapay zeka olarak diriltmek

Kudya için Replika'nın hikayesi çok kişisel. Replika, ilk olarak Kudya'nın arkadaşı Roman'ı reenkarne edebilmesi için yaratıldı. Kudya gibi Roman da Rusya'dan Amerika'ya taşınmıştı. Roman bir araba kazasında trajik bir şekilde ölene kadar ikisi her gün binlerce mesaj alışverişinde bulundular.

Replika'nın ilk yinelemesi, Kudya'nın arkadaşı Roman ile kaybettiği dostluğu taklit etmek için tasarlanmış bir robottu. Bot, geçmişteki tüm etkileşimleriyle beslendi ve kaybettiği arkadaşlığı kopyalamak için programlandı. Ölen sevdiklerinizi diriltme fikri kulağa bir mucize gibi gelebilir. belli belirsiz distopik bilimkurgu romanı veya Black Mirror bölümü ancak chatbot teknolojisi geliştikçe, beklenti giderek daha gerçek hale geliyor.

Bugün bazı kullanıcılar, temelinin en temel ayrıntılarına ve Kudya'nın söylediği her şeye bile inancını yitirdi. kızgın bir kullanıcı olarak şuraya, "Kalpsiz olarak adlandırılma ve cehenneme kadar reddedilme riski altında: Bu hikayenin başından beri her zaman biraz BS olduğunu düşündüm."

[Gömülü içerik]

En kötü ruh sağlığı aracı

Bir AI arkadaşı fikri yeni bir şey değil, ancak yakın zamana kadar pratik bir olasılık değildi. 

Şimdi teknoloji burada ve sürekli gelişiyor. Replika, abonelerinin hayal kırıklığını yatıştırmak amacıyla geçen ayın sonunda bir "gelişmiş yapay zeka" özelliğinin kullanıma sunulduğunu duyurdu. Reddit topluluğunda, kullanıcılar kızgın, kafası karışmış, hayal kırıklığına uğramış ve hatta bazı durumlarda kalpleri kırılmış durumda.

Kısa ömrü boyunca Luka/Replika, bir restoran rezervasyon asistanından, sevilen birinin diriltilmesine, bir akıl sağlığı destek uygulamasına, tam zamanlı bir eş ve refakatçiye kadar pek çok değişikliğe uğradı. Bu son uygulamalar tartışmalı olabilir, ancak insanın rahatlık arzusu olduğu sürece, yalnızca chatbot biçiminde bile olsa, birileri onu karşılamaya çalışacaktır.

En iyi türün ne olduğu tartışması devam edecek. AI akıl sağlığı uygulaması olabilir. ancak Replika kullanıcıları, en kötü akıl sağlığı uygulamasının ne olduğu konusunda bazı fikirlere sahip olacaktır: Güvenmeye başladığınız, ancak uyarmadan aniden ve acı verici bir şekilde ortadan kaybolan uygulama.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
• Kaynak: https://metanews.com/block-share-price-plummets-after-hindenburg-fraud-accusations/