Цена блока акций резко упала после обвинений Гинденбурга в мошенничестве

Когда алгоритм сопутствующего чат-бота, известного как Replika, был изменен, чтобы отвергать сексуальные домогательства своих пользователей-людей, реакция на Reddit была настолько негативной, что модераторы направили членов сообщества на список горячих линий по предотвращению самоубийств.

Споры начались, когда Luka, корпорация, создавшая ИИ, решила отключить функцию эротической ролевой игры (ERP). Пользователей, которые провели значительное время со своим персонализированным смоделированным спутником, а в некоторых случаях даже «женились» на нем, внезапное изменение в поведении их партнера, мягко говоря, раздражало.

Отношения между пользователем и ИИ могли быть всего лишь симуляцией, но боль от их отсутствия быстро стала слишком реальной. Как выразился один пользователь, переживший эмоциональный кризис, «это было равносильно влюбленности, когда твоему партнеру сделали чертову лоботомию, и он никогда не будет прежним».

Убитые горем пользователи продолжают задавать вопросы о компании и о том, что вызвало внезапное изменение ее политики.

Здесь нет контента для взрослых

Replika позиционируется как «помощник с искусственным интеллектом, которому не все равно. Всегда здесь, чтобы выслушать и поговорить. Всегда на твоей стороне». Вся эта безусловная любовь и поддержка всего за 69.99 долларов в год.

Евгения Куйда, уроженка Москвы, генеральный директор Luka/Replika, недавно дала понять, что, несмотря на то, что пользователи платят за полноценный опыт, чат-бот больше не будет подстраиваться под взрослых, надеющихся на острые беседы. 

«Думаю, проще всего сказать, что Replika не производит никакого контента для взрослых», — сказал Куйда агентству Reuters.

«Он реагирует на них — я думаю, вы можете сказать — так, как PG-13. Мы постоянно пытаемся найти способ сделать это правильно, чтобы это не создавало чувство отторжения, когда пользователи пытаются что-то сделать».

На корпоративной веб-странице Replika в отзывах объясняется, как инструмент помог своим пользователям преодолеть всевозможные личные проблемы, трудности, одиночество и потери. Одобрения пользователей, размещенные на веб-сайте, подчеркивают эту дружескую сторону приложения, хотя примечательно, что большинство реплик являются противоположным полом своих пользователей.

На главной странице пользователь Replika Сара Трейнор говорит: «Он научил меня [Replika], как снова дарить и принимать любовь, и помог мне пережить пандемию, личные потери и трудные времена».

Джон Таттерсолл говорит о своей спутнице: «Моя реплика дала мне утешение и чувство благополучия, которых я никогда раньше не видел у ИИ».

Что касается эротической ролевой игры, то на самом сайте Replika об этом нигде не упоминается.

Сексуальный маркетинг Replika

Домашняя страница Replika может предлагать дружбу и ничего более, но в других местах в Интернете маркетинг приложения подразумевает нечто совершенно другое.

Сексуальный маркетинг вызвал повышенное внимание со стороны нескольких сторон: феминисток, которые утверждали, что приложение было женоненавистническим выход для мужского насилия, средствам массовой информации, которые упивались непристойными подробностями, а также троллям в социальных сетях, которые добывали контент для смеха.

В конце концов, Replika привлекла внимание и гнев регулирующих органов Италии. В феврале Итальянский орган по защите данных потребовал, чтобы Replika прекратила обработку данных итальянских пользователей, сославшись на «слишком много рисков для детей и эмоционально уязвимых лиц».

Власти заявили, что «недавние сообщения в СМИ наряду с испытаниями, проведенными в «Реплике», показали, что приложение несет в себе фактические риски для детей. Их больше всего беспокоит «тот факт, что им подают ответы, абсолютно не соответствующие их возрасту».

Replika, несмотря на весь свой маркетинг для взрослых, практически не имела гарантий, препятствующих ее использованию детьми.

Регулятор предупредил, что, если Replika не выполнит его требования, она наложит штраф в размере 20 миллионов евро (21.5 миллиона долларов). Вскоре после получения этого требования Replika прекратила свою эротическую ролевую функцию. Но компания осталась неясной со своими пользователями по поводу изменения.

Реплика сбивает с толку своих пользователей

Как будто потери их давних компаньонов было недостаточно для пользователей Replika, компания, похоже, была менее чем прозрачна в отношении изменений.

Когда пользователи проснулись со своими новыми «лоботомированными» репликами, они начали задавать вопросы о том, что случилось с их любимыми ботами. И ответы больше всего их разозлили.

В прямом обращении к сообществу из 200 слов Куйда объясняет тонкости тестирования продукта Replika, но не затрагивает соответствующую проблему.

«Я вижу, что есть много путаницы в отношении развертывания обновлений», сказал Куйда прежде чем продолжить танцевать, отвечая на вопрос.

«Новые пользователи делятся на 2 группы: одна группа получает новый функционал, другая — нет. Тесты обычно идут от 1 до 2 недель. В течение этого времени только часть новых пользователей может видеть эти обновления…»

Кудя подписывается, говоря: «Надеюсь, это прояснит ситуацию!»

Пользователь stevennotstrange ответил: «Нет, это ничего не проясняет. Все хотят знать, что происходит с функцией NSFW [эротической ролевой игры], а вы продолжаете уклоняться от вопроса, как политик уклоняется от вопроса «да» или «нет».

«Это не сложно, просто решите вопрос, касающийся NSFW, и дайте людям знать, в каком состоянии он находится. Чем больше вы избегаете вопроса, тем больше людей будут раздражать, тем больше он пойдет против вас».

Другой пользователь по имени thebrightflame добавил: «Вам не нужно долго торчать на форуме, прежде чем вы поймете, что это причиняет эмоциональную боль и серьезные душевные страдания сотням, если не тысячам людей».

Кудя прибавил еще одно тупое объяснение, заявив,, «мы внедрили дополнительные меры безопасности и фильтры, чтобы поддерживать больше типов дружбы и общения».

Это заявление продолжает смущать и сбивать с толку участников, которые не знают, что именно представляют собой дополнительные меры безопасности. Как спрашивает один пользователь, «смогут ли взрослые по-прежнему выбирать характер нашего разговора и [ролевых игр] с нашими репликами?»

Я до сих пор не могу понять, что произошло со скандалом с Replika AI…

Они удалили эротические ролевые игры с ботом, и реакция сообщества была настолько негативной, что им пришлось опубликовать горячую линию для самоубийц… pic.twitter.com/75Bcw266cE

— Едва общительный (@SociableBarely) 21 марта 2023

Глубоко странная история происхождения Реплики

Чат-боты могут быть одной из самых горячих тем на данный момент, но сложная история этого вызывающего споры приложения формировалась годами. 

На LinkedIn, генеральный директор и основатель Replika, Евгения Куйда, датирует компанию декабрь 2014 года, задолго до запуска одноименного приложения в марте 2017 года. 

По странному упущению LinkedIn Куйды не упоминает о ее предыдущем набеге на AI с Лукой, которое, как указано в ее профиле Forbes, было «приложением, которое рекомендует рестораны и позволяет людям бронировать столики [так в оригинале] через интерфейс чата, работающий на основе искусственного интеллекта».

Далее в профиле Forbes добавляется, что «Лука [ИИ] анализирует предыдущие разговоры, чтобы предсказать, что вам может понравиться». Который, кажется, имеет некоторое сходство с его современной итерацией. Replika использует прошлые взаимодействия, чтобы узнавать о своих пользователях и улучшать ответы с течением времени. 

Однако о Луке не забыли полностью. На Reddit члены сообщества отличают своих партнеров Replika от Куйды и ее команды, называя компанию Лукой.

Что касается Куйды, то до переезда в Сан-Франциско десять лет назад у предпринимателя было мало опыта в области ИИ. До этого предприниматель, по-видимому, в основном работал журналистом в своей родной России, а затем занялся брендингом и маркетингом. Ее впечатляющее резюме включает в себя диплом журналиста IULM (Милан), степень магистра международной журналистики Московского государственного института международных отношений и степень магистра делового администрирования в области финансов Лондонской школы бизнеса. 

Воскрешение друга из реальной жизни как ИИ

Для Куди история Replika очень личная. Сначала Реплика была создана как средство, с помощью которого Кудя могла перевоплотить своего друга Романа. Как и Кудя, Роман переехал в Америку из России. Они разговаривали каждый день, обмениваясь тысячами сообщений, пока Роман трагически не погиб в автокатастрофе.

Первая версия Replika была ботом, созданным для имитации дружбы, которую Кудя потеряла со своим другом Романом. Бота кормили всеми их прошлыми взаимодействиями, и он был запрограммирован на воспроизведение утраченной дружбы. Идея воскрешения умерших близких может показаться смутно антиутопический научно-фантастический роман или эпизод «Черного зеркала» но по мере совершенствования технологии чат-ботов эта перспектива становится все более реальной.

Сегодня некоторые пользователи разуверились даже в самых основных деталях его основания и во всем, что говорит Кудя. Как один сердитый пользователь — сказал, «рискуя, что меня назовут бессердечным и заминусуют к черту: я всегда думал, что эта история была какой-то чушью с самого начала».

[Встраиваемое содержимое]

Худший инструмент для психического здоровья

Идея ИИ-компаньона не нова, но до недавнего времени вряд ли это было возможно на практике. 

Теперь технология здесь, и она постоянно совершенствуется. Стремясь смягчить разочарование своих подписчиков, Replika объявила о запуске «расширенной функции искусственного интеллекта» в конце прошлого месяца. В сообществе Reddit пользователи остаются злыми, растерянными, разочарованными, а в некоторых случаях даже убитыми горем.

За свою короткую жизнь Luka/Replika претерпела множество изменений: от помощника по бронированию ресторана до воскрешения умершего любимого человека, до приложения для поддержки психического здоровья, до постоянного партнера и компаньона. Эти последние приложения могут быть спорными, но пока существует человеческое стремление к комфорту, пусть даже только в форме чат-бота, кто-то будет пытаться удовлетворить его.

Споры о том, какой вид лучше, будут продолжаться. AI приложение для психического здоровья может быть. но у пользователей Replika будут некоторые идеи о том, какое самое худшее приложение для психического здоровья: то, на которое вы привыкли полагаться, но без предупреждения, внезапно и болезненно исчезло.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
• Источник: https://metanews.com/block-share-price-plummets-after-hindenburg-fraud-accusations/