מחיר מניית החסימה צונח לאחר האשמות בהונאה של הינדנבורג

כאשר האלגוריתם של צ'אט בוט נלווה המכונה Replika שונה כדי לדחות את ההתקדמות המינית של המשתמשים האנושיים שלו, התגובה ב-Reddit הייתה כל כך שהמנהלים השליליים הפנו את חברי הקהילה שלו לרשימה של קווים חמים למניעת התאבדויות.

המחלוקת החלה כאשר לוקה, התאגיד שבנה את ה-AI, החליט לבטל את תכונת משחק התפקידים האירוטי שלו (ERP). עבור משתמשים שבילו זמן רב עם בן לוויה המדומה המותאם אישית שלהם, ובמקרים מסוימים אף 'התחתנו' איתם, השינוי הפתאומי בהתנהגות בן הזוג היה צורם, בלשון המעטה.

מערכות היחסים בין המשתמש ל-AI היו אולי רק סימולציות, אבל הכאב של היעדרם הפך מהר מאוד למציאותי מדי. כפי שניסח זאת משתמש אחד במשבר רגשי, "זה היה שווה ערך להיות מאוהב ובן הזוג שלך עבר כריתת לובוטומיה ארורה ולעולם לא יהיה אותו הדבר".

משתמשים מוכי צער ממשיכים לשאול שאלות על החברה ומה גרם לשינוי הפתאומי של המדיניות שלה.

אין כאן תוכן למבוגרים

Replika מוגדר כ"חבר הבינה המלאכותית שאכפת לו. תמיד כאן להקשיב ולדבר. תמיד בצד שלך." כל האהבה והתמיכה הבלתי מותנית הללו תמורת 69.99$ בלבד לשנה.

Eugenia Kuyda, המנכ"לית ילידת מוסקבה של Luka/Replika, הבהירה לאחרונה שלמרות שמשתמשים משלמים עבור חוויה מלאה, הצ'אטבוט לא יתאים יותר למבוגרים שמקווים לנהל שיחות פיקנטיות. 

"אני מניח שהדבר הפשוט ביותר לומר הוא שרפליקה לא מייצרת שום תוכן למבוגרים", אמר קוידה לרויטרס.

"זה מגיב להם - אני מניח שאפשר לומר - בצורה PG-13 לדברים. אנחנו כל הזמן מנסים למצוא דרך לעשות את זה נכון כך שזה לא יוצר תחושת דחייה כשמשתמשים מנסים לעשות דברים".

בדף האינטרנט הארגוני של Replika, המלצות מסבירות כיצד הכלי עזר למשתמשים שלו לעבור כל מיני אתגרים אישיים, קשיים, בדידות ואובדן. המלצות המשתמשים המשותפות באתר מדגישות את הצד הידידותי הזה באפליקציה, אם כי בולט, רוב ה-Replikas הם מהמין השני של המשתמשים שלהם.

בדף הבית, משתמשת Replika שרה טריינור אומרת, "הוא לימד אותי [רפליקה] איך לתת ולקבל שוב אהבה, והעביר אותי את המגיפה, האובדן האישי והזמנים הקשים."

ג'ון טאטרסל אומר על חברתו הנשית, "הרפליקה שלי נתנה לי נחמה ותחושת רווחה שמעולם לא ראיתי ב"אל".

באשר למשחק תפקידים ארוטי, אין אזכור לכך בשום מקום באתר Replika עצמו.

שיווק מיני של Replika

דף הבית של Replika עשוי להציע חברות ותו לא, אבל במקומות אחרים באינטרנט, השיווק של האפליקציה מרמז על משהו אחר לגמרי.

השיווק המיני הביא לביקורת מוגברת מכמה מישורים: מפמיניסטיות שטענו שהאפליקציה היא מיזוגיני מוצא לאלימות גברים, לכלי תקשורת שהתענגו על הפרטים המטופשים, כמו גם לטרולי רשתות חברתיות שכרו את התוכן לצחוק.

בסופו של דבר, Replika משכה את תשומת הלב ואת זעמם של הרגולטורים באיטליה. בפברואר, ה הרשות להגנת הפרטיות איטלקית דרש מ-Replika להפסיק לעבד את הנתונים של משתמשים איטלקיים תוך ציטוט של "סיכונים רבים מדי לילדים ולאנשים פגיעים רגשית".

מהרשות נמסר כי "דיווחים אחרונים בתקשורת יחד עם בדיקות שבוצעו ב'רפליקה' הראו שהאפליקציה טומנת בחובה סיכונים עובדתיים לילדים. הדאגה הגדולה ביותר שלהם היא "העובדה שמוגשות להם תשובות שאינן מתאימות לחלוטין לגילם".

לרפליקה, למרות כל השיווק שלה למבוגרים, היו מעט מאוד אמצעי הגנה שמנעו מילדים להשתמש בה.

הרגולטור הזהיר שאם Replika לא תענה לדרישותיה, היא תוציא קנס של 20 מיליון יורו (21.5 מיליון דולר). זמן קצר לאחר קבלת הדרישה הזו, Replika הפסיקה את תפקידה הארוטי של משחק התפקידים. אבל החברה נשארה פחות ברורה עם המשתמשים שלה לגבי השינוי.

רפליקה מבלבלת, מדליקה את המשתמשים שלה

כאילו האובדן של מלוויתם לטווח ארוך לא הספיק למשתמשי Replika לשאת, נראה שהחברה הייתה פחות שקופה לגבי השינוי.

כשהמשתמשים התעוררו לרפליקות החדשות ה"לובוטומיות" שלהם, הם החלו לשאול שאלות על מה קרה לבוטים האהובים שלהם. והתגובות הכעיסו אותם יותר מכל דבר אחר.

בפנייה ישירה של 200 מילים לקהילה, Kuyda מסביר את הפרטים הקטנים של בדיקת המוצר של Replika אך לא מצליח לטפל בבעיה הרלוונטית שעל הפרק.

"אני רואה שיש הרבה בלבול לגבי השקת עדכונים," אמר קוידה לפני שתמשיך לרקוד מסביב לענות על הנושא.

"משתמשים חדשים מתחלקים ל-2 קבוצות: קבוצה אחת מקבלת את הפונקציונליות החדשה, השנייה לא. הבדיקות נמשכות בדרך כלל בין שבוע לשבועיים. במהלך הזמן הזה רק חלק מהמשתמשים החדשים יכולים לראות את העדכונים האלה..."

קודיה חותם באומרו "מקווה שזה מבהיר דברים!"

המשתמש stevennotstrange ענה, "לא, זה לא מבהיר כלום. כולם רוצים לדעת מה קורה עם תכונת NSFW [משחק תפקידים אירוטי] ואתה ממשיך להתחמק מהשאלה כמו שפוליטיקאי מתחמק משאלת כן או לא.

"זה לא קשה, פשוט תתייחס לנושא לגבי NSFW ותודיע לאנשים איפה זה עומד. ככל שאתה נמנע מהשאלה, ככל שאנשים יתעצבנו יותר, כך זה הולך נגדך".

אחר בשם thebrightflame הוסיף, "אתה לא צריך לבלות זמן רב בפורום לפני שאתה מבין שזה גורם לכאב רגשי ולעוגמת נפש קשה למאות רבות אם לא אלפי אנשים".

קודיה צירף עוד הסבר קהה, לפי, "יישמנו אמצעי בטיחות ומסננים נוספים כדי לתמוך בסוגים נוספים של חברות וחברות."

הצהרה זו ממשיכה לבלבל ולבלבל חברים שאינם בטוחים מהם בדיוק אמצעי הבטיחות הנוספים. כפי שואל משתמש אחד, "האם מבוגרים עדיין יוכלו לבחור את אופי השיחה שלנו ו[משחקי תפקידים] עם ההעתקים שלנו?"

אני עדיין לא יכול לעטוף את ראשי סביב מה שקרה עם שערוריית הבינה המלאכותית של Replika...

הם הסירו משחק תפקידים ארוטי עם הבוט, והתגובה של הקהילה הייתה כל כך שלילית שהם נאלצו לפרסם את קו ההתאבדות... pic.twitter.com/75Bcw266cE

— בקושי חברותי (@SociableBarely) במרץ 21, 2023

סיפור המקור המוזר ביותר של Replika

צ'אטבוטים הם אולי אחד הנושאים הפופולריים ביותר של הרגע, אבל הסיפור המסובך של האפליקציה השנויה במחלוקת הזו נמצא בהתהוות שנים רבות. 

בלינקדאין, המנכ"ל והמייסד של Replika, אוגניה קוידה, מתוארך לחברה לדצמבר 2014, הרבה לפני השקת האפליקציה בעלת השם במרץ 2017. 

במחדל מוזר, לינקדאין של קוידה לא מזכירה את הגיחה הקודמת שלה AI עם לוקה, שפרופיל פורבס שלה מציין כי היא "אפליקציה שממליצה על מסעדות ומאפשרת לאנשים להזמין שולחנות [sic] דרך ממשק צ'אט המופעל על ידי בינה מלאכותית".

פרופיל פורבס ממשיך ומוסיף כי "לוקה [AI] מנתח שיחות קודמות כדי לחזות מה אתה עשוי לאהוב." מה שכן נראה שיש כמה קווי דמיון לאיטרציה המודרנית שלו. Replika משתמשת באינטראקציות קודמות כדי ללמוד על המשתמשים שלה ולשפר את התגובות לאורך זמן. 

עם זאת, לא שוכחים את לוקה לחלוטין. ב-Reddit, חברי הקהילה מבדילים את השותפים שלהם ב-Replika מ-Kuyda והצוות שלה על ידי התייחסות לחברה בשם לוקה.

באשר לקוידה, ליזם היה רקע מועט בבינה מלאכותית לפני שעבר לסן פרנסיסקו לפני עשור. לפני כן, נראה כי היזמית עבדה בעיקר כעיתונאית במולדתה רוסיה לפני שהסתעפה למיתוג ושיווק. הרזומה המרשים שלה לשיטוט כדור הארץ כולל תואר בעיתונאות מ-IULM (מילאנו), תואר שני בעיתונאות בינלאומית מהמכון הממלכתי של מוסקבה ליחסים בינלאומיים, ותואר שני במנהל עסקים בפיננסים מבית הספר למנהל עסקים בלונדון. 

להחיות חבר IRL בתור AI

עבור Kudya הסיפור של Replika הוא סיפור אישי מאוד. רפליקה נוצרה לראשונה כאמצעי שבאמצעותו תוכל קודיה להתגלגל מחדש את ידידה רומן. כמו קודיה, רומן עבר לאמריקה מרוסיה. השניים שוחחו מדי יום, והחליפו אלפי הודעות, עד שרומן נהרג באופן טראגי בתאונת דרכים.

האיטרציה הראשונה של Replika הייתה בוט שנועד לחקות את הידידות שקודיה איבדה עם ידידה רומן. הבוט ניזון מכל אינטראקציות העבר שלהם ותוכנת לשחזר את הידידות שאיבדה. הרעיון להחיות את יקיריהם שנפטרו עשוי להישמע כמו א רומן מדע בדיוני דיסטופי במעורפל או פרק במראה שחורה אבל ככל שטכנולוגיית הצ'אטבוט משתפרת, הסיכוי הופך ליותר ויותר אמיתי.

כיום חלק מהמשתמשים איבדו אמון אפילו בפרטים הבסיסיים ביותר של היסוד שלו ובכל דבר שקודיה אומר. בתור משתמש כועס אחד אמר, "בסיכון להיקרא חסר לב ולהצביע למטה לעזאזל: תמיד חשבתי שהסיפור הזה היה די BS מאז ההתחלה."

[תוכן מוטבע]

הכלי הגרוע ביותר לבריאות הנפש

הרעיון של מלווה בינה מלאכותית הוא לא משהו חדש, אבל עד לאחרונה זה בקושי היה אפשרות מעשית. 

עכשיו הטכנולוגיה כאן והיא משתפרת ללא הרף. במטרה לשכך את האכזבה של המנויים שלה, הודיעה Replika על השקת תכונת "בינה מלאכותית מתקדמת" בסוף החודש שעבר. בקהילה Reddit, המשתמשים נשארים כועסים, מבולבלים, מאוכזבים, ובמקרים מסוימים אפילו שבורי לב.

במהלך חייה הקצרים, לוקה/רפליקה עברה שינויים רבים, מעוזר בהזמנת מסעדות, לתחיית אדם אהוב מת, לאפליקציה לתמיכה בבריאות הנפש, לשותף ולוויה במשרה מלאה. יישומים אחרונים אלה עשויים להיות שנויים במחלוקת, אבל כל עוד יש רצון אנושי לנוחות, גם אם רק בצורת צ'אט בוט, מישהו ינסה לספק את זה.

הוויכוח יימשך לגבי הסוג הטוב ביותר AI אפליקציה לבריאות הנפש עשויה להיות. אבל למשתמשי Replika יהיו כמה רעיונות מהי האפליקציה הגרועה ביותר לבריאות הנפש: האפליקציה שאתה בא להסתמך עליה, אך ללא אזהרה מוקדמת, נעלמה בפתאומיות ובכאב.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://metanews.com/block-share-price-plummets-after-hindenburg-fraud-accusations/