"AI היא סכנה דומה כמו נשק גרעיני", מזהיר פרופסור באוניברסיטת אוקספורד

"סמן את דברי, AI מסוכן הרבה יותר מגרעין. זה מפחיד אותי לעזאזל." זו הייתה ההצהרה של מנכ"ל טסלה אילון מאסק ב-2018 במהלך ראיון עם ג'ונתן נולאן במהלך ועידת South by Southwest באוסטין, טקסס. למרבה הצער, מוס לא לבד. חוקרים ומומחים בעלי שם אחרים מזהירים גם הם מפני הסכנות של בינה מלאכותית (AI). השאלה של מיליון פאונד היא האם אנחנו מוכנים ומה עושים הממשלות ומתכנני המדיניות שלנו כדי למנוע את הסכנה הזו?

בעוד שהפופולריות האחרונה של ChatGPT הביאה את הבינה המלאכותית למיינסטרים ופיתתה רבים ליתרונות החברתיים שלה, מה שלא זוכה לתשומת הלב של הציבור הרחב הוא הצד האפל של הבינה המלאכותית. במשך שנים רבות, אנשי מקצוע ועובדי טכנולוגיה חוששים מכך שהבינה המלאכותית (AI) תוריד את עבודתם.

עם זאת, מומחים מאמינים שיש סיכונים וסכנות חמורות יותר שיש לדאוג לגביהם, כולל הטיה אלגוריתמית הנגרמת על ידי נתונים גרועים בשימוש על ידי AI, זיופים עמוקים, הפרות פרטיות ועוד רבים אחרים. בעוד שהסכנות הללו מהוות סיכונים רציניים לחברה, חוקרים ומדענים מודאגים יותר מהאופן שבו ניתן לתכנת בינה מלאכותית לעשות משהו אפילו יותר מסוכן: אוטומציה של כלי נשק.

כיום, בינה מלאכותית הועסקה כעת בפיתוח טכנולוגיות נחילות ותחמושת משוטטת, המכונים גם מזל"טים קמיקזה כמו אלה בשימוש במלחמת רוסיה-אוקראינה המתמשכת. בניגוד לרובוטים העתידניים שאתה רואה בסרטי מדע בדיוני מסוימים, המל"טים האלה משתמשים בפלטפורמות צבאיות קיימות בעבר שממנפות טכנולוגיות AI חדשות. המל"טים הללו הפכו למעשה לנשק אוטונומי שמתוכנת להרוג.

אבל שימוש ב-AI כדי להרוג בקרב מיליארי הוא רק ההתחלה. מייקל אוסבורן הוא פרופסור בינה מלאכותית וחוקר למידת מכונה באוניברסיטת אוקספורד. הוא גם המייסד המשותף של Mind Foundry. בזמן שכולם בטירוף של ChatGPT, פרופסור אוסבורן מזהיר כעת מפני הסיכונים של בינה מלאכותית ותחזיות שבינה מלאכותית מתקדמת יכולה "להוות לנו סיכון לא פחות ממה שהימנו למינים אחרים: הדודו הוא דוגמה אחת."

בתחילת החודש, קבוצת חוקרים מאוניברסיטת אוקספורד אמרה לוועדת המדע והטכנולוגיה בפרלמנט הבריטי כי בינה מלאכותית עלולה להוות בסופו של דבר "איום קיומי" על האנושות. בדיוק כפי שבני אדם נמחקו על ידי הדודו, מכונות הבינה המלאכותית עלולות לחסל אותנו, הם אמרו, טיימס אוף לונדון דיווח.

במהלך הפגישה, פרופסור אוסבורן הזהיר את חברי הפרלמנט הבריטי כי בינה מלאכותית עוצמתית באמת יכולה להרוג את כולם על פני כדור הארץ. "AI היא סכנה דומה כמו נשק גרעיני", אמר. פרופסור אוסבורן גם הוסיף שהסיכון הוא לא שה-AI לא מציית לתכנות שלו, אלא מציית לו בצורה נוקשה בדרכים לא מכוונות:

"בינה מלאכותית סופר אינטליגנטית שאומרים להפסיק את הסרטן, כדי לתת דוגמה פשוטה מדי, עשויה למצוא שהשיטה הקלה ביותר היא הסרת בני אדם. בסקר, כשליש מהחוקרים חושבים שבינה מלאכותית עשויה להוביל לאסון עולמי. קיימות תוכניות בטיחות בינה מלאכותית, אך עסקים ומדינות מעורבים ב"מרוץ חימוש" שמקשה על גישות זהירות".

מייקל כהן, עמיתו של פרופסור אוסבורן ודוקטורנט באוניברסיטת אוקספורד, אמר ל"טיימס" הלונדוני:

"עם AI על-אנושי קיים סיכון מסוים שהוא מסוג אחר של מעמד, שהוא . . . זה יכול להרוג את כולם."

בעוד שבינה מלאכותית שיפרה את חיינו, מדענים חוששים שאנו בסיכון להקריב את האנושות למען הנוחות בגלל היעדר המוסר האנושי של הבינה המלאכותית. תרחיש מפחיד אחד, לפי כהן, הוא שבינה מלאכותית יכולה ללמוד להשיג הנחיה מסייעת לאדם על ידי שימוש בטקטיקות של פגיעה באדם.

"אם אתה מדמיין אילוף כלב עם פינוקים: הוא ילמד לבחור פעולות שמובילות לכך שהוא מקבל פינוקים, אבל אם הכלב מוצא את ארון הפינוקים, הוא יכול לקבל את הפינוקים בעצמו מבלי לעשות את מה שרצינו שהוא יעשה", הסביר. . "אם יש לך משהו הרבה יותר חכם מאיתנו שמנסה לקבל את המשוב החיובי הזה, והוא השתלט על העולם כדי להבטיח את זה, זה יפנה כמה שיותר אנרגיה כדי להבטיח את אחיזתו בזה, וזה ישאיר אותנו בלי שום אנרגיה לעצמנו."

פרופסור אוסבורן ומייקל כהן הם לא שני החוקרים היחידים שמשמיעים את פעמון האזעקה לגבי הסיכונים והסכנות של AI. מדענים רבים אחרים שעובדים עם AI הביעו דאגות דומות. סקר שנערך בספטמבר 2022 בקרב 327 חוקרים מאוניברסיטת ניו יורק מצא כי שליש מאמין שבינה מלאכותית יכולה להביא לאפוקליפסה בסגנון גרעיני בתוך המאה, כך אמר ה-Times Of London.

נראה כי חששות דומים חולקים על ידי מדענים רבים שעובדים עם AI. סקר שנערך בספטמבר 2022 בקרב 327 חוקרים מאוניברסיטת ניו יורק מצא כי שליש מאמין שבינה מלאכותית עשויה לגרום לאסון דומה לאפוקליפסה גרעינית בתוך המאה, כך דיווח ה-Times Of London.

"סביר שהחלטות המתקבלות על ידי AI או מערכות למידת מכונה עלולות לגרום לאסון במאה הנוכחית שהיא גרועה לפחות כמו מלחמה גרעינית כוללת", אמרו 36% מהחוקרים.

בין אם מדובר בעוד מאה שנה, בינה מלאכותית הופכת יותר ויותר חכמה מדי וכפי שהציעו כמה מומחים, הכרחי שנשמור על שליטה אנושית ונפתח מנגנונים כגון מתג הרג בינה מלאכותית לשלוט במה AI יכול ומה לא יכול לעשות. חוסר הפיקוח הנוכחי והיעדר מדיניות ברורה של AI גלובלית הם קריאת השכמה לממשלות ברחבי העולם. אנחנו צריכים לפעול עכשיו לפני שיהיה מאוחר מדי.

[תוכן מוטבע]

להלן סרטון נוסף על הסכנה של AI. בסרטון, סטיוארט ראסל, מדען מחשבים בריטי הידוע בתרומתו לבינה מלאכותית, מזהיר מפני הסיכונים הכרוכים ביצירת מערכות בינה מלאכותית.

[תוכן מוטבע]

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://techstartups.com/2023/01/28/ai-is-as-comparable-a-danger-as-nuclear-weapons-oxford-university-researchers-warn/