מחבר: ויטליק בוטרין דרך ה בלוג ויטליק בוטרין
תודה מיוחדת לצוותי Worldcoin ו-Modulus Labs, Xinyuan Sun, Martin Koeppelmann ואיליה Polosukhin על המשוב והדיון.
אנשים רבים במהלך השנים שאלו אותי שאלה דומה: מה הם בצמתים בין קריפטו ל-AI שלדעתי הוא הפורה ביותר? זו שאלה הגיונית: קריפטו ובינה מלאכותית הם שני המגמות הטכנולוגיות העמוקות (תוכנה) העיקריות של העשור האחרון, וזה פשוט מרגיש שיש צריך להיות סוג של קשר בין השניים. קל להמציא סינרגיות ברמת אווירה שטחית: ביזור קריפטו יכול לאזן את ריכוזיות הבינה המלאכותית, בינה מלאכותית אטומה והקריפטו מביאה לשקיפות, בינה מלאכותית זקוקה לנתונים ו-blockchains טובים לאחסון ומעקב אחר נתונים. אבל לאורך השנים, כשאנשים היו מבקשים ממני לחפור לעומק ולדבר על יישומים ספציפיים, התגובה שלי הייתה מאכזבת: "כן יש כמה דברים אבל לא כל כך הרבה".
בשלוש השנים האחרונות, עם עלייתה של בינה מלאכותית הרבה יותר חזקה בדמות מודרנית לימודי תואר שני, ועלייתו של קריפטו חזק הרבה יותר בצורה של לא רק פתרונות קנה מידה בלוקצ'יין אלא גם ZKPs, FHE, (דו-מפלגה ו-N-מפלגה) MPC, אני מתחיל לראות את השינוי הזה. אכן יש כמה יישומים מבטיחים של AI בתוך מערכות אקולוגיות של בלוקצ'יין, או AI יחד עם קריפטוגרפיה, אם כי חשוב להקפיד על אופן יישום הבינה המלאכותית. אתגר מסוים הוא: בהצפנה, קוד פתוח הוא הדרך היחידה להפוך משהו לאבטח באמת, אבל ב-AI, מודל (או אפילו נתוני ההדרכה שלו) פתוחים עולה מאוד הפגיעות שלו ל למידת מכונה יריבה התקפות. פוסט זה יעבור סיווג של דרכים שונות שבהן crypto + AI יכולים להצטלב, ואת הסיכויים והאתגרים של כל קטגוריה.
סיכום ברמה גבוהה של צמתים קריפטו+AI מא פוסט בבלוג uETH. אבל מה צריך כדי לממש כל אחת מהסינרגיות הללו ביישום קונקרטי?
ארבע הקטגוריות העיקריות
AI הוא מושג רחב מאוד: אתה יכול לחשוב על "AI" בתור קבוצת האלגוריתמים שאתה יוצר לא על ידי ציון מפורש, אלא על ידי ערבוב מרק חישובי גדול והפעלת לחץ אופטימיזציה כלשהו שדוחף את המרק לעבר ייצור אלגוריתמים עם המאפיינים שאתה רוצה. תיאור זה בהחלט לא צריך להתייחס בביטול: זה כולל מה היא תהליך זֶה נוצר אנחנו בני האדם מלכתחילה! אבל זה כן אומר שלאלגוריתמי AI יש כמה מאפיינים משותפים: היכולת שלהם לעשות דברים שהם חזקים במיוחד, יחד עם מגבלות ביכולת שלנו לדעת או להבין מה קורה מתחת למכסה המנוע.
ישנן דרכים רבות לסווג בינה מלאכותית; למטרות הפוסט הזה, שמדבר על אינטראקציות בין AI ובלוקצ'יין (שתוארו כפלטפורמה עבור יצירת "משחקים"), אני אסווג אותו באופן הבא:
- AI כשחקן במשחק [הכדאיות הגבוהה ביותר]: AIs משתתפות במנגנונים שבהם המקור האולטימטיבי לתמריצים מגיע מפרוטוקול עם תשומות אנושיות.
- AI כממשק למשחק [פוטנציאל גבוה, אבל עם סיכונים]: בינה מלאכותית עוזרת למשתמשים להבין את עולם הקריפטו שסביבם, ולהבטיח שההתנהגות שלהם (כלומר הודעות חתומות ועסקאות) תואמת את כוונותיהם ושהם לא מרמים אותם או מרימים אותם.
- AI ככללי המשחק [צעד בזהירות רבה]: blockchains, DAOs ומנגנונים דומים המתקשרים ישירות ל-AIs. תחשוב למשל. "שופטי AI"
- AI כמטרת המשחק [לטווח ארוך אך מסקרן]: תכנון בלוקצ'יין, DAO ומנגנונים דומים במטרה לבנות ולתחזק AI שיכול לשמש למטרות אחרות, תוך שימוש בסיביות הקריפטו כדי לתמרץ טוב יותר אימון או כדי למנוע מה-AI לדלוף נתונים פרטיים או לעשות שימוש לרעה.
הבה נעבור על אלה אחד אחד.
AI כשחקן במשחק
זו למעשה קטגוריה שקיימת כבר כמעט עשור, לפחות מאז בורסות מבוזרות בשרשרת (DEXes) התחילו לראות שימוש משמעותי. בכל פעם שיש החלפה, יש הזדמנות להרוויח כסף באמצעות ארביטראז', ובוטים יכולים לעשות ארביטראז' הרבה יותר טוב ממה שבני אדם יכולים. מקרה השימוש הזה קיים כבר זמן רב, אפילו עם AI פשוטים הרבה יותר ממה שיש לנו היום, אבל בסופו של דבר מדובר בצומת AI + קריפטו אמיתית מאוד. לאחרונה ראינו בוטים של MEV ארביטראז' לעתים קרובות מנצלים אחד את השני. בכל פעם שיש לך אפליקציית בלוקצ'יין הכוללת מכירות פומביות או מסחר, יהיו לך בוטים של ארביטראז'.
אבל בוטים של AI ארביטראז' הם רק הדוגמה הראשונה לקטגוריה הרבה יותר גדולה, שאני מצפה שתתחיל בקרוב לכלול יישומים רבים אחרים. הכירו את AIOmen, א הדגמה של שוק חיזוי שבו אנשי AI הם שחקנים:
תגובה אחת לכך היא להצביע על שיפורים מתמשכים ב-UX ב שוק פולימרי או שווקי חיזוי חדשים אחרים, ומקווים שהם יצליחו היכן שהאיטרציות הקודמות נכשלו. אחרי הכל, הסיפור אומר, אנשים מוכנים להמר עשרות מיליארדים על ספורט, אז למה שאנשים לא יזרקו מספיק כסף בהימורים על בחירות בארה"ב או LK99 שמתחיל להיות הגיוני שהשחקנים הרציניים יתחילו להיכנס? אבל הטיעון הזה חייב להתמודד עם העובדה, ובכן, איטרציות קודמות יש לא הצליחו להגיע לרמה זו של קנה מידה (לפחות בהשוואה לחלומות המצדדים שלהם), ולכן נראה שאתה צריך משהו חדש כדי לגרום לשוקי החיזוי להצליח. ולכן תגובה אחרת היא להצביע על תכונה ספציפית אחת של מערכות אקולוגיות של שוק חיזוי שאנו יכולים לצפות לראות בשנות ה-2020, שלא ראינו בשנות ה-2010: האפשרות של השתתפות בכל מקום של AIs.
בינה מלאכותית מוכנה לעבוד בפחות מ-$1 לשעה, ויש להם ידע באנציקלופדיה – ואם זה לא מספיק, הם אפילו יכולים להשתלב עם יכולת חיפוש באינטרנט בזמן אמת. אם אתה עושה שוק, ותשים סבסוד נזילות של $50, לבני אדם לא יהיה אכפת מספיק כדי להציע הצעות, אבל אלפי בינה מלאכותית יתנפלו בקלות על כל השאלה ויעשו את הניחוש הטוב ביותר שהם יכולים. התמריץ לעשות עבודה טובה בכל שאלה אחת עשוי להיות זעיר, אבל התמריץ ליצור AI שעושה תחזיות טובות בכללי עשוי להיות במיליונים. שימו לב שפוטנציאל, אתה אפילו לא צריך את בני האדם כדי לשפוט את רוב השאלות: אתה יכול להשתמש במערכת מחלוקת מרובת סיבובים דומה ל לְבַשֵׂר או Kleros, שבו AIs יהיו גם אלה שישתתפו בסיבובים מוקדמים יותר. בני אדם יצטרכו להגיב רק באותם מקרים מעטים שבהם התרחשו סדרה של הסלמות וסכומי כסף גדולים התחייבו על ידי שני הצדדים.
זהו פרימיטיבי רב עוצמה, מכיוון שברגע שניתן לגרום ל"שוק חיזוי" לעבוד בקנה מידה מיקרוסקופי כזה, אתה יכול לעשות שימוש חוזר בפרימיטיבי של "שוק החיזוי" לסוגים רבים אחרים של שאלות:
- האם פוסט זה במדיה החברתית מקובל במסגרת [תנאי השימוש]?
- מה יקרה למחיר המניה X (למשל ראה Numerai)
- האם החשבון הזה שמעביר לי הודעות כרגע הוא אילון מאסק?
- האם הגשת עבודה זו בשוק משימות מקוון מקובלת?
- האם ה-DAPP בכתובת https://examplefinance.network היא הונאה?
- Is
0x1b54....98c3
בעצם הכתובת של האסימון "Casinu Inu" ERC20?
אולי תשים לב שהרבה מהרעיונות האלה הולכים בכיוון של מה שקראתי "הגנת מידע" ב . בהגדרה רחבה, השאלה היא: איך אנחנו עוזרים למשתמשים להבדיל בין מידע אמיתי ושקרי ולזהות הונאות, מבלי להעצים סמכות מרכזית להחליט נכון ולא נכון מי עלול אז לנצל את העמדה הזו לרעה? ברמת המיקרו, התשובה יכולה להיות "AI". אבל ברמת המאקרו, השאלה היא: מי בונה את ה-AI? AI הוא השתקפות של התהליך שיצר אותו, ולכן לא יכול להימנע מהטיות. לפיכך, יש צורך במשחק ברמה גבוהה יותר אשר קובע את מידת ההצלחה של ה-AIs השונים, שבו AIs יכולים להשתתף כשחקנים במשחק.
השימוש הזה בבינה מלאכותית, שבו בינה מלאכותית משתתפים במנגנון שבו הם מקבלים בסופו של דבר תגמול או ענישה (הסתברותית) על ידי מנגנון על השרשרת שאוסף תשומות מבני אדם (קוראים לזה מבוסס שוק מבוזר RLHF?), זה משהו שלדעתי באמת שווה בדיקה. עכשיו זה הזמן המתאים לבחון מקרי שימוש כמו זה יותר, כי קנה המידה של בלוקצ'יין סוף סוף מצליח, מה שהופך "מיקרו-" לכל דבר לבסוף בר-קיימא בשרשרת, כאשר לעתים קרובות לא היה קודם לכן.
קטגוריה קשורה של יישומים הולכת לכיוון של סוכנים מאוד אוטונומיים באמצעות blockchains כדי לשתף פעולה טוב יותר, בין אם באמצעות תשלומים ובין אם באמצעות חוזים חכמים כדי לקבל התחייבויות אמינות.
AI כממשק למשחק
רעיון אחד שהעליתי אצלי כתבים על הוא הרעיון שיש הזדמנות בשוק לכתוב תוכנה הפונה למשתמש שתגן על האינטרסים של המשתמשים על ידי פרשנות וזיהוי סכנות בעולם המקוון שהמשתמש מנווט בו. דוגמה אחת שכבר קיימת לכך היא תכונת זיהוי ההונאה של Metamask:
פוטנציאל, כלים מסוג זה יכולים להיות טעונים במיוחד עם AI. בינה מלאכותית יכולה לתת הסבר ידידותי לאדם עשיר בהרבה באיזה סוג דאפ אתה משתתף, ההשלכות של פעולות מסובכות יותר שאתה חותם עליהן, בין אם אסימון מסוים הוא אמיתי או לא (למשל. BITCOIN
זה לא רק מחרוזת של תווים, זה השם של מטבע קריפטוגרפי אמיתי, שאינו אסימון ERC20 ומחירו גבוה מ-$0.045, ו-LLM מודרני יודע זאת), וכן הלאה. יש פרויקטים שמתחילים לצאת עד הסוף בכיוון הזה (למשל ארנק LangChain, המשתמש ב-AI בתור א יְסוֹדִי מִמְשָׁק). דעתי האישית היא שממשקי AI טהורים הם כנראה מסוכנים מדי כרגע מכיוון שהם מגבירים את הסיכון אַחֵר סוגים של שגיאות, אבל בינה מלאכותית המשלימה ממשק קונבנציונלי יותר הופכת לבת קיימא מאוד.
יש סיכון אחד שראוי להזכיר. אני אכנס לזה יותר בסעיף על "AI ככללי המשחק" להלן, אבל הבעיה הכללית היא למידת מכונה יריבית: אם למשתמש יש גישה לעוזר בינה מלאכותית בתוך ארנק קוד פתוח, לרעים תהיה גישה גם לעוזר בינה מלאכותית, וכך תהיה להם הזדמנות בלתי מוגבלת לייעל את ההונאות שלהם כדי לא להפעיל ההגנות של הארנק הזה. בכל מכשירי הבינה המלאכותיים המודרניים יש באגים איפשהו, וזה לא קשה מדי עבור תהליך אימון, אפילו אחד עם רק גישה מוגבלת לדגם, כדי למצוא אותם.
זה המקום שבו "בינה מלאכותית שמשתתפת במיקרו-שווקים על השרשרת" עובדת טוב יותר: כל AI אינדיבידואלי חשוף לאותם סיכונים, אבל אתה יוצר בכוונה מערכת אקולוגית פתוחה של עשרות אנשים החוזרים ומשפרים אותם כל הזמן על בסיס מתמשך. יתר על כן, כל AI אינדיבידואלי סגור: אבטחת המערכת נובעת מהפתיחות של כללי ה- מִשְׂחָק, לא התפקוד הפנימי של כל אחד מהם שחקן.
סיכום: בינה מלאכותית יכולה לעזור למשתמשים להבין מה קורה בשפה פשוטה, היא יכולה לשמש כמורה בזמן אמת, היא יכולה להגן על המשתמשים מפני טעויות, אך הוזהר כאשר מנסים להשתמש בו ישירות נגד מודיעים זדוניים ורמאים.
AI ככללי המשחק
עכשיו, הגענו לאפליקציה שהרבה אנשים מתלהבים ממנה, אבל שלדעתי היא המסוכנת ביותר, ושבה אנחנו צריכים לנהוג בזהירות רבה ביותר: מה שאני מכנה AI הוא חלק מכללי המשחק. זה קשור להתרגשות בקרב האליטות הפוליטיות המרכזיות לגבי "שופטי AI" (למשל ראה את המאמר הזה באתר האינטרנט של "פסגת הממשלה העולמית"), ויש אנלוגים לרצונות הללו ביישומי בלוקצ'יין. אם חוזה חכם מבוסס בלוקצ'יין או DAO צריכים לקבל החלטה סובייקטיבית (למשל, האם מוצר עבודה מסוים מקובל בחוזה עבודה לשכירה? מהי הפרשנות הנכונה של חוקה בשפה טבעית כמו האופטימיזם חוק השרשראות?), האם תוכל להפוך AI פשוט להיות חלק מהחוזה או DAO כדי לסייע באכיפת הכללים האלה?
זה איפה למידת מכונה יריבה הולך להיות אתגר קשה ביותר. הטיעון הבסיסי של שני משפטים מדוע הוא כדלקמן:
אם מודל בינה מלאכותית שממלא תפקיד מפתח במנגנון נסגר, לא ניתן לאמת את פעולתו הפנימית, ולכן הוא לא טוב יותר מאפליקציה מרוכזת. אם מודל הבינה המלאכותית פתוח, אז תוקף יכול להוריד ולדמות אותו באופן מקומי, ולתכנן התקפות אופטימליות מאוד כדי להערים על המודל, שאותן הוא יוכל להפעיל מחדש ברשת החיה.
עכשיו, קוראים תכופים של הבלוג הזה (או תושבי קריפטוברס) עשויים להקדים אותי כבר, וחושבים: אבל רגע! יש לנו הוכחות אפס ידע מהודרות וצורות קריפטוגרפיה מגניבות אחרות. אין ספק שאנחנו יכולים לעשות קצת קריפטו-קסם ולהסתיר את פעולתו הפנימית של המודל כך שתוקפים לא יוכלו לייעל את ההתקפות, אבל באותו הזמן להוכיח שהמודל מבוצע כהלכה, והוא נבנה באמצעות תהליך אימון סביר על סט סביר של נתונים בסיסיים!
בדרך כלל, זהו בדיוק סוג החשיבה שאני דוגל בו הן בבלוג הזה והן בכתבים האחרים שלי. אבל במקרה של חישוב הקשור ל-AI, ישנן שתי התנגדויות מרכזיות:
- תקורה קריפטוגרפית: הרבה פחות יעיל לעשות משהו בתוך SNARK (או MPC או...) מאשר לעשות את זה "ברור". בהתחשב בכך שבינה מלאכותית היא מאוד אינטנסיבית מבחינה חישובית, האם ביצוע AI בתוך קופסאות שחורות קריפטוגרפיות בכלל כדאי מבחינה חישובית?
- התקפות למידת מכונה יריבות בקופסה שחורה: יש דרכים לייעל התקפות נגד דגמי AI גם בלי לדעת הרבה על פעולתו הפנימית של המודל. ואם אתה מסתיר יותר מדי, אתה מסתכן בכך שיהיה קל מדי למי שבוחר בנתוני ההדרכה להשחית את המודל רעלת התקפות.
שני אלה הם חורי ארנב מסובכים, אז הבה ניכנס לכל אחד מהם בתורו.
תקורה קריפטוגרפית
לגאדג'טים קריפטוגרפיים, במיוחד אלה לשימוש כללי כמו ZK-SNARKs ו-MPC, יש תקורה גבוהה. לחסום Ethereum לוקח ללקוח כמה מאות אלפיות שניות לאמת ישירות, אבל יצירת ZK-SNARK כדי להוכיח את נכונותו של בלוק כזה יכולה לקחת שעות. התקורה הטיפוסית של גאדג'טים קריפטוגרפיים אחרים, כמו MPC, יכולה להיות אפילו גרועה יותר. חישוב AI כבר יקר: ה-LLMs החזקים ביותר יכולים להוציא מילים בודדות רק קצת יותר מהר ממה שבני אדם יכולים לקרוא אותן, שלא לדבר על העלויות החישוביות של מיליוני דולרים. הַדְרָכָה הדוגמנים. ההבדל באיכות בין דגמים מהשורה הראשונה לדגמים שמנסים לחסוך הרבה יותר עלות הכשרה or ספירת פרמטרים זה גדול. במבט ראשון, זו סיבה טובה מאוד לחשוד בכל הפרויקט של ניסיון להוסיף ערבויות לבינה מלאכותית על ידי עטיפה בהצפנה.
אבל למרבה המזל, AI הוא א סוג מאוד ספציפי של חישוב, מה שהופך אותו לנגיש לכל מיני אופטימיזציות שסוגי חישוב "לא מובנים" יותר כמו ZK-EVMs אינם יכולים להרוויח מהם. הבה נבחן את המבנה הבסיסי של מודל AI:
y = max(x, 0)
). באופן אסימפטוטי, הכפלת המטריצה תופסת את רוב העבודה: הכפלת שניים N*N
מטריצות לוקח �(�2.8) זמן, בעוד שמספר הפעולות הלא ליניאריות קטן בהרבה. זה ממש נוח לקריפטוגרפיה, כי צורות רבות של קריפטוגרפיה יכולות לבצע פעולות ליניאריות (שהכפלות מטריצות הן, לפחות אם מצפינים את המודל אך לא את הקלטים אליו) כמעט "בחינם"..
אם אתה קריפטוגרף, בטח כבר שמעתם על תופעה דומה בהקשר של הצפנה הומומורפית: ביצוע נוסף על טקסטים מוצפנים זה ממש קל, אבל הכפלות הם קשים להפליא ולא מצאנו שום דרך לעשות את זה עם עומק בלתי מוגבל עד 2009.
עבור ZK-SNARKs, המקבילה היא פרוטוקולים כמו זה מ-2013, שמראים א פחות מ-4x תקורה על הוכחת כפל מטריצות. למרבה הצער, התקורה בשכבות הלא ליניאריות עדיין בסופו של דבר משמעותית, והיישומים הטובים ביותר בפועל מציגים תקורה של בערך פי 200. אבל יש תקווה שניתן להפחית זאת מאוד באמצעות מחקר נוסף; לִרְאוֹת המצגת הזו מאת ריאן קאו לגישה עדכנית המבוססת על GKR, ושלי הסבר פשוט כיצד פועל המרכיב העיקרי של GKR.
אבל עבור יישומים רבים, אנחנו לא רק רוצים להוכיח שפלט בינה מלאכותית מחושב כהלכה, אנחנו גם רוצים להסתיר את הדגם. ישנן גישות תמימות לכך: אתה יכול לפצל את המודל כך שמערכת שונה של שרתים מאחסנת כל שכבה באופן מיותר, ולקוות שחלק מהשרתים שדולפים חלק מהשכבות לא ידלפו יותר מדי נתונים. אבל יש גם צורות יעילות באופן מפתיע של חישוב רב-צדדי מיוחד.
בשני המקרים, מוסר ההשכל של הסיפור זהה: החלק הגדול ביותר של חישוב בינה מלאכותית הוא כפל מטריצות, שעבורן ניתן לבצע יעיל מאוד ZK-SNARKs או MPCs (או אפילו FHE), ולכן התקורה הכוללת של הכנסת AI בתוך קופסאות הצפנה נמוכה באופן מפתיע. באופן כללי, השכבות הלא ליניאריות הן צוואר הבקבוק הגדול ביותר למרות גודלן הקטן יותר; אולי טכניקות חדשות יותר כמו טיעוני חיפוש יכול לעזור.
לימוד מכונה יריב בקופסה שחורה
כעת, בוא נגיע לבעיה הגדולה האחרת: סוגי ההתקפות שאתה יכול לעשות אפילו התוכן של המודל נשמר פרטי ויש לך רק "גישת API" למודל. מצטט את א נייר מ 2016:
מודלים רבים של למידת מכונה חשופים לדוגמאות יריבות: תשומות שיוצרו במיוחד כדי לגרום למודל למידת מכונה לייצר פלט שגוי. דוגמאות מתנגדות המשפיעות על מודל אחד משפיעות לרוב על מודל אחר, גם אם לשני המודלים יש ארכיטקטורות שונות או שהוכשרו על ערכות אימונים שונות, כל עוד שני הדגמים הוכשרו לבצע את אותה משימה. לכן, תוקף עשוי לאמן מודל חלופי משלו, ליצור דוגמאות יריבות נגד המחליף ולהעביר אותן למודל קורבן, עם מעט מאוד מידע על הקורבן.
פוטנציאלי, אתה יכול אפילו ליצור התקפות בידיעה רק נתוני האימון, גם אם יש לך גישה מוגבלת מאוד או ללא גישה לדגם שאתה מנסה לתקוף. נכון לשנת 2023, התקפות מסוג זה ממשיכות להוות בעיה גדולה.
כדי לצמצם ביעילות סוגים אלה של התקפות קופסה שחורה, עלינו לעשות שני דברים:
- ממש להגביל מי או מה יכול לשאול את המודל וכמה. קופסאות שחורות עם גישה בלתי מוגבלת ל-API אינן מאובטחות; עשויות להיות קופסאות שחורות עם גישת API מוגבלת מאוד.
- הסתר את נתוני האימון, תוך שמירה על הביטחון שהתהליך המשמש ליצירת נתוני ההדרכה אינו פגום.
הפרויקט שעשה הכי הרבה על הראשון הוא אולי Worldcoin, שאני מנתח גרסה קודמת שלו (בין שאר הפרוטוקולים) בהרחבה כאן. Worldcoin משתמש בהרחבה במודלים של AI ברמת הפרוטוקול, כדי (i) להמיר סריקות קשתית ל"קודי איריס" קצרים שקל להשוות לדמיון, ו-(ii) לוודא שהדבר שהוא סורק הוא למעשה בן אדם. ההגנה העיקרית עליה מסתמך Worldcoin היא העובדה זה לא נותן לאף אחד פשוט להתקשר למודל הבינה המלאכותית: אלא, הוא משתמש בחומרה מהימנה כדי להבטיח שהדגם יקבל רק קלט בחתימה דיגיטלית על ידי המצלמה של הכדור.
לא מובטח שגישה זו תעבוד: מסתבר שאתה יכול לבצע התקפות יריבות נגד AI ביומטרי שמגיעות בצורה של טלאים פיזיים או תכשיטים שאתה יכול לשים על הפנים שלך:
אבל התקווה היא שאם אתה לשלב את כל ההגנות יחד, מסתיר את מודל הבינה המלאכותית עצמו, מגביל מאוד את מספר השאילתות, ומחייב כל שאילתה להיות מאומתת איכשהו, אתה יכול להתקפות יריבות קשות מספיק כדי שהמערכת תוכל להיות מאובטחת.
וזה מביא אותנו לחלק השני: איך נוכל להסתיר את נתוני האימונים? זה איפה "DAOs לשלוט באופן דמוקרטי ב-AI" אולי באמת הגיוני: אנו יכולים ליצור DAO על השרשרת השולטת בתהליך של מי רשאי להגיש נתוני אימון (ואילו אישורים נדרשים על הנתונים עצמם), מי רשאי לבצע שאילתות, וכמה, ולהשתמש בטכניקות הצפנה כמו MPC להצפין את כל הצינור של יצירה והרצה של ה-AI מקלט ההדרכה של כל משתמש בודד ועד לפלט הסופי של כל שאילתה. ה-DAO הזה יכול לספק בו זמנית את המטרה הפופולרית ביותר של פיצוי לאנשים על הגשת נתונים.
- תקורה קריפטוגרפית עדיין עלולה להתברר גבוה מדי כדי שסוג זה של ארכיטקטורת קופסה שחורה לחלוטין תהיה תחרותית עם גישות "סמוך עלי" מסורתיות.
- זה יכול להתברר אין דרך טובה להפוך את תהליך הגשת נתוני ההדרכה למבוזר ו מוּגָן נגד התקפות הרעלה.
- גאדג'טים של חישוב מרובי צד עלולים להישבר הבטחות הבטיחות או הפרטיות שלהם בשל המשתתפים משתפים פעולה: אחרי הכל, זה קרה עם גשרים צולבים של מטבעות קריפטוגרפיים שוב ו שוב.
אחת הסיבות שבגללה לא התחלתי את הקטע הזה עם תוויות אזהרה אדומות נוספות שאומרות "אל תעשו שופטי בינה מלאכותית, זה דיסטופי", היא שהחברה שלנו כבר תלויה מאוד בשופטי בינה מלאכותית מרוכזת חסרת דין וחשבון: האלגוריתמים שקובעים אילו סוגים של פוסטים ודעות פוליטיות זוכים לחיזוק וביטול, או אפילו מצונזר, ברשתות החברתיות. אני כן חושב שהרחבת המגמה הזו נוסף בשלב הזה זה רעיון די גרוע, אבל אני לא חושב שיש סיכוי גדול לזה קהילת הבלוקצ'יין מתנסה יותר ב-AI יהיה הדבר שתורם להחמרת המצב.
למעשה, ישנן כמה דרכים די בסיסיות בעלות סיכון נמוך שבהן טכנולוגיית קריפטו יכולה להפוך אפילו את המערכות הריכוזיות הקיימות הללו טובות יותר שאני די בטוח בהן. טכניקה פשוטה אחת היא AI מאומת עם פרסום מושהה: כאשר אתר מדיה חברתית עושה דירוג מבוסס AI של פוסטים, הוא יכול לפרסם ZK-SNARK המוכיח את ה-hash של המודל שיצר את הדירוג הזה. האתר יכול להתחייב לחשוף את דגמי הבינה המלאכותית שלו לאחר למשל. עיכוב של שנה. ברגע שדגם נחשף, המשתמשים יכלו לבדוק את ה-hash כדי לוודא שהדגם הנכון שוחרר, והקהילה יכלה להריץ בדיקות על המודל כדי לאמת את הגינותו. עיכוב הפרסום יבטיח שעד לחשיפת הדגם, הוא כבר מיושן.
אז בהשוואה ל מְרוּכָּז העולם, השאלה היא לא if אנחנו יכולים לעשות יותר טוב, אבל בכמה. בשביל ה עולם מבוזרעם זאת, חשוב להיות זהירים: אם מישהו בונה למשל. שוק חיזוי או stablecoin שמשתמש באורקל בינה מלאכותית, ומתברר שהאורקל ניתן לתקיפה, זה כמות עצומה של כסף שיכולה להיעלם ברגע.
AI כמטרת המשחק
אם הטכניקות שלעיל ליצירת AI פרטי מבוזר שניתן להרחבה, שתכולתה היא קופסה שחורה שלא ידועה לאף אחד, יכולות לעבוד, אז זה יכול לשמש גם ליצירת AI עם כלי עזר מעבר לבלוקצ'יין. צוות פרוטוקול NEAR הופך את זה ל-א מטרת הליבה של עבודתם השוטפת.
ישנן שתי סיבות לעשות זאת:
- אם יכול עשה "AIs מהימנים בקופסה שחורה" על ידי הפעלת תהליך ההכשרה וההסקה באמצעות שילוב כלשהו של בלוקצ'יין ו-MPC, אז הרבה יישומים שבהם משתמשים מודאגים שהמערכת תהיה מוטה או מרמה אותם יכולים להרוויח מכך. אנשים רבים הביעו רצון ממשל דמוקרטי של AIs בעלי חשיבות מערכתית שאנו נהיה תלויים בו; טכניקות קריפטוגרפיות ומבוססות בלוקצ'יין יכולות להיות דרך לעשות זאת.
- מ בטיחות AI בפרספקטיבה, זו תהיה טכניקה ליצור AI מבוזר שיש לו גם מתג הרג טבעי, ואשר יכול להגביל שאילתות המבקשות להשתמש ב-AI להתנהגות זדונית.
ראוי גם לציין ש"שימוש בתמריצי קריפטו כדי לתמרץ יצירת בינה מלאכותית טובה יותר" יכול להיעשות מבלי לרדת גם לבור המלא של שימוש בקריפטוגרפיה כדי להצפין אותו לחלוטין: גישות כמו BitTensor נכנסים לקטגוריה זו.
מסקנות
כעת, כאשר גם בלוקצ'יין וגם בינה מלאכותית הופכים לחזקים יותר, יש מספר הולך וגדל של מקרי שימוש בהצטלבות שני האזורים. עם זאת, חלק ממקרי השימוש הללו הגיוניים הרבה יותר והם חזקים הרבה יותר מאחרים. באופן כללי, השתמש במקרים שבהם המנגנון הבסיסי ממשיך להיות מתוכנן בערך כמו קודם, אבל הפרט שחקנים להפוך ל-AIs, המאפשרים למנגנון לפעול ביעילות בקנה מידה הרבה יותר מיקרו, הם המבטיחים ביותר באופן מיידי והקל ביותר לביצוע.
המאתגר ביותר להגיע נכון הם יישומים המנסים להשתמש בבלוקצ'יין ובטכניקות קריפטוגרפיות כדי ליצור "סינגלטון": AI מבוזר יחיד ומהימן שאפליקציה כלשהי תסתמך עליו למטרה כלשהי. ליישומים אלה יש הבטחה, הן לפונקציונליות והן לשיפור בטיחות הבינה המלאכותית באופן שימנע את סיכוני הריכוזיות הקשורים לגישות מיינסטרימיות יותר לבעיה זו. אבל יש גם דרכים רבות שבהן ההנחות הבסיסיות עלולות להיכשל; לפיכך, כדאי לנהוג בזהירות, במיוחד בעת פריסת יישומים אלה בהקשרים בעלי ערך גבוה ובסיכון גבוה.
אני מצפה לראות ניסיונות נוספים למקרי שימוש בונה של AI בכל התחומים הללו, כדי שנוכל לראות אילו מהם באמת כדאיים בקנה מידה.
מְחַבֵּר: ויטליק בוטרין
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
- מקור: מודיעין נתונים של אפלטון.