מהן רשתות עצביות גרפיות (GNN)?

גרפים נמצאים בכל מקום סביבנו. הרשת החברתית שלך היא גרף של אנשים ויחסים. כך גם המשפחה שלך. הדרכים שאתה נוסע כדי לעבור מנקודה A לנקודה B מהווים גרף. הקישורים המחברים דף אינטרנט זה לאחרים יוצרים גרף. כאשר המעסיק שלך משלם לך, התשלום שלך עובר דרך גרף של מוסדות פיננסיים.

בעיקרון, כל דבר שמורכב ישויות מקושרות יכול להיות מיוצג כגרף. גרפים הם כלים מצוינים לדמיין יחסים בין אנשים, אובייקטים ומושגים. עם זאת, מעבר להצגה חזותית של מידע, גרפים יכולים להיות גם מקורות טובים למידע לאימון מודלים של למידת מכונה למשימות מסובכות.

רשתות עצביות גרפיות (GNN) הן סוג של אלגוריתם למידת מכונה שיכול לחלץ מידע חשוב מגרפים ולבצע תחזיות שימושיות. כשהגרפים הופכים נרחבים יותר ועשירים יותר במידע, ורשתות עצבים מלאכותיות הופכות יותר פופולרי ומסוגל, GNNs הפכו לכלי רב עוצמה עבור יישומים חשובים רבים.

שינוי גרפים לעיבוד רשתות עצביות

כל גרף מורכב מצמתים וקצוות. לדוגמה, ברשת חברתית, צמתים יכולים לייצג משתמשים ואת המאפיינים שלהם (למשל, שם, מין, גיל, עיר), בעוד קצוות יכולים לייצג את היחסים בין המשתמשים. גרף חברתי מורכב יותר יכול לכלול סוגים אחרים של צמתים, כגון ערים, קבוצות ספורט, ערוצי חדשות, כמו גם קצוות המתארים את היחסים בין המשתמשים לאותם צמתים.

לרוע המזל, מבנה הגרף אינו מתאים היטב ללמידת מכונה. רשתות עצביות מצפים לקבל את הנתונים שלהם בפורמט אחיד. תפיסות רב-שכבתיות מצפות למספר קבוע של תכונות קלט. רשתות עצביות מתהפכות מצפות לרשת המייצגת את הממדים השונים של הנתונים שהן מעבדות (למשל, רוחב, גובה וערוצי צבע של תמונות).

גרפים יכולים לבוא במבנים ובגדלים שונים, שאינם תואמים את המערכים המלבניים שרשתות עצביות מצפות להם. לגרפים יש גם מאפיינים אחרים שמבדילים אותם מסוג המידע שרשתות עצבים קלאסיות מיועדות עבורו. לדוגמה, גרפים הם "בלתי משתנה של תמורה", מה שאומר ששינוי הסדר והמיקום של הצמתים לא משנה כל עוד היחסים ביניהם נשארים זהים. לעומת זאת, שינוי סדר הפיקסלים מביא לתמונה שונה ויגרום לרשת העצבית שמעבדת אותם להתנהג אחרת.

כדי להפוך גרפים לשימושיים עבור אלגוריתמי למידה עמוקה, יש להפוך את הנתונים שלהם לפורמט שניתן לעבד על ידי רשת עצבית. סוג העיצוב המשמש לייצוג נתוני גרף יכול להשתנות בהתאם לסוג הגרף וליישום המיועד, אך באופן כללי, המפתח הוא לייצג את המידע כסדרה של מטריצות.

לדוגמה, שקול גרף של רשת חברתית. ניתן לייצג את הצמתים כטבלת מאפייני משתמש. טבלת הצומת, שבה כל שורה מכילה מידע על ישות אחת (למשל, משתמש, לקוח, עסקה בנקאית), היא סוג המידע שתספק לרשת עצבית רגילה.

אבל גרף רשתות עצביות יכול גם ללמוד ממידע אחר שהגרף מכיל. הקצוות, הקווים המחברים את הצמתים, יכולים להיות מיוצגים באותו אופן, כאשר כל שורה מכילה את מזהי המשתמשים ומידע נוסף כגון תאריך חברות, סוג מערכת יחסים וכו'. לבסוף, הקישוריות הכללית של הגרף יכול להיות מיוצג כמטריצת סמיכות המראה אילו צמתים מחוברים זה לזה.

כאשר כל המידע הזה מסופק לרשת העצבית, היא יכולה לחלץ דפוסים ותובנות שחורגות מהמידע הפשוט הכלול במרכיבים הבודדים של הגרף.

הטמעות גרפים

ניתן ליצור רשתות עצביות גרפיות כמו כל רשת עצבית אחרת, תוך שימוש בשכבות מחוברות במלואן, שכבות קונבולוציוניות, שכבות מאגר וכו'. סוג ומספר השכבות תלויים בסוג ומורכבות נתוני הגרף ובפלט הרצוי.

ה-GNN מקבל את נתוני הגרף המעוצבים כקלט ומייצר וקטור של ערכים מספריים המייצגים מידע רלוונטי על צמתים והיחסים ביניהם.

ייצוג וקטור זה נקרא "הטבעת גרף". הטמעות משמשות לעתים קרובות בלמידת מכונה כדי להפוך מידע מסובך למבנה שניתן להבדיל וללמוד. לדוגמה, מערכות עיבוד שפה טבעית משתמשות בהטמעות מילים כדי ליצור ייצוגים מספריים של מילים ויחסיהן יחד.

כיצד ה-GNN יוצר את הטבעת הגרף? כאשר נתוני הגרף מועברים ל-GNN, התכונות של כל צומת משולבות עם אלו של הצמתים הסמוכים לו. זה נקרא "העברת הודעה". אם ה-GNN מורכב מיותר משכבה אחת, אז השכבות הבאות חוזרות על פעולת העברת ההודעות, אוספות נתונים משכנים של שכנים ומצבירה אותם עם הערכים שהתקבלו מהשכבה הקודמת. לדוגמה, ברשת חברתית, השכבה הראשונה של ה-GNN תשלב את הנתונים של המשתמש עם אלה של החברים שלו, והשכבה הבאה תוסיף נתונים מחברים של חברים וכן הלאה. לבסוף, שכבת הפלט של ה-GNN מייצרת את ההטמעה, שהיא ייצוג וקטור של נתוני הצומת והידע שלו על צמתים אחרים בגרף.

מעניין שתהליך זה דומה מאוד לאופן שבו רשתות עצביות קונבולוציוניות מחלצות תכונות מנתוני פיקסלים. בהתאם לכך, ארכיטקטורת GNN פופולרית מאוד היא רשת העצבים הקונבולוציונית של הגרפים (GCN), המשתמשת בשכבות קונבולציה ליצירת הטבעות גרפים.

יישומים של רשתות עצביות גרפיות

ברגע שיש לך רשת עצבית שיכולה ללמוד את ההטמעות של גרף, אתה יכול להשתמש בה כדי לבצע משימות שונות.

להלן מספר יישומים עבור רשתות עצביות גרפיות:

סיווג צמתים: אחד מהיישומים החזקים של GNNs הוא הוספת מידע חדש לצמתים או מילוי פערים שבהם מידע חסר. לדוגמה, נניח שאתה מנהל רשת חברתית וזיהית כמה חשבונות בוטים. עכשיו אתה רוצה לברר אם יש חשבונות בוטים אחרים ברשת שלך. אתה יכול לאמן GNN לסווג משתמשים אחרים ברשת החברתית כ"בוט" או "לא בוט" בהתבסס על כמה שקרובות הטמעות הגרפים שלהם לאלו של הרובוטים הידועים.

חיזוי קצה: דרך נוספת להשתמש ב-GNNs היא למצוא קצוות חדשים שיכולים להוסיף ערך לגרף. אם נחזור לרשת החברתית שלנו, GNN יכול למצוא משתמשים (צמתים) שקרובים אליך במרחב ההטמעה אבל שעדיין לא חברים שלך (כלומר, אין יתרון שמחבר אותך זה לזה). לאחר מכן ניתן להציג בפניך משתמשים אלה כהצעות חברים.

אשכולות: GNNs יכולים לאסוף מידע מבני חדש מגרפים. לדוגמה, ברשת חברתית שבה כולם קשורים בצורה כזו או אחרת לאחרים (דרך חברים, או חברים של חברים וכו'), ה-GNN יכול למצוא צמתים היוצרים אשכולות במרחב ההטמעה. אשכולות אלה יכולים להצביע על קבוצות משתמשים שחולקות תחומי עניין דומים, פעילויות או מאפיינים בלתי בולטים אחרים, ללא קשר למידת הקירבה ביניהם. Clustering הוא אחד הכלים העיקריים המשמשים בשיווק מבוסס למידת מכונה.

רשתות עצביות גרפיות הן כלים חזקים מאוד. הם כבר מצאו יישומים רבי עוצמה בתחומים כמו תכנון מסלולים, זיהוי הונאה, אופטימיזציה של רשתות ומחקר תרופות. בכל מקום שבו יש גרף של ישויות קשורות, GNNs יכולים לעזור להפיק את מירב הערך מהנתונים הקיימים.

בן דיקסון הוא מהנדס תוכנה ומייסד TechTalks. הוא כותב על טכנולוגיה, עסקים ופוליטיקה.

סיפור זה הופיע במקור Bdtechtalks.com. זכויות יוצרים 2021