תמונה מאת עורך
הנוף הטכנולוגי הנוכחי חווה שינוי מרכזי לעבר מחשוב קצה, מדורבן על ידי התקדמות מהירה בבינה מלאכותית (GenAI) ובעומסי עבודה מסורתיים של בינה מלאכותית. בהסתמכות היסטורית על מחשוב ענן, עומסי העבודה של AI אלה נתקלים כעת במגבלות של AI מבוסס ענן, כולל חששות לגבי אבטחת נתונים, ריבונות וקישוריות לרשת.
עובדים סביב המגבלות הללו של AI מבוסס ענן, ארגונים מחפשים לאמץ מחשוב קצה. היכולת של Edge Computing לאפשר ניתוח ותגובות בזמן אמת בנקודה שבה הנתונים נוצרים ונצרכים, היא הסיבה לכך שארגונים רואים בו קריטי לחדשנות בינה מלאכותית ולצמיחה עסקית.
עם ההבטחה שלו לעיבוד מהיר יותר עם אחביות אפס למינימלית, בינה מלאכותית של קצה יכולה לשנות באופן דרמטי יישומים מתפתחים. בעוד שיכולות המחשוב של מכשירי הקצה משתפרות יותר ויותר, עדיין קיימות מגבלות שיכולות להקשות על יישום מודלים מדויקים ביותר של AI. טכנולוגיות וגישות כגון קוונטיזציה של מודלים, למידת חיקוי, הסקת מסקנות מבוזרת וניהול נתונים מבוזרים יכולים לעזור להסיר את המחסומים בפני פריסות AI יעילות וחסכוניות יותר, כך שארגונים יוכלו לנצל את הפוטנציאל האמיתי שלהם.
הסקת AI בענן מושפעת לעתים קרובות מבעיות חביון, מה שגורם לעיכובים בתנועת נתונים בין מכשירים וסביבות ענן. ארגונים מבינים את העלות של העברת נתונים בין אזורים, לתוך הענן, הלוך ושוב מהענן לקצה. זה יכול להפריע ליישומים הדורשים תגובות מהירות במיוחד בזמן אמת, כגון עסקאות פיננסיות או מערכות בטיחות תעשייתיות. בנוסף, כאשר ארגונים חייבים להפעיל יישומים המופעלים על ידי בינה מלאכותית במיקומים מרוחקים שבהם קישוריות הרשת אינה אמינה, הענן אינו תמיד בהישג יד.
המגבלות של אסטרטגיית בינה מלאכותית "לענן בלבד" הופכות ברורות יותר ויותר, במיוחד עבור יישומי הדור הבא המופעלים בבינה מלאכותית הדורשים תגובות מהירות בזמן אמת. בעיות כמו השהיית רשת עלולות להאט תובנות והיגיון שניתן להעביר לאפליקציה בענן, ולהוביל לעיכובים ולעלויות מוגברות הקשורות להעברת נתונים בין הענן לסביבות הקצה. זה בעייתי במיוחד עבור יישומים בזמן אמת, במיוחד באזורים מרוחקים עם קישוריות רשת לסירוגין. מכיוון שבינה מלאכותית תופסת מרכז בקבלת החלטות ובנימוקים, הפיזיקה של העברת נתונים עלולה להיות יקרה מאוד עם השפעה שלילית על התוצאות העסקיות.
גרטנר צופה שיותר מ-55% מכל ניתוח הנתונים על ידי רשתות עצביות עמוקות יתרחשו בנקודת הלכידה במערכת קצה עד 2025, לעומת פחות מ-10% בשנת 2021. מחשוב קצה מסייע בהקלה על זמן השהייה, מדרגיות, אבטחת נתונים, קישוריות ו יותר אתגרים, עיצוב מחדש של אופן הטיפול בעיבוד נתונים, ובתמורה, האצת אימוץ בינה מלאכותית. פיתוח יישומים בגישה לא מקוונת-ראשונה יהיה קריטי להצלחת אפליקציות זריזות.
עם אסטרטגיית קצה אפקטיבית, ארגונים יכולים לקבל יותר ערך מהיישומים שלהם ולקבל החלטות עסקיות מהר יותר.
ככל שמודלים של בינה מלאכותית נעשים יותר ויותר מתוחכמים וארכיטקטורות יישומים גדלות מורכבות יותר, האתגר של פריסת מודלים אלה על התקני קצה עם אילוצי חישוב הופך בולט יותר. עם זאת, התקדמות בטכנולוגיה ומתודולוגיות מתפתחות סוללות את הדרך לאינטגרציה יעילה של דגמי AI רבי עוצמה במסגרת מחשוב הקצה, החל מ:
דחיסה וקונטיזציה של מודל
טכניקות כמו גיזום מודלים וקונטיזציה חיוניות להקטנת הגודל של דגמי AI מבלי לפגוע משמעותית ברמת הדיוק שלהם. גיזום מודל מבטל מידע מיותר או לא קריטי מהמודל, בעוד שכימות מפחיתה את הדיוק של המספרים המשמשים בפרמטרים של המודל, מה שהופך את הדגמים לקלים יותר ומהירים יותר להפעלה במכשירים מוגבלי משאבים. קוונטיזציה של מודלים היא טכניקה הכוללת דחיסת דגמי AI גדולים כדי לשפר את הניידות ולהקטין את גודל המודל, מה שהופך את הדגמים לקלים יותר ומתאימים לפריסות קצה. באמצעות טכניקות כוונון עדין, כולל Quantization Post-Training Generalized (GPTQ), Low-Rank Adaptation (LoRA) ו-Quantized LoRA (QLoRA), כימות מודלים מורידה את הדיוק המספרי של פרמטרי המודל, מה שהופך את המודלים ליעילים יותר ונגישים יותר עבור התקני קצה כמו טאבלטים, שערי קצה וטלפונים ניידים.
מסגרות AI ספציפיות לקצה
הפיתוח של מסגרות וספריות בינה מלאכותית שתוכננו במיוחד עבור מחשוב קצה יכול לפשט את התהליך של פריסת עומסי עבודה של קצה בינה מלאכותית. מסגרות אלו מותאמות למגבלות החישוביות של חומרת קצה ותומכות בביצוע מודלים יעילים עם תקורה מינימלית של ביצועים.
מסדי נתונים עם ניהול נתונים מבוזר
עם יכולות כגון חיפוש וקטור וניתוח בזמן אמת, עוזרים לעמוד בדרישות התפעוליות של הקצה ותומכים בעיבוד נתונים מקומי, טיפול בסוגי נתונים שונים, כגון אודיו, תמונות ונתוני חיישנים. זה חשוב במיוחד ביישומים בזמן אמת כמו תוכנת רכב אוטונומי, שבהן נאספים כל הזמן סוגי נתונים מגוונים ויש לנתח אותם בזמן אמת.
הסקת מסקנות מבוזרת
מי שממקם דגמים או עומסי עבודה על פני התקני קצה מרובים עם דגימות נתונים מקומיות ללא חילופי נתונים בפועל יכול להפחית בעיות תאימות ופרטיות נתונים אפשריות. עבור יישומים, כגון ערים חכמות ו-IoT תעשייתי, הכוללים התקני קצה ו-IoT רבים, הפצת מסקנות היא חיונית לקחת בחשבון.
בעוד שבינה מלאכותית מעובדת בעיקר בענן, מציאת איזון עם יתרון תהיה קריטית להאצת יוזמות בינה מלאכותית. רוב התעשיות, אם לא כולן, הכירו בבינה מלאכותית וב-GenAI כיתרון תחרותי, ולכן איסוף, ניתוח וקבלת תובנות מהירה בקצה יהיו חשובים יותר ויותר. ככל שארגונים מתפתחים את השימוש בבינה מלאכותית שלהם, הטמעת קוונטיזציה של מודלים, יכולות מולטי-מודאליות, פלטפורמות נתונים ואסטרטגיות קצה אחרות יסייעו להניע תוצאות עסקיות משמעותיות בזמן אמת.
רהול פראדהאן הוא סמנכ"ל מוצר ואסטרטגיה ב-Couchbase (NASDAQ: BASE), ספקית של מסד נתונים מודרני מוביל ליישומים ארגוניים ש-30% מה-Fortune 100 תלויים בהם. ל-Rahul למעלה מ-20 שנות ניסיון בהובלה וניהול של צוותי הנדסה ומוצר, תוך התמקדות בטכנולוגיות מסדי נתונים, אחסון, רשתות ואבטחה בענן. לפני Couchbase, הוא הוביל את צוות ניהול המוצר והאסטרטגיה העסקית עבור חטיבות הטכנולוגיות המתפתחות והאחסון הבינוני של Dell EMC כדי להביא לשוק את כל מוצרי Flash NVMe, Cloud ו-SDS.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://www.kdnuggets.com/the-promise-of-edge-ai-and-approaches-for-effective-adoption?utm_source=rss&utm_medium=rss&utm_campaign=the-promise-of-edge-ai-and-approaches-for-effective-adoption
- :יש ל
- :הוא
- :לֹא
- :איפה
- $ למעלה
- 100
- 20
- שנים 20
- 2021
- 2025
- a
- יכולת
- מאיצה
- נגיש
- חֶשְׁבּוֹן
- דיוק
- מדויק
- לרוחב
- ממשי
- הסתגלות
- בנוסף
- אימוץ
- התקדמות
- יתרון
- זריז
- AI
- אימוץ AI
- דגמי AI
- AI אסטרטגיה
- מונע AI
- תעשיות
- להקל
- תמיד
- an
- אנליזה
- ניתוח
- מְנוּתָח
- ניתוח
- ו
- בקשה
- יישומים
- גישה
- גישות
- ארכיטקטורות
- ARE
- אזורים
- סביב
- AS
- המשויך
- At
- אודיו
- אוטונומי
- רכב אוטונומי
- בחזרה
- איזון
- מחסומים
- בסיס
- BE
- להיות
- הופך להיות
- התהוות
- היה
- לפני
- להיות
- מוטב
- בֵּין
- שניהם
- להביא
- עסקים
- אסטרטגיה עסקית
- by
- CAN
- יכול לקבל
- יכולות
- ללכוד
- גורם
- מרכז
- מרכז הבמה
- לאתגר
- האתגרים
- ערים
- ענן
- ענן מחשוב
- אסף
- תחרותי
- מורכב
- הענות
- מתפשר
- חישובית
- מחשוב
- דאגות
- קישוריות
- תמיד
- אילוצים
- מאוכל
- עלות
- עלות תועלת
- יקר
- עלויות
- בסיס מיטה
- נוצר
- קריטי
- מכריע
- נוֹכְחִי
- נתונים
- ניתוח נתונים
- חילופי נתונים
- ניהול נתונים
- פרטיות מידע
- עיבוד נתונים
- אבטחת מידע
- מסד נתונים
- מאגרי מידע
- קבלת החלטות
- החלטות
- עמוק
- רשתות עצביות עמוקות
- עיכובים
- נתן
- Dell
- דרישה
- לסמוך
- פריסה
- פריסות
- מעוצב
- מתפתח
- צעצועי התפתחות
- מכשיר
- התקנים
- קשה
- מופץ
- הפצה
- שונה
- באופן דרמטי
- נהיגה
- אדג '
- קצה
- אפקטיבי
- יעיל
- מבטל
- לחבק
- מתעורר
- טכנולוגיות מתפתחות
- לאפשר
- פוגש
- הנדסה
- מִפְעָל
- סביבות
- במיוחד
- ברור
- להתפתח
- מתפתח
- חליפין
- הוצאת להורג
- ניסיון
- התנסות
- מאוד
- מהר
- מהר יותר
- כספי
- מציאת
- פלאש
- התמקדות
- בעד
- הָלְאָה
- הון עתק
- מסגרת
- מסגרות
- החל מ-
- זכייה
- גרטנר
- שערים
- איסוף
- גנאי
- הכללה
- גנרטטיבית
- AI Generative
- לקבל
- מקבל
- לגדול
- צמיחה
- טיפלתי
- טיפול
- חומרה
- יש
- he
- לעזור
- עוזר
- מאוד
- מפריע
- הסטורי
- אולם
- HTML
- HTTPS
- if
- תמונות
- פְּגִיעָה
- מושפעים
- יישום
- חשוב
- לשפר
- in
- כולל
- גדל
- יותר ויותר
- התעשייה
- IoT תעשייתי
- תעשיות
- מידע
- יוזמות
- חדשנות
- תובנות
- השתלבות
- אל תוך
- לערב
- כרוך
- IOT
- מכשירי יוט
- בעיות
- IT
- שֶׁלָה
- KDnuggets
- נוף
- גָדוֹל
- חֶבִיוֹן
- בעיות חביון
- מוביל
- למידה
- הוביל
- פחות
- ספריות
- קל יותר
- קַל מִשְׁקָל
- כמו
- מגבלות
- גבולות
- לינקדין
- מקומי
- מקומות
- הסתכלות
- מוריד
- לעשות
- עשייה
- ניהול
- ניהול
- רב
- שוק
- משמעותי
- לִפְגוֹשׁ
- מתודולוגיות
- מינימלי
- להקל
- סלולרי
- טלפונים ניידים
- מודל
- מודלים
- מודרני
- יותר
- יותר יעיל
- רוב
- תנועה
- נע
- מספר
- צריך
- נאסד"ק
- שלילי
- רשת
- רשתות
- רשתות
- עצביים
- רשתות עצביות
- הדור הבא
- עַכשָׁיו
- מספרים
- מספרית
- להתרחש
- of
- לעתים קרובות
- on
- מבצעי
- אופטימיזציה
- or
- ארגונים
- אחר
- תוצאות
- יותר
- ממעל
- פרמטרים
- במיוחד
- סלילה
- ביצועים
- טלפונים
- פיסיקה
- מכריע
- מקומות
- פלטפורמות
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- נקודה
- הִטַלטְלוּת
- פוטנציאל
- חזק
- דיוק
- תחזית
- בעיקר
- פְּרָטִיוּת
- תהליך
- מעובד
- תהליך
- המוצר
- ניהול מוצר
- מוצרים
- הבטחה
- מבוטא
- ספק
- מהירות
- טִוּוּחַ
- מהיר
- לְהַגִיעַ
- זמן אמת
- מימוש
- הנמקה
- מוכר
- להפחית
- מפחית
- הפחתה
- מיותר
- אזורים
- מרחוק
- להסיר
- לדרוש
- דרישות
- חיטוב
- תגובות
- הפעלה
- s
- בְּטִיחוּת
- בקרת מערכות ותקשורת
- חיפוש
- אבטחה
- לִרְאוֹת
- משמרת
- באופן משמעותי
- לפשט
- מידה
- להאט
- חכם
- ערים חכמות
- So
- תוכנה
- מתוחכם
- ריבונות
- במיוחד
- התמחות
- עוד
- אחסון
- אסטרטגיות
- אִסטרָטֶגִיָה
- הצלחה
- כזה
- מַתְאִים
- תמיכה
- מערכת
- מערכות
- טבליות
- לקחת
- לוקח
- ברז
- נבחרת
- צוותי
- טכניקה
- טכניקות
- טכנולוגי
- טכנולוגיות
- טכנולוגיה
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- שם.
- אלה
- זֶה
- ל
- לקראת
- מסורתי
- עסקות
- לשנות
- תמסורת
- נָכוֹן
- תור
- סוגים
- להשתמש
- מְשׁוּמָשׁ
- באמצעות
- ערך
- שונים
- וקטור
- רכב
- vp
- דֶרֶך..
- מתי
- אשר
- בזמן
- למה
- יצטרך
- עם
- בתוך
- לְלֹא
- שנים
- זפירנט