סיוה פיתחה ארכיטקטורת בינה מלאכותית חדשה

15 אפריל, 2018

הטכנולוגיה של CEVA מהרצליה מאפשרת לממש רשתות עומק נוירוניות באמצעות שילוב של מעבד וקטורי ומארג של מכפלים המייצגים את הנוירונים בשכבות השונות. הרכיבים אמורים לצאת לשוק ברבעון השלישי של 2018

CEVA DEEP LEARNING

בשבוע שעבר העניק איגוד הראייה הממוחשבת האמריקאי, Vision Systems Design, את "אות הזהב" בתחרות הטכנולוגיות המשפיעות ביותר של 2018, לטכנולוגיית הראייה הממוחשבת והלמידה העמוקה של חברת CEVA מהרצליה, המספקת קניין רוחני (IP) ליצרניות שבבים. מעבד הראייה CEVA-XM6 ותשתית הלמידה העמוקה של סיוה זכו בתואר על-ידי פאנל של מומחים מחברות העוסקות באינטגרציית מערכות ויצרניות מוצרים סופיים, על-פי הקריטריונים של מקוריות, חדשנות, השפעה על מתכנני רכיבים והגברת יעילות התכנון.

דילמת המעבד הייעודי בשוק ה-AI

אחת מהסיבות לקבלת התואר היתה ההכרזה מתחילת השנה על משפחת מעבדי NeuPro של סיוה, אשר צמחו מתוך מעבדי הראייה מסדרה XM, אולם מציגים גישה חדשה לחלוטין בתחום היישום של רשתות עומק נוירוניות (Deep Neural Networks) ברכיבים המיועדים להפעיל רכיבי קצה. רוב החברות המכריזות כיום על מעבדי בינה מלאכותית, מפעילות מעבדים סטנדרטיים עם מספר מאיצים כדי ליישם את המטלות החדשות, אולם הבעיה של הגישה הזו נעוצה בכך שהמשמש משלם בקצב עבודה נמוך ובצריכת הספק גבוהה. לכן קשה ליישם אותן ברכיבי קצה כמו מצלמות רכב, אבזרי IoT או סמארטפונים.

בהפעלת רשתות נוירוניות לביצוע פעולות בינה מלאכותית קיימות שתי פעולות מרכזיות: בניית הרשת והאימון שלה הנעשית על-גבי הענן באמצעות תשתיות מחשוב חזקות מאוד, ויישום הרשת בשבב באבזר קצה, באמצעות היכולת לשלב בין ההסקות (Inferences) שנלמדו בענן לבין המידע המגיע לרכיב מהשטח. חברת סיוה פיתחה ארכיטקטורה ייעודית המורכבת משתי יחידות עיבוד נפרדות המקושרות אחת לשנייה באמצעות תקשורת AXI מהירה. היחידה הראשונה היא מעבד וקטורי בשם NeuPro VPU אשר מבוסס על טכנולוגיית הראייה הממוחשבת MX של החברה. המעבד הזה מקבל את מפת ההסקות שהתקבלו בתהליך האימון, ומנהל את פעילות העיבוד ברשת הנוירונית, אשר ממומשת באמצעות ה-NeuPro Engine.

ארכיטקטורת NeuPro של סיוה. מקור: Linley Group
ארכיטקטורת NeuPro של סיוה. מקור: Linley Group

המנוע עצמו (NeuPro Engine) הוא מארג של מעבדי  חיבור-הכפלה (MAC – multiplier–accumulator) מקושרים ופשוטים בגודל של 8X8 כל אחד, אשר משחזר את מבנה הרשת הנוירונית שפותחה בענן. המידע הנכנס (ממצלמה למשל) מגיע אל המארג הזה, וכל פיסת מידע בו מקבלת, בכל שכבת רשת, את המשקלים וההוראות שהתקבלו בתהליך האימון של הרשת (Training). הוא מבצע את העיבוד ומפיק את הפלט. בתצורה הזו ניתן לבנות רשתות בעלות מספר רב של שכבות ומספר רב של נוירונים (מ-512 ועד 4,096, תלוי בדגם של המעבד).

8 סיביות או 16 סיביות?

חברת המחקר Linley Group בדקה את הארכיטקטורה הזאת בסוף ינואר 2018 והגיעה למסקנה שהפתרון של סיוה מהיר יותר מרוב הפתרונות הקיימים היום בשוק, ושהוא מתאים ליישום מספר רב של מטלות, דוגמת מערכות עזר בטיחותיות לנהג, מערכות מציאות רבודה, שימוש במצלמות מעקב ועוד. בין השאר, גם בזכות העובדה שסיוה התקינה בו אפשרות ליישם רשתות נוירוניות בעלות תצורות שונות, כמו למשל TensorFlow ו-Caffe הפופולריות, על בסיס הנסיון שצברה מול 120 רשתות שונות של לקוחות. על-פי הדו"ח של האנליסט מייק דמלר, הקניין הרוחני החדש יהיה זמין בשוק במהלך הרבעון השלישי של 2018.

במאמר שפירסם מנהל שיווק קו מוצרי בינה מלאכותית בסיוה, לירן בר, באתר Embedded Vision Alliance, הוא גילה כמה יכולות ייחודיות שסיוה הוסיפה לארכיטקטורה שלה, כשהבולטת ביותר שבהן היא גמישות בהרצת העיבוד. בעיקרון, עיבוד ברזולוציה של 8 סיביות מספק מהירות וחסכון בהספק, אולם במחיר של ירידה בדיוק. לעומתו, עיבוד ברזולוציה של 16 סיביות מספק דיוק רב, תוך הקרבת המהירות והחסכוניות בהספק. הארכיטקטורה החדשה מאפשרת למפתחים לבחור באיזו רזולוציה להריץ כל שכבה ברשת הנוירונים, מכיוון שלא כל השכבות זקוקות תמיד לאותה רמת רזולוציה.

אימון בקצות הרשת

התוצאה: יכולת השגת אופטימיזציה טובה יותר של הרשת בהתאם לאילוצי הספק, מהירות ודיוק שונים. כדי לדעת מהי האפשרות הטובה ביותר, החברה פיתחה מחולל רשתות (CEVA Network Generator) אשר מאפשר לבחור את האיזון היעיל ביותר בין המהירות השונות וגם להעריך מהו מספר המעבדים הניורוניים (MACs) המתאים לכל יישום. הדו"ח של ליינלי גרופ התרשם לטובה מתכונה נוספת: יכולת לבצע אימון נוסף של הרשת (Retraining) המותקנת באבזרי הקצה. הדבר הזה מאפשר לשדרג את הרשת בעתיד, כאשר ייווצרו צרכים, בלא להחליף את כל אבזרי הקצה שבהם הטכנולוגיה מותקנת. בין השאר, גם כאשר התעשייה תתחיל להתקין רשתות קומפקיות אבל מהירות מאוד מהסוג של Binarized Neural Networks.

Share via Whatsapp

פורסם בקטגוריות: בינה מלאכותית , חדשות , סמיקונדקטורס