הבאנה לאבס השיקה את מעבד האימון המהפכני "גאודי"
17 יוני, 2019
המעבד מבוסס על ארכיטקטורה ייעודית, ומתחרה ישירות בחברת אנבידיה במשימות אימון מאסיביות של רשתות נוירוניות. החברה תספק כרטיסים נתקעים לשרתים, ומחשב בינה מלאכותית מלא בעל 8 מעבדים
חברת הבאנה לאבס (Habana Labs) הכריזה על מעבד אימון הרשתות הנוירוניות Habana Gaudi שאותו היא מפתחת מאז הקמתה החשאית בשנת 2016. להערכת החברה, מערכות אימון מבוססות Gaudi הן בעלות תפוקה גבוהה פי ארבעה בהשוואה למערכות אימון המבוססות על מעבדים גרפיים (GPU). בכך השלימה החברה את הצגת חבילת השבבים שאותה היא מפתחת עבור יישומי בינה מלאכותית. לקראת סוף 2018 היא הכריזה על המעבד Goya HL-1000, המשמש כמנוע לייצור הסקות (inferencing) ברשתות לימוד עומק (deep learning). בין השאר, פייסבוק התקינה אותו במערכת הבינה המלאכותית שלה, Glow.
שבב מעבד האימון החדש מיוצר בחברת TSMC בתהליך של 16 ננומטר. החברה מספקת ללקוחות כרטיס הנתקע לתוך שרתים קיימים, המאפשר הפעלה מיידית של יישומי בינה מלאכותית. הכרטיסים הראשונים יימסרו ללקוחות נבחרים במחצית השנייה של 2019. הבאנה לאבס הוקמה בשנת 2016 על-ידי דוד דהן ורן חלוץ, יוצאי חברת פריימסנס שנמכרה לאפל ב-2013 תמורת 345 מיליון דולר. אביגדור וילנץ היה המשקיע הראשון ומשמש כיום כיו"ר החברה. מאז הקמתה היא גייסה כ-120 מיליון דולר. כיום החברה מעסיקה כ-150 עובדים, רובם במגדלי עזריאלי בתל אביב ובקיסריה.
החברה מתמקדת בפיתוח ארכיטקטורה ייעודית עבור מעבדי בינה מלאכותית המריצים רשתות נוירוניות, הכוללת סט פקודות ייעודי וחבילת כלי פיתוח לבניית יישומי בינה מלאכותית. בראיון ל-Techtime הסביר מנהל העסקים הראשי של החברה, איתן מדינה, שהחברה הגיעה למסקנה שיש צורך בארכיטקטורה ייחודית מכיוון שהדרישה לעיבוד בינה מלאכותית מוכפלת פי 10 בכל שנה, "והמעבדים הקיימים היום בשוק לא יכולים לעמוד בדרישה הזאת". טכנית, החברה נמצאת בין שוק מעבדי ה-CPU לשוק מעבדי ה-GPU. החברה לא מסתירה את העובדה שהיא רואה באנבידיה את המתחרה העיקרית שלה.
לדברי איתן, היעילות היחסית של העיבוד במערכות בינה מלאכותית יורדת ככל שגדל מספר המעבדים שנעשה בהם שימוש במקביל. "המעבדים שלנו מהירים יותר ממעבדי הבינה המלאכותית של אנבידיה, וככל שגדל מספר המעבדים, הפער בינינו גדל". במצגת החברה יש השוואה בין היעילות היחסית של שתי המערכות, כאשר להערכת הבאנה, ביישום המבצע עיבוד באמצעות 640 מעבדים במקביל, המערכת שלה מהירה פי 3.8 מזו של אנבידיה.
"זהו יתרון בולט של הארכיטקטורה שלנו, ואנחנו משיגים אותו באמצעות ייצור בטכנולוגיה מיושנת יחסית של 16 ננומטר. המעבד הבא שלנו כבר ייוצר בתהליך של 7 ננומטר". אחד מהסודות של הבאנה לאבס נעוץ בעובדה שהשבב שלה כולל גם את מערך התקשורת. למעשה, הוא כולל 10 פורטים לתקשורת RDMA מסוג 100GbE RoCE. בכך היא פותרת את בעיית צוואר הבקבוק התקשורתי. במעבד VOLTA של אנבידיה, יש צורך בכרטיס 100GbE נפרד ובכרטיס PCIE כדי להתחבר אל המעבד הגרפי. מדינה: "הפתרון הזה שלנו מאפשר הרחבה קלה ומהירה של המערכת".
הפער הזה יבוא לידי ביטוי במחשב האימון HLS-1 שהחברה מייצרת, המבוסס על מעבדי Gaudi. המחשב ממוצב על-ידי הבאנה כמתחרה ישיר של המחשב העוצמתי NVIDIA DGX-1. שניהם כוללים שמונה מעבדי בינה מלאכותית, אולם אנבידיה מקשרת בין המעבדים שלה באמצעות פרוטוקול תקשורת פרטי, וצריכה לטענת הבאנה לבצע המרות איתרנט המעיקות על העיבוד ומקשות על הרחבת המערכת. מדינה: "המערכת של הבאנה מבוססת על ממשק איתרנט תקני הן בין המעבדים והן בינם לבין העולם החיצוני, ולכן מהירות העבודה גבוהה יותר וקל מאוד להרחיב את המערכת" .
מדוע אתם מוכרים כרטיסים ולא את השבבים עצמם?
"מרכזי נתונים וגופי ענן שרוצים לקנות פתרון בינה מלאכותית, מעדיפים לרכוש אותו מחברות המייצרות שרתים, והן מעדיפות לרכוש כרטיסים הנתקעים לתוך השרתים שלהן. גם כלי הפיתוח שלנו מותאמים לצרכים של הלקוחות. פיתחנו ממשק SynapseAI API המתחבר אל כל שפות הפיתוח וסביבות הפיתוח החדשות שנוצרו עבור יישומי בינה מלאכותית. בנוסף, בנינו סביבת הגירה נוחה המסייעת ללקוחות לעבור לארכיטקטורה שלנו. היא כוללת כלים המסייעים להעביר לארכיטקטורה שלנו תכנוני אלגוריתמים שהותאמו לשבבים אחרים".
אתה מתכוון למושג קרנל (Kernel)?
"כן. הקרנל זו תוכנה לא גדולה שרצה על המעבד ומבצעת פעולה מתימטית בצורה אופטימלית. בדרך-כלל לכל מעבד יש ספריות של קרנלים. אולם יש לקוחות שפיתחו בעצמם קרנל ייעודי המותאם לפעולה מתימטית המיושמת במעבד שבו הם משתמשים, וכשהם רוצים להחליף פלטפורמת עיבוד הם צריכים לבנות קרנל חדש. בנינו ספרייה של 600 קרנלים והוספנו כלי פיתוח המאפשרים לייצר קרנל חדשים בצורה נוחה. המטרה היא שהם יוכלו להעביר את התכנון שלהם אל המעבד שלנו במאמץ מאוד קטן".
חשוב לזכור, מעבדי גויה הם מעבדי הסקות המשמשים באבזרי הקצה, ומעבדי גאודי הם מעבדי אימון המשמשים במרכזי הנתונים. החברה פיתחה מערכת שהיא למעשה חצי פתוחה: הכרטיסים שלה מתחברים אל כל CPU באמצעות תקשורת סטנדרטית ולקוחות המשתמשים במעבדי ההסקות אינם נדרשים לבצע את האימון במעבדי האימון של החברה. בשלב הראשון היא מתמקדת בשוק מרכזי הנתונים ותשתיות הענן, אולם להערכת החברה אחד משוקי היעד המרכזיים הבאים שלה יהיה תחום הנהיגה האוטונומית.
פורסם בקטגוריות: בינה מלאכותית , חדשות , מחשבים ומערכות משובצות , סמיקונדקטורס
פורסם בתגיות: AI , בינה מלאכותית
כתבות נוספות העשויות לעניין אותך
