Untether AI חשפה תפישה חדשה של מעבדי בינה מלאכותית

28 אוגוסט, 2022

ארכיטקטורת speedAI מבוססת על מערך גדול מאוד של יחידות עיבוד, זכרונות SRAM ומעבדי RISC-V. מעבדת רשתות נוירוניות בעוצמה של עד 30TFlops/W בכל שבב. הרכיבים הראשונים מתוכננים להגיע לשוק במחצית 2023

Untether AI חשפה תפישה חדשה של מעבדי בינה מלאכותית

בתמונה למעלה: סגן נשיא Untether AI רוברט בי'צלר. המפתח הוא יעילות אנרגטית"

חברת Untether AI הקנדית הכריזה על ארכיטקטורת הדור השני שלה של מעבדי הסקות ברשתות נוירוניות, בשם speedAI, אשר מסוגלת לספק עוצמת עיבוד של עד 30TFlops/W. השבבים החדשים מיוצרים בתהליך 7 ננומטר של חברת TSMC, וצפויים להגיע אל השוק במחצית הראשונה של 2023. הם יסופקו ללקוחות במתכונת של רכיבים בודדים, או במתכונת של כרטיסי m.2 וכרטיסי PCI Express הכוללים 6 מעבדים בכל כרטיס, ומאפשרים חיבור הכרטיסים לקבלת עוצמת עיבוד גבוהה יותר.

סגן נשיא לניהול מוצר בחברה, רוברט ביצ'לר, סיפר בראיון ל-Techtime שבשלב הראשון החברה מייעדת את המוצרים שלה אל שוק מרכזי הנתונים. ביצ'לר: "בקצב הנוכחי של צמיחת מרכזי הנתונים, אם לא נתייעל הם יצרכו בתוך מספר שנים כ-20% מכל תפוקת האנרגיה בעולם. לכן יעילות אנרגטית היא המפתח. ככל שהמעבד יותר יעיל, גם ניתן לקבל יותר עוצמת עיבוד וגם לחסוך אנרגיה. היינו צריכים להתמודד עם הצורך לספק עוצמת עיבוד גבוהה, דיוק בתוצאות ויכולת התאמה לרשתות נוירוניות בטופולוגיות שונות".

עיבוד צמוד-לזיכרון

ארכיטקטורת speedAI צמחה בתוך ההכרה שכ-90% מהאנרגיה ברשתות נוירוניות מוקדשת להעברת המידע ממקום למקום ברשת. "כדי להתמודד עם הבעיה הזאת פיתחנו את הרעיון של עיבוד צמוד-לזיכרון (At-Memory Compute). השבב בנוי מרשת גדולה מאוד של אלמנטים מקושרים (Memory Bank), אשר כל אחד מהם כולל 512 יחידות עיבוד (ALU) וזיכרון SRAM הצמוד לכל יחידה. כל אלמנט כזה מנוהל באמצעות מעבד RISC-V שעבר התאמה ממיוחדת, כולל פקודות ייעודיות שפיתחנו עבורו. הקישוריות של כל המערך מנוהלת באמצעות מעבד ARM. השבב הראשון שלנו, speedAI240, כולל 1,456 מעבדי RISC-V".

המעבד החדש עובד עם כל הפורמטים של מידע המקובלים בתחום כמו FP32, FP8, BF16 ו-INT8. אולם במהלך הפיתוח החברה גילתה תופעה בלתי צפוי בתחום הזה: "חקרנו את היעילות של הפורמטים השונים והתברר לנו שדווקא פורמט FP8, אשר נחשב למדויק פחות בהשוואה לפורמטים הארוכים יותר, נותן תוצאות טובות יותר. אומנם המידע בכל מילה הוא פחות מפורט, אולם יעילות הביצוע והאפשרות להשתמש ברשת גדולה יותר – מפצים על האובדן בדיוק – ומספקים עוצמת עיבוד כוללת גדולה יותר. להערכתי אנחנו הראשונים בתעשייה המשתמשים בפורמט הזה ביישום מסחרי".

מתחרה פוטנציאלית של היילו

חברת Untether AI הוקמה בשנת 2018 בטורונטו, קנדה, על-ידי יוצאי תעשיית השבבים, רבים מהם הגיעו מחברות ה-FPGA זיילינקס ואלטרה. מאז הקמתה היא גייסה כ-170 מיליון דולר בהובלת גופים כמו אינטל קפיטל. כיום היא פועלת מטורונטו ומעמק הסיליקון. האם היא מתחרה בחברת Hailo הישראלית? בשלב הנוכחי עדיין לא. לדברי ביצ'לר, השבב המרכזי שלה speedAI240 מיועד לשוק מרכזי הנתונים בעוד ששבב ההסקות של היילו מיועד לאבזרי קצה. יחד עם זאת, ייתכן שמדובר במרחק תחרותי זמני: במצגת הרשמית של החברה ניתן לראות שהיא מתכננת להוציא בעתיד גרסאות מצומצמות יותר של הטכנולוגיה, בשבבים קטנים וחסכוניים בהספק, המותאמים לשימוש גם באבזרי קצה.