Polyn הכריזה על חיישן זעזועים מבוסס רשת נוירונים אנלוגית

חברת Polyn Technology מקיסריה הכריזה על חיישן זעזועים ליישומי תחזוקה מונעת, שהוא חסכוני באנרגיה עד פי 1,000 בהשוואה לחיישני הזעזועים הקיימים היום בשוק. להערכת החברה, שידור המידע מהחיישן לענן אחראי כיום לכ-85%-99% מצריכת ההספק של החיישנים. כדי לספק מידע יעיל על כשלים מכניים, החיישנים משדרים מידע ברוחב פס של עד 20KHz, אשר מעובד בענן. החברה מציעה חיישן המעבד את המידע, ושולח לענן רק את התבנית המפוענחת בנפח של אלפית מהמידע שכיום נישלח לענן.

החיישן החדש,  VibroSense, מבוסס על שבב של החברה אשר מיוצר בטכנולוגיית Neuromorphic Analog Signal Processing – NASP של החברה, אשר מבוססת על פיתוח מתימטי של המדען הראשי אלכסנד גודובסקי. הוא פיתח משוואה המאפשרת לייצג באופן אנלוגי את הפעילות של רשתות נוירוניות בשלב ההסקה (רשתות מאומנות). הפיתוח איפשר לחברה לייצר מעגל המממש רשת המקבילה לאלפי נוירונים דיגיטליים – באמצעות אבני בניין קלאסיות כמו מגברי-שרת (OpAmp) ונגדים.

למעשה, הרשת הנוירונית של החברה היא מעורבת (היברידית). מכיוון שלהערכתה פחות מ-10% מכל רשת נוירונית דיגיטלית משתנה בזמן עקב קבלת עידכונים, ושאר ה-90% נשארים קבועים ולא משתנים, הפתרון שלה מבוסס על תמהיל של שתי הטכנולוגיות: עיקר הרשת מבוסס על הנוירונים האנלוגיים ורק חלק קטן ממנה הוא דיגיטלי ומאפשר קבלת עידכונים. בין השאר, היא מאפשרת ללקוחות לבחור את התמהיל דיגיטל-אנלוג שאותו הם מעדיפים.

זהו השבב השלישי של החברה, בשנת 2022 היא כריזה על השבב NeuroVoice לעיבוד אותות שמע במכשירי שמיעה, ועל השבב NeuroSense לעיבוד מידע הנקלט על-ידי אבזרי ניטור אישי לבישים. מאז הקמתה ב-2019 החברה גייסה כ-4.5 מיליון דולר. כיום היא רשומה בבריטניה ויש לה משרדים בלונדון, אבל משרדיה הראשיים מצויים בישראל והיא נמצאת בתהליכי רישום של 21 פטנטים. השבבים מיוצרים על-ידי גלובלפאונדריז בטכנולוגיית CMOS ברוחב צומת של 55 ננומטר.

Tensorleap פיתחה פלטפורמה שפותחת את "הקופסה השחורה" של רשתות הנוירונים

חברת הסטארטאפ Tensorleap נחשפת עם פלטפורמה לתיקון באגים ובדיקה עמוקה של רשתות נוירונים מלאכותיות. לדברי החברה, המערכת מורידה בצורה דרסטית את הסכנה שהמודלים שפיתחו אנשי הדאטה סיינס יכשלו לאחר המעבר לעולם האמיתי (סביבת פרודקשן).

החברה הוקמה על ידי דודי בן דוד (מנכ"ל), יותם עזריאל (סמנכ"ל טכנולוגיה) וניר בן דוד (CCO). החברה ערכה גיוס סיד של 5.2 מיליון דולר מהקרנות Angular Ventures, Sozo Ventures, Industry Ventures ומעסיקה 15 עובדים במרכז הפיתוח ברמת גן.

אימוץ נרחב של רשתות נוירונים החל לפני פחות מעשור, עם ההנגשה של כוח מחשוב גבוה, נפחי נתונים גדולים ויכולת גישה יעילה ומהירה לענן. רשתות נוירונים נותנים מענה לבעיות ויישומים שמודלים קלאסיים של למידת מכונה אינם יכולים להתמודד איתן, בתחומים כמו ייצור תעשייתי וטכנולוגיות רפואיות ועד לרכבים אוטונומיים, פיננסים וסייבר. על כן, ההערכה היא כי השימוש ברשתות נוירונים יתרחב באופן אקספוננציאלי ככל שהבינה המלאכותית תגיע לתחומים ושימושים חדשים.

רשתות נוירונים עמוקות (DNN) מתנהלות באופן נסתר במעין "קופסה שחורה", שגורמת לכך שמחזורי הפיתוח מבוססים בעיקר על ניסוי וטעיה. לכן הם ארוכים, לא יעילים ויקרים, וחמור מכך תוצאתם אינה אמינה. גם לאחר השגת הדיוק הרצוי, על מדעני הנתונים לוודא את החוסן של המודלים במקרי קצה, כדי למנוע כשלים בתרחישים אלה בפרודקשן. גם במקרים בהם מודלים מתפקדים כצפוי, אין למדעני הנתונים יכולת להבין ולהסביר כיצד המודל הגיע לתוצאה. כשמדובר בהחלטות משפיעות חיים, כמו אבחון סריקה רפואית או נהיגה אוטונומית, היכולת לבצע אימות והסבר להצלחה ולכישלון הם קריטיים להצלחה במשימה.

השיטות הקיימות לפיתוח רשתות נוירונים מבוססות  בעיקר על מערכות לניהול ניסויים המסייעות למדעני נתונים לנסות יותר ויותר, וגוזלות זמן פיתוח רב וכוח מחשוב עצום. בעזרת אלגוריתמים מתקדמים שפיתחה החברה, Tensorleap מסייעת לפתוח את "הקופסה השחורה", כך שאנשי הדאטה-סיינס יוכלו להבין כיצד המודל תופס את הנתונים, כיצד הוא מקבל החלטות, באילו מקרים הוא נכשל, והכי חשוב – מדוע. עם הנראות הזו, מדעני נתונים יכולים לזהות ולפתור בעיות, לנתח אוכלוסיות בתת-ייצוג, להתמודד עם overfitting (התאמת יתר מחשידה של הנתונים), לבצע בדיקות מקיפות למודל ולקבל החלטות מושכלות לגבי אילו מודלים באמת מוכנים להטמעה בפרודקשן.

Tensorleap היא פלטפורמה מבוססת מנוי שעובדת במודל SaaS או בהתקנה באתר או בענן הלקוח ותומכת בכל סוגי הדאטה, לרבות תמונות, טקסט, גרפים, מידע טבלאי ועוד. לחברה לקוחות במגוון תחומים, החל ממוצרים רפואיים ועד ליצרני שבבים, גיימינג ופלטפורמות מדיה חברתית.

[קרדיט צילום: אורן דאי]

Polyn הכריזה על שבב עיבוד-קול המבוסס על נוירונים אנלוגיים

חברת Polyn Technology מקיסריה הכריזה על השבב הראשון בטכנולוגיית NASP המהפכנית שאותה היא פיתחה בשלוש השנים האחרונות, אשר מאפשרת לממש רשתות לימוד עומק באמצעות נוירונים אנלוגיים, ולא באמצעות מעגלים דיגיטליים. הרכיב הראשון בסדרה הוא שבב העיבוד הקולי NeuroVoice, אשר מבצע הפרדה בין הקול האנושי לבין קולות רקע ומיועד לשוק של מכשירי השמיעה, מכשירי רדיו אלחוטיים בידי כוחות חירום והצלה, יישומים צרכניים ועוד.

הרכיב משלים את הפיענוח של כל הסקה בתוך 20µsec וצורך הספק של 100µW בלבד. מנהל השיווק ופיתוח עסקי בחברה, יוג'ין זטצרוב, אמר שטכניקות עיבוד הקול הנוכחיות צורכות אענרגיה רבה ולעתים רבות לא מספקות את הדרישה. "שימוש בבינה מלאכותית כדי לחלץ את הקול האנושי מתוך סביבה רועשת, כולל רעשים בלתי סדירים, מספק חוויית שמיעה טובה יותר מאשר השימוש בטכניקות ביטול רעשים. רשת נוירונית היא הכלי המושלם לביצוע עיבוד קול".

החברה משווקת את השבב במתכונת של רכיב חומרה (ייצור בגלובלפאונדריז בתהליכי 40-65 ננומטר) או במתכונת של מודולי קניין רוחני (IP). מפת הדרכים של החברה כוללת לפחות עוד שני רכיבים: מעבד NeuroSense חסכוני בהספק עבור ניטור חיישנים באבזרים דלי-הספק כמו שעונים חכמים ואבזרים לבישים, ומעבד לניתוח זעזועים עבור השוק התעשייתי.

מאחורי הטכנולוגיה ניצבת תגלית מתימטית

רשת הנוירונים של חברת פולין היא יוצאת דופן: החברה פיתחה את טכנולוגיית Neuromorphic Analog Signal Processing – NASP, שבה רוב הרשת מיושם באמצעים אנלוגיים קלאסיים (מגברי שרת ונגדים) ורק חלק קטן ממנה מבוסס על רשת נוירונים דיגיטלית. מייסד משותף ומנכ”ל החברה, אלכסנדר טימופייב, הסביר ל-Techtime שבממוצע כ-90% מהרשת הנוירונית הם קבועים ולא משתנים. "פחות מ-10% ממנה מקבל עידכונים שונים בהמשך הפעולה. השבב שלנו הוא היברידי: אנחנו ממירים 90% מהרשת למעגל אנלוגי והשאר נשאר דיגיטלי. אנחנו גם יכולים להתאים את התמהיל הזה לצורכי היישום הספציפי”.

הטכנולוגיה נולדה בעקבות פיתוח מתימטי של המדען הראשי אלכסנד גודובסקי. הוא פיתח משוואה המאפשרת לייצג באופן שונה את הפעילות של רשתות נוירוניות בשלב ההסקה (רשתות מאומנות). בעקבות הרעיון הוקמה החברה בשנת 2019, וגייסה לשורותיה מפתחים ישראלים יוצאי חברות דוגמת טאואר, יבמ, אינטל, קיידנס ועוד. מאז הקמתה גייסה פולין כ-4.5 מיליון דולר. כיום החברה מעסיקה 22 עובדים. היא רשומה בבריטניה ויש לה משרדים בלונדון, אבל משרדיה הראשיים מצויים בישראל.

שירות האימון החדש של AWS מבוסס על אנפורנה לאבס

חברת AWS הכריזה על שירות חדש של אימון רשתות נוירוניות בענן, המתבסס על שבבי Trainium של אנפורנה לאבס הישראלית, שנירכשה על-ידי אמזון בשנת 2015. כיום החברה פועלת מישראל ומארה"ב, ומפתחת מאיצי עיבוד ושבבים ייעודיים המשמשים להאצת שירותי הענן של אמזון. השבב תוכנן במטרה להאיץ את תהליכי האימון של רשתות נוירוניות המבצעות מטלות דוגמת זיהוי קול ותמונה, חיפוש סמנטי במאגרי נתונים, גילוי תקיפות סייבר, בניית תחזיות וכדומה.

החברה העריכה שהשירות החדש, Trn1, הניתן במסגרת Amazon EC2, מהיר פי שניים בהשוואה לשירותים המקבילים המבוססים על מעבדי GPU. אמזון מתקינה את מאיצי Trainium באשכולות מחשבים מסוג EC2 UltraCluster, אשר יכילו עד 30,000 מאיצים בכל אשכול ויספקו עוצמת עיבוד כוללת של עד 6.3exaflops. שירות Trn1 הוא למעשה מחשב וירטואלי הקרוי instance, אשר מספק ללקוח תשתית של שרת המתנהג כמו שרת יחיד ממשי. בכל instance כזה יש עד 16 מאיצי Trainium.

זהו האינסטנס הראשון של AWS המספק מהירות תקשורת של עד 800Gbps, שהושגה בזכות מעבדי Graviton שגם הם פותחו באנפורנה לאבס. מאיצי Trainium הם מרכיב בחבילת פתרונות Nitro שאותם אנפורנה לאבס מפתחת. מדובר במשפחה של פתרונות חומרה ותוכנה המיועדת להאיץ את הביצועים של מעבדי ה-CPU, מערכות האיחסון ותשתית הקישוריתו במרכזי נתונים, באמצעות הסטת עומסים אל רכיבי חמרה ייעודיים המבצעים את המטלות הספציפיות במהירות רבה.

חברת אמזון, הבעלים של AWS, הודיעה שהיא בעצמה החלה להשתמש בשירותי Trn1 כדי להפעיל את מנוע החיפוש באתר הקניות המקוונות שלה. מעניין לציין שבעבר רמזה AWS, שהמאיץ Trainium מיועד להחליף את מעבד גאודי שפותח על-ידי חברת הבאינה לאבס הישראלית, אשר נירכשה על-ידי אינטל בשנת 2019. מדובר בשתי חברות שונות שהוצמחו על-ידי אביגדור וילנץ.

עובדים באפלייד מטיריאלס ישראל פיתחו אלגוריתם בינה מלאכותית להסרת צללים מתמונות

בתמונה למעלה: דוגמא לאיכות הסרת הצללים באמצעות האלגוריתם החדש

מחקר שביצעו שני עובדים מחברת אפלייד מטיריאלס ישראל (Applied Materials) הציג גישה חדשה להתמודדות עם בעיית ההצללה בתמונות, והביא לפיתוח אלגוריתם בינה מלאכותית אשר מסוגל לנקות צללים מתמונות, באיכות הטובה ביותר שהושגה עד היום, באמצעות רשת נוירונים שהיא קטנה פי 1,000 בהשוואה לשיטות המתחרות. הפיתוח נעשה על-ידי תמיר עיני וגלעד ורד ממחלקת האלגוריתמים של חברת אפלייד מטיריאלס בישראל, ביחד עם אפרת אימר ובליווי פרופ' שי אבידן מאוניברסיטת תל אביב.

המחקר בוצע בעידוד החברה ועל חשבון שעות העבודה. הפרוייקט החל במסגרת קורס למידה עמוקה באוניברסיטה שבו השתתף תמיר עיני, שבו התבקשו הסטודנטים לבצע עבודת גמר. בהתייעצות עם המנחה שלו לעבודת המאסטר בהנדסת חשמל, פרופ' אבידן, החל עיני לעבוד על נושא ההצללה ובסיום הקורס צירף אליו את גלעד ורד. המטרה הייתה למצוא דרך יעילה להתמודד עם סוגיית הצל, אשר מאפשרת לסייע בפתרון בעיות דומות גם בתחום מערכות הבקרה על ייצור שבבים.

הגדרה חדשה של אתגר הצל

עיני: "מודלים של רשתות נוירונים מבוססים על שימוש במשקולות, אשר מספרן מגדיר את מספר פעולות העיבוד שיש לבצע. המודל שפיתחנו זקוק לפחות משקולות בשלושה סדרי גודל בהשוואה למודלים הקיימים היום בספרות. כלומר, הרשת שלנו מבצעת פי 1,000 פחות פעולות עיבוד, ובכל זאת היא סיפקה את התוצאה הטובה ביותר. המחקר וההדגמה נעשו על-גבי שני מאגרי מידע הכוללים תמונות עם צל ותמונות בלי צל, אשר משמשים כמבחן ליכולת של האלגוריתם להתמודד עם הבעיה".

מימין לשמאל: גלעד ורד ותמיר עיני
מימין לשמאל: גלעד ורד ותמיר עיני

לדברי גלעד, אחד מההישגים של הפיתוח הוא בגישה החדשה של הצוות, שבה האלגוריתם מנתח כל פיקסל בתמונה. "עד היום התמודדו עם אתגר הסרת הצל מתוך הנחה שהתיקון צריך להיות אחיד, ולכן העיבוד נעשה על כל איזור הצל במשותף. הטענה שלנו היתה שהצל הוא לא אחיד. קיימים אזורים פנימיים שבהם הצל אחיד, וקיימים אזורים שבהם יש עירוב בין הארה מוצללת במלואה לבין הארה שהיא מוצללת באופן חלקי, ולכן צריך להתמודד עם האתגר ברמת הפיקסל ולא ברמת הצל באופן אחיד".

מחלקת האלגוריתמים של אפלייד מטיריאלס ישראל מעסיקה כ-70 אלגוריתמאים העוסקים במחקרי עומק בתחומים כמו ראיית מכונה (CV), לימוד מכונה (ML) ורשתות נוירונים עמוקות (DL). הממצאים הוצגו בסדנה של כנס CVPR שהתקיים ביוני השנה בארה"ב. מדובר בכנס החשוב בעולם בנושאי ראייה ממוחשבת.

למידע נוסף: Image Deshadowing Using Local Linear Model

הבאנה לאבס מכריזה מלחמה על ה-GPU

חברת הבאנה לאבס (Habana Labs) מקיסריה ותל אביב הכריזה על מעבדי הבינה המלאכותית החדשים שלה: מעבד Gaudi 2 לאימון רשתות נוירוניות ומעבד Greco המשמש כמנוע לייצור הסקות (inferencing) ברשתות לימוד עומק (deep learning). בפגישה עם איתן מדינה, מנהל העסקים הראשי של חברת הבאנה לאבס, הוא סיפר שהמעבדים החדשים מיוצרים בחברת TSMC בתהליך של 7 ננומטר וצורכים הספק של עד 600W ללא צורך בקירור נוזלים.

חברת הבאנה לאבס הוקמה בשנת 2016 על-ידי דוד דהן ורן חלוץ, יוצאי חברת פריימסנס שנמכרה לאפל ב-2013 תמורת 345 מיליון דולר. בסוף 2019 היא נמכרה לאינטל תמורת כ-2 מיליארד דולר וכיום מעסיקה כ-900 עובדים. היא הפכה לאחת מאבני הבניין החשובות של אינטל בתחום הבינה המלאכותית. לדברי מדינה, המעבדים מיועדים לשוק הצומח של רשתות עומק (DL) בבמרכזי נתונים. "כיום תופס ה-DL כ-75% מפעילות הבינה המלאכותית בענן. להערכתנו, ככל שגדל המשקל ה-DL בשרתים, כך גובר הצורך בהבאנה: אומנם מעבדי GPU יעילים בעיבוד משימות מעורבות, אולם בתחום רשתות העומק הנוירוניות יש עדיפות להבאנה".

מעבד Gaudi 2 כולל גם מנוע עיבוד מדיה משולב עבור מדיה דחוסה, כדי להוריד עומס מהמערכת המארחת. קיבולת זיכרון שלו הוכפלה פי שלושה ל-96 ג'יגה-בייט עם רוחב פס של 2.45 טרה-בייט/לשנייה. השבב כולל 24 ממשקי גישה לרשת מסוג 100GbE RoCE RDMA, המאפשרים הגדלה והרחבה באמצעות חיבור רשת סטנדרטי, המצמצם את התלות של הלקוח בממשקי תקשורת קנייניים. המעבד מופיע עם תוכנת SynapseAI, אשר תומכת במודלים לאימון על Gaudi 2 והסקת מסקנות בכל פלטפורמה, כולל מעבדי Xeon של אינטל, Greco של הבאנה או Gaudi 2 בעצמו.

איתן מדינה. הבאנה יעילה יותר מ-GPU
איתן מדינה. הבאנה יעילה יותר מ-GPU

ההכרזה כוללת גם שרת בינה מלאכותית 12 Gaudi 2 Training Server אשר פותח על-ידי חברת Supermicro ומתוכנן להגיע השנה לשוק. במקביל, חברת DataDirect Networks תספק מארז שלם הכולל את שרת Supermicro X12 ביחד עם פתרון האחסון שלה, DDN AI400X2, לאחר שעבר התאמה לפעולה הדדית. אחת מההצלחות החשובות של הבאנה היא שחברת AWS התקינה בענן שלה את דרייבר (Instance) הבינה המלאכותית Amazon EC2 DL1, שהוא הראשון שאינו תומך במעבדי GPU. אפילו חברת מובילאיי כבר מבצעת עבודות עיבוד באמצעותו.

מעבד Gaudi החדש מאפשר לאינטל להתחרות בחברת אנבידיה בתחום החזק ביותר שלה – מעבדי GPU ליישומי בינה מלאכותית. אפילו תוכנת SynapseAI של הבאנה מעניקה למפתחים אפשרות לעבוד עם תוכנות שאינן תוכנות של אנבידיה. בתדרוך לכתבים ישראלים, אמרה סנדרה ריברה, סגנית נשיא בכירה באינטל ומנכ"לית קבוצת הדאטה סנטר והבינה המלאכותית, שהשקת מעבדי הבאנה החדשים "היא דוגמה מצוינת לאופן שבו אינטל מיישמת את אסטרטגיית הבינה המלאכותית שלה – מהענן ועד לאבזרי הקצה. "מעבד Gaudi 2 מסייע לאמן עומסי לימוד מעמיק גדולים ומורכבים במהירות וביעילות".

מחשב עיבוד התמונה של פוקסקון יתבסס על היילו

חברת פוקסקון (Foxconn) מטמיעה את מעבד הבינה המלאכותית של חברת Hailo התל-אביבית בדגמים החדשים של מחשבי עיבוד התמונה ממשפחת BOXIedge שהיא מייצרת. המוצר החדש פותח בשיתוף פעולה בין פוקסקון הטאיוואנית, היילו הישראלית וחברת Socionext היפנית, אשר תורמת למוצר את שבב העיבוד המקבילי SynQuacer, הכולל 24 ליבות Cortex-A53. המחשב החדש מיועד לבצע פעולות עיבוד תמונה מורכבות בקצות הרשת (Edge), כדי לקבל תגובות מהירות ולשחרר עומס במרכזי הנתונים.

המחשב מיועד לבצע פעולות עיבוד תמונה בזמן אמת של הרבה מאוד מקורות וידאו (מצלמות) ביישומים כמו מערכות אבטחה וניהול העיר החכמה, ניטור תנועה, אוטומציה תעשייתית ורובוטיקה, מערכות רפואיות חכמות, ניהול חכם של מרכזים לוגיסטיים ועוד. פוקסקון שילבה במחשב את מעבד הלמידה העמוקה Hailo-8, אשר מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט.

השבב של היילו יודע מה הבעיה…

הוא מתוכנן לעמידה בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. השבב בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד לקבצי וידאו בתקן H.264, מעבד ARM-M4 המנהל את השבב, ומודול הרשת הנוירונית עצמה, שהחברה פיתחה על-פי רעיון ייחודי. היילו זיהתה תופעה מעניינת: בתהליך עיבוד ההסקות ברשת נוירונית (Deep Learning), יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן הן זקוקות למשאבים שונים. השבב של החברה יודע לנתח את הבעיה, להגדיר מה הן המשאבים הדרושים לכל שכבת עיבוד ולספק לה את המשאבים. באופן זה הוא מאיץ את תהליך העיבוד ומפחית את צריכת ההספק.

אור דנון, מנכ"ל ומייסד משותף של Hailo
אור דנון, מנכ"ל ומייסד משותף של Hailo

עוצמת המחשב החדש באה לידי ביטוי ביכולת לבצע עיבוד תמונה מבוסס בינה מלאכותית של אותו וידאו המגיעים הו-זמנית מ-20 מצלמות שונות. "מדובר בשיתוף פעולה עם שתי מובילות עולמית בתחום פתרונות ה-AI", אמר אור דנון, מנכ"ל ומייסד משותף של Hailo. "מעבד ה-Deep Learning שלנו משדרג באופן משמעותי את היכולות של מכשירים חכמים הפועלים בקצה הרשת". חברת Hailo הוקמה בחודש פברואר 2017 על-ידי אור דנון, אבי באום, הדר צייטלין ורמי פייג ז"ל, בוגרי יחידת עילית טכנולוגית של חיל המודיעין. החברה מעסיקה כיום כ-90 עובדים בתל-אביב וממשיכה לגייס עובדים נוספים. לפני כחודשיים היא השלימה גיוס הון בהיקף של 60 מיליון דולר.מאז הקמתה החברה גייסה כ-88 מיליון דולר.

היילו גייסה 60 מיליון דולר לשבב רשתות נוירוניות

בתמונה למעלה: מנכ"ל ומייסד משותף של חברת היילו, אור דנון

חברת Hailo התל-אביבית השלימה גיוס הון בהיקף של 60 מיליון דולר בסבב B. בסך כל, מאז הקמתה בשנת 2017 גייסה החברה כ-88 מיליון דולר. חברת היילו הוקמה על-ידי המנכ"ל אור דנון, ה-CTO אבי באום ומנהלת הפיתוח העסקי הדר צייטלין. המשקיע הראשון בחברה היה זהר זיסאפל, המשמש כיו"ר Hailo. החברה פיתחה ארכיטקטורה חדשה של שבב ליישום רשתות נוירוניות ללימוד עומק. המעבד של החברה, Hailo-8, מיועד לממש את שלב ההרצה, כלומר יישום ההסקות (Inference) באבזרי קצה.

לסבב הגיוס הנוכחי הצטרפו מספר שותפים אסטרטגיים: קרן ההשקעות של תאגיד התעשייה ABB המייצר מערכות אוטומציה תעשייתית ורובוטיקה, חברת NEC וקרן ההון סיכון Latitude Ventures מלונדון. בין המשקיעים הקיימים בחברה: זהר זיסאפל, OurCrowd ,Glory Ventures; גיל אגמון; קרנות Maniv Mobility ו-Next Gear, והקרן הנלווית לאקסלרטור הרכב Drive.

כניסה לייצור המוני ב-2020

השותפים האסטרטגיים שהצטרפו לגיוס מתכננים להשתמש בשבבי העיבוד של החברה. חברת NEC מעוניינת לשלב את השבבים בדור הבא של התקני הקצה שלה, כדי לחדור עמוק יותר לשוק האנליטיקה החכמה של שידורי וידאו וחברת ABB מצפה לשלב את הפתרון של Hailo במערכות תעשייתיות, במסגרת המעבר לייצור במתכונת Industry 4.0.

המנכ"ל אור דנון סיפר ל-Techtime שההון שגוייס ישמש למימון הכניסה לשוק ולפיתוח הדור הבא של מעבדים. "אנחנו עובדים עם אחד מהפאבים הגדולים בעולם אשר יתחיל כבר השנה בייצור המוני של השבב. האתגר הגדול השנה הוא לקבל את כל ההסמכות של מוצרים בתקנים תעשייתיים ואת ההסמכות של תעשיית הרכב. במקביל, אנחנו נערכים לתמיכה בלקוחות לקראת אספקת השבבים. השנה נפתח משרדים ביפן, בגרמניה ובארצות הברית כדי שנוכל להיות קרובים ללקוחות".

מייסדי חברת היילו (מימין לשמאל): ה-CTO אבי באום, מנהלת הפיתוח העסקי הדר צייטלין ואור דנון
מייסדי חברת היילו (מימין לשמאל): ה-CTO אבי באום, מנהלת הפיתוח העסקי הדר צייטלין ואור דנון

החברה נמצאת בשלבי צמיחה, והתרחבה בחודשים האחרונים מהיקף של כ-60 עובדים במחצית 2019, להיקף של כ-80 עובדים כיום. בימים אלה היא נמצאת בתהליך גיוס של 30-40 עובדים נוספים. חלקם עובדים בחו"ל, ורובם עובדים שיועסקו במרכז המו"פ הישראלי ובמרכז התמיכה בלקוחות. הפרטים על טכנולוגיית הייצור עדיין חסויים, אולם דנון הסביר שהיתרון המרכזי של שבבי היילו נעוץ בארכיטקטורה מיוחדת, המאפשרת לייעל את תהליך העיבוד במספר מועט יחסית של טרנסיסטורים. "הדבר מתבטא בחסכון בהספק של אבזר הקצה הכולל את שבב העיבוד – וגם מבטיח ייצור נוח של השבב".

ארכיטקטורה גמישה המבוססת על התנהגות מפתיעה של הרשת הנוירונית

על-פי הנתונים של החברה, השבב Hailo-8 מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט. הוא מתוכנן לעמידה בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. השבב בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד לקבצי וידאו בתקן H.264, מעבד ARM-M4 המנהל את השבב, והרשת הנוירונית עצמה, שהחברה פיתחה.

הרשת הנוירונית מורכבת ממטריצה גמישה של יחידות עיבוד ויחידות זיכרון, וניתן להגדיר את תצורתה בתוכנה. דנון: "הארכיטקטורה שלנו מתארת את המבנה של רשת נוירונית ומקצה משאבים לכל שכבה ברשת. זיהינו שבתהליך העיבוד של ההסקות, יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן צריך לספק להן משאבים שונים. זאת בניגוד למתחרים שלנו המשתמשים בפתרונות כמו מעבדי GPU המעניקים לכל השכבות את אותה כמות של משאבים. תוכנת הפיתוח שלנו לומדת את הבעיה הספציפית, מאפיינת אותה, ויודעת להעביר לשבב הוראות כיצד לנהל בצורה אופטימלית את משאבים של כל אחת מהשכבות".

הקשיבו לראיון מוקלט עם אבי באום, הטכנולוג הראשי של היילו (מתחיל בדקה 09:45):

Hailo נערכת לייצור המוני של שבבי AI במהלך 2020

בתמונה למעלה: צוות פיתוח בהיילו. החברה התל אביבית מעסיקה כיום 65 עובדים

חברת היילו (Hailo) התל אביבית נערכת לקראת הייצור ההמוני של שבב הבינה המלאכותית שלה, העומד בתקן ASIL-B של תעשיית הרכב. הייצור הסדרתי מתוכנן להתבצע במהלך 2020. מייסד ומנכ"ל החברה, אור דנון, סיפר ל-Techtime שהשבב החדש ייקרא בשם Hailo-8. הוא פותח במסגרת עבודה משותפת של החברה מול יצרניות רכב, ומספק עמידה בדרישות של מערכות קריטיות להצלת חיים, כולל עמידה בטמפרטורות עבודה של עד 105°C.

על-פי הנתונים של החברה, השבב Hailo-8 מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט. הוא יעמוד בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. הוא בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה (Image Signal Processor) המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד H.264 המאפשר לטפל בתמונות וידאו, מעבד ARM-M4 המנהל את השבב, והרשת הנוירונית עצמה, המורכבת ממטריצה גמישה של יחידות עיבוד ויחידות זיכרון שניתן להגדיר את תצורתה בתוכנה.

חידוש הרעיון הישן של מעבדי DFP

חברת היילו הוקמה בחודש פברואר 2017 על-ידי המנכ"ל אור דנון, ה-CTO אבי באום ומנהלת הפיתוח העסקי הדר צייטלין. המשקיע הראשון בחברה היה זהר זיסאפל, המשמש כיום כיו"ר Hailo. עד היום החברה גייסה כ-24 מיליון דולר, כאשר הגיוס האחרון בהיקף של כ-21 מיליון דולר הסתיים בינואר 2019. החברה פיתחה ארכיטקטורה חדשה של שבב בינה מלאכותית עבור אבזרי קצה, המבצע את שלב ההרצה. כלומר, יישום ההסקות (Inference) של רשת נוירונית באבזרי קצה, במהירות רבה ובחסכון גדול באנרגיה. לדברי דנון, הארכיטקטורה מוגנת בכמה עשרות פטנטים. "היא משתייכת למשפחה נשכחת של מעבדים מסוג Data Flow Processors".

אור דנון, מנכ"ל Hailo. "הארכיטקטורה שלנו מוגנת בכמה עשרות פטנטים"
אור דנון, מנכ"ל Hailo. "הארכיטקטורה שלנו מוגנת בכמה עשרות פטנטים"

במעבדי DFP, פעולת העיבוד מתבצעת רק כאשר מוזנים נתונים אל המעבד, ואז הוא מבצע סדרה קבועה של פעולות על-גבי המידע הזה, ומעביר הלאה את התוצר המעובד. "בשנים האחרונות הסתבר שהישענות על רשתות נוירוניות היא שיטה יעילה ואמינה לפתור בעיות רבות, ולכן רוב מערכות הבינה המלאכותית שאנחנו רואים בשוק מבוססות על רשתות נוירוניות. כאן האתגר הוא מבני, מכיוון שהשבב צריך לממש מבנה של רשת נוירונית. ברשת נוירונית אתה יוצק נסיון אל תוך תיאור של מבנה, ולכן זהו פתרון יעיל מאוד בפתרון בעיות המבוססות על הכרת דוגמאות".

כיצד בנוי השבב שלכם? מה הם העקרונות המרכזיים של הארכיטקטורה?

דנון: "הארכיטקטורה שלנו מתארת את המבנה של רשת נוירונית ומקצה משאבים לכל שכבה ברשת. זיהינו שבתהליך העיבוד של ההסקות, יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן צריך לספק להן משאבים שונים. זאת בניגוד למתחרים שלנו המשתמשים בפתרונות כמו מעבדי GPU המעניקים לכל השכבות את אותה כמות של משאבים. תוכנת הפיתוח שלנו לומדת את הבעיה הספציפית, מאפיינת אותה, ויודעת להעביר לשבב הוראות כיצד לנהל את משאבים של כל אחת מהשכבות בצורה האופטימלית".

מה הם מרכיבי השבב?

"הרעיון הוא להשתמש ביחידות זיכרון קרובות מאוד ליחידות העיבוד. אנחנו מקצים יחידות זיכרון ויחידות עיבוד בהתאם לכל משימה, ועל-ידי כך משיגים מהירות עיבוד גבוהה מאוד, וחסכון גדול בהספק שהשבב צורך. הדבר הזה מאפשר לנו לעמוד בתקנים המחמירים של תעשיית הרכב, מכיוון שהשבב אינו מתחמם ויכול לעבוד בטמפרטורות הסביבה שהתעשייה דורשת".

אתם טוענים שהשבב שלכם יעיל מהפתרונות האחרים בשוק. אולם אין מדד אוניברסלי למדוד שבבי בינה מלאכותית.

"אנחנו מודדים את הביצועים שלנו באמצעות בדיקת כמה פעולות לוואט אנחנו מבצעים ברשת ניורונית ספציפית. כיום ישנו קונסורציום MLPerf המנסה להגדיר מדד בר-השוואה לרשתות נוירוניות אמיתיות. בכל מה שקשור למוצרי קצה, התעשייה ככל הנראה הולכת לכיוון של מדידת מספר הפעולות לוואט שהרשת הנוירונית מבצעת על מטלה מסויימת, כמו תמונה למשל".

כיום מתפתחות שיטות להטעיית הזיהוי של רשתות נוירוניות. אתם מתמודדים עם הבעיה?

"אפשר להתייחס אל הטעיות AI כאל חולשות, בדומה לאופן שבו מתייחסים אל חולשות אבטחה. בתחילה החולשות של מערכות תוכנה הפתיעו את התעשייה, אולם בהדרגה מוצאים להן פתרונות. בתחום הבינה המלאכותית, מדובר קודם כל בבעיה קונספטואלית שאין לה פתרון ברמת הסיליקון. אבל אם הרשת אומנה בצורה לא נכונה, והתוקף יודע כיצד היא אומנה, הוא יכול לתכנן תקיפה נגדה. אנחנו מתמודדים גם עם הבעיה הזאת, וברמה העקרונית היא מבטאת את היתרון של התקנת מערכות בינה מלאכותית בקצות הרשת, מכיוון שבאופן הזה קיימות פחות חולשות לאורך מסלול העברת המידע".

יעילות הספק: השוואה שביצעה היילו המציגה את יעילות השבב שלה מול המתחרות העיקריות
יעילות הספק: השוואה שביצעה היילו המציגה את יעילות השבב שלה מול המתחרות העיקריות

חברת היילו צומחת מהר, ומעסיקה כיום כ-65 עובדים ונמצאת בתהליך גיוס של עובדים נוספים. היא ממקדת את מאמציה בשני שווקים עיקריים: שוק הרכב ושוק אבזרי הקצה (IoT). שני שווקים שהם גם צפויים להיות גדולים מאוד, והם גם תובעניים מאוד, מכיוון שבשניהם יש צורך במוצר מאוד אמין, זול וחסכוני מאוד בהספק. דנון: "בהרבה מאוד מובנים המצלמה ברכב לא שונה בהרבה ממצלמת IoT בעיר החכמה. אלו שני תחומים שיהיו מאוד דומיננטיים, וחולקים ביניהם הרבה מאוד דרישות משותפות".