היילו השיקה מעבדי וידאו מבוססי AI

חברת היילו (Hailo) מתל-אביב הכריזה על משפחת מעבדי הווידאו Hailo-15 לאבזרי-קצה, אשר כוללים מודולי חומרה לעיבוד תמונה באמצעות רשתות נוירוניות ומיועדים להשתלב במצלמות חכמות כדי להאיץ יישומי בינה מלאכותית תובעניים. משפחת Hailo-15 כוללת שלושה מעבדי Vision Processor Units – VPU, המספקים ביצועים הנעים בטווח של 7-20 טריליון פעולות בשנייה (TOPS). להערכת החברה, הביצועים גבוהים ביותר מפי 5 בהשוואה לפתרונות מקבילים במחיר דומה.

המעבדים מיועדים ליישומי וידאו שמטעמי שיהוי (Delay) ופרטיות, דורשים להריץ את משימות ה-AI באבזר-הקצה ולא בענן. הם תומכים בפרוטוקולי קלט וידאו מרובים ברזולוציה של 4K, ומשלבים תת-מערכות עם יחידת עיבוד מרכזית (מעבד מרובע ליבות ARM A53), מעבד DSP וקטורי אשר יכול לטפל בעד 350 תמונות בו-זמנית (Group of Pictures – GOP), ליבת החומרה של Hailo לעיבוד רשתות נוירוניות, וממשקי תקשורת מהירים אל זכרונות LPDDR4, ערוצי PCIe ורשתות איתרנט מהירות של עד 1000G.

אסטרטגיית שוק חדשה

החברה דיווחה שהמעבדים מסוגלים להריץ את מודל YoloV5M6 לזיהוי אובייקטים, עם רזולוציית קלט גבוהה (1280×1280) בקצב המתאים לחיישן זמן אמת, ואת המודל ההשוואתי למיון אובייקטים, ResNet-50, בקצב מהיר של 700 תמונות בשניה (FPS). מעניין לציין שמדובר באסטרטגיית שוק חדשה: בעוד שמעבד הליבה של החברה, Hailo-8, הוא מעבד גנרי לרשתות נוירוניות, הפעם מדובר בשבב SoC וערכת תוכנה הממוקדים בשוק מוגדר, שבו יכולות ה-AI של החברה משמשות בתור "מגבר ביצועים" בלבד.

דיאגרמת המלבנים של מעבדי הווידאו ממשפחת Hailo-15
דיאגרמת המלבנים של מעבדי הווידאו ממשפחת Hailo-15

בדומה לשבב Hailo-8, גם משפחת מעבדי הווידאו Hailo-15 מאופיינת בצריכת הספק נמוכה, המתאימה ליישום במצלמות IP ובמכשירי קצה נטולי מאוורר. מנכ"ל חברת היילו, אור דנון, אמר שמעבדי Hailo-15 מייצגים התקדמות בביצועים ובכדאיות של בינה מלאכותית במכשירי קצה. "ההשקה ממנפת את החברה בשוק פתרונות קצה, שבו הרכיביםפ שלנו כבר נפרסו על-ידי מאות לקוחות בעולם. בשלות התוכנה וטכנולוגיית ה-AI שלנו מאפשרים לשלב יכולות בינה מלאכותית עתירת ביצועים בתוך מצלמות".

היילו מפתחת ומייצרת מעבדי בינה מלאכותית עבור מכשירי קצה. מעבדי Hailo נולדו מתוך חשיבה מחדש על ארכיטקטורת המחשב הרגילה, והם מאפשרים למכשירים חכמים לבצע משימות מתוחכמות של למידה עמוקה דוגמת זיהוי עצמים וסגמנטציה בזמן אמת, עם מינימום של צריכת הספק, גודל ועלות. חברת היילו הוקמה בפברואר 2017 על-ידי בוגרי יחידת עילית טכנולוגית יוצאי חיל המודיעין. בשנה שעברה החברה השלימה גיוס הון בהיקף 136 מיליון דולר. כיום היא מעסיקה כ-200 עובדים, ומגייסת עובדים נוספים על-מנת לתמוך בצמיחה המואצת.

אבנט תפיץ את פתרונות הבינה המלאכותית של היילו

בתמונה למעלה: מודולי סדרה M.2 של היילו להאצת יישומי בינה מלאכותית במערכות משובצות

חברת אבנט (Avnet) תפיץ את שבבי הבינה המלאכותית ומודולי הבינה המלאכותית של חברת היילו (Hailo) התל אביבית. ההפצה תתבצע באמצעות החברה הבת EBV Elektronik הפועלת מגרמניה. מנכ"ל היילו, אור דנון, אמר שהסכם ההפצה עם EBV מעניק לחברה הזדמנות להעמיק את כניסתה אל השוק האירופי ולהגיע אל לקוחות בשווקים דוגמת תעשיית הרכב, תעשייה חכמה, הבית החכם, רשתות שיווק וכדומה.

חברת היילו מספקת את מעבד הרשתות הנוירוניות Hailo-8 ואת מודולי הבינה המלאכותית M.2 ו-Mini PCIe. מעבד Hailo-8 בנוי בארכיטקטורה ייחודית של החברה, ומספק עוצמת עיבוד של 26TOPS בצריכת הספק טיפוסית של 2.5W בלבד. מודולי הבינה המלאכותית מבוססים על Hailo-8 ומתחברים אל אבזרים אחרים באמצעות ממשק PCIe. הדבר מאפשר להם לעבוד מול כל פלטפורמות העיבוד הקיימות בשוק: מחשבי אינטל/AMD, מערכות מבוססות ARM המיוצרות על-ידי יצרניות השבבים הגדולות, מחשבי Raspberry Pi, כרטיסי ה-SoM המשובצים של MicroSys ועוד.

חברת Hailo הוקמה בפברואר 2017 על-ידי אור דנון, אבי באום, הדר צייטלין ורמי פייג ז”ל, שהם בוגרי יחידת עילית טכנולוגית של חיל המודיעין. מאז הקמתה היא גייסה כ-224 מיליון דולר, כאשר בגיוס האחרון, בהיקף של 136 מיליון דולר שהתקיים באוקטובר 2021, היא השיגה הערכת שווי חברה של כ-1.13 מיליארד דולר אחרי הכסף. כיום היא מעסיקה כיום כ-170 עובדים ונמצאת בתהליך גיוס של 100 עובדי פיתוח נוספים שיעבדו ממשרדיה בתל אביב.

מחשב עיבוד התמונה של פוקסקון יתבסס על היילו

חברת פוקסקון (Foxconn) מטמיעה את מעבד הבינה המלאכותית של חברת Hailo התל-אביבית בדגמים החדשים של מחשבי עיבוד התמונה ממשפחת BOXIedge שהיא מייצרת. המוצר החדש פותח בשיתוף פעולה בין פוקסקון הטאיוואנית, היילו הישראלית וחברת Socionext היפנית, אשר תורמת למוצר את שבב העיבוד המקבילי SynQuacer, הכולל 24 ליבות Cortex-A53. המחשב החדש מיועד לבצע פעולות עיבוד תמונה מורכבות בקצות הרשת (Edge), כדי לקבל תגובות מהירות ולשחרר עומס במרכזי הנתונים.

המחשב מיועד לבצע פעולות עיבוד תמונה בזמן אמת של הרבה מאוד מקורות וידאו (מצלמות) ביישומים כמו מערכות אבטחה וניהול העיר החכמה, ניטור תנועה, אוטומציה תעשייתית ורובוטיקה, מערכות רפואיות חכמות, ניהול חכם של מרכזים לוגיסטיים ועוד. פוקסקון שילבה במחשב את מעבד הלמידה העמוקה Hailo-8, אשר מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט.

השבב של היילו יודע מה הבעיה…

הוא מתוכנן לעמידה בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. השבב בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד לקבצי וידאו בתקן H.264, מעבד ARM-M4 המנהל את השבב, ומודול הרשת הנוירונית עצמה, שהחברה פיתחה על-פי רעיון ייחודי. היילו זיהתה תופעה מעניינת: בתהליך עיבוד ההסקות ברשת נוירונית (Deep Learning), יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן הן זקוקות למשאבים שונים. השבב של החברה יודע לנתח את הבעיה, להגדיר מה הן המשאבים הדרושים לכל שכבת עיבוד ולספק לה את המשאבים. באופן זה הוא מאיץ את תהליך העיבוד ומפחית את צריכת ההספק.

אור דנון, מנכ"ל ומייסד משותף של Hailo
אור דנון, מנכ"ל ומייסד משותף של Hailo

עוצמת המחשב החדש באה לידי ביטוי ביכולת לבצע עיבוד תמונה מבוסס בינה מלאכותית של אותו וידאו המגיעים הו-זמנית מ-20 מצלמות שונות. "מדובר בשיתוף פעולה עם שתי מובילות עולמית בתחום פתרונות ה-AI", אמר אור דנון, מנכ"ל ומייסד משותף של Hailo. "מעבד ה-Deep Learning שלנו משדרג באופן משמעותי את היכולות של מכשירים חכמים הפועלים בקצה הרשת". חברת Hailo הוקמה בחודש פברואר 2017 על-ידי אור דנון, אבי באום, הדר צייטלין ורמי פייג ז"ל, בוגרי יחידת עילית טכנולוגית של חיל המודיעין. החברה מעסיקה כיום כ-90 עובדים בתל-אביב וממשיכה לגייס עובדים נוספים. לפני כחודשיים היא השלימה גיוס הון בהיקף של 60 מיליון דולר.מאז הקמתה החברה גייסה כ-88 מיליון דולר.

היילו גייסה 60 מיליון דולר לשבב רשתות נוירוניות

בתמונה למעלה: מנכ"ל ומייסד משותף של חברת היילו, אור דנון

חברת Hailo התל-אביבית השלימה גיוס הון בהיקף של 60 מיליון דולר בסבב B. בסך כל, מאז הקמתה בשנת 2017 גייסה החברה כ-88 מיליון דולר. חברת היילו הוקמה על-ידי המנכ"ל אור דנון, ה-CTO אבי באום ומנהלת הפיתוח העסקי הדר צייטלין. המשקיע הראשון בחברה היה זהר זיסאפל, המשמש כיו"ר Hailo. החברה פיתחה ארכיטקטורה חדשה של שבב ליישום רשתות נוירוניות ללימוד עומק. המעבד של החברה, Hailo-8, מיועד לממש את שלב ההרצה, כלומר יישום ההסקות (Inference) באבזרי קצה.

לסבב הגיוס הנוכחי הצטרפו מספר שותפים אסטרטגיים: קרן ההשקעות של תאגיד התעשייה ABB המייצר מערכות אוטומציה תעשייתית ורובוטיקה, חברת NEC וקרן ההון סיכון Latitude Ventures מלונדון. בין המשקיעים הקיימים בחברה: זהר זיסאפל, OurCrowd ,Glory Ventures; גיל אגמון; קרנות Maniv Mobility ו-Next Gear, והקרן הנלווית לאקסלרטור הרכב Drive.

כניסה לייצור המוני ב-2020

השותפים האסטרטגיים שהצטרפו לגיוס מתכננים להשתמש בשבבי העיבוד של החברה. חברת NEC מעוניינת לשלב את השבבים בדור הבא של התקני הקצה שלה, כדי לחדור עמוק יותר לשוק האנליטיקה החכמה של שידורי וידאו וחברת ABB מצפה לשלב את הפתרון של Hailo במערכות תעשייתיות, במסגרת המעבר לייצור במתכונת Industry 4.0.

המנכ"ל אור דנון סיפר ל-Techtime שההון שגוייס ישמש למימון הכניסה לשוק ולפיתוח הדור הבא של מעבדים. "אנחנו עובדים עם אחד מהפאבים הגדולים בעולם אשר יתחיל כבר השנה בייצור המוני של השבב. האתגר הגדול השנה הוא לקבל את כל ההסמכות של מוצרים בתקנים תעשייתיים ואת ההסמכות של תעשיית הרכב. במקביל, אנחנו נערכים לתמיכה בלקוחות לקראת אספקת השבבים. השנה נפתח משרדים ביפן, בגרמניה ובארצות הברית כדי שנוכל להיות קרובים ללקוחות".

מייסדי חברת היילו (מימין לשמאל): ה-CTO אבי באום, מנהלת הפיתוח העסקי הדר צייטלין ואור דנון
מייסדי חברת היילו (מימין לשמאל): ה-CTO אבי באום, מנהלת הפיתוח העסקי הדר צייטלין ואור דנון

החברה נמצאת בשלבי צמיחה, והתרחבה בחודשים האחרונים מהיקף של כ-60 עובדים במחצית 2019, להיקף של כ-80 עובדים כיום. בימים אלה היא נמצאת בתהליך גיוס של 30-40 עובדים נוספים. חלקם עובדים בחו"ל, ורובם עובדים שיועסקו במרכז המו"פ הישראלי ובמרכז התמיכה בלקוחות. הפרטים על טכנולוגיית הייצור עדיין חסויים, אולם דנון הסביר שהיתרון המרכזי של שבבי היילו נעוץ בארכיטקטורה מיוחדת, המאפשרת לייעל את תהליך העיבוד במספר מועט יחסית של טרנסיסטורים. "הדבר מתבטא בחסכון בהספק של אבזר הקצה הכולל את שבב העיבוד – וגם מבטיח ייצור נוח של השבב".

ארכיטקטורה גמישה המבוססת על התנהגות מפתיעה של הרשת הנוירונית

על-פי הנתונים של החברה, השבב Hailo-8 מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט. הוא מתוכנן לעמידה בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. השבב בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד לקבצי וידאו בתקן H.264, מעבד ARM-M4 המנהל את השבב, והרשת הנוירונית עצמה, שהחברה פיתחה.

הרשת הנוירונית מורכבת ממטריצה גמישה של יחידות עיבוד ויחידות זיכרון, וניתן להגדיר את תצורתה בתוכנה. דנון: "הארכיטקטורה שלנו מתארת את המבנה של רשת נוירונית ומקצה משאבים לכל שכבה ברשת. זיהינו שבתהליך העיבוד של ההסקות, יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן צריך לספק להן משאבים שונים. זאת בניגוד למתחרים שלנו המשתמשים בפתרונות כמו מעבדי GPU המעניקים לכל השכבות את אותה כמות של משאבים. תוכנת הפיתוח שלנו לומדת את הבעיה הספציפית, מאפיינת אותה, ויודעת להעביר לשבב הוראות כיצד לנהל בצורה אופטימלית את משאבים של כל אחת מהשכבות".

הקשיבו לראיון מוקלט עם אבי באום, הטכנולוג הראשי של היילו (מתחיל בדקה 09:45):

Hailo נערכת לייצור המוני של שבבי AI במהלך 2020

בתמונה למעלה: צוות פיתוח בהיילו. החברה התל אביבית מעסיקה כיום 65 עובדים

חברת היילו (Hailo) התל אביבית נערכת לקראת הייצור ההמוני של שבב הבינה המלאכותית שלה, העומד בתקן ASIL-B של תעשיית הרכב. הייצור הסדרתי מתוכנן להתבצע במהלך 2020. מייסד ומנכ"ל החברה, אור דנון, סיפר ל-Techtime שהשבב החדש ייקרא בשם Hailo-8. הוא פותח במסגרת עבודה משותפת של החברה מול יצרניות רכב, ומספק עמידה בדרישות של מערכות קריטיות להצלת חיים, כולל עמידה בטמפרטורות עבודה של עד 105°C.

על-פי הנתונים של החברה, השבב Hailo-8 מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט. הוא יעמוד בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. הוא בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה (Image Signal Processor) המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד H.264 המאפשר לטפל בתמונות וידאו, מעבד ARM-M4 המנהל את השבב, והרשת הנוירונית עצמה, המורכבת ממטריצה גמישה של יחידות עיבוד ויחידות זיכרון שניתן להגדיר את תצורתה בתוכנה.

חידוש הרעיון הישן של מעבדי DFP

חברת היילו הוקמה בחודש פברואר 2017 על-ידי המנכ"ל אור דנון, ה-CTO אבי באום ומנהלת הפיתוח העסקי הדר צייטלין. המשקיע הראשון בחברה היה זהר זיסאפל, המשמש כיום כיו"ר Hailo. עד היום החברה גייסה כ-24 מיליון דולר, כאשר הגיוס האחרון בהיקף של כ-21 מיליון דולר הסתיים בינואר 2019. החברה פיתחה ארכיטקטורה חדשה של שבב בינה מלאכותית עבור אבזרי קצה, המבצע את שלב ההרצה. כלומר, יישום ההסקות (Inference) של רשת נוירונית באבזרי קצה, במהירות רבה ובחסכון גדול באנרגיה. לדברי דנון, הארכיטקטורה מוגנת בכמה עשרות פטנטים. "היא משתייכת למשפחה נשכחת של מעבדים מסוג Data Flow Processors".

אור דנון, מנכ"ל Hailo. "הארכיטקטורה שלנו מוגנת בכמה עשרות פטנטים"
אור דנון, מנכ"ל Hailo. "הארכיטקטורה שלנו מוגנת בכמה עשרות פטנטים"

במעבדי DFP, פעולת העיבוד מתבצעת רק כאשר מוזנים נתונים אל המעבד, ואז הוא מבצע סדרה קבועה של פעולות על-גבי המידע הזה, ומעביר הלאה את התוצר המעובד. "בשנים האחרונות הסתבר שהישענות על רשתות נוירוניות היא שיטה יעילה ואמינה לפתור בעיות רבות, ולכן רוב מערכות הבינה המלאכותית שאנחנו רואים בשוק מבוססות על רשתות נוירוניות. כאן האתגר הוא מבני, מכיוון שהשבב צריך לממש מבנה של רשת נוירונית. ברשת נוירונית אתה יוצק נסיון אל תוך תיאור של מבנה, ולכן זהו פתרון יעיל מאוד בפתרון בעיות המבוססות על הכרת דוגמאות".

כיצד בנוי השבב שלכם? מה הם העקרונות המרכזיים של הארכיטקטורה?

דנון: "הארכיטקטורה שלנו מתארת את המבנה של רשת נוירונית ומקצה משאבים לכל שכבה ברשת. זיהינו שבתהליך העיבוד של ההסקות, יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן צריך לספק להן משאבים שונים. זאת בניגוד למתחרים שלנו המשתמשים בפתרונות כמו מעבדי GPU המעניקים לכל השכבות את אותה כמות של משאבים. תוכנת הפיתוח שלנו לומדת את הבעיה הספציפית, מאפיינת אותה, ויודעת להעביר לשבב הוראות כיצד לנהל את משאבים של כל אחת מהשכבות בצורה האופטימלית".

מה הם מרכיבי השבב?

"הרעיון הוא להשתמש ביחידות זיכרון קרובות מאוד ליחידות העיבוד. אנחנו מקצים יחידות זיכרון ויחידות עיבוד בהתאם לכל משימה, ועל-ידי כך משיגים מהירות עיבוד גבוהה מאוד, וחסכון גדול בהספק שהשבב צורך. הדבר הזה מאפשר לנו לעמוד בתקנים המחמירים של תעשיית הרכב, מכיוון שהשבב אינו מתחמם ויכול לעבוד בטמפרטורות הסביבה שהתעשייה דורשת".

אתם טוענים שהשבב שלכם יעיל מהפתרונות האחרים בשוק. אולם אין מדד אוניברסלי למדוד שבבי בינה מלאכותית.

"אנחנו מודדים את הביצועים שלנו באמצעות בדיקת כמה פעולות לוואט אנחנו מבצעים ברשת ניורונית ספציפית. כיום ישנו קונסורציום MLPerf המנסה להגדיר מדד בר-השוואה לרשתות נוירוניות אמיתיות. בכל מה שקשור למוצרי קצה, התעשייה ככל הנראה הולכת לכיוון של מדידת מספר הפעולות לוואט שהרשת הנוירונית מבצעת על מטלה מסויימת, כמו תמונה למשל".

כיום מתפתחות שיטות להטעיית הזיהוי של רשתות נוירוניות. אתם מתמודדים עם הבעיה?

"אפשר להתייחס אל הטעיות AI כאל חולשות, בדומה לאופן שבו מתייחסים אל חולשות אבטחה. בתחילה החולשות של מערכות תוכנה הפתיעו את התעשייה, אולם בהדרגה מוצאים להן פתרונות. בתחום הבינה המלאכותית, מדובר קודם כל בבעיה קונספטואלית שאין לה פתרון ברמת הסיליקון. אבל אם הרשת אומנה בצורה לא נכונה, והתוקף יודע כיצד היא אומנה, הוא יכול לתכנן תקיפה נגדה. אנחנו מתמודדים גם עם הבעיה הזאת, וברמה העקרונית היא מבטאת את היתרון של התקנת מערכות בינה מלאכותית בקצות הרשת, מכיוון שבאופן הזה קיימות פחות חולשות לאורך מסלול העברת המידע".

יעילות הספק: השוואה שביצעה היילו המציגה את יעילות השבב שלה מול המתחרות העיקריות
יעילות הספק: השוואה שביצעה היילו המציגה את יעילות השבב שלה מול המתחרות העיקריות

חברת היילו צומחת מהר, ומעסיקה כיום כ-65 עובדים ונמצאת בתהליך גיוס של עובדים נוספים. היא ממקדת את מאמציה בשני שווקים עיקריים: שוק הרכב ושוק אבזרי הקצה (IoT). שני שווקים שהם גם צפויים להיות גדולים מאוד, והם גם תובעניים מאוד, מכיוון שבשניהם יש צורך במוצר מאוד אמין, זול וחסכוני מאוד בהספק. דנון: "בהרבה מאוד מובנים המצלמה ברכב לא שונה בהרבה ממצלמת IoT בעיר החכמה. אלו שני תחומים שיהיו מאוד דומיננטיים, וחולקים ביניהם הרבה מאוד דרישות משותפות".

היילו החלה באספקת מעבדי AI ללקוחות ביטא

חברת היילו התל אביבית (Hailo) השלימה את פיתוח האב-טיפוס של מעבד הלמידה עמוקה שלה, Hailo-8 המיועד למכשירי קצה, והחלה לספק דוגמאות של השבב ללקוחות פוטנציאליים, בעיקר בתחום המצלמות החכמות בסמארטפונים, מערכות אבטחה ורכב אוטונומי. מדובר בלקוחות ביטא שיבחנו את ביצועיו, ומהם ימנו הלקוחות המסחריים הראשונים. ל-Techtime נודע שהחברה נערכת כיום לייצור ההמוני שיתחיל ככל הנראה בעוד כשנה בחברת TSMC הטאיוואנית, בתהליך של 16 ננומטר.

הפחתת-עומס מהענן

רוב מטלות העיבוד ביישומי בינה מלאכותית ולימוד עומק מתבצע כיום בענן, כלומר במרכז נתונים מרוחק המצויד בעוצמת המחשוב הדרושה לעיבוד כמויות המידע הגדולות המגיעות ממכשירי הקצה. אלא שהצמיחה במספר מקורות הקצה, כמו מצלמות, בקרים ואבזרי IoT, מייצרת עומס גדול מאוד במרכזי המידע, אשר מתקשים לעמוד בדרישות המגיעות מהמכשירים הרבים.

בראיון ל-Techtime הסביר מייסד משותף והטכנולוג הראשי של החברה, אבי באום, שהצורך במעבדי AI במכשיר הקצה נועד לשחרר את צוואר הבקבוק שנוצר במרכזי הנתונים. "מכיוון שחיישני הקצה מייצרים כמות גדולה של מידע, צריך להאציל חלק מפעולת הלמידה העמוקה למכשיר הקצה. כמו-כן, המידע המגיע כיום ממכשירי הקצה אל הענן הוא ברובו גולמי ובלתי מובנה. בינה מלאכותית במכשיר הקצה מאפשרת להעביר לענן אינפורמציה איכותית יותר, מפוענחת וממויינת".

יעיל יותר מהשבב של אנבידיה

תהליך הלמידה העמוקה מתבצע בשלושה שלבים עיקריים: מידול, אימון (Training) והפעלת ההסקות (Inferencing) שנאספו בשלבי האימון. השבב של היילו ליישם את ההסקות, כלומר להפעיל את רשת הנוירונים על המידע המתקבל מהחיישנים בזמן אמת, ולהפיק החלטה במקום. באום: ""בדטה-סנטר חשובה הקיבולת (Capacity), אבל במכשיר הקצה חשובה היעילות. למשל, כמה תמונות ניתן לעבד ביחידת הספק אחת, כאשר הדגש הוא על עיבוד ביחס למחיר, לשטח הסיליקון ולהספק".

מייסד משותף וטכנולוג ראשי אבי באום: "הרכב האוטונומי הוא אבזר הקצה המאתגר ביותר"
מייסד משותף וטכנולוג ראשי אבי באום: "הרכב האוטונומי הוא אבזר הקצה המאתגר ביותר"

"בנוסף לארכיטקטורת החומרה שפיתחנו, בנינו גם ארכיטקטורת תוכנה המאפשרת להריץ את רשתות הנוירונים ביעילות מאוד גבוהה". למעשה, החברה טוענת שהיעילות שלה גבוהה מזו של אנבידיה. במבחן ResNet-50, הבודק את הביצועים של רשתות נוירוניות מסוג Residual Network בעלות 50 שכבות, השבב של היילו הגיע לעוצמת מחשוב של 26TOPS (טרה פעולות לשנייה) בהספק של 2.8TOPS לכל ואט בעיבוד תמונות. מעבד Xavier AGX של אנבידיה הציג ביצועים נמוכים יותר: 0.14TOPS בלבד לכל ואט, בעיבוד התמונות ברזולוציה זהה. כלומר, מבחינה אנרגטית היילו יעילה כמעט פי 20 יותר מאשר אנבידיה.

יש לכם אסטרטגיה בתחום הרכב האוטונומי?

באום: "הרכב האוטונומי הוא אבזר הקצה המאתגר ביותר מבחינת כמות הנתונים ומורכבות העיבוד, אשר צריך להתבצע בשיהוי (latency) נמוך מאוד וברמת בטיחות מקסימלית. במודלים הקיימים היום המידע המגיע מהחיישנים ברכב מתפענח במחשב המרכזי של המכונית (ECU). השבב שלנו יכול להשתלב בתוך ארכיטקטורת העיבוד הזו ולהפחית את העומס מהמעבד המרכזי של הרכב.

"אולם כמו בתחום הסמארטפונים, גם כאן הפיתרון שלנו יכול גם לאפשר עיבוד צמוד לחיישן של המידע הגולמי, ועל-ידי כך להפחית את העומס מהמחשב המרכזי ולהעביר אליו מידע מפוענח ואיכותי יותר, שיאפשר לו להתמקד בקבלת החלטות, שהיא יותר מבוססת חוקים (rule-based). זהו היעד שלנו בטווח הארוך. תחום החיישנים לרכב בישראל מאוד מפותח, ואנחנו נמצאים בקשר עם כל השחקנים המשמעותיים כאן".

שחקן חדש בים של כרישי Fabless

מאחר שהשבב שלה מיועד להיכנס למכשירי קצה, האתגר הנוכחי העומד בפני היילו הוא המעבר מפיתוח לייצור המוני. הדבר מחייב מודל עסקי מהודק הכולל ניהול של קווי ייצור, שרשרת אספקה ורשת הפצה. צוות הניהול של החברה מכיר את הבעיה, מכיוון הוא כולל אנשים שהגיעו בחברות סמיקונקדטור גלובליות כמו אינטל, ברודקום ומלאנוקס, שבהן הם צברו ניסיון בייצור והפצת שבבים בהיקף גדול. גם באום מגיע מתעשיית השבבים, ולפני שייסד את היילו ניהל את תחום המובייל בחברת Texas Instruments.

"לאחר שהשלמנו את פיתוח הרכיב, אנחנו עובדים כעת על גיבוש מודל הייצור וההפצה. מדובר באופרציה מורכבת, אבל רבים מאיתנו עבדו בתפקידים בכירים בחברות שבבים והיו אחראים על מערכי ייצור של עשרות מיליוני שבבים. ארכיטקטורת התוכנה שלנו תאפשר לנו לייצר את השבב גם בתהליכים פחות יקרים, ועל כן בחרנו ב-16 ננומטר".

חברת היילו פועלת מתל אביב ומעסיקה כיום כ-55 עובדים. כיום היא נמצאת בשלבי התרחבות ומחפשת בעיקר מהנדסי תוכנה ואלגוריתמאים. עד היום היא גייסה כ-24 מיליון דולר, אך מעריכה שתידרש לבצע גיוס הון נוסף כדי לממן את המעבר לייצור המוני.

Hailo הישראלית מפתחת שבב למידה עמוקה שיספק עיבוד של דטה סנטר למכשירי קצה

סטארט אפ ה-AI הישראלי Hailo, שפעל מתחת לרדאר מאז הקמתו בתחילת 2017, חושף היום לראשונה את מהלכיו העסקיים והטכנולוגיים. החברה מודיעה על השלמת סבב גיוס הון ראשון בהיקף של 12.5 מיליון דולר לפיתוח שבב למידה עמוקה (deep learning) שיספק יכולות עיבוד של דטה סנטר למכשירי קצה. בין המשקיעים בחברה מצויים זהר זיסאפל, המשמש גם כיו"ר Hailo, קרן OurCrowd; מנכ"ל חברת דלק מוטורס גיל אגמון, קרנות ההשקעות בטכנולוגיות רכב Maniv Mobility וכן Next Gear, הקרן הנלווית לאקסלרטור טכנולוגיות הרכב Drive. בסך הכול גייסה Hailo מהקמתה קרוב ל-16 מיליון דולר.

מעבד ה-deep learning של Hailo, שדוגמאות ראשונות שלו צפויות להיכנס לשוק בחציון הראשון של 2019, יוכל להריץ יישומים משובצים של אינטליגנציה מלאכותית על גבי מכשירי קצה המותקנים במכוניות מקושרות, רחפנים, התקני בית חכם דוגמת עוזרים אישיים, מצלמות חכמות וטלוויזיות חכמות, פלטפורמות IoT, פלטפורמות AR ו-VR, מוצרים לבישים ומוצרי אבטחה.

Hailo צופה שהשבב יספק צמצום דרמטי בעלות, בשטח ובצריכת ההספק ביחס לשבבים הקיימים, מה שיהפוך אותו למתאים לכמויות העצומות של החיישנים המוטמעים לכל אורך רשת האינטרנט של הדברים (IoT). השבב צפוי לעבד בזמן אמת תכני וידיאו וזרמי נתונים אחרים בנפחים גבוהים תוך שימוש באלגוריתמים של למידה עמוקה.

השבב שיעמוד בעומסי הדאטה של העתיד

ענף הרכב, המהווה את אחד משווקי היעד המרכזיים של Hailo, עובר מהפכה רחבת היקף ומאמץ במהירות שיטות למידה עמוקה כדי לאפשר פיתוח מערכות ADAS ויישומי נהיגה אוטונומית שדורשים חישה של הסביבה. על פי חברת המחקר IC Insights, סך המכירות של שבבים למכוניות ולכלי רכב אחרים צפויות להסתכם ב-42.9 מיליארד דולר בשנת 2021, לעומת 22.9 מיליארד דולר בשנת 2016. התשתית הקיימת של מעבדים שפותחו עבור מטרות כלליות אינה מסוגלת להריץ אלגוריתמים עתירי חישוביות של למידה עמוקה ההכרחיים ליישומי רכב אלה. להערכת Hailo, המעבד שלה צפוי לספק את פריצת הדרך הנדרשת בהיבטים של צריכת הספק, פיזור חום, שטח ועלות, ויהיה מוצר שיתאים לייצור המוני.

הצוות המוביל של Hailo, שהוקמה בפברואר 2017, הם המנכ"ל אור דנון, ה-CTO אבי באום והדר צייטלין, המכהנת כמנהלת הפיתוח העסקי של החברה. דנון, חתן פרס ביטחון ישראל ובוגר תכנית "תלפיות", שירת ביחידה הטכנולוגית של חיל המודיעין טרם הקמת החברה. ה-CTO אבי באום מילא שורה של תפקידים בחברת Texas Instruments, בה עבד כ-13 שנה לאחר שירות באותה יחידה טכנולוגית. בין היתר שימש באום כ-CTO של תחום הקישוריות האלחוטית בחטיבת המעבדים המשובצים ב-TI וכיהן בתפקידי ניהול קבוצת ארכיטקטורה והנדסת מערכת. שותפתם להקמת החברה הדר צייטלין, בוגרת תכנית "תלפיות" גם היא, שירתה כתשע שנים ביחידה הטכנולוגית, ובמהלך שירותה זכתה בפרס הרמטכ"ל למצוינות טכנולוגית. לפני הקמת Hailo, שימשה צייטלין כמנהלת המוצר הראשונה בחברת Via.

אור דנון, מייסד משותף ומנכ"ל Hailo, מסר: "הארכיטקטורה בת ה-70 עליה מבוססים המעבדים הנוכחיים אינה מתאימה בכדי לספק מענה לצורכי העיבוד הנדרשים ליישומי deep learning ואינטליגנציה מלאכותית. Hailo מחוללת מהפכה בארכיטקטורה העומדת בבסיס המיקרו-מעבד בכדי לשפר את יכולות עיבוד ה-deep learning בכמה סדרי גודל. הצוות הרב-תחומי שלנו פיתח ארכיטקטורת עיבוד חדשנית שמאורגנת סביב מאפייני היסוד של ה-deep learning והאינטליגנציה המלאכותית. לצורך כך תכננו מחדש באופן מקיף את ארכיטקטורת הזיכרון, פונקציות הבקרה והעיבוד במחשב ואת היחסים ביניהם".

בימים אלה עובדת Hailo בשיתוף פעולה עם כמה מהחברות הגדולות בתחום, הבוחנות שימוש בטכנולוגיה שלה.