חברת Polyn Technology מקיסריה הכריזה על חיישן זעזועים ליישומי תחזוקה מונעת, שהוא חסכוני באנרגיה עד פי 1,000 בהשוואה לחיישני הזעזועים הקיימים היום בשוק. להערכת החברה, שידור המידע מהחיישן לענן אחראי כיום לכ-85%-99% מצריכת ההספק של החיישנים. כדי לספק מידע יעיל על כשלים מכניים, החיישנים משדרים מידע ברוחב פס של עד 20KHz, אשר מעובד בענן. החברה מציעה חיישן המעבד את המידע, ושולח לענן רק את התבנית המפוענחת בנפח של אלפית מהמידע שכיום נישלח לענן.
החיישן החדש, VibroSense, מבוסס על שבב של החברה אשר מיוצר בטכנולוגיית Neuromorphic Analog Signal Processing – NASP של החברה, אשר מבוססת על פיתוח מתימטי של המדען הראשי אלכסנד גודובסקי. הוא פיתח משוואה המאפשרת לייצג באופן אנלוגי את הפעילות של רשתות נוירוניות בשלב ההסקה (רשתות מאומנות). הפיתוח איפשר לחברה לייצר מעגל המממש רשת המקבילה לאלפי נוירונים דיגיטליים – באמצעות אבני בניין קלאסיות כמו מגברי-שרת (OpAmp) ונגדים.
למעשה, הרשת הנוירונית של החברה היא מעורבת (היברידית). מכיוון שלהערכתה פחות מ-10% מכל רשת נוירונית דיגיטלית משתנה בזמן עקב קבלת עידכונים, ושאר ה-90% נשארים קבועים ולא משתנים, הפתרון שלה מבוסס על תמהיל של שתי הטכנולוגיות: עיקר הרשת מבוסס על הנוירונים האנלוגיים ורק חלק קטן ממנה הוא דיגיטלי ומאפשר קבלת עידכונים. בין השאר, היא מאפשרת ללקוחות לבחור את התמהיל דיגיטל-אנלוג שאותו הם מעדיפים.
זהו השבב השלישי של החברה, בשנת 2022 היא כריזה על השבב NeuroVoice לעיבוד אותות שמע במכשירי שמיעה, ועל השבב NeuroSense לעיבוד מידע הנקלט על-ידי אבזרי ניטור אישי לבישים. מאז הקמתה ב-2019 החברה גייסה כ-4.5 מיליון דולר. כיום היא רשומה בבריטניה ויש לה משרדים בלונדון, אבל משרדיה הראשיים מצויים בישראל והיא נמצאת בתהליכי רישום של 21 פטנטים. השבבים מיוצרים על-ידי גלובלפאונדריז בטכנולוגיית CMOS ברוחב צומת של 55 ננומטר.
חברת הסטארטאפ Tensorleap נחשפת עם פלטפורמה לתיקון באגים ובדיקה עמוקה של רשתות נוירונים מלאכותיות. לדברי החברה, המערכת מורידה בצורה דרסטית את הסכנה שהמודלים שפיתחו אנשי הדאטה סיינס יכשלו לאחר המעבר לעולם האמיתי (סביבת פרודקשן).
החברה הוקמה על ידי דודי בן דוד (מנכ"ל), יותם עזריאל (סמנכ"ל טכנולוגיה) וניר בן דוד (CCO). החברה ערכה גיוס סיד של 5.2 מיליון דולר מהקרנות Angular Ventures, Sozo Ventures, Industry Ventures ומעסיקה 15 עובדים במרכז הפיתוח ברמת גן.
אימוץ נרחב של רשתות נוירונים החל לפני פחות מעשור, עם ההנגשה של כוח מחשוב גבוה, נפחי נתונים גדולים ויכולת גישה יעילה ומהירה לענן. רשתות נוירונים נותנים מענה לבעיות ויישומים שמודלים קלאסיים של למידת מכונה אינם יכולים להתמודד איתן, בתחומים כמו ייצור תעשייתי וטכנולוגיות רפואיות ועד לרכבים אוטונומיים, פיננסים וסייבר. על כן, ההערכה היא כי השימוש ברשתות נוירונים יתרחב באופן אקספוננציאלי ככל שהבינה המלאכותית תגיע לתחומים ושימושים חדשים.
רשתות נוירונים עמוקות (DNN) מתנהלות באופן נסתר במעין "קופסה שחורה", שגורמת לכך שמחזורי הפיתוח מבוססים בעיקר על ניסוי וטעיה. לכן הם ארוכים, לא יעילים ויקרים, וחמור מכך תוצאתם אינה אמינה. גם לאחר השגת הדיוק הרצוי, על מדעני הנתונים לוודא את החוסן של המודלים במקרי קצה, כדי למנוע כשלים בתרחישים אלה בפרודקשן. גם במקרים בהם מודלים מתפקדים כצפוי, אין למדעני הנתונים יכולת להבין ולהסביר כיצד המודל הגיע לתוצאה. כשמדובר בהחלטות משפיעות חיים, כמו אבחון סריקה רפואית או נהיגה אוטונומית, היכולת לבצע אימות והסבר להצלחה ולכישלון הם קריטיים להצלחה במשימה.
השיטות הקיימות לפיתוח רשתות נוירונים מבוססות בעיקר על מערכות לניהול ניסויים המסייעות למדעני נתונים לנסות יותר ויותר, וגוזלות זמן פיתוח רב וכוח מחשוב עצום. בעזרת אלגוריתמים מתקדמים שפיתחה החברה, Tensorleap מסייעת לפתוח את "הקופסה השחורה", כך שאנשי הדאטה-סיינס יוכלו להבין כיצד המודל תופס את הנתונים, כיצד הוא מקבל החלטות, באילו מקרים הוא נכשל, והכי חשוב – מדוע. עם הנראות הזו, מדעני נתונים יכולים לזהות ולפתור בעיות, לנתח אוכלוסיות בתת-ייצוג, להתמודד עם overfitting (התאמת יתר מחשידה של הנתונים), לבצע בדיקות מקיפות למודל ולקבל החלטות מושכלות לגבי אילו מודלים באמת מוכנים להטמעה בפרודקשן.
Tensorleap היא פלטפורמה מבוססת מנוי שעובדת במודל SaaS או בהתקנה באתר או בענן הלקוח ותומכת בכל סוגי הדאטה, לרבות תמונות, טקסט, גרפים, מידע טבלאי ועוד. לחברה לקוחות במגוון תחומים, החל ממוצרים רפואיים ועד ליצרני שבבים, גיימינג ופלטפורמות מדיה חברתית.
חברת Polyn Technology מקיסריה הכריזה על השבב הראשון בטכנולוגיית NASP המהפכנית שאותה היא פיתחה בשלוש השנים האחרונות, אשר מאפשרת לממש רשתות לימוד עומק באמצעות נוירונים אנלוגיים, ולא באמצעות מעגלים דיגיטליים. הרכיב הראשון בסדרה הוא שבב העיבוד הקולי NeuroVoice, אשר מבצע הפרדה בין הקול האנושי לבין קולות רקע ומיועד לשוק של מכשירי השמיעה, מכשירי רדיו אלחוטיים בידי כוחות חירום והצלה, יישומים צרכניים ועוד.
הרכיב משלים את הפיענוח של כל הסקה בתוך 20µsec וצורך הספק של 100µW בלבד. מנהל השיווק ופיתוח עסקי בחברה, יוג'ין זטצרוב, אמר שטכניקות עיבוד הקול הנוכחיות צורכות אענרגיה רבה ולעתים רבות לא מספקות את הדרישה. "שימוש בבינה מלאכותית כדי לחלץ את הקול האנושי מתוך סביבה רועשת, כולל רעשים בלתי סדירים, מספק חוויית שמיעה טובה יותר מאשר השימוש בטכניקות ביטול רעשים. רשת נוירונית היא הכלי המושלם לביצוע עיבוד קול".
החברה משווקת את השבב במתכונת של רכיב חומרה (ייצור בגלובלפאונדריז בתהליכי 40-65 ננומטר) או במתכונת של מודולי קניין רוחני (IP). מפת הדרכים של החברה כוללת לפחות עוד שני רכיבים: מעבד NeuroSense חסכוני בהספק עבור ניטור חיישנים באבזרים דלי-הספק כמו שעונים חכמים ואבזרים לבישים, ומעבד לניתוח זעזועים עבור השוק התעשייתי.
מאחורי הטכנולוגיה ניצבת תגלית מתימטית
רשת הנוירונים של חברת פולין היא יוצאת דופן: החברה פיתחה את טכנולוגיית Neuromorphic Analog Signal Processing – NASP, שבה רוב הרשת מיושם באמצעים אנלוגיים קלאסיים (מגברי שרת ונגדים) ורק חלק קטן ממנה מבוסס על רשת נוירונים דיגיטלית. מייסד משותף ומנכ”ל החברה, אלכסנדר טימופייב, הסביר ל-Techtime שבממוצע כ-90% מהרשת הנוירונית הם קבועים ולא משתנים. "פחות מ-10% ממנה מקבל עידכונים שונים בהמשך הפעולה. השבב שלנו הוא היברידי: אנחנו ממירים 90% מהרשת למעגל אנלוגי והשאר נשאר דיגיטלי. אנחנו גם יכולים להתאים את התמהיל הזה לצורכי היישום הספציפי”.
הטכנולוגיה נולדה בעקבות פיתוח מתימטי של המדען הראשי אלכסנד גודובסקי. הוא פיתח משוואה המאפשרת לייצג באופן שונה את הפעילות של רשתות נוירוניות בשלב ההסקה (רשתות מאומנות). בעקבות הרעיון הוקמה החברה בשנת 2019, וגייסה לשורותיה מפתחים ישראלים יוצאי חברות דוגמת טאואר, יבמ, אינטל, קיידנס ועוד. מאז הקמתה גייסה פולין כ-4.5 מיליון דולר. כיום החברה מעסיקה 22 עובדים. היא רשומה בבריטניה ויש לה משרדים בלונדון, אבל משרדיה הראשיים מצויים בישראל.
חברת AWS הכריזה על שירות חדש של אימון רשתות נוירוניות בענן, המתבסס על שבבי Trainium של אנפורנה לאבס הישראלית, שנירכשה על-ידי אמזון בשנת 2015. כיום החברה פועלת מישראל ומארה"ב, ומפתחת מאיצי עיבוד ושבבים ייעודיים המשמשים להאצת שירותי הענן של אמזון. השבב תוכנן במטרה להאיץ את תהליכי האימון של רשתות נוירוניות המבצעות מטלות דוגמת זיהוי קול ותמונה, חיפוש סמנטי במאגרי נתונים, גילוי תקיפות סייבר, בניית תחזיות וכדומה.
החברה העריכה שהשירות החדש, Trn1, הניתן במסגרת Amazon EC2, מהיר פי שניים בהשוואה לשירותים המקבילים המבוססים על מעבדי GPU. אמזון מתקינה את מאיצי Trainium באשכולות מחשבים מסוג EC2 UltraCluster, אשר יכילו עד 30,000 מאיצים בכל אשכול ויספקו עוצמת עיבוד כוללת של עד 6.3exaflops. שירות Trn1 הוא למעשה מחשב וירטואלי הקרוי instance, אשר מספק ללקוח תשתית של שרת המתנהג כמו שרת יחיד ממשי. בכל instance כזה יש עד 16 מאיצי Trainium.
זהו האינסטנס הראשון של AWS המספק מהירות תקשורת של עד 800Gbps, שהושגה בזכות מעבדי Graviton שגם הם פותחו באנפורנה לאבס. מאיצי Trainium הם מרכיב בחבילת פתרונות Nitro שאותם אנפורנה לאבס מפתחת. מדובר במשפחה של פתרונות חומרה ותוכנה המיועדת להאיץ את הביצועים של מעבדי ה-CPU, מערכות האיחסון ותשתית הקישוריתו במרכזי נתונים, באמצעות הסטת עומסים אל רכיבי חמרה ייעודיים המבצעים את המטלות הספציפיות במהירות רבה.
חברת אמזון, הבעלים של AWS, הודיעה שהיא בעצמה החלה להשתמש בשירותי Trn1 כדי להפעיל את מנוע החיפוש באתר הקניות המקוונות שלה. מעניין לציין שבעבר רמזה AWS, שהמאיץ Trainium מיועד להחליף את מעבד גאודי שפותח על-ידי חברת הבאינה לאבס הישראלית, אשר נירכשה על-ידי אינטל בשנת 2019. מדובר בשתי חברות שונות שהוצמחו על-ידי אביגדור וילנץ.
בתמונה למעלה: דוגמא לאיכות הסרת הצללים באמצעות האלגוריתם החדש
מחקר שביצעו שני עובדים מחברת אפלייד מטיריאלס ישראל (Applied Materials) הציג גישה חדשה להתמודדות עם בעיית ההצללה בתמונות, והביא לפיתוח אלגוריתם בינה מלאכותית אשר מסוגל לנקות צללים מתמונות, באיכות הטובה ביותר שהושגה עד היום, באמצעות רשת נוירונים שהיא קטנה פי 1,000 בהשוואה לשיטות המתחרות. הפיתוח נעשה על-ידי תמיר עיני וגלעד ורד ממחלקת האלגוריתמים של חברת אפלייד מטיריאלס בישראל, ביחד עם אפרת אימר ובליווי פרופ' שי אבידן מאוניברסיטת תל אביב.
המחקר בוצע בעידוד החברה ועל חשבון שעות העבודה. הפרוייקט החל במסגרת קורס למידה עמוקה באוניברסיטה שבו השתתף תמיר עיני, שבו התבקשו הסטודנטים לבצע עבודת גמר. בהתייעצות עם המנחה שלו לעבודת המאסטר בהנדסת חשמל, פרופ' אבידן, החל עיני לעבוד על נושא ההצללה ובסיום הקורס צירף אליו את גלעד ורד. המטרה הייתה למצוא דרך יעילה להתמודד עם סוגיית הצל, אשר מאפשרת לסייע בפתרון בעיות דומות גם בתחום מערכות הבקרה על ייצור שבבים.
הגדרה חדשה של אתגר הצל
עיני: "מודלים של רשתות נוירונים מבוססים על שימוש במשקולות, אשר מספרן מגדיר את מספר פעולות העיבוד שיש לבצע. המודל שפיתחנו זקוק לפחות משקולות בשלושה סדרי גודל בהשוואה למודלים הקיימים היום בספרות. כלומר, הרשת שלנו מבצעת פי 1,000 פחות פעולות עיבוד, ובכל זאת היא סיפקה את התוצאה הטובה ביותר. המחקר וההדגמה נעשו על-גבי שני מאגרי מידע הכוללים תמונות עם צל ותמונות בלי צל, אשר משמשים כמבחן ליכולת של האלגוריתם להתמודד עם הבעיה".
לדברי גלעד, אחד מההישגים של הפיתוח הוא בגישה החדשה של הצוות, שבה האלגוריתם מנתח כל פיקסל בתמונה. "עד היום התמודדו עם אתגר הסרת הצל מתוך הנחה שהתיקון צריך להיות אחיד, ולכן העיבוד נעשה על כל איזור הצל במשותף. הטענה שלנו היתה שהצל הוא לא אחיד. קיימים אזורים פנימיים שבהם הצל אחיד, וקיימים אזורים שבהם יש עירוב בין הארה מוצללת במלואה לבין הארה שהיא מוצללת באופן חלקי, ולכן צריך להתמודד עם האתגר ברמת הפיקסל ולא ברמת הצל באופן אחיד".
מחלקת האלגוריתמים של אפלייד מטיריאלס ישראל מעסיקה כ-70 אלגוריתמאים העוסקים במחקרי עומק בתחומים כמו ראיית מכונה (CV), לימוד מכונה (ML) ורשתות נוירונים עמוקות (DL). הממצאים הוצגו בסדנה של כנס CVPR שהתקיים ביוני השנה בארה"ב. מדובר בכנס החשוב בעולם בנושאי ראייה ממוחשבת.
חברת הבאנה לאבס (Habana Labs) מקיסריה ותל אביב הכריזה על מעבדי הבינה המלאכותית החדשים שלה: מעבד Gaudi 2 לאימון רשתות נוירוניות ומעבד Greco המשמש כמנוע לייצור הסקות (inferencing) ברשתות לימוד עומק (deep learning). בפגישה עם איתן מדינה, מנהל העסקים הראשי של חברת הבאנה לאבס, הוא סיפר שהמעבדים החדשים מיוצרים בחברת TSMC בתהליך של 7 ננומטר וצורכים הספק של עד 600W ללא צורך בקירור נוזלים.
חברת הבאנה לאבס הוקמה בשנת 2016 על-ידי דוד דהן ורן חלוץ, יוצאי חברת פריימסנס שנמכרה לאפל ב-2013 תמורת 345 מיליון דולר. בסוף 2019 היא נמכרה לאינטל תמורת כ-2 מיליארד דולר וכיום מעסיקה כ-900 עובדים. היא הפכה לאחת מאבני הבניין החשובות של אינטל בתחום הבינה המלאכותית. לדברי מדינה, המעבדים מיועדים לשוק הצומח של רשתות עומק (DL) בבמרכזי נתונים. "כיום תופס ה-DL כ-75% מפעילות הבינה המלאכותית בענן. להערכתנו, ככל שגדל המשקל ה-DL בשרתים, כך גובר הצורך בהבאנה: אומנם מעבדי GPU יעילים בעיבוד משימות מעורבות, אולם בתחום רשתות העומק הנוירוניות יש עדיפות להבאנה".
מעבד Gaudi 2 כולל גם מנוע עיבוד מדיה משולב עבור מדיה דחוסה, כדי להוריד עומס מהמערכת המארחת. קיבולת זיכרון שלו הוכפלה פי שלושה ל-96 ג'יגה-בייט עם רוחב פס של 2.45 טרה-בייט/לשנייה. השבב כולל 24 ממשקי גישה לרשת מסוג 100GbE RoCE RDMA, המאפשרים הגדלה והרחבה באמצעות חיבור רשת סטנדרטי, המצמצם את התלות של הלקוח בממשקי תקשורת קנייניים. המעבד מופיע עם תוכנת SynapseAI, אשר תומכת במודלים לאימון על Gaudi 2 והסקת מסקנות בכל פלטפורמה, כולל מעבדי Xeon של אינטל, Greco של הבאנה או Gaudi 2 בעצמו.
ההכרזה כוללת גם שרת בינה מלאכותית 12 Gaudi 2 Training Server אשר פותח על-ידי חברת Supermicro ומתוכנן להגיע השנה לשוק. במקביל, חברת DataDirect Networks תספק מארז שלם הכולל את שרת Supermicro X12 ביחד עם פתרון האחסון שלה, DDN AI400X2, לאחר שעבר התאמה לפעולה הדדית. אחת מההצלחות החשובות של הבאנה היא שחברת AWS התקינה בענן שלה את דרייבר (Instance) הבינה המלאכותית Amazon EC2 DL1, שהוא הראשון שאינו תומך במעבדי GPU. אפילו חברת מובילאיי כבר מבצעת עבודות עיבוד באמצעותו.
מעבד Gaudi החדש מאפשר לאינטל להתחרות בחברת אנבידיה בתחום החזק ביותר שלה – מעבדי GPU ליישומי בינה מלאכותית. אפילו תוכנת SynapseAI של הבאנה מעניקה למפתחים אפשרות לעבוד עם תוכנות שאינן תוכנות של אנבידיה. בתדרוך לכתבים ישראלים, אמרה סנדרה ריברה, סגנית נשיא בכירה באינטל ומנכ"לית קבוצת הדאטה סנטר והבינה המלאכותית, שהשקת מעבדי הבאנה החדשים "היא דוגמה מצוינת לאופן שבו אינטל מיישמת את אסטרטגיית הבינה המלאכותית שלה – מהענן ועד לאבזרי הקצה. "מעבד Gaudi 2 מסייע לאמן עומסי לימוד מעמיק גדולים ומורכבים במהירות וביעילות".
חברת פוקסקון (Foxconn) מטמיעה את מעבד הבינה המלאכותית של חברת Hailo התל-אביבית בדגמים החדשים של מחשבי עיבוד התמונה ממשפחת BOXIedge שהיא מייצרת. המוצר החדש פותח בשיתוף פעולה בין פוקסקון הטאיוואנית, היילו הישראלית וחברת Socionext היפנית, אשר תורמת למוצר את שבב העיבוד המקבילי SynQuacer, הכולל 24 ליבות Cortex-A53. המחשב החדש מיועד לבצע פעולות עיבוד תמונה מורכבות בקצות הרשת (Edge), כדי לקבל תגובות מהירות ולשחרר עומס במרכזי הנתונים.
המחשב מיועד לבצע פעולות עיבוד תמונה בזמן אמת של הרבה מאוד מקורות וידאו (מצלמות) ביישומים כמו מערכות אבטחה וניהול העיר החכמה, ניטור תנועה, אוטומציה תעשייתית ורובוטיקה, מערכות רפואיות חכמות, ניהול חכם של מרכזים לוגיסטיים ועוד. פוקסקון שילבה במחשב את מעבד הלמידה העמוקה Hailo-8, אשר מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט.
השבב של היילו יודע מה הבעיה…
הוא מתוכנן לעמידה בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. השבב בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד לקבצי וידאו בתקן H.264, מעבד ARM-M4 המנהל את השבב, ומודול הרשת הנוירונית עצמה, שהחברה פיתחה על-פי רעיון ייחודי. היילו זיהתה תופעה מעניינת: בתהליך עיבוד ההסקות ברשת נוירונית (Deep Learning), יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן הן זקוקות למשאבים שונים. השבב של החברה יודע לנתח את הבעיה, להגדיר מה הן המשאבים הדרושים לכל שכבת עיבוד ולספק לה את המשאבים. באופן זה הוא מאיץ את תהליך העיבוד ומפחית את צריכת ההספק.
עוצמת המחשב החדש באה לידי ביטוי ביכולת לבצע עיבוד תמונה מבוסס בינה מלאכותית של אותו וידאו המגיעים הו-זמנית מ-20 מצלמות שונות. "מדובר בשיתוף פעולה עם שתי מובילות עולמית בתחום פתרונות ה-AI", אמר אור דנון, מנכ"ל ומייסד משותף של Hailo. "מעבד ה-Deep Learning שלנו משדרג באופן משמעותי את היכולות של מכשירים חכמים הפועלים בקצה הרשת". חברת Hailo הוקמה בחודש פברואר 2017 על-ידי אור דנון, אבי באום, הדר צייטלין ורמי פייג ז"ל, בוגרי יחידת עילית טכנולוגית של חיל המודיעין. החברה מעסיקה כיום כ-90 עובדים בתל-אביב וממשיכה לגייס עובדים נוספים. לפני כחודשיים היא השלימה גיוס הון בהיקף של 60 מיליון דולר.מאז הקמתה החברה גייסה כ-88 מיליון דולר.
בתמונה למעלה: מנכ"ל ומייסד משותף של חברת היילו, אור דנון
חברת Hailo התל-אביבית השלימה גיוס הון בהיקף של 60 מיליון דולר בסבב B. בסך כל, מאז הקמתה בשנת 2017 גייסה החברה כ-88 מיליון דולר. חברת היילו הוקמה על-ידי המנכ"ל אור דנון, ה-CTO אבי באום ומנהלת הפיתוח העסקי הדר צייטלין. המשקיע הראשון בחברה היה זהר זיסאפל, המשמש כיו"ר Hailo. החברה פיתחה ארכיטקטורה חדשה של שבב ליישום רשתות נוירוניות ללימוד עומק. המעבד של החברה, Hailo-8, מיועד לממש את שלב ההרצה, כלומר יישום ההסקות (Inference) באבזרי קצה.
לסבב הגיוס הנוכחי הצטרפו מספר שותפים אסטרטגיים: קרן ההשקעות של תאגיד התעשייה ABB המייצר מערכות אוטומציה תעשייתית ורובוטיקה, חברת NEC וקרן ההון סיכון Latitude Ventures מלונדון. בין המשקיעים הקיימים בחברה: זהר זיסאפל, OurCrowd ,Glory Ventures; גיל אגמון; קרנות Maniv Mobility ו-Next Gear, והקרן הנלווית לאקסלרטור הרכב Drive.
כניסה לייצור המוני ב-2020
השותפים האסטרטגיים שהצטרפו לגיוס מתכננים להשתמש בשבבי העיבוד של החברה. חברת NEC מעוניינת לשלב את השבבים בדור הבא של התקני הקצה שלה, כדי לחדור עמוק יותר לשוק האנליטיקה החכמה של שידורי וידאו וחברת ABB מצפה לשלב את הפתרון של Hailo במערכות תעשייתיות, במסגרת המעבר לייצור במתכונת Industry 4.0.
המנכ"ל אור דנון סיפר ל-Techtime שההון שגוייס ישמש למימון הכניסה לשוק ולפיתוח הדור הבא של מעבדים. "אנחנו עובדים עם אחד מהפאבים הגדולים בעולם אשר יתחיל כבר השנה בייצור המוני של השבב. האתגר הגדול השנה הוא לקבל את כל ההסמכות של מוצרים בתקנים תעשייתיים ואת ההסמכות של תעשיית הרכב. במקביל, אנחנו נערכים לתמיכה בלקוחות לקראת אספקת השבבים. השנה נפתח משרדים ביפן, בגרמניה ובארצות הברית כדי שנוכל להיות קרובים ללקוחות".
החברה נמצאת בשלבי צמיחה, והתרחבה בחודשים האחרונים מהיקף של כ-60 עובדים במחצית 2019, להיקף של כ-80 עובדים כיום. בימים אלה היא נמצאת בתהליך גיוס של 30-40 עובדים נוספים. חלקם עובדים בחו"ל, ורובם עובדים שיועסקו במרכז המו"פ הישראלי ובמרכז התמיכה בלקוחות. הפרטים על טכנולוגיית הייצור עדיין חסויים, אולם דנון הסביר שהיתרון המרכזי של שבבי היילו נעוץ בארכיטקטורה מיוחדת, המאפשרת לייעל את תהליך העיבוד במספר מועט יחסית של טרנסיסטורים. "הדבר מתבטא בחסכון בהספק של אבזר הקצה הכולל את שבב העיבוד – וגם מבטיח ייצור נוח של השבב".
ארכיטקטורה גמישה המבוססת על התנהגות מפתיעה של הרשת הנוירונית
על-פי הנתונים של החברה, השבב Hailo-8 מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט. הוא מתוכנן לעמידה בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. השבב בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד לקבצי וידאו בתקן H.264, מעבד ARM-M4 המנהל את השבב, והרשת הנוירונית עצמה, שהחברה פיתחה.
הרשת הנוירונית מורכבת ממטריצה גמישה של יחידות עיבוד ויחידות זיכרון, וניתן להגדיר את תצורתה בתוכנה. דנון: "הארכיטקטורה שלנו מתארת את המבנה של רשת נוירונית ומקצה משאבים לכל שכבה ברשת. זיהינו שבתהליך העיבוד של ההסקות, יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן צריך לספק להן משאבים שונים. זאת בניגוד למתחרים שלנו המשתמשים בפתרונות כמו מעבדי GPU המעניקים לכל השכבות את אותה כמות של משאבים. תוכנת הפיתוח שלנו לומדת את הבעיה הספציפית, מאפיינת אותה, ויודעת להעביר לשבב הוראות כיצד לנהל בצורה אופטימלית את משאבים של כל אחת מהשכבות".
הקשיבו לראיון מוקלט עם אבי באום, הטכנולוג הראשי של היילו (מתחיל בדקה 09:45):
בתמונה למעלה: צוות פיתוח בהיילו. החברה התל אביבית מעסיקה כיום 65 עובדים
חברת היילו (Hailo) התל אביבית נערכת לקראת הייצור ההמוני של שבב הבינה המלאכותית שלה, העומד בתקן ASIL-B של תעשיית הרכב. הייצור הסדרתי מתוכנן להתבצע במהלך 2020. מייסד ומנכ"ל החברה, אור דנון, סיפר ל-Techtime שהשבב החדש ייקרא בשם Hailo-8. הוא פותח במסגרת עבודה משותפת של החברה מול יצרניות רכב, ומספק עמידה בדרישות של מערכות קריטיות להצלת חיים, כולל עמידה בטמפרטורות עבודה של עד 105°C.
על-פי הנתונים של החברה, השבב Hailo-8 מגיע לעוצמת עיבוד של 26 מיליארד פעולות בשנייה (26TOPS – Tera Operations Per Second) וליעילות של 3TOPS לכל ואט. הוא יעמוד בתקן המחמיר ISO 26262 ASIL-B ובתקן AEC Q 100 Grade 2. הוא בנוי מארבעה מרכיבים מרכזיים: מעבד תמונה (Image Signal Processor) המשפר את התמונה המגיעה מהחיישן לפני העברתה לזיהוי ברשת הנוירונית, מעבד H.264 המאפשר לטפל בתמונות וידאו, מעבד ARM-M4 המנהל את השבב, והרשת הנוירונית עצמה, המורכבת ממטריצה גמישה של יחידות עיבוד ויחידות זיכרון שניתן להגדיר את תצורתה בתוכנה.
חידוש הרעיון הישן של מעבדי DFP
חברת היילו הוקמה בחודש פברואר 2017 על-ידי המנכ"ל אור דנון, ה-CTO אבי באום ומנהלת הפיתוח העסקי הדר צייטלין. המשקיע הראשון בחברה היה זהר זיסאפל, המשמש כיום כיו"ר Hailo. עד היום החברה גייסה כ-24 מיליון דולר, כאשר הגיוס האחרון בהיקף של כ-21 מיליון דולר הסתיים בינואר 2019. החברה פיתחה ארכיטקטורה חדשה של שבב בינה מלאכותית עבור אבזרי קצה, המבצע את שלב ההרצה. כלומר, יישום ההסקות (Inference) של רשת נוירונית באבזרי קצה, במהירות רבה ובחסכון גדול באנרגיה. לדברי דנון, הארכיטקטורה מוגנת בכמה עשרות פטנטים. "היא משתייכת למשפחה נשכחת של מעבדים מסוג Data Flow Processors".
במעבדי DFP, פעולת העיבוד מתבצעת רק כאשר מוזנים נתונים אל המעבד, ואז הוא מבצע סדרה קבועה של פעולות על-גבי המידע הזה, ומעביר הלאה את התוצר המעובד. "בשנים האחרונות הסתבר שהישענות על רשתות נוירוניות היא שיטה יעילה ואמינה לפתור בעיות רבות, ולכן רוב מערכות הבינה המלאכותית שאנחנו רואים בשוק מבוססות על רשתות נוירוניות. כאן האתגר הוא מבני, מכיוון שהשבב צריך לממש מבנה של רשת נוירונית. ברשת נוירונית אתה יוצק נסיון אל תוך תיאור של מבנה, ולכן זהו פתרון יעיל מאוד בפתרון בעיות המבוססות על הכרת דוגמאות".
כיצד בנוי השבב שלכם? מה הם העקרונות המרכזיים של הארכיטקטורה?
דנון: "הארכיטקטורה שלנו מתארת את המבנה של רשת נוירונית ומקצה משאבים לכל שכבה ברשת. זיהינו שבתהליך העיבוד של ההסקות, יש הבדלים בין ההתנהגות של השכבות השונות ברשת הנוירונית, ולכן צריך לספק להן משאבים שונים. זאת בניגוד למתחרים שלנו המשתמשים בפתרונות כמו מעבדי GPU המעניקים לכל השכבות את אותה כמות של משאבים. תוכנת הפיתוח שלנו לומדת את הבעיה הספציפית, מאפיינת אותה, ויודעת להעביר לשבב הוראות כיצד לנהל את משאבים של כל אחת מהשכבות בצורה האופטימלית".
מה הם מרכיבי השבב?
"הרעיון הוא להשתמש ביחידות זיכרון קרובות מאוד ליחידות העיבוד. אנחנו מקצים יחידות זיכרון ויחידות עיבוד בהתאם לכל משימה, ועל-ידי כך משיגים מהירות עיבוד גבוהה מאוד, וחסכון גדול בהספק שהשבב צורך. הדבר הזה מאפשר לנו לעמוד בתקנים המחמירים של תעשיית הרכב, מכיוון שהשבב אינו מתחמם ויכול לעבוד בטמפרטורות הסביבה שהתעשייה דורשת".
אתם טוענים שהשבב שלכם יעיל מהפתרונות האחרים בשוק. אולם אין מדד אוניברסלי למדוד שבבי בינה מלאכותית.
"אנחנו מודדים את הביצועים שלנו באמצעות בדיקת כמה פעולות לוואט אנחנו מבצעים ברשת ניורונית ספציפית. כיום ישנו קונסורציום MLPerf המנסה להגדיר מדד בר-השוואה לרשתות נוירוניות אמיתיות. בכל מה שקשור למוצרי קצה, התעשייה ככל הנראה הולכת לכיוון של מדידת מספר הפעולות לוואט שהרשת הנוירונית מבצעת על מטלה מסויימת, כמו תמונה למשל".
כיום מתפתחות שיטות להטעיית הזיהוי של רשתות נוירוניות. אתם מתמודדים עם הבעיה?
"אפשר להתייחס אל הטעיות AI כאל חולשות, בדומה לאופן שבו מתייחסים אל חולשות אבטחה. בתחילה החולשות של מערכות תוכנה הפתיעו את התעשייה, אולם בהדרגה מוצאים להן פתרונות. בתחום הבינה המלאכותית, מדובר קודם כל בבעיה קונספטואלית שאין לה פתרון ברמת הסיליקון. אבל אם הרשת אומנה בצורה לא נכונה, והתוקף יודע כיצד היא אומנה, הוא יכול לתכנן תקיפה נגדה. אנחנו מתמודדים גם עם הבעיה הזאת, וברמה העקרונית היא מבטאת את היתרון של התקנת מערכות בינה מלאכותית בקצות הרשת, מכיוון שבאופן הזה קיימות פחות חולשות לאורך מסלול העברת המידע".
חברת היילו צומחת מהר, ומעסיקה כיום כ-65 עובדים ונמצאת בתהליך גיוס של עובדים נוספים. היא ממקדת את מאמציה בשני שווקים עיקריים: שוק הרכב ושוק אבזרי הקצה (IoT). שני שווקים שהם גם צפויים להיות גדולים מאוד, והם גם תובעניים מאוד, מכיוון שבשניהם יש צורך במוצר מאוד אמין, זול וחסכוני מאוד בהספק. דנון: "בהרבה מאוד מובנים המצלמה ברכב לא שונה בהרבה ממצלמת IoT בעיר החכמה. אלו שני תחומים שיהיו מאוד דומיננטיים, וחולקים ביניהם הרבה מאוד דרישות משותפות".
אנו עושים שימוש בקבצי עוגיות לצרכים שיווקיים ושיפור חוויית השימוש באתר. איסוף המידע באתר נעשה באופן אנונימי, למעט בטפסי יצירת קשר והרשמה לניוזלטר בהם אתם מתבקשים למלא פרטים אישיים. אנו עושים שימוש במגוון תוכנות לאיסוף וניתוח אנליטי של הנתונים באופן אנונימי לרבות: גוגל אנליטיקס, פייסבוק פיקסל ועוד.
What personal data we collect and why we collect it
We collect anonymous data on visitors in this website for business purposes such as enhancing user experience, digital marketing and search engine optimization.
We collect personal data such as email address and names on various forms – all forms present in this website include consent checkboxes and clear reason for collecting the data: general inquiries on our products, newsletter subscription, professional inquiries job applications. All forms are designed in accordance with GDPR requirements.
Comments
When visitors leave comments on the site we collect the data shown in the comments form, and also the visitor’s IP address and browser user agent string to help spam detection.
An anonymized string created from your email address (also called a hash) may be provided to the Gravatar service to see if you are using it. The Gravatar service privacy policy is available here: https://automattic.com/privacy/. After approval of your comment, your profile picture is visible to the public in the context of your comment.
Media
If you upload images to the website, you should avoid uploading images with embedded location data (EXIF GPS) included. Visitors to the website can download and extract any location data from images on the website.
Contact forms and newsletter
We use Gravity Forms as our platform of choice for all forms present in this website. Forms present in this website have been modified to fit GDPR requirements.
Unless specifically specified and approved by visitor, we do not use the collected data for marketing purposes.
We use Mailchimp to collect email addresses and send periodical marketing materials to our customers.
Handling and management of all email addresses and mailing operations is conducted under GDPR terms and guidelines provided by Mailchimp.
All subscribers are able to change their subscriptions preferences or unsubscribe at any given time.
Techtime has accepted the Data Processing Addendum agreement provided by Mailchimp for all its Mailchimp accounts.
All our lead collection forms have been altered in accordance with GDPR requirements and now include unchecked checkboxes in order to accept the explicit consent of the user prior to form submission.
Cookies
If you leave a comment on our site you may opt-in to saving your name, email address and website in cookies. These are for your convenience so that you do not have to fill in your details again when you leave another comment. These cookies will last for one year.
If you have an account and you log in to this site, we will set a temporary cookie to determine if your browser accepts cookies. This cookie contains no personal data and is discarded when you close your browser.
When you log in, we will also set up several cookies to save your login information and your screen display choices. Login cookies last for two days, and screen options cookies last for a year. If you select “Remember Me”, your login will persist for two weeks. If you log out of your account, the login cookies will be removed.
If you edit or publish an article, an additional cookie will be saved in your browser. This cookie includes no personal data and simply indicates the post ID of the article you just edited. It expires after 1 day.
Embedded content from other websites
Articles on this site may include embedded content (e.g. videos, images, articles, etc.). Embedded content from other websites behaves in the exact same way as if the visitor has visited the other website.
These websites may collect data about you, use cookies, embed additional third-party tracking, and monitor your interaction with that embedded content, including tracing your interaction with the embedded content if you have an account and are logged in to that website.
Analytics
We use Google Analytics regularly for monitoring user behavior and traffic sources and utilize the gathered information for enhancing user experience and for business purposes.
The use of Google Analytics in done according to GDPR terms and guidelines provided by Google.
Legal Entity: Techtime.
Primary Contact (a.k.a. “Notification Email Address”): [email protected] – this email is designated for receiving notices under the Google Ads Data Processing Terms.
Who we share your data with
We use various cloud platforms and third party providers for the purpose of operating this website.
We do not share or sell your data for any commercial purpose other than specified above.
We use the following processors for the operating this website and executing related digital marketing campaigns:
WP Engine – Hosting Provider
Cloudflare – Cloud based security and web performance processor.
Google Cloud Platform – data centers provider for WP Engine
Sucuri – Website security provider
Mailchimp – Newsletter service provider
Google Analytics, Adwords, Webmasters
Facebook – We use Facebook for advertising and place tracking code on our website for enhancing digital marketing campaigns (i.e – Facebook Pixel).
Planwize Ltd – Digital Marketing Agency.
How long we retain your data
If you leave a comment, the comment and its metadata are retained indefinitely. This is so we can recognize and approve any follow-up comments automatically instead of holding them in a moderation queue.
For users that register on our website (if any), we also store the personal information they provide in their user profile. All users can see, edit, or delete their personal information at any time (except they cannot change their username). Website administrators can also see and edit that information.
What rights you have over your data
If you have an account on this site, or have left comments, you can request to receive an exported file of the personal data we hold about you, including any data you have provided to us. You can also request that we anonymize or erase any personal data we hold about you. This does not include any data we are obliged to keep for administrative, legal, or security purposes.
Request for Receiving Data Associated with One’s Email Address
Users may request to receive access to all related information submitted to this website for their review.
In accordance with GDPR compliance, user may further request the anonymization of such data.
In order to request access for all data associated with a given email address, users may submit the request here. Users then receive an email with a link to a page with all related information.
The link is valid for 24 hours. Users may submit additional request for the same email address once in every 24 hours.
A request for anonymization should be sent separately: User may select the data he or she wishes the site owner to anonymize so it cannot be linked to his or her email address any longer. An email confirmation will be sent once linked data has been successfully anonymized.
Where we send your data
Visitor comments may be checked through an automated spam detection service. All our processors and third party providers comply with GDPR requirements and apply privacy by design and necessary measure to ensure that personal data is being processed and handled in accordance with requirements. The list of our third party service providers and processors is listed above.
Contact information
For all privacy-specific concerns inquiries, you may contact us at [email protected]
How we protect your data
We use rigorous practices in order to protect our website and data collected, as well as world class cloud and hosting providers.
Communication between visitor and the server is encrypted using SSL.
The site is protected with web application firewall and is undergoing daily security scans, regular software updates by a dedicated team in order to minimize the risk of data breach.
What data breach procedures we have in place
Once a data breach is detected, our providers execute a dedicated standard operational procedure in order to assess the scope and potential damage, provide immediate remedy, patch any potential security holes and notify users who may be affected by the breach.
We may contact affected users with one or more form of communication within 72 hours and provide the needed information as to the scope of the data breach and actions taken.
What third parties we receive data from
We do not receive data from third parties for our marketing campaigns.
What automated decision making and/or profiling we do with user data
We may apply remarketing/retargeting methods while conducting online advertising using Google Facebook and the likes.
The above is conducted by applying various tracking codes into our website in order to track and retarget users based on
By visiting and using this website you are hereby provide your consent for the use of the above means and methods.