היילו רואה ב-CES הזדמנות פריצה לתחום ה-GenAI הצרכני

חברת היילו (Hailo) מתל-אביב, המפתחת מעבדי AI למכשירי קצה, תדגים לראשונה בתערוכת CES 2025, שתיערך בלאס וגאס בין ה-7-11 בינואר, פתרונות חדשים שמאפשרים הפעלת בינה מלאכותית יוצרת (Generative AI) במכשירי קצה.

בין היתר, היילו תבצע הדגמה פומבית ראשונה של מאיץ הבינה המלאכותית Hailo-10 שתוכנן באופן ייעודי להרצת מודלים גדולים של שפה (LLM) במכשירי קצה. לדברי היילו, מאיץ זה פותח עידן חדש שבו משתמשים יוכלו להריץ אפליקציות Generative AI באופן מקומי ללא צורך להתחבר לאינטרנט או להירשם לשירותי ענן מסוג זה. היילו הכריזה על Hailo-10 בחודש אפריל השנה, והוא מספק עוצמת עיבוד של עד 40TOPS.

היילו גם תדגים יכולות בתחום ה-GenAI הוויזואלי. היא תציג מודל שפה ויזואלי (VLM – Visual Language Model), שרץ על גבי מעבד המידע החזותי למצלמותי של החברה, Hailo-15. המודל מאפשר חיפוש בטקסט חופשי, תמלול וסיכום של תכני וידאו. המעבד כבר הניב לחברה מספר זכיות תכנון ושולב במגוון מצלמות אבטחה חכמות.

בנוסף תציג היילו הדגמות של מערכות רכב של יצרנים מובילים שבהן שולב מאיץ Hailo-8, הדור הראשון של מעבדי החברה, שמציג ביצועים של בין 13-200 TOPS. בתחום הרכב המעבד משמש להרצת אפליקציות AI מתקדמות המסייעות לנהג (ADAS) ומגבירות את הבטיחות והנוחות. המבקרים בביתן היילו יוכלו לצפות ביכולות חדשניות ומתקדמות כמו שילוב חיישן לידאר במצלמה המאפשר זיהוי הולכי רגל, מבט על תלת ממדי (Bird’s eye view) וחניה אוטומטית, שנועדו כולן לכלי רכב לשימוש המוני.

אור דנון, מנכ"ל היילו, אמר : "עם תחילתו של עידן ה-GenAI, המעבדים שלנו מגדירים מחדש את האפשרויות לחדשנות AI בזמן אמת". הוא הביע אופטימיות לגבי פעילות החברה ב-2025. "הטכנולוגיה שלנו אומצה על-ידי אלפי מהנדסים בעולם, המוצרים שלנו מגוונים ותחרותיים ועוצמתנו הפיננסית מבטיחה שב-2025 יהיו פריצות הדרך הגדולות ביותר שלנו עד היום. CES 2025 היא הזדמנות נפלאה לנו ולשותפים שלנו". היילו תציג בסוויטה #29-106 במלון Venetian ובמתחם הישראלי בביתן #61701 באולם G.

אנבידיה חושפת מחשב-על קומפקטי ל-AI ב-249 דולר

חברת אנבידיה (NVIDIA) חושפת מחשב-על קומפקטי חדש עבור מפתחי בינה מלאכותית, סטודנטים ויוצרים, שמציע ביצועי GenAI משופרים בכרבע מהמחיר של סמארטפון מתקדם. ערכת המפתחים החדשה NVIDIA Jetson Orin Nano Super מאפשרת, בין היתר, ליצור צ'אטבוטים מבוססי מודלי שפה גדולים (LLMs) עם יכולת RAG לאיחזור מידע, לבנות סוכני בינה מלאכותית לניתוח תמונות וסרטונים, ולפתח רובוטים מבוססי בינה מלאכותית. מחשב העל הקומפקטי יימכר החל מהיום במחיר של 249 דולר בלבד – מחשב העל הנגיש ביותר לעידן הבינה המלאכותית היוצרת.

לדברי אנבידיה, Jetson Orin Nano Super מציג שיפור של פי 1.7 בביצועי הסקה (Inference), זינוק של 70% בביצועים ל-67 INT8 TOPS, וגידול של 50% ברוחב הפס של הזיכרון ל-102GB/s לעומת הדור הקודם. הביצועים המשופרים של ערכת המפתחים Jetson Orin Nano Super תציג ביצועים משודרגים למגוון מודלי בינה מלאכותית יוצרת פופולריים ומודלי ה-Transformer לראייה ממוחשבת, לרבות מודלים של עליבאבא, גוגל, OpenAI, מיקרוסופט, מטא, Hugging Face וכמובן אנבידיה עצמה. 

ערכת המפתחים מורכבת מ-System-on-Module (SoM) עם 8GB ו-Reference Carrier Board, שמהווים פלטפורמה אידיאלית ליצירת אבות טיפוס של יישומי בינה מלאכותית למחשוב קצה (edge). ה-SoM כולל GPU של אנבידיה בארכיטקטורת Ampere עם ליבות טנסור ומעבד CPU מבוסס ARM עם 6 ליבות, שמאפשר להריץ מספר יישומי AI במקביל. הוא יכול לתמוך בעד ארבע מצלמות, עם רזולוציה וקצבי פריימים גבוהים יותר בהשוואה לגרסאות הקודמות.

על הערכה החדשה ניתן להריץ מגוון יישומי בינה מלאכותית של אנבידיה, כמו למשל NVIDIA Isaac ליישומי רובוטיקה, NVIDIA Metropolis ליישומי ראייה ממוחשבת ו-NVIDIA Holoscan לעיבוד נתוני חיישנים. ניתן להפחית את זמני הפיתוח בעזרת תוכנת Omniverse Replicator NVIDIA ליצירת דאטה סינתטי, ובעזרת NVIDIA TAO Toolkit לכוונון-עדין (Fine-tuning) של מודלי AI שאומנו מראש מתוך קטלוג NGC. 

בנוסף, מעבדת NVIDIA Jetson AI מציעה תמיכה מיידית במודלים מתקדמים מקהילת הקוד הפתוח, ומספקת הדרכות קלות לשימוש. מפתחים יכולים גם לקבל תמיכה והשראה ממפתחים אחרים בקהילת Jetson. השותפים באקוסיסטם של Jetson מציעים תוכנות AI ומערכות נוספות, וכלי פיתוח תוכנה מגוונים, ויכולים גם לסייע בכל הקשור למצלמות וחיישנים, Carrier boards ושירותי עיצוב למוצרים.

עדכוני התוכנה הזמינים ל-Jetson Orin Nano Super החדש ישפרו גם את ביצועי הבינה המלאכותית היוצרת עבור מפתחים שכבר יש ברשותם ערכות Jetson Orin NX ו-Orin Nano.

Jetson Orin Nano Super זמין לרכישה באמצעות השותפים הגלובליים של אנבידיה.

קוגנטה מביאה את ה-GenAI לאימון נהיגה אוטונומית

[בתמונה: נסיעת-מבחן אמיתית וגשם שנוצר באמצעות GenAI. מקור: קוגנטה]

חברת קוגנטה (Cognata) מרחובות השיקה פלטפורמה חדשה, DriveMatriX, שמאפשרת לחברות המפתחות מערכות נהיגה אוטונומית להעשיר דאטה מנסיעות-מבחן אמיתיות באמצעות GenAI. למעשה, מחולל ה-AI מאפשר באמצעות פקודות פשוטות לשנות אלמנטים בתנאים המקוריים של נסיעת-המבחן, וכך למשל, להפוך הקלטה של נסיעת-מבחן שנערכה ביום בהיר לאותה נסיעת-מבחן בדיוק, אך תחת גשם כבד ובחשכה גמורה.

כך, יכולות חברות רכב להגדיל בקלות את קשת התנאים של נסיעות-המבחן, שברובן נערכות באור יום ובתנאי מזג אוויר נוחים. לדברי החברה, המידע המועשר ב-GenAI שקול בערכו למידע אמיתי מבחינת האפקטיביות באימון ואימות מערכות של ראיית-מכונה, והוא מהווה פתרון משלים למידע הסינתטי המיוצר בסימולטור של החברה, שמאפשר לייצר תרחישי קצה שאינם שכיחים בנסיעות-מבחן.

לשם ההמחשה, קוגנטה מעמידה כעת, בחינם, את הדאטה-סט הראשון שיצרה באמצעות הפיתרון החדש. בקוגנטה סבורים כי השילוב של דאטה מנסיעות-מבחן, נסיעות-מבחן מועשרות ב-GenAI ומידע סינתטי מסימולטור יכול לסייע בהאצת תהליכי אימון, פיתוח ואימות מערכות נהיגה אוטונומית ויישומי בטיחות אוטומטיים.

בסרטון: נסיעת-מבחן אמיתית בכביש 6 מועשרת באמצעות GenAI:

דני עצמון, מייסד ומנכ"ל קוגנטה, אמר: "באמצעות שימוש ב-GenAI, אנחנו מציעים לתעשייה רמה חדשה של גמישות באימון מערכות נהיגה אוטונומית. הסינרגיה בין מידע מהעולם האמיתי ליכולות של דאטה סינתטי מבטיחה שהפלטפורמה שלנו תעמוד בסטנדרטים הגבוהים ביותר של אימות מערכות חישה".

כאמור, הפתרון החדש מהווה מרכיב משלים לצד הסימולטור של החברה. הסימולטור של קוגנטה מייצר סביבה וירטואלית המדמה לפרטי פרטים את המציאות על הכביש, ממפת הרחובות המדויקת והתנהגות כלי הרכב והנהגים, ועד לפרטים קטנים ובלתי צפויים כמו פגמים בכביש, פחי זבל, שלטים, עצים וגם תרחישי סכנה כמו ילד שמתפרץ אל הכביש. הסימולטור של קוגנטה מאפשר לייצר באופן שיטתי מקבצים של תרחישי נהיגה שיבדקו כיצד מתפקדים חיישני הרכב ויחידות המחשוב בכל הסיטואציות שהם עשויים לפגוש בכביש.