TinyML משנה תפיסות יסוד בתחום ה-IoT

19 מאי, 2021

בשנת 2030 יימסרו ללקוחות כ-2.5 מיליארד אבזרים מקושרים הכוללים בינה מלאכותית. אמיר שרמן: "הגישה הזאת מהווה שינוי פרדיגמה בעולם ה-IoT, מכיוון שהיא מאפשרת לבצע את העיבוד באבזר הקצה עצמו ולא בענן"

בתמונה למעלה: מודול Bluetooth של Nordic Semiconductor הכולל רשת נוירונית מבוססת TinyML

בינה מלאכותית באבזרי הקצה הולכת ומסתמנת כאחד ממנועי הצמיחה המעניינים של תעשיית ההייטק בשנים הקרובות. להערכת חברת המחקר ABI Research, השימוש בבינה מלאכותית הוא אחד מהגורמים החשובים הדוחפים את השימוש בפתרונות IoT, אשר התפוצה שלהם צפויה לצמוח להיקף של כ-23.6 מיליארד אבזרים מקושרים עד לשנת 2026. אלא שעד להופעת הרעיון של TinyML היה קשה מאוד להטמיע אלגוריתמים תובעניים באבזרי קצה חסכוניים מאוד באנרגיה ודלים במשאבי עיבוד ובנפח זיכרון.

טכנולוגיית TinyML מספקת את התשתית עבור Artificial Intelligence of Things – AIoT, ונחשבת לאחת מההתפתחויות הטכנולוגיות המעניינות ביותר של השנה האחרונה: ניתן לבצע את ההטמעה הזאת באמצעות תוכנות ושבבי בינה מלאכותית קלי המשקל המיושמים באמצעות TinyML. חברת ABI מעריכה שמדובר באחד מתחומי ה-IoT הצומחים במהירות הגדולה ביותר: אם בשנת 2020 נמסרו ללקוחות כ-15.2 מיליון אבזרים מקושרים שהוטמעו בהם תוכנות TinyML – בשנת 2030 צפוי מספרם להגיע לכ-2.5 מיליארד אבזרים.

בנייר עמדה שפורסם תחת השם TinyML: The Next Big Opportunity, מעריך אנליסט הבינה מלאכותית הראשי בחברת ABI, ליאן ג'יי סו, שהשימוש ב-TinyML ירחיב את השימוש בבינה מלאכותית באבזרי הקצה אל מעבר לשוקי המפתח הנוכחיים. "כניסת הבינה המלאכותית לתחומים החורגים מראיית מחשב, תרחיב את השימוש בחיישנים מקושרים ואבזרי IoT לתחומים חדשים כמו ניטור קולי, ניטור טמפרטורות, זעזועים  ומקורות מידע נוספים".

תעשיית השבבים מתלהבת מהרעיון

הרעיון הזה מעורר התלהבות רבה. קואלקום, ARM, מיקרוסופט וגוגל ייסדו את ועידת TinyML Summit, וחברת Lattice הודיעה שהמגמה החדשה מייצרת שוק יעד מושלם לרכיבי FPGA הזעירים שלה ממשפחת iCE40 UltraPlus. גם CEVA הישראלית זיהתה את המגמה, והכריזה לפני שנה שפלטפורמת העיבוד שלה CEVA-BX DSP, ותוכנת זיהוי הקול WhisPro, תומכות בסביבת TensorFlow Lite for Microcontrollers, המאפשרת להפעיל יישומי בינה מלאכותית במעבדים קטנים וחסכוניים מאוד בהספק.

גם חברת Infineon נכנסה לתחום והכריזה השבוע על חבילת ModusToolbox ML המאפשרת ליישם בינה מלאכותית והפעלת רשתות נוירוניות דוגמת TensorFlow במיקרו-בקרים שלה ממשפחת PSoC. "טכנולוגיית AIoT המבוססת על TinyML היא התפתחות טבעית מכיוון שהיא מאפשרת לנהל באופן מקומי מידע קריטי", הסביר מנהל תחום ה-IoT באינפיניאון, סטיב טטוסיאן. ערכת ModusToolbox ML מגשרת על הפער שבין לימוד מכונה ומערכות משובצות".

מרכיב מרכזי באסטרטגיית ה-IoT של סיליקון לאבס

על הרקע הזה ניתן להבין את החלטתה של סיליקון לאבס (Silicon Laboratories) מקליפורניה, למכור לסקייוורקס (Skyworks) את חטיבת התשתיות והרכב שלה תמורת 2.75 מיליארד דולר במזומן. העיסקה נעשתה במסגרת מהלך התמקדות בתחום ה-IoT, אשר גם כלל את רכישת Redpine Signals המייצרת טכנולוגיות Wi-Fi ו-Bluetooth. בינואר 2021 היא הכריזה על שיתוף פעולה עם חברת Edge Impulse בהטמעת תוכנת ה-TinyML של אדג'-אימפולס במיקרו-בקרים ממשפחת EFM32, ברכיבי ה-SoC ליישומי IoT ממשפחת EFR32 ובסביבת הפיתוח שלה, Simplicity Studio.

להערכת סיליקון לאבס, השימוש בתוכנת TinyML (המתאימה גם למעבדי CPU וגם למיקרו-בקרים) בתוך המעבדים שלה, יאפשר ליישם פתרונות לימוד מכונה מורכבים כמו זיהוי קול, עיבוד תמונה וזיהוי מורכב של תנועות, באמצעות רכיבי קצה חסכוניים מאוד באנרגיה ובעלי מגבלות זיכרון משמעותיות. המערכת מאפשרת הפעלת רשתות נוירוניות (Deep Neural Network), סיווג וזיהוי תבניות המוטמעות בתוך נתונים, אימון רשתות נוירוניות ואיסוף ושמירה בזמן אמת של מידע חיוני.

STMicroelectronics נכנסת לעולם ה-TinyML

השבוע רכשה חברת STMicroelectronics את חברת Cartesiam הצרפתית, אשר מפתחת כלי פיתוח לשילוב יישומי בינה מלאכותית בתוך מיקרו-בקרים מבוססי ARM. העיסקה נחתמה כמעט במקביל לגיוס הון בהיקף של 15 מיליון דולר שביצעה אדג' אימפולס. להערכתה, התוכנה נמצאת כיום בשימוש אצל כ-1,000 ארגונים בעולם, ועד לסוף 2021 היא תאומץ על-ידי 20,000 מפתחים של אבזרים חכמים. בחודש שעבר היא הכריזה על תמיכה בכל מערכות מחשוב הקצה של אנבידיה, ממעבדים מבוססי Cortex-M0+ ועד מחשבי NVIDIA Jetson.

זו הפעם הראשונה שבה גרסת ה-Linux של החברה מותקנת במחשבים מבוססי GPU, כמו קו מוצרי Jetson. להערכתה הדבר יאפשר לנצל 99% מהמידע שעד כה התעלמו ממנו מערכות הקצה ביישומים קריטיים. במקביל, היא הכריזה על תמיכה במחשב Raspberry Pi 4y ובכרטיסי ארדואינו. חברת Nordic Semiconductor חתמה על הסכם שיתוף פעולה דומה, והכריזה לאחרונה על שילוב הקומפיילר לרשתות נוירוניות של אדג' אימפולס בכל רכיבי הבלוטות' שלה ממשפחת nRF52840 SoC.

אפשר גם ללא ענן

התוכנה של אדג' אימפולס ניתנת למפתחים בחינם, כאשר המודל העסקי מבוסס על מתן שירותים לארגונים במתכונת של SaaS: הפלטפורמה, הקומפיילר והאופטימיזציה נעשים בענן של החברה, כאשר התשלום הוא עבור זמן עיבוד מיוחד, תמיכה טכנית והתאמה אישית לדרישות הלקוח.

לדברי מנהל הפעילות בישראל של Edge Impulse, אמיר שרמן, הגישה הזאת מהווה שינוי פרדיגמה בעולם ה-IoT, מכיוון שהיא מאפשרת לבצע את העיבוד באבזר הקצה עצמו ולא בענן. שרמן: "הלקוחות נמצאים בצומת דרכים. מציאת השילוב הנכון בין אבזר הקצה לבין הענן נעשה מורכב מאוד. המפתחים צריכים להבין איזה תהליכים ניתן לבצע בענן ואיזה תהליכים עדיף לבצע באבזר עצמו, ומתי ניתן וכדאי לבצע פעולות כל-כך מורכבות באמצעות מיקרו-בקרים זעירים בקצה הרשת".

Share via Whatsapp

פורסם בקטגוריות: MCU/MPU , בינה מלאכותית , חדשות , סמיקונדקטורס

פורסם בתגיות: TinyML