AI21 של אמנון שעשוע חשפה מודל חשיבה לאבזרי קצה
8 אוקטובר, 2025
מודל החשיבה (Reasoning) החדש, Jamba Reasoning 3B, נחשב למודל הזעיר (עד 3 מיליארד פרמטרים) המהיר בעולם. מגיע לשוק במתכונת קוד פתוח
מייסדי AI21 (מימין לשמאל): יואב שוהם, אורי גושן ואמנון שעשוע
חברת AI21 Labs של אמנון שעשוע, חשפה היום את מודל החשיבה (Reasoning) החדש, Jamba Reasoning 3B, שלהערכתה הוא מודל החשיבה הזעיר (עד 3 מיליארד פרמטרים) המהיר בעולם. בתחום הבינה המלאכותית מקובל להתייחס לשתי רמות עיבוד מרכזיות שונות: קיימת הפעולה המיידית של הסקה (Inference), המבוסס על ניתוח מיידי של מידע על-גבי רשת נוירונית שאומנה מראש. כך למשל, פעולת זיהוי תמונה היא הסקה, המבוססת על שימוש בתוצרים של מודל שאומן מראש. רמת החשיבה (Reasoning) נעשית ברמת הפשטה גבוהה יותר שבה המערכת מתמודדת עם בעיה כללית וזקוקה להפעיל גם כללי לוגיקה באמצעות מערכות מומחה. במקרה כזה, הסקה היא אחד מהמהלכים המתבצעים במסגרת הפעלת מודל חשיבה.
המודל מצטיין במתמטיקה, כתיבה וניתוח של קוד, ופועל בקצב גבוה פי 2-4 ממודלים מתחרים במכשירי קצה. מדובר החשיבה הראשון מסוגו בעולם המאפשר לבצע עבודה עם קונטקסט של יותר מ-250K טוקנים במכשירי קצה סטנדרטיים, דוגמת מחשבים ניידים וטלפונים. המודל זמין בקוד פתוח תחת רישיון Apache 2.0 דרך Hugging Face ,Kaggle ,llama.cpp ,Ollama ו-LM Studio. המודל מותאם לפיתוח יכולות בינה מלאטכותית במכשירי קצה ומערכות משובצות הזקוקות לעיבוד יעיל על-גבי המכשיר עצמו ללא תלות בענן. הוא מתאים למשימות הדורשות קונטקסט ארוך, כמו קריאה לפונקציות וכלים חיצוניים (Function Calling), פעולה במסגרת חוקים ומגבלות קשיחים (Policy Grounded Generation), מענה לשאלות על בסיס מסמכים מרובים, ניתוב בין מודלים וכלים, או ניתוח קוד.
החברה מסרה שארכיטקטורת Jamba שהיא פיתחה, משלבת במודל השפה שכבות טרנספורמרים (עליו מבוססים הרוב המוחלט של מודלי השפה בעולם) לצד שכבות Mamba State Space, המפחיתה את צריכת הזיכרון פי 10 בהשוואה לשימוש בטרנספורמרים בלבד. חברת AI21 הוקמה בשנת 2017 על-ידי פרופ’ אמנון שעשוע, פרופ’ יואב שוהם והמנכ"ל אורי גושן (ממייסדי חברת Crowdx). עד היום גייסה יותר מ-336 מיליון דולר ממשקיעים אסטרטגיים דוגמת NVIDIA, Google ו-Intel. מוצרי החברה כוללים את משפחת Jamba של מודלי שפה ואת Maestro, שהיא פלטפורמה ליצירת וניהול סוכני AI.
פורסם בקטגוריות: חדשות
