הצהרת כוונות: אנבידיה שחררה את הפיתרון של Run:ai בקוד-פתוח
1 אפריל, 2025
פלטפורמת התזמור של Run:ai מאפשרת להקצות באופן דינמי את משאבי העיבוד הפנויים למשימות AI כמו אימון והסקה. אנבידיה תאפשר לקהילת הקוד-פתוח להתאים את הפיתרון ליישומים מגוונים במטרה להרחיב את האימוץ
[בתמונה למעלה: מייסדי חברת Run:ai רונן דר (מימין) ועמרי גלר. קרדיט: Run:ai]
לאחר שהשלימה בתחילת השנה את המיזוג עם Run:ai, אנבידיה מבצעת מהלך משמעותי ראשון עם הטכנולוגיה של החברה הישראלית: היא השיקה היום (ג'), בקוד פתוח, את KAI Scheduler, כלי לניהול עומסי עבודה של בינה מלאכותית בתשתיות מחשוב-על, שזוהי למעשה טכנולוגיית הליבה של Run:ai.
הפיתרון ניתן כעת להורדה בעמוד של אנבידיה ב-Github תחת רישיון Apache 2.0, שהוא רישיון מאוד מתירני אשר יאפשר לארגונים, סטארטאפים, מעבדות מחקר ומפתחים להשתמש בקוד באופן חופשי, לשנותו ואפילו להפיץ את התוצרים באופן מסחרי, תוך מתן קרדיט למקור.
KAI Scheduler היא פלטפורמת "תזמור" (orchestration), המאפשרת לנצל באופן מיטבי את משאבי העיבוד של תשתית ה-AI לצורך ביצוע משימות AI כמו אימון, ניסוי או הסקה. הפלטפורמה יודעת למפות את משאבי ה-GPU וה-CPU הזמינים ולהקצות את המשאבים הפנויים למשימות שעל הפרק. "תזמור" הוא היבט קריטי בניצול יעיל וחסכוני של תשתיות AI, שמתמודדות עם עומסים גדולים, מורכבים ודינמיים יותר ויותר בעידן ה-GenAI וסוכני AI. הפיתרון של Run:ai מתממשק עם כל סוג של מקבצי (cluster) מעבדים המנוהלים תחת קוברנטיס, בין אם אלה מעבדים של אנבידיה או של יצרניות אחרות.
בפוסט בבלוג מנו באנבידיה את היתרונות של KAI בהשוואה לפתרונות מקבילים בשוק, ובכלל זה יכולת לנהל באופן דינמי את ביקושי ה-GPU המשתנים, צמצום זמני המתנה למחשוב, הקצאת משאבים כדי להבטיח זמינות, והתממשקות חלקה עם כלי AI ומסגרות עבודה שונות. "KAI מחשב באופן רציף את הדרישות, מקצה מכסות ומגבלות בזמן אמת – ומתאים באופן אוטומטי את משאבי העיבוד הדרושים למשימות שעל הפרק. הגישה הדינמית הזו מבטיחה הקצאה יעילה של משאבי GPU, ללא צורך בהתערבות ידנית מצד המנהלים", נכתב בבלוג.
Run:ai נרכשה על ידי אנבידיה ב-700 מיליון דולר. התוכנה של Run:ai מיועדת להוות מרכיב משמעותי באקוסיסטם של אנבידיה ולאפשר ללקוחות החברה למקסם את התועלת שהם מפיקים מתשתיות החומרה שלה. ניהול נכון של משימות ה-AI, באמצעות פיתרון כמו זה של Run:ai, שנחשבת לחלוצה בתחום, יכול למקסם תפוקה ולהפחית עלויות שימוש. שחרוור חלק מהטכנולוגיה של Run:ai בקוד-פתוח, אף שהוא מתממשק גם עם מעבדים של חברות מתחרות, הינו מהלך שנועד לחזק את האקוסיסטם של אנבידיה בקהילת הקוד-פתוח ולאפשר למשתמשים שונים לרתום ולהתאים את הפיתרון למקרי בוחן מגוונים.
פורסם בקטגוריות: בינה מלאכותית , חדשות
פורסם בתגיות: run:ai , אנבידיה , תזמור
כתבות נוספות העשויות לעניין אותך
