DriveNets

DriveNets הישראלית ו-AMD מציבות חלופה לאקוסיסטם של אנבידיה-מלאנוקס

פורסם בתאריך ע"י Techtime

מאת יוחאי שויגר

חברת DriveNets הישראלית ו-AMD הכריזו על פרסום ארכיטקטורת ייחוס (Reference Architecture) להקמת אשכולות מחשוב לבינה מלאכותית, המבוססת על מאיצי ה-AI מסדרת AMD Instinct MI350 ועל פלטפורמת התקשורת DriveNets AI Fabric. מדובר בתכנון הנדסי מאומת שנועד לשמש בסיס להקמת חוות GPU גדולות עבור אימון והרצת מודלי בינה מלאכותית, תוך מקסום ניצול המאיצים ושיפור ביצועי התקשורת.

ההכרזה מסמנת שלב נוסף בהעמקת שיתוף הפעולה בין שתי החברות, לאחר שבחודש שעבר השתתפה AMD כמשקיעה אסטרטגית בסבב הגיוס של 410 מיליון דולר שביצעה DriveNets. בכך הופכת AMD לא רק לשותפה טכנולוגית, אלא גם לבעלת עניין בהצלחת הפלטפורמה של החברה הישראלית.

ארכיטקטורת הייחוס כוללת את כלל שכבות התשתית – החל ממערך המאיצים, דרך תכנון הטופולוגיה של הרשת, השרתים וכרטיסי הרשת, ועד שכבת התוכנה של AMD, הכוללת את ROCm וספריית התקשורת RCCL, לצד כלי תזמור ואופטימיזציה של כלל המערכת. מטרת המהלך היא לאפשר למפעילי מרכזי נתונים, ספקיות שירותי AI וחברות ענן להקים במהירות אשכולות GPU גדולים על בסיס תכנון שנבחן ואומת מראש.

לפי נתוני החברות, הארכיטקטורה החדשה סיפקה שיפור של כ-5% בתפוקת המערכת לעומת תוצאות ציבוריות קיימות, וקיצרה ב-10%-15% את זמן ההמתנה עד ליצירת הטוקן הראשון (Time to First Token). בנוסף, נמדדה השהיה של פחות מ-20 אלפיות השנייה בין טוקנים באשכולות מרובי שרתים, לצד קצב של יותר מ-50 טוקנים לשנייה למשתמש. במבחני עמידות הציגה המערכת התאוששות מהירה גם במהלך תרחישי כשל ברשת ותעבורת RDMA במקביל.

מאתגרות את המודל המשולב של אנבידיה

מעבר להיבט הטכנולוגי, להכרזה יש גם משמעות אסטרטגית. בשנים האחרונות בנתה NVIDIA אקוסיסטם כמעט מלא עבור מרכזי נתוני AI, הכולל מאיצי GPU, רכיבי תקשורת שמקורם במלאנוקס, מתגים, תוכנת CUDA, ספריות תקשורת ותכנון מלא של אשכולות מחשוב.

AMD מנסה לבנות חלופה למודל הזה באמצעות אקוסיסטם פתוח יותר. החברה מספקת את מאיצי Instinct ואת סביבת התוכנה ROCm, ואילו DriveNets משלימה את שכבת הרשת באמצעות AI Fabric – פלטפורמת תוכנה המנהלת את רשת התקשורת של אשכולות ה-AI ופועלת על גבי מתגי Ethernet סטנדרטיים של יצרנים שונים.

במובן זה, DriveNets אינה מתחרה ישירה במלאנוקס כחברת חומרה. בעוד מלאנוקס מפתחת שבבי תקשורת, מתגים וכרטיסי רשת, DriveNets מספקת את שכבת התוכנה והבקרה של הרשת. אולם ברמת הפתרון הכולל, שיתוף הפעולה עם AMD מציב אלטרנטיבה לחבילה המשולבת של NVIDIA, ומציע ללקוחות ארכיטקטורה פתוחה המבוססת על Ethernet וריבוי ספקים, במקום הסתמכות על ספק יחיד.

שתי החברות מציינות כי הן כבר מפעילות מעבדה משותפת שבה יכולים לקוחות לבצע הוכחות היתכנות (PoC), ולבחון את עומסי העבודה שלהם על גבי הפתרון המשולב לפני פריסה מסחרית.

DriveNets בונה אקוסיסטם AI שלם

ההכרזה הנוכחית מצטרפת לשורת מהלכים שביצעה DriveNets בחודשים האחרונים, המעידים על הרחבת פעילותה מעבר לשוק מפעילי התקשורת, שבו צמחה החברה, אל תחום תשתיות הבינה המלאכותית.

לאחרונה הכריזה החברה על הרחבת משפחת מוצרי AI Fabric עם פלטפורמות חדשות המבוססות על שבבי המתגים Tomahawk 6 של Broadcom, המיועדות לאשכולות הכוללים מאות אלפי מאיצי AI. זמן קצר קודם לכן חשפה את טכנולוגיית Scale Across, המאפשרת לחבר שני מרכזי נתונים המרוחקים זה מזה בעשרות קילומטרים לרשת Ethernet אחת, כך שיוכלו לפעול כאשכול GPU לוגי אחיד.

לצד שיתופי הפעולה עם Broadcom בתחום תשתיות הרשת ועם AMD בתחום המאיצים, משתפת החברה פעולה גם עם יצרני שרתים ופתרונות מרכזי נתונים, במטרה לספק תשתית פתוחה מקצה לקצה להקמת חוות AI גדולות.

רצף ההכרזות מצביע על אסטרטגיה ברורה: במקום להציע רכיב בודד, DriveNets מבקשת למצב את עצמה כפלטפורמה מרכזית לתקשורת במרכזי נתוני AI. באמצעות שילוב של תוכנת AI Fabric, שיתופי פעולה עם יצרניות שבבים מובילות ויכולות חדשות כמו Scale Across, החברה בונה בהדרגה אקוסיסטם פתוח, שמטרתו להוות חלופה לארכיטקטורה המשולבת של NVIDIA, הנשענת על שילוב בין המאיצים, התוכנה ורכיבי התקשורת שפותחו במקור במלאנוקס.

עידו סוסן, מייסד ומנכ"ל DriveNets:* "תשתיות ה-AI עוברות ממערכות של ספק יחיד למערכות פתוחות ומרובות ספקים, והרשת היא זו שמאפשרת את המעבר הזה. הארכיטקטורה המשותפת עם AMD הופכת את התפיסה לתוכנית מאומתת: מעבדי ה-AMD Instinct™ MI350 ופתרון ה- AI Fabric שלנו מספקים תפוקה גבוהה יותר וזמן קצר יותר עד לטוקן הראשון בהשוואה לתוצאות תעשייה זמינות לציבור – יחד עם העמידות והעקביות הנדרשות לקלאסטרי AI. הדבר מספק ללקוחותינו תוכנית למיקסום ניצול ה-GPU ולהורדת עלות-לטוקן מקצה לקצה".

DriveNets מחברת לראשונה שני דאטה סנטרים מרוחקים לאשכול AI אחד

פורסם בתאריך ע"י Techtime

חברת DriveNets הישראלית הודיעה על פריסה מסחרית ראשונה של טכנולוגיית Scale-Across, המאפשרת לחבר שני מרכזי נתונים המרוחקים זה מזה עשרות קילומטרים כך שיתפקדו כאשכול AI אחד. לדברי החברה, מדובר בפריסה המסחרית הראשונה בעולם מסוג זה. המערכת הוטמעה במסגרת Project Redwood של חברת WhiteFiber האמריקאית, יוזמה להקמת תשתית AI מבוזרת, ומחברת שני דאטה סנטרים המרוחקים כ־84 ק"מ זה מזה באמצעות רשת Ethernet מהירה, כך שעומסי העבודה יכולים להתייחס אל כלל המעבדים הגרפיים כאילו היו מותקנים באתר אחד.

המערכת מספקת רוחב פס של 111.2Tbps והשהיית תקשורת של 0.9 מילישנייה בלבד בין שני האתרים. לדברי WhiteFiber, מדובר בזמן השהיה הקרוב מאוד למגבלה הפיזיקלית שמכתיבה מהירות האור בסיב אופטי. בנוסף ל-DriveNets משתתפת בפרויקט גם חברת WEKA, המספקת את שכבת הנתונים והאחסון, כך שהמערכת כולה מתפקדת כמערכת לוגית אחת ולא כשני מרכזי נתונים נפרדים המחוברים ביניהם.

ההכרזה מגיעה ימים ספורים לאחר ש-DriveNets הרחיבה את היצע פלטפורמות ה-AI Fabric שלה עם מערכות חדשות המבוססות על שבב Tomahawk 6 של ברודקום, התומכות גם בארכיטקטורות Scale-Across. הפרויקט עם WhiteFiber הוא היישום המסחרי הראשון שעליו דיווחה החברה ליכולת זו.

הגישה הזו מנסה לפתור אחת הבעיות המרכזיות של תעשיית ה-AI. כיום, בניית אשכולות ענק כבר אינה מוגבלת רק במספר ה-GPU שניתן לרכוש, אלא בעיקר בזמינות חשמל, שטחי קרקע ומערכות קירור באתר בודד. במקום להמשיך ולהגדיל דאטה סנטר יחיד, ניתן לפזר את משאבי המחשוב בין מספר מתקנים ועדיין לאמן מודלים על תשתית לוגית אחת.

האתגר הטכנולוגי אינו מבוטל. במהלך אימון מודלי AI, אלפי מאיצים מחליפים ביניהם מידע בקצב גבוה מאוד, וכל השהיה או אובדן חבילות עלולים לפגוע בביצועי המערכת. לדברי WhiteFiber, מטרת Project Redwood אינה רק לחבר שני מרכזי נתונים באמצעות קו תקשורת מהיר, אלא לגרום להם לפעול כמערכת אחת, כך שמסגרות העבודה של ה-AI "רואות" אשכול GPU יחיד ולא שני אתרים נפרדים.

לשם כך עושה הפרויקט שימוש בטכנולוגיית Fabric Scheduled Ethernet (FSE) של DriveNets, המנהלת את תעבורת הרשת באופן המונע אובדן חבילות ומאפשר להתמודד עם עומסי התקשורת הכבדים שמייצרים אלפי מאיצי AI. WhiteFiber אף טוענת כי הצליחה להשיג קיבולת של 111.2Tbps תוך שימוש רק בחלק מספקטרום הסיב האופטי – ביצועים שלדבריה גבוהים פי שניים מהקיבולת שפורסמה בניסויי שדה דומים. החברה מסרה כי בכוונתה להרחיב את הפרויקט לקיבולת גבוהה אף יותר וכי הגישה בקשות לפטנטים על הארכיטקטורה.

WhiteFiber היא חברת תשתיות AI אמריקאית המפעילה שירותי GPU-as-a-Service ומקימה תשתיות מחשוב עבור ארגונים. החברה, הנסחרת בנאסד"ק תחת הסימול WYFI, מפעילה מתקנים בארצות הברית, איסלנד ואירופה, ובחודשים האחרונים דיווחה על חוזה רב-שנתי בהיקף של יותר מ-160 מיליון דולר להקמת תשתית AI באזור פריז. באתר החברה היא מציגה חזון של AI Factory מבוזר, שבו ניתן לאחד משאבי מחשוב הפזורים במספר אתרים לכדי מערכת אחת.

מבחינת DriveNets, מדובר ביותר מלקוח חדש. בחודש שעבר גייסה החברה 410 מיליון דולר כדי להרחיב את פעילות ה-AI Fabric שלה, וטענה כי הדור הבא של תשתיות AI יתבסס יותר ויותר על Ethernet כחלופה ל-InfiniBand. הפרויקט עם WhiteFiber מספק לה אתר ייחוס ראשון לאחת היכולות השאפתניות ביותר בפורטפוליו שלה. אם מודל ה-Scale-Across יאומץ על ידי מפעילי תשתיות AI נוספים, הוא עשוי לשנות את האופן שבו מוקמים סופר-אשכולות AI, ולאפשר להם להתרחב מעבר לגבולות של מרכז נתונים יחיד.

רוצים להישאר מעודכנים? הירשמו למטה לקבלת הניוזלטר השבועי שלנו

דרייבנטס מגייסת 410 מיליון דולר, AMD בפנים

פורסם בתאריך ע"י Techtime

חברת DriveNets הודיעה היום על גיוס של 410 מיליון דולר בסבב רביעי בהובלת Bessemer Venture Partners ו-Atreides Management, ובהשתתפות AMD, Red Dot Capital ומשקיעים קיימים ובהם פיטנגו ו-D1 Capital. לפי הערכות בתעשייה, הסבב בוצע לפי שווי של כ-8.5 מיליארד דולר – זינוק חד לעומת סבב הגיוס הקודם של החברה ב-2022, שבוצע לפי שווי של יותר מ-2.5 מיליארד דולר.

אולם מעבר לגודל הסבב, אחד הפרטים המסקרנים ביותר בהודעה הוא ייעוד הכסף. בניגוד לרוב חברות התוכנה, דרייבנטס מציינת כי חלק משמעותי מהגיוס מיועד לבניית מלאים זמינים של פלטפורמות תקשורת עבור פרויקטי AI רחבי היקף. זהו ניסוח חריג יחסית לחברת תוכנה, ומרמז כי החברה כבר אינה מספקת רק מערכת הפעלה לרשתות, אלא נדרשת לממן מראש רכיבי תשתית עבור פרויקטים גדולים. החברה אף מדווחת על צבר הזמנות ופרויקטים בהיקף של יותר ממיליארד דולר.

דרייבנטס נוסדה ב-2015 על ידי עידו סוסן והלל קוברינסקי, ופיתחה מודל שנועד לערער את שוק ציוד התקשורת המסורתי. במקום נתבים ייעודיים ויקרים של חברות כמו Cisco Systems, Juniper Networks ו-Nokia, החברה מציעה תוכנה המאפשרת להפוך אוסף של מתגים סטנדרטיים לנתב ענק אחד. המודל כבר הוטמע אצל לקוחות גדולים ובהם KDDI, Comcast ו-AT&T, אשר לפי החברה מפעילה את רוב רשת הליבה שלה על בסיס הטכנולוגיה של דרייבנטס.

בשנים האחרונות הרחיבה החברה את אותה תפיסה גם לעולם מרכזי הנתונים לבינה מלאכותית. אם בעבר הוצגה בעיקר כחברת Networking לעולם הטלקום, כיום היא מדברת על "Full-Stack AI Networking Fabric" ומציעה פתרון הכולל תוכנה, אינטגרציה, תזמון עומסים וניהול תקשורת עבור קלאסטרים גדולים של מעבדי AI.

המהלך מציב את דרייבנטס בעימות ישיר מול NVIDIA. בעוד NVIDIA מקדמת תשתיות AI המבוססות במידה רבה על טכנולוגיית InfiniBand שהגיעה אליה דרך רכישת Mellanox Technologies, דרייבנטס מנסה לקדם חלופה המבוססת על Ethernet פתוח ורב־ספקי. החברה טוענת כי גישה זו מאפשרת לשלב באותו קלאסטר מעבדי AI מיצרנים שונים ולמנוע תלות בסטאק סגור של ספק יחיד.

זו גם אחת הסיבות המרכזיות להשתתפותה של AMD בסבב. שתי החברות מקדמות חזון של תשתיות AI הטרוגניות, שבהן סוגים שונים של מאיצי AI פועלים יחד באותו מרכז נתונים. אם בעבר דרייבנטס ניסתה לשנות את האופן שבו ספקיות תקשורת בונות רשתות, הרי שהגיוס הנוכחי מסמן שאיפה רחבה יותר: להפוך לשכבת התקשורת המחברת את דור תשתיות ה-AI הבא.

[קרדיט צילום: שאולי לנדנר]

חוק מוּר מת – יחי הפער החדש

פורסם בתאריך ע"י Techtime

בתמונה למעלה: דודי כהן. צילום: קרינה שלמייב

מאת: דודי כהן, VP Product Marketing בחברת DriveNets

במשך יותר מחצי מאה פעל עולם השבבים בקצב שהוגדר על ידי גורדון מוּר, אחד ממייסדי ענקית השבבים אינטל. מוּר הגדיר בשנת 1965, במה שלימים נודע כחוק מוּר, את קצב הגידול של יכולות העיבוד של שבבים (או, ליתר דיוק, של צפיפות הטרנזיסטורים במעגלים משולבים במחיר מינימלי), וחזה כי אחת לשנה וחצי עד שנתיים צפיפות זו תוכפל.

במשך עשורים רבים, כאמור, גדלו יכולות השבבים בהתאם לחוק זה. אינטל, אותה ייסד מוּר, הייתה הכוח הדומיננטי בתחום. יכולות השבבים השפיעו ישירות על ביצועי המוצרים הטכנולוגיים – מחשבים, סמארטפונים ועוד – והגידול המהיר ביכולות הגדיר למעשה את "מחזור השדרוג" של מוצרים אלו.

שני אתגרים מרכזיים עמדו בפני המשך קיומו של חוק מוּר. האחד – טכנולוגי: היכולת לדחוס עוד ועוד טרנזיסטורים על פיסת סיליקון מתקרבת לגבולות הפיזיקה. השני – כלכלי: היכולת לייצר שבבים צפופים במחיר יציב מושפעת מעלויות הייצור ומהדינמיקה של היצע וביקוש. ואכן, בשנת 2022 הכריז ג'נסן הואנג, מנכ"ל אנבידיה, על מותו של חוק מוּר – בעיקר בשל האתגר הכלכלי והעלייה בעלויות ייצור השבבים.

העולם שאחרי חוק מוּר

מאז אותה הכרזה, העולם הטכנולוגי השתנה באופן דרמטי. בעוד שחקניות חדשות כמו אנבידיה תופסות מקום מרכזי, ענקיות ותיקות כמו אינטל מתמודדות עם שינויי כיוון עמוקים. אך לא מדובר רק בהחלפת מובילות – אלא בשינוי מוקד: מעוצמתו של שבב בודד לארכיטקטורות של עיבוד מקבילי, המותאמות לעידן ה-AI.

ארכיטקטורות אלו מרחיבות את יחידת העיבוד ממחשב או שרת יחיד למערכים של שרתים, הכוללים עשרות, מאות ואף מאות-אלפי מעבדים. במסגרת זו, פוחתת חשיבות כוח העיבוד של כל מעבד בנפרד, ועולה משמעותית חשיבות הביצועים של המערכת כולה כיחידת עיבוד אחת. במילים אחרות, היכולת של אלפי מעבדים לעבוד יחד על משימה אחת – למשל אימון מודל AI על מאגר נתונים עצום – עולה בהרבה על סכום היכולות של כל מעבד בנפרד.

הפער החדש

הפער המקורי שעליו גישר חוק מוּר היה בין צורכי היישומים, לבין יכולות העיבוד של המעבדים. אלא שבעולם המחשוב המקבילי נוצר פער חדש: בין סכום יכולות העיבוד התיאורטיות של מערך המעבדים, לבין הביצועים בפועל. המקסימום התיאורטי מניח עבודה רציפה של כל המעבדים, אך בפועל חלק גדול מהם עומד חסר מעש (Idle) בחלק גדול מהזמן – לעיתים יותר מ-50%. זאת משום שהם ממתינים למידע ממעבדים אחרים, המועבר באמצעות מנגנוני תקשורת קבוצתית (Collective Communications).

הרשת היא המחשב

תשתיות הרשת הפכו לצוואר בקבוק בביצועי מערך המחשוב מקבילי (המשמש גם לאימון והרצת מודלי AI). ברוב המקרים, המעבדים נקלעים למצב Idle מכיוון שהרשת אינה עומדת בעומס. הרשת קיימת בכל שכבות הארכיטקטורה: מרשת Scale-up המחברת בין מעבדים באותו שרת או ארון (Rack), דרך רשת Scale-out המקשרת בין שרתים ברחבי הדטה סנטר, ועד רשת Scale-across המחברת בין דטה סנטרים שונים. כלומר בעולם שבו כוח העיבוד ממשיך לגדול, וגודל המערכים וכמויות הנתונים צומחים בקצב מעריכי, הרשת נדרשת לספק קישוריות מהירה ואמינה כדי לגשר על הפער בין היכולת התיאורטית לביצועים בפועל.

ה-Ethernet סוגר פערים

כדי להתמודד עם הפער הזה, חוזרת לקדמת הבמה טכנולוגיית Ethernet הוותיקה. אומנם Ethernet בסיסי אינו מתאים לסביבות תובעניות כאלה, אך בשנים האחרונות הוא עבר שדרוגים משמעותיים. השינוי המרכזי נוגע למנגנוני תזמון (Scheduling), המיושמים בקצות הרשת – בכרטיסי הרשת (NIC) – בהתאם להמלצות ה-Ultra Ethernet Consortium, וכן במתגים עצמם (בטכנולוגיות כמו Cell-based Fabric). שיפורים אלו מאפשרים ל-Ethernet לספק אמינות גבוהה במיוחד (אובדן חבילות נמוך עד אפסי) לצד ביצועים מרשימים (רוחב פס גבוה ושיהוי נמוך ויציב).

הטכנולוגיה המשודרגת יושמה תחילה ברשתות Scale-out ואפשרה מעבר מטכנולוגיות ייעודיות כמו InfiniBand, ובהמשך גם ברשתות Scale-across המחברות בין דטה סנטרים. בעתיד הקרוב צפויה טכנולוגיית Ethernet להיכנס גם לרשתות Scale-up (למשל במסגרת יוזמות כמו OCP ESUN). אם מגמה זו תימשך, ייתכן שהפער הנוכחי יצטמצם – ואולי אף יוביל להגדרה של "חוק" חדש, שיתאר את עידן המחשוב הבא.