מאת יוחאי שויגר
התחרות בין AMD לאנבידיה בתשתיות הבינה המלאכותית אינה מתנהלת רק על ביצועי המעבדים. כדי להפוך אלפי מאיצים למערכת מחשוב אחת, נדרשת רשת שתאפשר להם להחליף מידע ולהסתנכרן ביעילות. כאן מבקשת להשתלב דרייבנטס (DriveNets) הישראלית, המעמיקה את שיתוף הפעולה עם AMD וממלאת עבורה תפקיד המזכיר, ברמת הפתרון הכולל, את מקומה של מלאנוקס במעטפת של אנבידיה.
״אנבידיה מאוד גאה בכך שהיא נותנת פתרון שלם. היא לא נותנת לך GPU ומשאירה אותך להסתדר״, אומר דודי כהן, סמנכ״ל שיווק מוצר בדרייבנטס, בשיחה עם TechTime. ״היא מספקת גם את המעבדים, גם את פתרונות התקשורת וגם את השירותים המקצועיים. ל־AMD היה חסר החלק שמחבר בין המערכות. הפתרון שלנו משלים אותה״.
הקשר קיבל ביטוי כספי ביוני, כאשר AMD השתתפה כמשקיעה אסטרטגית בסבב גיוס של 410 מיליון דולר בדרייבנטס. סכום השקעתה הפרטני לא פורסם. במישור ההנדסי, החברות פרסמו ארכיטקטורת ייחוס — מעין תוכנית בנייה מפורטת ומאומתת לאשכול מחשוב AI, המגדירה אילו רכיבים לשלב, כיצד לחבר ביניהם ואיך להגדיר את המערכת כדי להפיק ממנה ביצועים מיטביים. התכנון משלב מאיצי Instinct MI355X וכרטיסי רשת Pensando Pollara של AMD עם תשתית התקשורת AI Fabric של דרייבנטס. הוא כולל גם התאמות לתוכנות המפעילות את המאיצים ומתאמות את חילופי המידע ביניהם, כדי שהמעבדים והרשת יעבדו ביעילות כמערכת אחת.
״עבדנו במעבדות שלהם ופרסמנו יחד ארכיטקטורת ייחוס: אם אתה רוצה לבנות מערכת על בסיס מעבדי AMD, זה המסמך שאתה צריך לעקוב אחריו״, מסביר כהן. ״הוא כולל את המחשוב של AMD, את התקשורת שלנו, מה מתחבר למה ואיך זה אמור לעבוד, וגם תוצאות של מדידות ביצועים שביצענו יחד״.
הבדיקות כללו אימון, הרצת מודלים, תקשורת בין מאיצים ועמידות הרשת. בתצורות אינפרנס מסוימות דווח על שיפור של כ־3%–5% בתפוקה ושל 10%–15% בזמן עד לטוקן הראשון, בהשוואה לתוצאות ציבוריות על חומרת AMD בתצורה מקבילה. אלה בדיקות פנימיות בתנאים מוגדרים, ולא הוכחה ליתרון גורף מול אנבידיה. החברות הקימו גם מעבדה משותפת לבחינת עומסי עבודה של לקוחות.
הבידול שמקדמת דרייבנטס הוא שילוב בין תשתית Ethernet מרובת ספקים לבין אחריות לאינטגרציה של המערכת. החברה אינה מפתחת את שבבי המיתוג, אלא משתמשת בעיקר בשבבי ברודקום ובונה סביבם חומרה, תוכנה ושירותים.
״יצרנו חלופה לאינפיניבנד, שהיה אמת המידה לביצועים בתחום הזה״, אומר כהן. ״אנחנו מספקים פתרון מלא: חומרה, תוכנה, שירותים וכלים שעושים אופטימיזציה גם לפרמטרים בשרתים, לא רק במתגים. אנחנו מסתכלים על כל המערכת״.
כשהחשמל נגמר באתר
לצד התחרות על התקשורת בתוך מרכזי הנתונים, דרייבנטס פועלת בתחום Scale Across: חיבור מאיצים הנמצאים באתרים מרוחקים לאשכול מחשוב משותף. המניע המרכזי, לפי כהן, הוא מגבלת החשמל.
״דאטה סנטרים לא נמדדים באמת במטרים, אלא במגה־ואט — בכמות החשמל שאפשר להזין אליהם״, הוא אומר. ״באיזשהו שלב נגמר לך החשמל באתר, ואתה רוצה להרחיב את אשכול המעבדים ולא יכול. האפשרות היא למצוא אתר נוסף, למשל במרחק 50 קילומטר, ולהמשיך את העבודה שם״.
האתגר חריף במיוחד באימון, שבו מאיצים רבים משתתפים באותה משימה. המרחק מוסיף השהיה, ועומסים או אובדן מידע עלולים להאט את העבודה. דרייבנטס משלבת זיכרונות אגירה עמוקים, תזמון תעבורה ואיזון עומסים כדי לשמור על ניצול הקישור ולצמצם את הפגיעה בביצועים.
״זה שונה מחיבור רגיל בין דאטה סנטרים״, מסביר כהן. ״הדרישות מבחינת קיבולת, השהיה, אובדן חבילות ואיכות שירות מחמירות הרבה יותר. המטרה היא שמבחינה לוגית תהיה מערכת אחת, אף שהיא נמצאת בכמה מקומות״.
יישום מסחרי כבר הוצג בפרויקט Redwood של WhiteFiber האמריקאית, המחבר שני אתרים במרחק של כ־84 קילומטר. החברות דיווחו על קיבולת של 111.2 טרה־ביט לשנייה והשהיה של 0.9 מילישנייה. לפי כהן, הפרויקט מבוסס דווקא על מעבדי אנבידיה — המחשה לכך שדרייבנטס פונה גם ללקוחותיה.
מרשתות הטלקום לתשתיות AI
דרייבנטס הוקמה ב־2015 בידי עידו סוסן והלל קוברינסקי. פעילותה המקורית התבססה על הפרדה בין תוכנה לחומרה ברשתות תקשורת: תוכנה המאפשרת לאוסף מתגים סטנדרטיים לפעול כנתב גדול אחד. בין לקוחותיה AT&T, קומקאסט ו־KDDI.
״לפני שנתיים וחצי־שלוש ראינו שהטכנולוגיה מתאימה גם למערכות AI״, מספר כהן. ״הבסיס הטכנולוגי והידע משותפים, אבל יש קבוצות פיתוח ומכירות נפרדות. הפעילות החדשה מתנהלת במידה מסוימת כסטארט־אפ בתוך החברה״.
קדימה, הוא מזהה הזדמנות בהתחזקות החלופות לאנבידיה. ״עד לאחרונה רוב הלקוחות שלנו היו מבוססי אנבידיה, כי זה היה רוב השוק״, הוא אומר. ״לאחרונה אנחנו רואים זרם גדול של לקוחות AMD, ובחצי השנה הקרובה כבר יהיו לנו יותר פרויקטים מבוססי AMD מאשר אנבידיה. ככל ששחקנים נוספים צוברים משקל, ההזדמנות שלנו גדלה״.
[בתמונה: דודי כהן, דרייבנטס. קרדיט: קרינה שלמייב. *תמונה ערוכה]
