DriveNets

DriveNets מחברת לראשונה שני דאטה סנטרים מרוחקים לאשכול AI אחד

פורסם בתאריך ע"י Techtime

חברת DriveNets הישראלית הודיעה על פריסה מסחרית ראשונה של טכנולוגיית Scale-Across, המאפשרת לחבר שני מרכזי נתונים המרוחקים זה מזה עשרות קילומטרים כך שיתפקדו כאשכול AI אחד. לדברי החברה, מדובר בפריסה המסחרית הראשונה בעולם מסוג זה. המערכת הוטמעה במסגרת Project Redwood של חברת WhiteFiber האמריקאית, יוזמה להקמת תשתית AI מבוזרת, ומחברת שני דאטה סנטרים המרוחקים כ־84 ק"מ זה מזה באמצעות רשת Ethernet מהירה, כך שעומסי העבודה יכולים להתייחס אל כלל המעבדים הגרפיים כאילו היו מותקנים באתר אחד.

המערכת מספקת רוחב פס של 111.2Tbps והשהיית תקשורת של 0.9 מילישנייה בלבד בין שני האתרים. לדברי WhiteFiber, מדובר בזמן השהיה הקרוב מאוד למגבלה הפיזיקלית שמכתיבה מהירות האור בסיב אופטי. בנוסף ל-DriveNets משתתפת בפרויקט גם חברת WEKA, המספקת את שכבת הנתונים והאחסון, כך שהמערכת כולה מתפקדת כמערכת לוגית אחת ולא כשני מרכזי נתונים נפרדים המחוברים ביניהם.

ההכרזה מגיעה ימים ספורים לאחר ש-DriveNets הרחיבה את היצע פלטפורמות ה-AI Fabric שלה עם מערכות חדשות המבוססות על שבב Tomahawk 6 של ברודקום, התומכות גם בארכיטקטורות Scale-Across. הפרויקט עם WhiteFiber הוא היישום המסחרי הראשון שעליו דיווחה החברה ליכולת זו.

הגישה הזו מנסה לפתור אחת הבעיות המרכזיות של תעשיית ה-AI. כיום, בניית אשכולות ענק כבר אינה מוגבלת רק במספר ה-GPU שניתן לרכוש, אלא בעיקר בזמינות חשמל, שטחי קרקע ומערכות קירור באתר בודד. במקום להמשיך ולהגדיל דאטה סנטר יחיד, ניתן לפזר את משאבי המחשוב בין מספר מתקנים ועדיין לאמן מודלים על תשתית לוגית אחת.

האתגר הטכנולוגי אינו מבוטל. במהלך אימון מודלי AI, אלפי מאיצים מחליפים ביניהם מידע בקצב גבוה מאוד, וכל השהיה או אובדן חבילות עלולים לפגוע בביצועי המערכת. לדברי WhiteFiber, מטרת Project Redwood אינה רק לחבר שני מרכזי נתונים באמצעות קו תקשורת מהיר, אלא לגרום להם לפעול כמערכת אחת, כך שמסגרות העבודה של ה-AI "רואות" אשכול GPU יחיד ולא שני אתרים נפרדים.

לשם כך עושה הפרויקט שימוש בטכנולוגיית Fabric Scheduled Ethernet (FSE) של DriveNets, המנהלת את תעבורת הרשת באופן המונע אובדן חבילות ומאפשר להתמודד עם עומסי התקשורת הכבדים שמייצרים אלפי מאיצי AI. WhiteFiber אף טוענת כי הצליחה להשיג קיבולת של 111.2Tbps תוך שימוש רק בחלק מספקטרום הסיב האופטי – ביצועים שלדבריה גבוהים פי שניים מהקיבולת שפורסמה בניסויי שדה דומים. החברה מסרה כי בכוונתה להרחיב את הפרויקט לקיבולת גבוהה אף יותר וכי הגישה בקשות לפטנטים על הארכיטקטורה.

WhiteFiber היא חברת תשתיות AI אמריקאית המפעילה שירותי GPU-as-a-Service ומקימה תשתיות מחשוב עבור ארגונים. החברה, הנסחרת בנאסד"ק תחת הסימול WYFI, מפעילה מתקנים בארצות הברית, איסלנד ואירופה, ובחודשים האחרונים דיווחה על חוזה רב-שנתי בהיקף של יותר מ-160 מיליון דולר להקמת תשתית AI באזור פריז. באתר החברה היא מציגה חזון של AI Factory מבוזר, שבו ניתן לאחד משאבי מחשוב הפזורים במספר אתרים לכדי מערכת אחת.

מבחינת DriveNets, מדובר ביותר מלקוח חדש. בחודש שעבר גייסה החברה 410 מיליון דולר כדי להרחיב את פעילות ה-AI Fabric שלה, וטענה כי הדור הבא של תשתיות AI יתבסס יותר ויותר על Ethernet כחלופה ל-InfiniBand. הפרויקט עם WhiteFiber מספק לה אתר ייחוס ראשון לאחת היכולות השאפתניות ביותר בפורטפוליו שלה. אם מודל ה-Scale-Across יאומץ על ידי מפעילי תשתיות AI נוספים, הוא עשוי לשנות את האופן שבו מוקמים סופר-אשכולות AI, ולאפשר להם להתרחב מעבר לגבולות של מרכז נתונים יחיד.

רוצים להישאר מעודכנים? הירשמו למטה לקבלת הניוזלטר השבועי שלנו

דרייבנטס מגייסת 410 מיליון דולר, AMD בפנים

פורסם בתאריך ע"י Techtime

חברת DriveNets הודיעה היום על גיוס של 410 מיליון דולר בסבב רביעי בהובלת Bessemer Venture Partners ו-Atreides Management, ובהשתתפות AMD, Red Dot Capital ומשקיעים קיימים ובהם פיטנגו ו-D1 Capital. לפי הערכות בתעשייה, הסבב בוצע לפי שווי של כ-8.5 מיליארד דולר – זינוק חד לעומת סבב הגיוס הקודם של החברה ב-2022, שבוצע לפי שווי של יותר מ-2.5 מיליארד דולר.

אולם מעבר לגודל הסבב, אחד הפרטים המסקרנים ביותר בהודעה הוא ייעוד הכסף. בניגוד לרוב חברות התוכנה, דרייבנטס מציינת כי חלק משמעותי מהגיוס מיועד לבניית מלאים זמינים של פלטפורמות תקשורת עבור פרויקטי AI רחבי היקף. זהו ניסוח חריג יחסית לחברת תוכנה, ומרמז כי החברה כבר אינה מספקת רק מערכת הפעלה לרשתות, אלא נדרשת לממן מראש רכיבי תשתית עבור פרויקטים גדולים. החברה אף מדווחת על צבר הזמנות ופרויקטים בהיקף של יותר ממיליארד דולר.

דרייבנטס נוסדה ב-2015 על ידי עידו סוסן והלל קוברינסקי, ופיתחה מודל שנועד לערער את שוק ציוד התקשורת המסורתי. במקום נתבים ייעודיים ויקרים של חברות כמו Cisco Systems, Juniper Networks ו-Nokia, החברה מציעה תוכנה המאפשרת להפוך אוסף של מתגים סטנדרטיים לנתב ענק אחד. המודל כבר הוטמע אצל לקוחות גדולים ובהם KDDI, Comcast ו-AT&T, אשר לפי החברה מפעילה את רוב רשת הליבה שלה על בסיס הטכנולוגיה של דרייבנטס.

בשנים האחרונות הרחיבה החברה את אותה תפיסה גם לעולם מרכזי הנתונים לבינה מלאכותית. אם בעבר הוצגה בעיקר כחברת Networking לעולם הטלקום, כיום היא מדברת על "Full-Stack AI Networking Fabric" ומציעה פתרון הכולל תוכנה, אינטגרציה, תזמון עומסים וניהול תקשורת עבור קלאסטרים גדולים של מעבדי AI.

המהלך מציב את דרייבנטס בעימות ישיר מול NVIDIA. בעוד NVIDIA מקדמת תשתיות AI המבוססות במידה רבה על טכנולוגיית InfiniBand שהגיעה אליה דרך רכישת Mellanox Technologies, דרייבנטס מנסה לקדם חלופה המבוססת על Ethernet פתוח ורב־ספקי. החברה טוענת כי גישה זו מאפשרת לשלב באותו קלאסטר מעבדי AI מיצרנים שונים ולמנוע תלות בסטאק סגור של ספק יחיד.

זו גם אחת הסיבות המרכזיות להשתתפותה של AMD בסבב. שתי החברות מקדמות חזון של תשתיות AI הטרוגניות, שבהן סוגים שונים של מאיצי AI פועלים יחד באותו מרכז נתונים. אם בעבר דרייבנטס ניסתה לשנות את האופן שבו ספקיות תקשורת בונות רשתות, הרי שהגיוס הנוכחי מסמן שאיפה רחבה יותר: להפוך לשכבת התקשורת המחברת את דור תשתיות ה-AI הבא.

[קרדיט צילום: שאולי לנדנר]

חוק מוּר מת – יחי הפער החדש

פורסם בתאריך ע"י Techtime

בתמונה למעלה: דודי כהן. צילום: קרינה שלמייב

מאת: דודי כהן, VP Product Marketing בחברת DriveNets

במשך יותר מחצי מאה פעל עולם השבבים בקצב שהוגדר על ידי גורדון מוּר, אחד ממייסדי ענקית השבבים אינטל. מוּר הגדיר בשנת 1965, במה שלימים נודע כחוק מוּר, את קצב הגידול של יכולות העיבוד של שבבים (או, ליתר דיוק, של צפיפות הטרנזיסטורים במעגלים משולבים במחיר מינימלי), וחזה כי אחת לשנה וחצי עד שנתיים צפיפות זו תוכפל.

במשך עשורים רבים, כאמור, גדלו יכולות השבבים בהתאם לחוק זה. אינטל, אותה ייסד מוּר, הייתה הכוח הדומיננטי בתחום. יכולות השבבים השפיעו ישירות על ביצועי המוצרים הטכנולוגיים – מחשבים, סמארטפונים ועוד – והגידול המהיר ביכולות הגדיר למעשה את "מחזור השדרוג" של מוצרים אלו.

שני אתגרים מרכזיים עמדו בפני המשך קיומו של חוק מוּר. האחד – טכנולוגי: היכולת לדחוס עוד ועוד טרנזיסטורים על פיסת סיליקון מתקרבת לגבולות הפיזיקה. השני – כלכלי: היכולת לייצר שבבים צפופים במחיר יציב מושפעת מעלויות הייצור ומהדינמיקה של היצע וביקוש. ואכן, בשנת 2022 הכריז ג'נסן הואנג, מנכ"ל אנבידיה, על מותו של חוק מוּר – בעיקר בשל האתגר הכלכלי והעלייה בעלויות ייצור השבבים.

העולם שאחרי חוק מוּר

מאז אותה הכרזה, העולם הטכנולוגי השתנה באופן דרמטי. בעוד שחקניות חדשות כמו אנבידיה תופסות מקום מרכזי, ענקיות ותיקות כמו אינטל מתמודדות עם שינויי כיוון עמוקים. אך לא מדובר רק בהחלפת מובילות – אלא בשינוי מוקד: מעוצמתו של שבב בודד לארכיטקטורות של עיבוד מקבילי, המותאמות לעידן ה-AI.

ארכיטקטורות אלו מרחיבות את יחידת העיבוד ממחשב או שרת יחיד למערכים של שרתים, הכוללים עשרות, מאות ואף מאות-אלפי מעבדים. במסגרת זו, פוחתת חשיבות כוח העיבוד של כל מעבד בנפרד, ועולה משמעותית חשיבות הביצועים של המערכת כולה כיחידת עיבוד אחת. במילים אחרות, היכולת של אלפי מעבדים לעבוד יחד על משימה אחת – למשל אימון מודל AI על מאגר נתונים עצום – עולה בהרבה על סכום היכולות של כל מעבד בנפרד.

הפער החדש

הפער המקורי שעליו גישר חוק מוּר היה בין צורכי היישומים, לבין יכולות העיבוד של המעבדים. אלא שבעולם המחשוב המקבילי נוצר פער חדש: בין סכום יכולות העיבוד התיאורטיות של מערך המעבדים, לבין הביצועים בפועל. המקסימום התיאורטי מניח עבודה רציפה של כל המעבדים, אך בפועל חלק גדול מהם עומד חסר מעש (Idle) בחלק גדול מהזמן – לעיתים יותר מ-50%. זאת משום שהם ממתינים למידע ממעבדים אחרים, המועבר באמצעות מנגנוני תקשורת קבוצתית (Collective Communications).

הרשת היא המחשב

תשתיות הרשת הפכו לצוואר בקבוק בביצועי מערך המחשוב מקבילי (המשמש גם לאימון והרצת מודלי AI). ברוב המקרים, המעבדים נקלעים למצב Idle מכיוון שהרשת אינה עומדת בעומס. הרשת קיימת בכל שכבות הארכיטקטורה: מרשת Scale-up המחברת בין מעבדים באותו שרת או ארון (Rack), דרך רשת Scale-out המקשרת בין שרתים ברחבי הדטה סנטר, ועד רשת Scale-across המחברת בין דטה סנטרים שונים. כלומר בעולם שבו כוח העיבוד ממשיך לגדול, וגודל המערכים וכמויות הנתונים צומחים בקצב מעריכי, הרשת נדרשת לספק קישוריות מהירה ואמינה כדי לגשר על הפער בין היכולת התיאורטית לביצועים בפועל.

ה-Ethernet סוגר פערים

כדי להתמודד עם הפער הזה, חוזרת לקדמת הבמה טכנולוגיית Ethernet הוותיקה. אומנם Ethernet בסיסי אינו מתאים לסביבות תובעניות כאלה, אך בשנים האחרונות הוא עבר שדרוגים משמעותיים. השינוי המרכזי נוגע למנגנוני תזמון (Scheduling), המיושמים בקצות הרשת – בכרטיסי הרשת (NIC) – בהתאם להמלצות ה-Ultra Ethernet Consortium, וכן במתגים עצמם (בטכנולוגיות כמו Cell-based Fabric). שיפורים אלו מאפשרים ל-Ethernet לספק אמינות גבוהה במיוחד (אובדן חבילות נמוך עד אפסי) לצד ביצועים מרשימים (רוחב פס גבוה ושיהוי נמוך ויציב).

הטכנולוגיה המשודרגת יושמה תחילה ברשתות Scale-out ואפשרה מעבר מטכנולוגיות ייעודיות כמו InfiniBand, ובהמשך גם ברשתות Scale-across המחברות בין דטה סנטרים. בעתיד הקרוב צפויה טכנולוגיית Ethernet להיכנס גם לרשתות Scale-up (למשל במסגרת יוזמות כמו OCP ESUN). אם מגמה זו תימשך, ייתכן שהפער הנוכחי יצטמצם – ואולי אף יוביל להגדרה של "חוק" חדש, שיתאר את עידן המחשוב הבא.