[בתמונה: מייסדי Valura. יח"צ]

שני גיוסי ענק שהוכרזו השבוע ממחישים לאן זורם הכסף בתעשיית שבבי ה-AI. חברת Etched גייסה 700 מיליון דולר לפי שווי של 21 מיליארד דולר, ואילו חברת Velaura AI גייסה 110 מיליון דולר לפי שווי של יותר ממיליארד דולר. למרות הבדלים משמעותיים בטכנולוגיה, שתי החברות מנסות לפתור את אותה בעיה: ככל שהשימוש ב-AI גדל, צוואר הבקבוק עובר מעצם הזמינות של כוח מחשוב לעלות, לחשמל וליעילות שבה ניתן לבצע inference. שני הגיוסים, בהיקף מצטבר של 810 מיליון דולר ביום אחד, ממחישים את המרוץ להפיק יותר טוקנים מכל דולר ומכל ואט.

Etched: לבנות את כל המערכת סביב inference

Etched, שהוקמה בידי גאווין אוברטי ורוברט ווצ'ן התחילה מהימור פשוט אך נועז: במקום להשתמש ב-GPU כללי, אפשר לתכנן חומרה המותאמת במיוחד לעומסי העבודה של מודלי AI. כיום החברה כבר מגדירה את המוצר שלה בצורה רחבה יותר כ-"frontier inference clusters" – מערכות שבהן השבב, הזיכרון, הכרטיסים, הקירור, התקשורת והתוכנה מתוכננים יחד כדי למקסם throughput ולהקטין latency, צריכת חשמל ועלות.

השבב הראשון של החברה, A0, כבר חזר מ-TSMC ומיוצר בתהליך N4P. אחת הטכנולוגיות שפיתחה נקראת Low Voltage Inference: יחידות החישוב פועלות, לטענתה, בפחות ממחצית המתח המקובל במאיצי AI, ובכך ניתן להגדיל את צפיפות החישוב מבלי לגרום להתחממות שמאלצת את השבב להאט את ביצועיו. טכנולוגיה נוספת, Cluster Scale Memory, יוצרת מאגר זיכרון משותף ומהיר בין השבבים כדי להתמודד עם צוואר הבקבוק בשלב ה-decode. לשם כך משלבת החברה זיכרונות HBM ו-SRAM עם מערך קישוריות קנייני ומהיר להעברת נתונים ביניהם.

Etched מעסיקה כבר יותר מ-400 עובדים, ובהם יוצאי אנבידיה, גוגל TPU, ברודקום, TSMC ו-SK hynix. בין הבכירים נמצא בריין לויילר, שבנה ב-Nvidia את מערכות HGX ו-DGX, ו-David Munday, שהיה ממקימי צוות תוכנת ה-TPU בגוגל. החברה אף הקימה בטייוואן מפעל ומחזיקה בסן חוזה דאטה-סנטר, מעבדת prototyping ומתקני בדיקה.

הגיוס החדש הובל בידי Jane Street, שהיא גם הלקוחה הראשונה של החברה. Etched כבר החלה בייצור מערכות ראשונות ומדווחת על יותר ממיליארד דולר בחוזי לקוחות. הגיוס בולט גם בגלל קצב עליית השווי: רק ביולי גייסה החברה 300 מיליון דולר לפי שווי של 10.3 מיליארד דולר – פחות מחודש לפני שהשווי יותר מהוכפל.

Velaura: להוציא יותר חישוב מכל ואט

Velaura מגיעה לאותה בעיה מכיוון אחר. החברה היא גלגול חדש של Auradine, חברת שבבים שהתמחתה בין היתר ב-ASICs חסכוניים באנרגיה. השנה היא שינתה את שמה ומיקדה את פעילותה בתשתיות AI וב-Physical AI – רובוטים, רחפנים ומערכות אוטונומיות שבהם צריכת החשמל והחום מגבילים במיוחד את כוח המחשוב הזמין.

המנכ"ל והמייסד-שותף הוא רג'יב חימני, ולצוות המייסדים הצטרף מאנו גולאטי, מוותיקי תעשיית השבבים שעבד ב-Apple וב-Google והיה ממייסדי Nuvia, שנרכשה בידי קואלקום. הצוות הרחב כולל יוצאי Nvidia, Qualcomm ומארוול. (Business Wire)

הטכנולוגיה המרכזית של החברה נקראת Titan Core. בניגוד ל-Etched, Velaura אינה דורשת בהכרח מהלקוח לעבור לארכיטקטורת מאיץ חדשה. מדובר בפלטפורמת IP ותכנון שבבים שמטרתה לבצע אופטימיזציה של יחידות החישוב עצמן לעבודה במתח נמוך מאוד.

Velaura טוענת לשיפור של פי 2–4 בביצועים-לוואט בפעולות מתמטיות של מאיצי AI, ללא פגיעה בביצועים. הטכנולוגיה שעליה מבוססת הפלטפורמה אינה חדשה לחלוטין: לדברי החברה, היא כבר שולבה ביותר מ-30 מיליון ASICs שיוצרו בתהליכים מתקדמים, וכעת היא מותאמת לעומסי AI.

סבב ה-Series A של 110 מיליון דולר הובל בידי Seligman Ventures, ובהשתתפות Capricorn, Prosperity7, Mayfield, Samsung Catalyst Fund ומשקיעים נוספים. Velaura אינה חושפת עדיין לקוחות, אך מדווחת על התקשרויות עם מספר ענקיות ענן. הכסף ישמש למסחור Titan Core ולהרחבת הפעילות בדאטה-סנטרים וב-Physical AI.

שתי החברות אינן בהכרח מתחרות ישירות ב-Nvidia – ואפילו לא זו בזו. Etched מנסה לבנות מערכת inference יעילה יותר באמצעות התמחות עמוקה; Velaura מנסה להפוך את הסיליקון עצמו לחסכוני יותר. אבל ההימור הכלכלי זהה: בעולם שבו מיליארדי משתמשים וסוכני AI מייצרים כמויות הולכות וגדלות של טוקנים, היתרון הבא כבר לא יימדד רק בכמה FLOPS מספק השבב – אלא בכמה חישוב אפשר לקבל מכל מגה-ואט ומכל דולר.