מנכ"לית משותפת של אינטל ישראל: "גם המעבד הגרפי המתקדם ביותר מאבד מערכו כשהוא ממתין"

24 אוגוסט, 2026

טור אורח: קרין אייבשיץ סגל מסבירה מדוע בעידן סוכני ה-AI, ביצועי התשתית תלויים לא רק בעוצמת המאיצים, אלא ביכולת המערכת כולה לשמור אותם בעבודה

קרין אייבשיץ סגל, סגנית נשיא תאגידי ומנכ"לית משותפת אינטל ישראל. מנכ"לית ארגון הנדסת המערכות בחטיבת הדאטה סנטר של אינטל

הדיון על מעבדים לבינה מלאכותית מבוססת סוכנים מתמקד כיום בקבוצה מצומצמת מדי של מדדים. חלק גדול מהשיח בתעשייה עוסק בביצועים של משימה יחידה על ליבה אחת, במספר הליבות שאפשר לשלב במערכת ובכמות העבודה שארון שרתים מסוגל לבצע.

כל אלה מדדים חשובים. אבל הם עדיין לא עונים על השאלה שבסופו של דבר מעניינת את הלקוחות:

כמה עבודה שימושית של סוכני AI יכולה התשתית שלי להשלים באופן אמין, בזמן, בעלות ובצריכת החשמל שהעסק שלי דורש?

מספר הליבות מלמד כמה משאבי מחשוב הוכנסו למערכת. בעידן של בינה מלאכותית מבוססת סוכנים, השאלה החשובה יותר היא עד כמה המערכת כולה מצליחה להפוך את המשאבים האלה לעבודה שמושלמת בפועל.

עבודה במקביל משנה את התמונה

כאשר סוכן יחיד מבצע רצף של פעולות, חישוב הביצועים נראה פשוט: ככל שכל שלב מסתיים מהר יותר, כך תהליך העבודה כולו מתקדם מהר יותר.

אבל מערכות בסביבת ייצור מפעילות סוכנים רבים במקביל, שמתחרים על המעבד, הזיכרון, משאבי הקלט והפלט והמאיצים. ככל שהעומס גדל, גם צוואר הבקבוק משתנה.

ניתוח פומבי שפורסם לאחרונה התבסס על 739 שיחות אנונימיות ב-Claude Code, שכללו תהליכי עבודה של סוכני תכנות ובהם חשיבה רב-שלבית, יצירת קוד ושימוש בכלים. לפי הניתוח, החלק של עיבוד המעבד המארח וזמן ההמתנה מתוך זמן התגובה הכולל עלה מפחות מ-1% בבקשה יחידה לעד 15% כאשר 32 בקשות טופלו במקביל. רוב העלייה נבעה מתזמון ומתורים, ולא מעבודת החישוב עצמה.

ליבה מהירה יותר יכולה להשלים את החישוב מהר יותר. היא לא יכולה להעלים את התור.

לזמן ההמתנה יש השפעה גם על הרכיב היקר ביותר במערכת. לפי אותו מחקר, בתהליכים שבהם סוכנים מריצים קוד, המעבדים הגרפיים מבצעים עבודה שימושית רק במשך כ-50% עד 60% מהזמן. כשסוכן ממתין למסד נתונים, למערכת אחזור מידע או לסביבת הרצה מבודדת, גם המעבד הגרפי ממתין.

העיקרון שעומד בבסיס חוק אמדל עדיין תקף: "המאיץ היקר ביותר הוא זה שממתין לשאר חלקי המערכת."

אינטל מציעה מדד שימושי יותר: מספר הסוכנים שהשלימו את עבודתם בפועל בכל ארון שרתים.

כלומר, כמה תהליכי עבודה של סוכנים יכול ארון שרתים להשלים באופן אמין, תוך עמידה ביעדים שנקבעו לתפוקה, לאיכות ולזמן תגובה, ובמסגרת מוגדרת של עלות וצריכת חשמל.

אחת הדרכים להמחיש את הקיבולת האפקטיבית היא:

מספר הסוכנים בפועל לארון שרתים = מספר הסוכנים התאורטי לארון × יעילות הניתוב × איזון המשאבים × יעילות העברת משימות לרכיבים ייעודיים

הקיבולת התאורטית מייצגת את משאבי המחשוב, הזיכרון ורוחב הפס הזמינים בארון.

יעילות הניתוב משקפת עד כמה המערכת מצליחה להפנות כל משימה למשאב המתאים לה.

איזון המשאבים מביא בחשבון את הקיבולת שאובדת בגלל צווארי בקבוק ותורים.

יעילות העברת המשימות משקפת את הקיבולת שמתפנה כאשר עבודות תשתית עוברות מהליבות הכלליות לרכיבים ייעודיים.

המסמך הטכני הנלווה מפרט את הגורמים האלה ואת אופן המדידה שלהם.

המגבלה האמיתית של המערכת נמצאת בנקודה שבה הוספת סוכנים גורמת לזמן התגובה לחרוג מהיעד שהגדיר הלקוח. היא אינה בהכרח הנקודה הגבוהה ביותר בגרף התפוקה התאורטית.

לדוגמה, אם ארון שרתים מסוגל להפעיל 1,000 תהליכי סוכנים במקביל, אבל מצליח לעמוד ביעד זמן התגובה באחוזון 99 רק עבור 700 מהם, קיבולת הייצור השימושית שלו היא 700 סוכנים, ולא 1,000.

אינטל משלבת בין ליבות מהירות לבין מספר גדול של ליבות, ובונה מערכת שמתרגמת את שני היתרונות האלה לעבודה שמושלמת בפועל.

רוחב הפס מאפשר לסוכן להמשיך להתקדם. קיבולת הזיכרון מאפשרת לו לשמור את המידע הדרוש להמשך העבודה.

מצב Flat Memory Mode במעבדי Intel Xeon 6 משלב זיכרון המחובר באמצעות CXL וזיכרון DDR5 מקומי במרחב כתובות אחד. בבדיקה משותפת של אינטל ו-SAP, המערכת סיפקה 96% מהביצועים של מערכת המבוססת כולה על DDR5, תוך הפחתה של כ-25% בעלות הבעלות הכוללת על הזיכרון.

כך ניתן לשמור יותר תהליכים פעילים וזמינים, בעלות נמוכה יותר.

החזירו קיבולת למערכת

Intel QuickAssist Technology, ‏Data Streaming Accelerator ו-Intel In-Memory Analytics Accelerator, או Intel IAA, מעבירים משימות תשתית שבעבר היו צורכות משאבים מהליבות הכלליות אל רכיבים ייעודיים.

מחקר שפורסם על שימוש ב-Intel IAA לדחיסת תמונות מצב הראה כי פעולות יצירת תמונת המצב הושלמו במהירות גבוהה בערך פי 1.2.

העברת משימות לרכיבים ייעודיים היא יותר מתכונה טכנולוגית נוספת. היא מחזירה קיבולת למערכת וללקוח.

תזמור העבודה, הפעלת כלים, שירותי נתונים והעברת מידע פעיל מציבים דרישות שונות מהמערכת.

משפחת מעבדי Xeon כוללת ליבות P, שמספקות ביצועים גבוהים למשימה יחידה, וליבות E, שמאפשרות לבצע מספר רב של משימות בצפיפות גבוהה. שני סוגי הליבות מבוססים על ארכיטקטורה משותפת, וכך ניתן להתאים לכל שלב בתהליך העבודה את משאב המחשוב המתאים לו.

ארגונים יזדקקו למעבדים גרפיים שמותאמים לבינה מלאכותית מבוססת סוכנים, לצד המעבדים המרכזיים. אינטל מפתחת את המעבד הגרפי Crescent Island בדיוק עבור התפקיד הזה.

אבל גם המעבד הגרפי המתקדם ביותר מאבד מערכו כשהוא ממתין לשאר חלקי המערכת.

זו הסיבה שהמעבד המרכזי ממשיך להיות חלק מהותי מהדיון. Xeon משמש כבקר התנועה של המערכת המבוססת על סוכנים. הוא מסייע לתהליכים להמשיך להתקדם, לכלים לפעול, לנתונים לזרום ולמאיצים להמשיך לקבל עבודה.

כל טענה על ביצועים של בינה מלאכותית מבוססת סוכנים, כולל טענה של אינטל, צריכה לציין כמה פעולות מתבצעות במקביל, מהו יעד זמן התגובה ומהו הפער בין הקיבולת התאורטית לבין הקיבולת שמתקבלת בפועל. בלי הנתונים האלה, התוצאה מתארת את הפוטנציאל של המערכת, ולא את היכולת שלה בסביבת ייצור.

אינטל מתכוונת לדווח על מספר הסוכנים בכל ארון שרתים ביחס ליעד מוגדר של זמן תגובה באחוזון 99, ובהתבסס על תיעוד של תהליכי עבודה אמיתיים של סוכנים.

הדיווח יכלול גם את יעילות הניתוב, את השיפור שמתקבל מהעברת משימות לרכיבים ייעודיים, את יעילות המעבד המארח במערכות המחוברות למעבדים גרפיים ואת מספר הסוכנים לכל ואט, תחת מגבלת צריכת חשמל מוגדרת לארון השרתים.

הביצועים של משימה יחידה חשובים. מספר הליבות שאפשר לשלב במערכת חשוב. אבל המערכת שתוביל תהיה זו שתצליח לדאוג שלכל ליבה תהיה עבודה, שכל תהליך ימשיך להתקדם ושכל מאיץ ימשיך לבצע עבודה שימושית.

התעשייה הקדישה מספיק זמן לספירת הרכיבים שנכנסים לארון השרתים.

הגיע הזמן למדוד את העבודה שיוצאת ממנו.

פורסם בקטגוריות: חדשות