Hugging Face: "גאודי-2 מהיר יותר מ-H100"

4 ספטמבר, 2023

יצרנית כלי הפיתוח לבינה מלאכותית גילתה שהמעבד החדש של הבאנה לאבס, Gaudi-2, מהיר יותר ממאיצי ה-GPU מסדרות A ו-H של חברת אנבידיה, באימון מודל BridgeTower לראייה ושפה ממוחשבת

חברת Hugging Face הצרפתית-אמריקאית פירסמה דיווח על מבחן השוואתי שהיא ביצעה, שבמהלכו השיגו מאיצי הבינה המלאכותית גאודי של חברת הבאנה לאבס הישרלאית (בבעלות אינטל), תוצאות טובות יותר מהמאיצים המתחרים של אנבידיה. חברת Hugging Face מספקת כלים לפיתוח יישומים המתבססים על לימוד מכונה ובינה מלאכותית מבוססת רשתות נוירונים. החברה מסרה שבמהלך מבחון השוואית לאימון רשתות במודל BridgeTower ליישומי ראייה ממוחשבת לעיבוד שפה שפה ממוחשבת, המעבד החדש של הבאנה לאבס, Gaudi-2, מהיר יותר ממאיצי ה-GPU מסדרות A ו-H של חברת אנבידיה באימון מודל BridgeTower לראייה ושפה ממוחשבת. החברה מסרה שעל-פי הממצאים, באימון המודל BridgeTower הספציפי, ביצועי Gaudi2 טובים ב-40% מה H100 החדש ביותר של Nvidia ואף עד פי 2.5 מהירים מה- 100A.

זוהי בשורה טובה לאינטל, אשר מתחרה ראש בראש מול חברת אנבידיה באמצעות הטכנולוגיה של Habana Labs הישראלית. על פי הממצאים, באימון המודל BridgeTower הספציפי, ביצועי Gaudi2 היו טובים בכ-40% מביצועי מאיץ H100 החדש ביותר של אנבידיה, ומהירים עד פי 2.5 מממאיץ 100A. אינטל הסבירה שהשיפור בביצועים מיוחס בעיקר ליכולות חדשות ששולבו ב-Gaudi2 לטעינת נתונים מהירה ישירות למאיץ, ולייעול העיבוד של נתוני וידאו ותמונות הנדרשים לאימון מודלים אלו. אינטל מודה שעדיין נותרו אתגרים רבים בפיתוח החומרה והתוכנה על-מנת להגיע לרמה של חברת אנבידיה.

חברת Hugging Face פיתחה את פלטפורמה פופולרית מאוד לשיתוף, אימון ופריסה של מודלי NLP מבוססי טרנספורמר כמו BERT, GPT-2 ו-GPT-3. החברה מספקת ספריות קוד פתוח ב-Python המאפשרות למפתחים ליישם בקלות מודלים מתקדמים, מבלי להתעסק עם פרטים טכניים. בין השאר, הבאנה לאבס מספקת סביבת פיתוח למפתחים עם ספריית Optimum Habana של Hugging Face, במטרה לאפשר העברה קלה של קוד קיים לריצה על Gaudi2, ולנצל את מלוא הביצועים שהוא מספק. מודל BridgeTower נחשב לאבן דרך חשובה בתחום הראייה והשפה הממוחשבת. אינטל: "היכולת לאמן אותו במהירות גבוהה צפויה לתרום להתקדמות התחום".

Share via Whatsapp

פורסם בקטגוריות: בינה מלאכותית , חדשות , סמיקונדקטורס

פורסם בתגיות: אינטל , אנבידיה , בינה מלאכותית