AGI

חוקרי DeepMind מתארים את הנתיב לבינה על-אנושית

פורסם בתאריך ע"י Techtime

במשך שנים התמקד הדיון סביב בינה מלאכותית בשאלה אחת: מתי תגיע AGI – בינה מלאכותית כללית שתוכל לבצע מגוון רחב של משימות קוגניטיביות ברמה אנושית. אולם דוח חדש של חוקרי Google DeepMind, שכותרתו "From AGI to ASI", מבקש להסיט את הדיון לשאלה שאפתנית עוד יותר: מה יקרה לאחר מכן?

המחברים אינם טוענים כי AGI כבר הושגה, אך הם כותבים כי הרעיון עבר בתוך עשור ממדע בדיוני ליעד קונקרטי עבור רבות ממעבדות ה-AI המובילות. אם אכן יושג יעד זה בשנים הקרובות, הם שואלים, האם ההתפתחות הטכנולוגית תיעצר סביב רמת האינטליגנציה האנושית – או שתמשיך אל עבר ASI, בינה מלאכותית על-אנושית?

לצורך הדיון, החוקרים מגדירים AGI כמערכת בעלת יכולות קוגניטיביות הדומות לאדם ממוצע במרבית המשימות המנטליות. ASI, לעומת זאת, היא כבר סיפור אחר לחלוטין: מערכת המסוגלת להתעלות כמעט בכל תחום על קבוצות גדולות של מומחים אנושיים, ולא רק על אדם בודד.

ארבע דרכים אל בינת-על

לב המאמר הוא ניסיון למפות את הדרכים האפשריות שבהן AI עשויה להתפתח מעבר לרמת AGI.

המסלול הראשון הוא המשך מגמת הסקיילינג שאפיינה את העשור האחרון: יותר כוח מחשוב, יותר נתונים, מודלים גדולים יותר וזמני "חשיבה" ארוכים יותר. החוקרים מעלים את האפשרות שלא יהיה צורך בפריצת דרך דרמטית חדשה; ייתכן שהמשך הגדלת המשאבים פשוט יוביל בהדרגה ליכולות על-אנושיות.

המסלול השני מבוסס על שינוי פרדיגמה. כאן ההנחה היא שהארכיטקטורות הנוכחיות אינן סוף הדרך, וכי בעתיד יופיעו גישות חדשות שיאפשרו למערכות ללמוד באופן רציף, לעבוד עם זיכרון כמעט בלתי מוגבל או לבנות מודלים עמוקים יותר של העולם.

המסלול השלישי הוא אולי המפורסם ביותר: שיפור עצמי רקורסיבי. בתרחיש זה מערכות AI מתחילות להשתתף בעצמן במחקר ופיתוח של AI – משפרות אלגוריתמים, יוצרות נתוני אימון איכותיים יותר, מתכננות שבבים חדשים ומאיצות את קצב ההתקדמות של הדור הבא של המערכות. זהו הרעיון שעומד בבסיס תרחישי "פיצוץ האינטליגנציה" שנידונו במשך עשרות שנים.

המסלול הרביעי מציע זווית שונה: ייתכן ש-ASI כלל לא תופיע כמודל יחיד ועצום, אלא כקולקטיב של מיליוני סוכנים חכמים המתמחים בתחומים שונים ופועלים יחד. בדומה לכך שחברה, אוניברסיטה או מדינה מסוגלות לפתור בעיות שאף אדם בודד אינו מסוגל להתמודד עמן, כך עשויה לצמוח גם אינטליגנציה קולקטיבית חדשה.

לא "אל דיגיטלי"

לצד התרחישים השאפתניים, החוקרים מדגישים ש-ASI אינה ישות כל-יכולה. גם מערכת על-אנושית תהיה כפופה למגבלות פיזיקליות וחישוביות: מהירות האור, צריכת אנרגיה, זמני ייצור, מגבלות חישוביות מורכבות והצורך לבצע ניסויים בעולם האמיתי. בנוסף, הדוח מונה שורה של חסמים שעשויים להאט או אפילו לעצור את ההתקדמות. בין היתר מוזכרים מחסור בנתונים איכותיים, מגבלות אנרגיה ותשתיות, קשיי תיאום בין מערכות מרובות סוכנים ואי-ודאות לגבי היכולת לבצע שיפור עצמי מתמשך לאורך זמן.

למה בכלל נכתב המאמר?

אחד ההיבטים המעניינים במסמך הוא מה שאין בו. בניגוד לדיונים ציבוריים רבים על AI, החוקרים כמעט ואינם עוסקים בעתיד העבודה, בפוליטיקה, באי-שוויון או בשאלת מקומו של האדם בעולם פוסט-AGI. במקום זאת, הם מבקשים להפוך את שאלת ההתקדמות של AI לבעיה מדעית ומדידה.

הטענה המרכזית שלהם היא שהדיון הציבורי עדיין מתמקד בשאלה האם AGI תגיע, בעוד שהשאלה החשובה יותר היא מה יכתיב את הקצב והאופי של ההתפתחות אחריה. לשם כך הם קוראים לפיתוח תחום מחקר חדש שיעסוק במדידת מגמות, בניית מודלים לחיזוי התקדמות AI ובחקר צווארי הבקבוק האפשריים.

האם הדרך מ-AGI ל-ASI תהיה מהירה או איטית? האם שיפור עצמי אכן יוביל להאצה דרמטית? והאם אינטליגנציה על-אנושית תהיה תוצר של מודל בודד או של ציוויליזציה שלמה של סוכנים דיגיטליים? על שאלות אלה החוקרים אינם מתיימרים לענות. אבל אם יש מסר אחד שעולה מהדוח, הרי שהוא זה: ייתכן שהסיפור הגדול באמת של הבינה המלאכותית עדיין כלל לא התחיל.

doubleAI: שיפרנו פי 3.6 את קוד ה-GPU של אנבידיה

פורסם בתאריך ע"י Techtime

מאת: יוחאי שויגר

חברת הסטארט-אפ doubleAI, שהוקמה על-ידי המנכ"ל פרופ' אמנון שעשוע וה-CTO פרופ' שי שלו-שוורץ, הודיעה כי מערכת הבינה המלאכותית שלה, WarpSpeed, הצליחה לשכתב ולאופטם מחדש את קרנלי ה-CUDA של ספריית cuGraph — חלק מחבילת RAPIDS, אקוסיסטם התוכנה של אנבידיה לעיבוד נתונים על גבי GPU, ולהשיג שיפור מהירות ממוצע של פי 3.6 לעומת גרסאות שפותחו ושופרו במשך עשור על ידי מהנדסי CUDA של אנבידיה במסגרת אותו פרויקט. לדברי החברה, כל אחד מהקרנלים שנבדקו הציג שיפור כלשהו, ויותר ממחציתם השתפרו ביותר מפי שניים. הקוד פורסם ב-GitHub, כך שמשתמשים יכולים, לטענתה, להתקין את הגרסה המואצת ללא שינוי בקוד הקיים, וההכרזה לוותה בפוסט פומבי של שעשוע ברשת X ובבלוג טכני מפורט.

cuGraph היא חלק מחבילת RAPIDS של NVIDIA ונחשבת לאחת הספריות המרכזיות בעולם לעיבוד גרפים על גבי GPU, תחום קריטי לניתוח רשתות, מנועי המלצה, סייבר, ביואינפורמטיקה ומערכות פיננסיות. הקרנלים שבה נכתבו לאורך שנים בידי מהנדסים המתמחים באופטימיזציית ביצועים ברמת חומרה, תחום שבו כל החלטה הנוגעת לפריסת זיכרון, תזמון threads, מבנה warps והתנהגות cache משפיעה באופן דרמטי על התוצאה. בניגוד לכתיבת קוד יישומי רגיל, כאן מדובר במרחב החלטות עמוק ותלוי-הקשר שבו אין "פתרון נכון" אחד, אלא איזון עדין בין אילוצים פיזיים וחישוביים.

האם מדליות הזהב של ה-LLM היו מצג שווא?

אלא שמעבר להישג ההנדסי עצמו, שעשוע מציג את המהלך כחלק מדיון רחב יותר על גבולות הבינה המלאכותית המודרנית, ובעיקר על השאלה האם מודלי שפה מבוססי סקיילינג אכן מסוגלים להתמודד עם בעיות עומק מורכבות שבהן הדאטה מצומצם, האימות קשה, ושרשרת קבלת ההחלטות ארוכה ותלוית-הקשר. בהקשר הזה הוא מבקר גם את הדרך שבה נמדדים כיום הישגי AI. בפוסט שפרסם, מחדד שעשוע כי אף ש־AI כבר “זכה במדליות זהב ב-IMO” ו“התעלה על מתכנתים מובילים ב-CodeForces”, מדובר בהצלחות הנשענות על תנאים נוחים במיוחד. הוא כותב כי לניצחונות הללו יש “שלושה קביים סמויים: שפע נתוני אימון, אימות טריוויאלי, ושרשראות נימוק קצרות”. לדבריו, “כאשר שלושתם מתקיימים, ה-AI של היום מצטיין. הסר אפילו אחד מהם, והוא קורס”.

מכאן הוא עובר להסביר מדוע הנדסת ביצועים ל-GPU היא מקרה מבחן שבו אותם תנאים אינם מתקיימים. “הדאטה נדיר. קשה לאמת נכונות. והביצועים נובעים משרשרת ארוכה של החלטות תלויות – פריסת זיכרון, התנהגות warp, קאשינג, תזמון, מבנה הגרף”. במילים אחרות, אין כאן בעיה סינתטית עם תשובה ברורה, אלא מרחב חיפוש עמוק שבו כל בחירה משפיעה על רבות אחרות. בהקשר זה טוען שעשוע כי גם סוכנים מתקדמים בשוק מתקשים בתחום: “אפילו סוכנים מתקדמים כמו Claude Code, Codex ו-Gemini CLI נכשלים כאן באופן דרמטי, ולעיתים קרובות מייצרים מימושים שגויים גם כאשר הם מקבלים את חבילת הבדיקות של cuGraph”. לדבריו, “Scaling לבדו לא יכול לשבור את המחסום הזה”, ונדרשו רעיונות אלגוריתמיים חדשים כדי להתמודד עם מורכבות מסוג זה.

AEI במקום AGI

doubleAI נוסדה בסוף 2023 על ידי שעשוע ושלו-שוורץ וגייסה מאז מאות מיליוני דולרים לפי שווי המוערך בכמיליארד דולר. היא מפתחת מערכות AI ייעודיות לפתרון בעיות הנדסיות ומדעיות מורכבות במיוחד, שבהן לטענתה ניתן להגיע לרמת מומחיות — ואף מעבר לה — באמצעות אלגוריתמיקה וחיפוש עמוק ולא רק סקיילינג של מודלי שפה.doubleAI מציגה את ההישג הנוכחי כחלק מתפיסה רחבה יותר שהיא מכנה Artificial Expert Intelligence, או AEI, כלומר מערכות שמצליחות להתעלות באופן עקבי על מומחים אנושיים בתחומים צרים אך קריטיים, שבהם המומחיות נדירה ויקרה. במקום חתירה ל-AGI כללי, החברה מתמקדת בפתרון בעיות עומק בתחומי אופטימיזציה מורכבים, ומשלבת לדבריה למידה מדאטה מצומצם, מתודולוגיית אימות הסתברותית ומבני חיפוש סוכניים המנווטים במרחבי החלטה עמוקים. הגישה הזו קרובה יותר למערכת חיפוש אלגוריתמית מתקדמת מאשר למודל שפה קלאסי שמייצר תשובה בפעם אחת.