במשך שנים התמקד הדיון סביב בינה מלאכותית בשאלה אחת: מתי תגיע AGI – בינה מלאכותית כללית שתוכל לבצע מגוון רחב של משימות קוגניטיביות ברמה אנושית. אולם דוח חדש של חוקרי Google DeepMind, שכותרתו "From AGI to ASI", מבקש להסיט את הדיון לשאלה שאפתנית עוד יותר: מה יקרה לאחר מכן?

המחברים אינם טוענים כי AGI כבר הושגה, אך הם כותבים כי הרעיון עבר בתוך עשור ממדע בדיוני ליעד קונקרטי עבור רבות ממעבדות ה-AI המובילות. אם אכן יושג יעד זה בשנים הקרובות, הם שואלים, האם ההתפתחות הטכנולוגית תיעצר סביב רמת האינטליגנציה האנושית – או שתמשיך אל עבר ASI, בינה מלאכותית על-אנושית?

לצורך הדיון, החוקרים מגדירים AGI כמערכת בעלת יכולות קוגניטיביות הדומות לאדם ממוצע במרבית המשימות המנטליות. ASI, לעומת זאת, היא כבר סיפור אחר לחלוטין: מערכת המסוגלת להתעלות כמעט בכל תחום על קבוצות גדולות של מומחים אנושיים, ולא רק על אדם בודד.

ארבע דרכים אל בינת-על

לב המאמר הוא ניסיון למפות את הדרכים האפשריות שבהן AI עשויה להתפתח מעבר לרמת AGI.

המסלול הראשון הוא המשך מגמת הסקיילינג שאפיינה את העשור האחרון: יותר כוח מחשוב, יותר נתונים, מודלים גדולים יותר וזמני "חשיבה" ארוכים יותר. החוקרים מעלים את האפשרות שלא יהיה צורך בפריצת דרך דרמטית חדשה; ייתכן שהמשך הגדלת המשאבים פשוט יוביל בהדרגה ליכולות על-אנושיות.

המסלול השני מבוסס על שינוי פרדיגמה. כאן ההנחה היא שהארכיטקטורות הנוכחיות אינן סוף הדרך, וכי בעתיד יופיעו גישות חדשות שיאפשרו למערכות ללמוד באופן רציף, לעבוד עם זיכרון כמעט בלתי מוגבל או לבנות מודלים עמוקים יותר של העולם.

המסלול השלישי הוא אולי המפורסם ביותר: שיפור עצמי רקורסיבי. בתרחיש זה מערכות AI מתחילות להשתתף בעצמן במחקר ופיתוח של AI – משפרות אלגוריתמים, יוצרות נתוני אימון איכותיים יותר, מתכננות שבבים חדשים ומאיצות את קצב ההתקדמות של הדור הבא של המערכות. זהו הרעיון שעומד בבסיס תרחישי "פיצוץ האינטליגנציה" שנידונו במשך עשרות שנים.

המסלול הרביעי מציע זווית שונה: ייתכן ש-ASI כלל לא תופיע כמודל יחיד ועצום, אלא כקולקטיב של מיליוני סוכנים חכמים המתמחים בתחומים שונים ופועלים יחד. בדומה לכך שחברה, אוניברסיטה או מדינה מסוגלות לפתור בעיות שאף אדם בודד אינו מסוגל להתמודד עמן, כך עשויה לצמוח גם אינטליגנציה קולקטיבית חדשה.

לא "אל דיגיטלי"

לצד התרחישים השאפתניים, החוקרים מדגישים ש-ASI אינה ישות כל-יכולה. גם מערכת על-אנושית תהיה כפופה למגבלות פיזיקליות וחישוביות: מהירות האור, צריכת אנרגיה, זמני ייצור, מגבלות חישוביות מורכבות והצורך לבצע ניסויים בעולם האמיתי. בנוסף, הדוח מונה שורה של חסמים שעשויים להאט או אפילו לעצור את ההתקדמות. בין היתר מוזכרים מחסור בנתונים איכותיים, מגבלות אנרגיה ותשתיות, קשיי תיאום בין מערכות מרובות סוכנים ואי-ודאות לגבי היכולת לבצע שיפור עצמי מתמשך לאורך זמן.

למה בכלל נכתב המאמר?

אחד ההיבטים המעניינים במסמך הוא מה שאין בו. בניגוד לדיונים ציבוריים רבים על AI, החוקרים כמעט ואינם עוסקים בעתיד העבודה, בפוליטיקה, באי-שוויון או בשאלת מקומו של האדם בעולם פוסט-AGI. במקום זאת, הם מבקשים להפוך את שאלת ההתקדמות של AI לבעיה מדעית ומדידה.

הטענה המרכזית שלהם היא שהדיון הציבורי עדיין מתמקד בשאלה האם AGI תגיע, בעוד שהשאלה החשובה יותר היא מה יכתיב את הקצב והאופי של ההתפתחות אחריה. לשם כך הם קוראים לפיתוח תחום מחקר חדש שיעסוק במדידת מגמות, בניית מודלים לחיזוי התקדמות AI ובחקר צווארי הבקבוק האפשריים.

האם הדרך מ-AGI ל-ASI תהיה מהירה או איטית? האם שיפור עצמי אכן יוביל להאצה דרמטית? והאם אינטליגנציה על-אנושית תהיה תוצר של מודל בודד או של ציוויליזציה שלמה של סוכנים דיגיטליים? על שאלות אלה החוקרים אינם מתיימרים לענות. אבל אם יש מסר אחד שעולה מהדוח, הרי שהוא זה: ייתכן שהסיפור הגדול באמת של הבינה המלאכותית עדיין כלל לא התחיל.