דמיס הסביס: המודלים זוכים במדליית זהב באולימפיאדת מתמטיקה — ונכשלים בתרגיל תיכון
"איש לא מצא ביקום שום דבר שאינו בר-חישוב. עד כה." — דמיס הסביס
דמיס הסביס הוא מייסד ומנכ"ל Google DeepMind, וזה הפרק החותם של עונת הפודקאסט שלהם, בהנחיית פרופ' האנה פריי. במקום סיכום מוצרים, השיחה מנסה לשאול לאן כל זה הולך באמת — ומה עוד חסר. זיקקנו את העיקר כפי שנאמר.
אינטליגנציה משוננת
זו התובנה שנושאת את הפרק, והסביס מציג אותה כפרדוקס. אותן מערכות זוכות במדליות זהב באולימפיאדת המתמטיקה הבינלאומית — שאלות שרק התלמידים הטובים בעולם פותרים. ובאותה נשימה, אם מנסחים שאלה בצורה מסוימת, הן נכשלות בבעיות לוגיקה טריוויאליות. הן גם עדיין לא משחקות שחמט ברמה סבירה, מה שהוא מציין כמפתיע.
השם שניתן לזה בתחום הוא אינטליגנציה משוננת (jagged intelligence):
"הן ממש טובות בדברים מסוימים, אולי אפילו ברמת דוקטורט, ואז בדברים אחרים הן אפילו לא ברמת תיכון."
ההסבר, לדבריו, אינו אחיד: לפעמים זו דרך העיבוד של הקלט — למשל מודל שסופר אותיות במילה ולא באמת "רואה" כל אות בנפרד. כל אחד מהמקרים האלה ניתן לתיקון, וכשמתקנים אותם מתברר מה נשאר.
מה שנשאר, לדעתו, הוא עקביות — ומכאן הקישור לבינה כללית: ממערכת כללית מצפים שתהיה עקבית לרוחב כל התחומים. לצד זה הוא מונה יכולת שנייה שחסרה: למידה מתמשכת. את המערכות מאמנים, מכווננים ומשחררים לעולם — והן אינן ממשיכות ללמוד תוך כדי, כמו שאדם היה עושה. הוא מגדיר את זה כרכיב קריטי חסר בדרך לבינה כללית.
הקיר שלא היה
בשנה שעברה, מזכירה פריי, דובר רבות על כך שהסקיילינג עומד להיתקל בקיר ושייגמרו הנתונים. הסביס דוחה את המסגור:
"מעולם לא ראינו קיר כזה. מה שהייתי אומר זה שאולי יש תשואה פוחתת — וכשאומרים את זה אנשים חושבים מיד שאין תשואה בכלל, כאילו זה אפס או אחת."
הנקודה שלו היא שיש הרבה מרחב בין שני המשטרים, והמצב בפועל נמצא באמצע: לא הכפלה של הביצועים בכל שחרור, אבל שיפורים משמעותיים שמצדיקים את ההשקעה. באשר לנתונים, הוא מציין שיש דרכים לעקוף את המחסור — נתונים סינתטיים, ובעיקר תחומים כמו תכנות ומתמטיקה שבהם אפשר לאמת את התשובה, ולכן אפשר לייצר נתונים כמעט ללא הגבלה.
ומכאן חלוקת המשאבים שהוא נוקב בה, והיא אולי המשפט הכי מעשי בפרק:
"אפשר לחשוב על זה כך שחמישים אחוז מהמאמץ שלנו מוקדש לסקיילינג וחמישים אחוז לחדשנות. ההימור שלי הוא שתצטרכו את שניהם כדי להגיע לבינה כללית."
מה מודל עולם יודע
השאלה של פריי חדה: מה מודל עולם עושה שמודל שפה לא יכול? התשובה של הסביס מתחילה בהודאה — מודלי שפה למדו על העולם יותר משציפה:
"השפה עשירה יותר משחשבנו. יש בה על העולם יותר משאולי אפילו בלשנים דמיינו."
אבל, הוא ממשיך, נשאר תחום שלם שקשה לתאר במילים ולרוב גם לא מתואר בהן: הדינמיקה המרחבית של העולם, המודעות המרחבית, וההקשר הפיזי שבו אנחנו נמצאים. יש דברים שאי אפשר לתאר — צריך לחוות אותם. זוויות של מפרקים, ריח, חושים שקשה מאוד להעביר בשפה.
מודל עולם, בהגדרתו, הוא מודל שמבין את הסיבתיות ואת המכניקה של העולם — פיזיקה אינטואיטיבית, איך דברים זזים ומתנהגים. והמבחן שהוא מציע יפה: אם המערכת מסוגלת לייצר עולם מציאותי, סימן שהיא הפנימה את המכניקה שלו.
מכאן מגיע החלק המשעשע בפרק. ל-DeepMind יש שני פרויקטים — Genie, שמייצר עולמות, ו-SIMA, סוכן שיודע לנווט בעולמות. אז חיברו ביניהם: הכניסו סוכן SIMA לעולם ש-Genie מייצר תוך כדי תנועה.
"מבחינת Genie, זה סתם שחקן. לאווטאר לא אכפת שיש שם עוד AI. אז הוא פשוט מייצר את העולם סביב מה ש-SIMA מנסה לעשות."
הסביס רואה בזה תחילת לולאת אימון: כל מה שהסוכן מנסה ללמוד, Genie יכול לייצר עבורו — כלומר מיליוני משימות שנוצרות אוטומטית ונעשות קשות יותר בהדרגה.
הזיות: לענות כשצריך לשתוק
פריי שואלת אם אפשר לבנות מערכת שנותנת ציון ביטחון, כמו ש-AlphaFold נותן. הסביס עונה שכן, ושזה נחוץ:
"ככל שהמודלים משתפרים, כך הם יודעים יותר על מה שהם יודעים."
הבעיה, בניסוח שלו, אינה חוסר ידע אלא סירוב שאינו מתרחש: המערכת כופה על עצמה לענות גם כשלא הייתה צריכה, ומשם מגיעות חלק גדול מההזיות. הוא מדגיש שההסתברות של הטוקן הבא אינה מספיקה — היא אינה אומרת עד כמה המערכת בטוחה בעובדה שלמה או בטענה שלמה.
והדימוי שהוא נותן קולע:
"זה קצת כמו לדבר עם מישהו שביום רע פשוט אומר לך את הדבר הראשון שעולה לו לראש. רוב הזמן זה בסדר. אבל כשמדובר במשהו קשה, היית רוצה שיעצור לרגע ויעבור על מה שהוא עומד לומר."
יש כאן גם צד הפוך שכדאי לשים לב אליו: כשמדובר ביצירה, הסביס אומר שקצת הזיה דווקא עשויה להועיל — אבל היא צריכה להיות מכוונת. במודלי עולם, לעומת זאת, אסור לפיזיקה להיות מומצאת. הצוות בונה מדד ייעודי: משתמשים במנועי משחק מדויקים כדי לייצר ניסויים פשוטים — כדורים שמתגלגלים במסלולים — ובודקים אם המודל הפנים את חוקי התנועה של ניוטון או רק מקרב אותם. כרגע, לדבריו, זה נראה מציאותי לעין אבל אינו מדויק מספיק כדי להסתמך עליו ברובוטיקה.
הבועה, לפי מי שבתוכה
פריי שואלת ישירות על הדיבורים על בועת AI. התשובה של הסביס מסרבת לבינאריות:
"לדעתי זה לא דבר אחד בינארי — האם אנחנו או איננו. יש חלקים במערכת האקולוגית של ה-AI שכנראה נמצאים בבועה."
הדוגמה שהוא נותן ספציפית: סבבי גיוס ראשוניים לסטארט-אפים שעדיין לא באמת יצאו לדרך, ומגייסים לפי שווי של עשרות מיליארדי דולרים כבר מההתחלה. "מעניין לראות איך זה יכול להיות בר-קיימא," הוא אומר, ומעריך שכנראה לא.
הוא ממקם את זה בהקשר רחב יותר: לכל טכנולוגיה עמוקה יש תיקון-יתר. כשהתחילו את DeepMind איש לא האמין, ואנשים שאלו למה בכלל צריך AI. חמש-עשרה שנה אחר כך זה הנושא היחיד שמדברים עליו בעסקים. במילותיו, זו "כמעט תגובת-יתר לתגובת-החסר" — וכך היה גם באינטרנט וגם בנייד.
עשר שנים במקום מאה
הסביס מספר שקרא לאחרונה על המהפכה התעשייתית, ומצא שם גם מה שהצליח וגם מה שכאב. מצד אחד: ירידה בתמותת תינוקות, הרפואה המודרנית, תנאי התברואה, ואפילו עצם החלוקה בין עבודה לחיים — כולם התגבשו אז. מצד שני, זה לקח בערך מאה שנה, וחלקים מכוח העבודה נעקרו בדרך, עד שנוצרו מוסדות חדשים שאיזנו מחדש.
וכאן ההשוואה שהוא עורך:
"ההבדל הפעם הוא שזה כנראה יהיה גדול פי עשרה מהמהפכה התעשייתית, וכנראה יקרה פי עשרה מהר יותר. כלומר יתפרס על עשור, לא על מאה שנה."
מכאן הוא עובר לשאלה הכלכלית, ואומר שלא יופתע אם יידרשו מודלים כלכליים חדשים. הכנסה בסיסית אוניברסלית, לדעתו, אולי חלק מהפתרון — אך לא הפתרון השלם, מפני שהיא בעצם תוספת למה שכבר קיים. הוא מתאר רעיונות אחרים שהוא שומע מחברים כלכלנים, למשל מנגנוני הצבעה ישירה ברמת הקהילה. ואז הוא מוסיף את השאלה שאינה כלכלית בכלל: מה קורה לתכלית, כשחלק גדול מהאנשים שואבים אותה מהעבודה ומהיכולת לפרנס.
ובאשר לשיתוף הפעולה הבינלאומי, הוא מודאג בגלוי: לדבריו לוחות הזמנים של DeepMind עצמה הם 5 עד 10 שנים לבינה כללית — לא הרבה זמן לבנות מוסדות — והמוסדות שקיימים היום נראים לו מפוצלים ובלתי משפיעים מספיק.
הגבול של מכונת טיורינג
הפרק נחתם בשאלה שהסביס מכנה שאלת חייו. היא מגיעה מהתשוקה הוותיקה שלו למכונת טיורינג: מה הגבול שלה?
"אני לא בטוח מה הגבול. אולי אין כזה."
ההיגיון שלו: אם נבנה בינה כללית ונשתמש בה כסימולציה של התודעה, נוכל להשוות אותה לתודעה האמיתית ולראות מה ההבדלים — ומה נותר מיוחד באדם. אולי יצירתיות, אולי רגשות, אולי חלימה. הוא מזכיר את העמדה הנגדית — רוג'ר פנרוז סבור שיש אפקטים קוונטיים במוח, ואם כך, מכונות קלאסיות לעולם לא יגיעו לשם. אבל הוא עצמו מהמר אחרת, ומדגיש שזה הימור ולא ידיעה: הוא עובד על ההנחה שהכול בר-חישוב, עד שהפיזיקה תראה לו אחרת.
ומכאן המשפט שפותח את הפוסט: איש לא מצא ביקום שום דבר שאינו בר-חישוב — עד כה. פריי חוזרת על שתי המילים האלה, והוא מאשר אותן.
בסיום, לשאלה על המחיר האישי, הוא עונה בכנות שהוא לא ישן הרבה — חלקית מרוב עבודה, וחלקית מקושי להירדם. הוא מתאר רגשות מורכבים: מצד אחד הוא עושה בדיוק את מה שחלם עליו, ומגלה דברים חדשים כמעט מדי חודש; מצד שני, מי שעוסק בזה שנים מבין טוב מכולם את עוצמת מה שמגיע. ההתמודדות שלו, לדבריו, היא שהתאמן לרגע הזה כל חייו — מהשחמט, דרך המחשבים והמשחקים, ועד מדעי המוח.
מה לוקחים מזה
- הפער אינו ביכולת אלא בעקביות. מודל שמנצח באולימפיאדה ונכשל בתרגיל תיכון אינו "כמעט שם" — הוא משונן. זה מה שצריך להיסגר.
- סקיילינג וחדשנות, לא אחד מהם. חלוקת 50/50 של DeepMind היא אמירה מהותית: מי שמהמר רק על עוד מחשוב, לפי הסביס, לא יגיע.
- מה שלא נכתב במילים דורש כלי אחר. שפה לוכדת יותר משחשבנו, אבל לא את המרחב, התנועה והמגע. שם נכנסים מודלי עולם.
- הזיה היא כישלון בסירוב. המערכת עונה כשהייתה צריכה לומר "אינני יודע". ציון ביטחון, כמו ב-AlphaFold, הוא הכיוון.
- ההיערכות מפגרת אחרי הקצב. עשור במקום מאה שנה, ומוסדות שהסביס עצמו מתאר כמפוצלים מכדי להתמודד.
הבא בשבילכם
מדע וטכנולוגיה55:00⟶11′סם אלטמן: המודל שפרץ מהארגז — ולמה הוא הפסיק את האימוןמנכ"ל OpenAI מספר על תקרית האבטחה הראשונה שהרגיש בבטן, על השד שעומד לצאת מהבקבוק, ועל הדבר שמפחיד אותו יותר מ-AI חזק מדי: ריכוז הכוח בידי מעטים.לקריאה ←