אילון מאסק אצל ג'ו רוגן: האזהרה מ-2018 שאיש לא הקשיב לה

"ניסיתי לשכנע אנשים להאט את הקצב של הבינה המלאכותית, להסדיר אותה בחקיקה. זה היה חסר תוחלת. ניסיתי במשך שנים. אף אחד לא הקשיב." — אילון מאסק

בספטמבר 2018 נכנס אילון מאסק לאולפן של ג'ו רוגן לשיחה של שעתיים וחצי. מה שנשאר מהפרק בתודעה הציבורית הוא תמונה אחת: מאסק מחזיק ג'וינט. מניית טסלה ירדה למחרת, כותרות נכתבו, והפרק הפך לאחד המדוברים בהיסטוריה של הפודקאסט — מהסיבה הלא נכונה.

כי רוב השיחה הזו עוסקת בבינה מלאכותית. וכשקוראים אותה היום, אחרי שה-AI הפך לכלי שכולנו פותחים בבוקר, היא נשמעת אחרת לגמרי.

האזהרה שאיש לא הקשיב לה

רוגן שואל אם AI היא אחד החששות המרכזיים שלו לגבי העתיד. מאסק עונה שכן — אבל שזה מדאיג אותו פחות מבעבר, "בעיקר בגלל שאימצתי עמדה יותר פטליסטית".

"ניסיתי לשכנע אנשים להאט את הקצב של הבינה המלאכותית, להסדיר אותה בחקיקה. זה היה חסר תוחלת. ניסיתי במשך שנים. אף אחד לא הקשיב."

הוא מפרט למי בדיוק ניסה: נפגש עם אובמה, ורק בשביל זה — לדבר על AI. נפגש עם הקונגרס. דיבר בכינוס של כל 50 מושלי המדינות. "אף אחד לא נראה מבין לאן זה הולך."

ההסבר שלו לכשלון פשוט ומדכא: רגולציה עובדת לאט. בדרך כלל מגיעה טכנולוגיה חדשה, היא גורמת לנזק או למוות, יש זעקה ציבורית, ואז חקירה, ואז ועדה, ואז כללים, ואז פיקוח. התהליך אורך שנים. הוא מביא את חגורות הבטיחות כדוגמה: הנתונים היו חד-משמעיים, ותעשיית הרכב בכל זאת נאבקה בהצלחה נגד כל רגולציה במשך יותר מעשור. רק אחרי שאנשים רבים מתו, הרגולטורים התעקשו.

"לוח הזמנים הזה לא רלוונטי ל-AI," הוא אומר. "אי אפשר לקחת עשר שנים מהרגע שזה מסוכן. זה מאוחר מדי."

והנה הנקודה שהכי השתנתה מאז: כשרוגן מדמיין תרחיש של מכונה שמחליטה להשמיד אותנו, מאסק מכוון למקום אחר לגמרי.

"יהיה מפתה מאוד להשתמש בבינה מלאכותית כנשק. למעשה, היא כן תשמש כנשק. אז בדרך לבינה מלאכותית רצינית, הסכנה תהיה בעיקר בני אדם שמשתמשים בה זה נגד זה."

"אנחנו מטעין האתחול הביולוגי"

רוגן מעלה מחשבה: אולי הרדיפה שלנו אחרי כל גאדג'ט חדש היא אינסטינקט, ואולי התפקיד שלנו הוא כמו של נמלים שבונות קן — לתדלק משהו גדול מאיתנו. מאסק מסכים, ומנסח את זה במשפט שהפך לאחד המצוטטים שלו:

"אנחנו מטעין האתחול הביולוגי של הבינה המלאכותית. אנחנו בונים אותה, ואז אנחנו בונים אינטליגנציה גדולה יותר ויותר — ואחוז האינטליגנציה שאינה אנושית הולך וגדל. בסופו של דבר נהווה אחוז זעיר מאוד מהאינטליגנציה."

אבל התובנה החדה יותר היא מה מעצב את הבינה הזו. לדבריו, היא נבנית מתוך המערכת הלימבית שלנו — "היא במידה רבה ה'סתמי' שלנו בגודל טבעי". כל מה שאנחנו אוהבים, שונאים ופוחדים ממנו נמצא באינטרנט, ומה שהיא לומדת הוא הטלה של הדחפים הראשוניים שלנו.

באותה נשימה הוא מרחיב את ההגדרה: לדבריו, כל חברה היא כבר סוג של קולקטיב קיברנטי של אנשים ומכונות. גוגל, יחד עם כל בני האדם שמחוברים אליה, היא ישות אחת כזו — וכך גם פייסבוק, טוויטר ואינסטגרם. "כולנו מזינים את הרשת הזו בשאלות ובתשובות. כולנו יחד מתכנתים את הבינה המלאכותית."

אתם כבר סייבורג — רק עם קשית

מכאן נובע ההיגיון של ניורלינק, שהיה אז חברה כמעט לא מוכרת. אם אי אפשר לנצח, אומר מאסק, אפשר להצטרף — והמטרה היא ליצור ממשק ברוחב פס גבוה למוח, כדי שנוכל להיות בסימביוזה עם הבינה המלאכותית.

הבעיה, לדבריו, אינה שאין לנו כוח מחשוב חיצוני. היא שהצינור בינינו לבינו צר:

"הטלפון שלכם הוא כבר הרחבה שלכם. אתם כבר סייבורג, רק שרוב האנשים לא מודעים לזה. הבעיה היא קצב העברת הנתונים — הוא איטי מאוד. זו קשית זעירה של זרימת מידע בין העצמי הביולוגי שלכם לעצמי הדיגיטלי שלכם, ואנחנו צריכים להפוך את הקשית הזעירה הזו לנהר ענק."

הוא מדגיש שאין כאן פנטזיה של העלאת התודעה למחשב בנוסח קורצוויל. הוא מעריך שאנשים דווקא יבחרו לשמור על העצמי הביולוגי שלהם. השאלה היא רק כמה מהר הם יוכלו לתקשר איתו.

המוח שלא נכבה

בשלב מסוים רוגן שואל אותו על התפקיד שלו בתרבות, ומעלה חלום חוזר שיש לו: מה היה קורה אילו היו מיליון ניקולה טסלה במקום אחד. "אבל אין מיליון אילון מאסקים," הוא אומר. "יש אחד."

התשובה של מאסק היא הרגע האנושי ביותר בפרק:

"אני לא חושב שהייתם בהכרח רוצים להיות אני. זה מאוד קשה לכבות את זה."

רוגן מנסה לתאר את זה כפיצוץ בלתי פוסק, ומאסק מאשר: רעיונות שמתנגשים זה בזה, בלי הפסקה, גם כשכולם הולכים הביתה והוא עומד לבד ומצחצח שיניים. הוא מספר שבגיל חמש או שש הסיק שהוא משוגע — כי היה ברור לו שאצל אנשים אחרים המוח לא מתפוצץ ככה כל הזמן.

הוא הוסיף משפט שקשה לשכוח: הוא קיווה שלא יגלו, כי הוא ידע שלוקחים אנשים כאלה למקומות סגורים.

זו גם הנקודה שבה מתברר שהאיש שמדבר על מושבות במאדים ועל ממשק מוח־מכונה הוא, במקביל, מנהל של חברה שכמעט נעלמה. מאסק מזכיר שרק שתי חברות רכב אמריקאיות מעולם לא פשטו רגל — פורד וטסלה — ומוסיף על טסלה: "בקושי שרדנו."

אינסטגרם, השוואה ועצב

בין שני הנושאים הכבדים יש קטע שנשמע היום נבואי במיוחד. השניים מדברים על רשתות חברתיות, ומאסק מצביע על מנגנון פשוט: באינסטגרם אנשים נראים הרבה יותר מאושרים ויפים ממה שהם באמת — הם בוחרים את התמונות הטובות, את התאורה הטובה, את הזווית הטובה.

"אז אם תסתכלו על כולם באינסטגרם, אתם עלולים לחשוב שכל האנשים האלה מאושרים ויפים, ואני לא נראה כל כך טוב ואני לא מאושר, אז אני גרוע. בפועל, חלק מהאנשים שנראים לכם הכי מאושרים הם למעשה מהעצובים ביותר."

הוא מסביר את זה במונח שהוא חוזר אליו: תהודה לימבית. ההצלחה של המערכות האלה היא פונקציה של כמה הן מצליחות להדהד את המוח הרגשי שלנו. ככל שהתהודה גבוהה יותר, כך המעורבות גבוהה יותר — וזו הסיבה, לדבריו, שאינסטגרם מפתה יותר מטוויטר.

רוגן מציע שמחיקת האפליקציות מהטלפון תיתן זינוק של כעשרה אחוזים באושר. מאסק מסכים. הוא מספר שהשאיר לעצמו רק את טוויטר, כי הוא צריך אמצעי להעביר מסר — ומודה שהמעורבות שלו שם היא "בסך הכול יותר טובה מרעה, אבל יש בהחלט גם רעה".

"אהבה היא התשובה"

לקראת הסוף השיחה מתרככת. הם מדברים על אנשים שמאסק אומר שהם טובים בהרבה ממה שנדמה — רוב השופטים, רוב השוטרים, רוב הציבור.

ואז מגיע המשפט שסוגר את הפרק, והוא מגיע דווקא מהאיש שדיבר שעתיים על סיכונים קיומיים:

"זה אולי יישמע נדוש, אבל אהבה היא התשובה."

וכשרוגן שואל אם יש לו מסר אחרון, מאסק מוסיף:

"אני חושב שאנשים צריכים להיות נחמדים יותר זה לזה, ולתת יותר קרדיט לאחרים. אל תניחו שהם רעים עד שאתם באמת יודעים שהם רעים. קל לשטן אנשים — ואתם בדרך כלל טועים. אנשים נחמדים ממה שנדמה לכם."

זו גם הפילוסופיה שהוא ניסח קודם בשיחה, כשהסביר למה הוא בוחר בכל זאת באופטימיות: "אני מעדיף להיות אופטימי וטועה מאשר פסימי וצודק."

מה לוקחים מזה

• האזהרה הייתה על בני אדם, לא על מכונות. לפי מאסק, הסכנה הראשונה מ-AI היא לא מרד של מכונה אלא שימוש שלנו בה זה נגד זה — ומי שקורא את זה ב-2026 יכול לשפוט בעצמו כמה זה החזיק.
• קצב הרגולציה הוא הבעיה, לא היעדר הידע. דוגמת חגורות הבטיחות מראה שהמערכת מגיבה רק אחרי הנזק. לטענתו, בטכנולוגיה שמשתפרת בעצמה, לוח הזמנים הזה פשוט לא קיים.
• אתם כבר סייבורג. הטלפון הוא כבר הרחבה של הזיכרון והיכולת שלכם; מה שמפריד בינינו למכונה, לפי מאסק, הוא לא כוח אלא רוחב פס.
• המחיר של מוח שלא נכבה. האדם שכולם רוצים להיות במקומו אמר במפורש שהוא לא בטוח שהיו רוצים. שווה לזכור את זה בפעם הבאה שמשווים את עצמנו למישהו באינטרנט — בדיוק כפי שהוא עצמו הסביר לגבי אינסטגרם.

• #אילון מאסק
• #בינה מלאכותית
• #ניורלינק
• #רשתות חברתיות
• #טסלה
• #סימולציה