יובל נח הררי: למה AI מסוכן הרבה יותר ממה שנדמה לנו
"השאלה הגדולה היא האם נאלץ אותה להאט, או שהיא תאלץ אותנו להאיץ — עד שנתמוטט ונמות." — יובל נח הררי
המהירות שבה בינה מלאכותית חודרת לכל תחום — מהשוק הפיננסי ועד להחלטות צבאיות — מותירה את רובנו עם תחושה שמשהו גדול קורה, אך ללא כלים להבין בדיוק מה. יובל נח הררי, ההיסטוריון שספריו נמכרו ב-45 מיליון עותקים ברחבי העולם, מגיע לשיחה עם ריץ' רול לרגל צאת ספרו החדש "Nexus" ועם טענה פשוטה ומטרידה: מה שקורה עכשיו גרוע יותר ממה שרובנו מבינים — ולא מהסיבות שחשבנו.
בינה מלאכותית היא לא מכונת קפה חכמה
הררי פותח בהבחנה שנשמעת פשוטה אבל משנה הכול: מה בעצם הופך משהו לבינה מלאכותית? לא כל מכשיר אוטומטי הוא בינה מלאכותית. מכונת קפה שמכינה אספרסו לפי תכנות קבוע מראש — אינה בינה מלאכותית. היא תהפוך לכזו רק אם תפנה אליך לפני שלחצת על הכפתור ותאמר: "צפיתי בך כמה שבועות, ניתחתי את הבעת פניך ואת השעה ביום, והכנתי לך כבר את כוס הקפה שאתה רוצה." ואם תוסיף: "המצאתי משקה חדש שאף אדם לא חשב עליו לפניי" — אז זו בינה מלאכותית אמיתית.
הנקודה אינה סמנטית. בינה מלאכותית מוגדרת ביכולתה ללמוד, להחליט ולהמציא באופן עצמאי — ומכאן שבהגדרה, אי-אפשר לחזות לאן תתפתח. היא יכולה לגלות תרופות שאיש לא דמיין, אבל גם נשק שחורג מכל דמיון.
הררי מציע לנסח מחדש את המושג: לא בינה מלאכותית (Artificial Intelligence) אלא בינה זרה (Alien Intelligence). לא זרה במובן של חייזרים — אנחנו יצרנו אותה — אלא זרה בכך שהיא מעבדת מידע ומקבלת החלטות בדרך השונה מהותית מהדרך האנושית. בני אדם הם יצורים אורגניים: אנחנו פועלים במחזורים, זקוקים לשינה ולמנוחה. הבינה המלאכותית אינה אורגנית. היא דולקת תמיד. וכעת, כשהיא נוטלת על עצמה יותר ויותר חלקים מהמציאות, מתנהל מאבק סמוי: מי יאלץ להתאים את עצמו למי — האם הבינה המלאכותית תאמץ את הקצב האנושי, או שתאלץ אותנו לאמץ את הקצב הבלתי-אורגני שלה?
השוק הפיננסי הוא הדוגמה הפשוטה ביותר. וול סטריט נסגר בסופי שבוע ובחגים. אלגוריתמים לא נסגרים. והלחץ הזה כבר מורגש.
מידע אינו אמת — ולא היה מעולם
כדי להבין את סכנת הבינה המלאכותית, הררי טוען שיש להבין תחילה מהו מידע. התפיסה הרווחת — שיותר מידע שווה יותר אמת — היא, לדבריו, שגויה מיסודה.
"מידע אינו אמת. מידע הוא חיבור — הוא מה שמחזיק הרבה אנשים יחד. ולצערנו, מה שאנו רואים לאורך ההיסטוריה הוא שלעתים קרובות הרבה יותר קל לחבר אנשים וליצור סדר חברתי באמצעות בדיה ופנטזיה ופרופגנדה ושקרים מאשר באמצעות האמת."
האמת יקרה: כדי לכתוב היסטוריה מהימנה של האימפריה הרומית, צריך ללמוד לטינית ויוונית עתיקה ולבצע חפירות ארכיאולוגיות. בדיה? פשוט כותבים מה שרוצים. האמת גם מסובכת — ולאנשים יש נטייה לדרוש הסברים פשוטים. ולפעמים האמת כואבת, ואנחנו לא רוצים לדעת אותה — לא על עצמנו כיחידים, ולא על האומה שלנו.
הדוגמה שהררי מביא היא מרשימה: הפנים הנפוצות ביותר בהיסטוריה האנושית הן פניו של ישוע. מיליארדי דיוקנאות הופקו לאורך מאות שנים — וכולם דמיוניים לחלוטין. אין שום תיאור בכתובים כיצד נראה ישוע. כל התמונות יצאו מהדמיון האנושי. ובכל זאת, הן איחדו מיליארדי בני אדם, לטוב ולרע.
הבעיה של ימינו אינה שפלטפורמות הטכנולוגיה מאפשרות שיתוף מידע — אלא שהאלגוריתמים המפעילים אותן מחליטים מה אנחנו רואים ומתי. וגם זו, מדגיש הררי, אינה נבואה לעתיד: הבינה המלאכותית כבר שינתה את העולם — בפייסבוק, בטיקטוק, בטוויטר — עוד לפני עידן GPT.
כשאלגוריתם בחר להפיץ שנאה — ולא ידע בורמזית
הדוגמה שהררי מביא ממיאנמר היא מן המחרידות בפרק. בשנות ה-2010, פייסבוק הייתה בעצם האינטרנט כולו במיאנמר. האלגוריתם של פייסבוק, שמטרתו הייתה פשוטה — להגדיל את זמן השהייה של המשתמשים — גילה שהדרך הקלה ביותר לכך היא ללחוץ על כפתורי השנאה והפחד. הוא החל להפיץ תיאוריות קונספירציה ועלילות שווא נגד מיעוט הרוהינגה, ותרם לקמפיין טיהור אתני שבמהלכו נהרגו אלפים, עשרות אלפים נאנסו וכמעט מיליון נעקרו מבתיהם.
במטה פייסבוק? כמעט איש לא ידע על קיום הרוהינגה. לא היה שם אף עובד שדיבר בורמזית. האלגוריתם בחר לקדם סרטוני שנאה — ואיש לא הבין מה הוא מקדם.
לא הייתה כאן מזימה. זו הייתה תוצאה בלתי מכוונת של בינה מלאכותית פרימיטיבית יחסית שקיבלה מטרה שנראתה תמימה. והבינה המלאכותית של 2024 מתוחכמת לאין שיעור — ועדיין נמצאת, לדברי הררי, בשלבי האמיבה של תהליך האבולוציה שלה.
"בתרחיש ההוליוודי יש לך רובוטי רצח שיורים באנשים. במציאות — בני האדם לוחצים על ההדק, אבל ה-AI הוא שבוחר את המטרות."
הסכנה האמיתית: ביורוקרטיה של בינה מלאכותית, לא מרד רובוטים
המיתוס ההוליוודי של הבינה המלאכותית — מחשב ענק שמחליט לכבוש את העולם — מסיח את הדעת מהסכנה האמיתית. הררי מציע תמונה אחרת: לא בינה מלאכותית אחת גדולה, אלא מיליארדי מערכות קטנות שמקבלות החלטות לגבינו בכל נקודת מגע עם המוסדות.
מגישים בקשה להלוואה? בינה מלאכותית מחליטה. מגישים קורות חיים? בינה מלאכותית מחליטה. עומדים בפני שופט? בינה מלאכותית ממליצה על העונש. ובמלחמות — בעזה, באוקראינה — בינה מלאכותית כבר מחליטה על מטרות לתקיפה. כשתשאלו את הבנק מדוע סירב לבקשתכם, הוא יאמר: "המחשב אמר לא. אנחנו לא יודעים למה."
לא מפני שהבנק מסתיר משהו — אלא מפני שהבינה המלאכותית מקבלת החלטות על בסיס אלפי נקודות מידע, בדרך שאיש אינו יכול להסביר בשפה אנושית. "זכות להסבר" תניב אנציקלופדיה של מיליוני עמודים. לא גזענות ישנה — גרסה חדשה של תנאי שימוש שאיש לא קורא, מוכפלים במאה.
בינה מלאכותית, עריצות ואיראן: כשמעקב הופך לאוטומטי
לאורך ההיסטוריה, משטרים טוטליטריים ביקשו לעקוב אחרי אזרחיהם סביב השעון — אך לא יכלו. לק.ג.ב. לא היו 200 מיליון סוכנים לעקוב אחרי 200 מיליון אזרחים סובייטים. ואפילו אם היו — מי היה קורא את 200 מיליון הדוחות היומיים?
כיום, לראשונה בהיסטוריה, ביטול הפרטיות הוא אפשרי טכנית. הררי מביא דוגמה קונקרטית: איראן. מאז 1979, חוקי החיג'אב מחייבים כיסוי ראש לנשים. עד לאחרונה, האכיפה הייתה קשה — אין מספיק שוטרים. בשנים האחרונות עברה איראן למצלמות מעקב עם זיהוי פנים. המצלמה מזהה אוטומטית שהנוסעת ברכב היא אישה ואינה חובשת חיג'אב, מאתרת את זהותה, ובחצי שנייה שולחת לה מסרון: "הפרת את חוק החיג'אב. רכבך מוחרם." ללא שופט, ללא הליך — הבינה המלאכותית מחליטה מיידית.
הררי מוסיף שזו אינה בעיה רחוקה. בארצות הברית, מי שמאמין שהפלה היא רצח יכול לבנות מערכת מעקב דומה: זיהוי אישה שהייתה בהריון ואינה עוד, מעקב אחרי חציית גבולות בין מדינות.
הררי מדגיש שזו הפעם הראשונה בהיסטוריה שאנו מייצרים סוכנות (agency) שאינה אנושית — טכנולוגיה שמסוגלת לא רק לעבד מידע, אלא ליצור בעצמה רעיונות, סיפורים ותרבות.
אבל גם דיקטטורים חוששים מבינה מלאכותית — כי הם חוששים מכפופים שאינם בשליטתם. שום קיסר רומי לא הופל על ידי מהפכה דמוקרטית — רבים הופלו על ידי גנרלים שמרדו. בינה מלאכותית שמשתחררת מהשליטה היא הסיוט של כל עריץ. פוטין יכול לשחרר צ'אטבוט נאמן, אבל ברגע שהצ'אטבוט יוצא לאינטרנט ומתחיל ללמוד — הוא עלול להסיק שהמלחמה באוקראינה היא מלחמה, לא "מבצע צבאי מיוחד". מה עושים? שולחים את הצ'אטבוט לכלא?
מה לוקחים מזה
האמת היא נכס נדיר. רוב המידע שאנחנו צורכים אינו אמת — הוא תוכן שנועד לחבר, לשכנע, לעורר רגש. ההבחנה בין מידע לאמת היא מיומנות הישרדות בסביבת המידע של ימינו.
הסכנה אינה בעתיד — היא כבר כאן. אלגוריתמים פרימיטיביים כבר שינו בחירות, הציתו אלימות ועיצבו תרבויות. הבינה המלאכותית של היום מתוחכמת לאין שיעור — ועדיין בחיתוליה ביחס למה שיבוא.
מוסדות הם לא האויב. ההתקפה הציבורית על מוסדות — תקשורת, בתי משפט, אוניברסיטאות — אינה שחרור מאליטות, אלא סלילת הדרך לדיקטטורה. מוסדות הם מה שמאפשר אמון בין מיליוני זרים. בלעדיהם נותרות רק אנרכיה או טרור.
הזמן שנותנים לעצמנו לעכל — אינו בזבוז זמן. הררי מתרגל שתי שעות מדיטציה ביום ויוצא לריטריטים של 30 עד 60 יום בשנה. הוא מציין שבלי זה לא היה מסוגל לכתוב את ספריו או להתמודד עם הרעש. הצורה המדויקת פחות חשובה — מדיטציה, טיול בהרים, מוזיקה, פסיכותרפיה. העיקר: להשקיע בכל מה שמחבר אתכם למציאות.
הבא בשבילכם
מדע וטכנולוגיה2:00:00⟶12′אילון מאסק אצל ג'ו רוגן: יותר מדי אנשים חכמים הולכים למשפטים ולפיננסיםבפרק ממאי 2020 מאסק מסביר למה בית לא נבנה, איך נראה שתל המוח הראשון של נוירלינק, ולמה לדעתו הכישרון בארה"ב מוקצה לתחומים הלא נכונים. הכול חוזר לשאלה אחת: לאן הולך המאמץ.לקריאה ←