כשמנכ״ל חברת ה-AI שהכי מדברת על בטיחות הופך לדמות קומית בטלוויזיה האמריקאית, זה כבר לא רק פאנץ׳ליין, זו בעיית מיתוג של תעשייה שלמה.
יש רגע שבו טכנולוגיה עוברת מהעמודים של אתרי הטק אל התודעה של כולם, ובארצות הברית הרגע הזה מגיע בדרך כלל במוצאי שבת, על הבמה של Saturday Night Live. בסוף השבוע הגיע תורו של דאריו אמודיי, מנכ״ל Anthropic, החברה שמאחורי Claude. בפינת החדשות הסאטירית ״Weekend Update״ בפרק הפתיחה של העונה ה-52 הציגה חברת הקאסט ג׳יין וויקליין, בפאה מתולתלת ומרשימה, גרסה של אמודיי שמגמגמת, מתפתלת, ובסוף מודה: ״AI הוא השטן ואני יוצרו״.
המגיש מייקל צ׳ה, שנשמע לא לגמרי בטוח איך מבטאים את שם המשפחה של האורח, הציג את אמודיי כמי ש״מעד לאורך סבב ראיונות״ שבמהלכו נראה שהסכים עם טענה של עובד לשעבר, שלפיה בינה מלאכותית עלולה להשמיד את האנושות. משם הכול הידרדר, כלומר השתפר. הדמות של וויקליין נשברה שוב ושוב לדיאלוג בסגנון גולום מ״שר הטבעות״ עם הצד האפל של עצמה, והרגיעה את הצופים ש״כל מנהלי ה-AI נמצאים באותו עמוד: אנחנו לא מצדדים במה שאנחנו עושים״. היו שם גם עוד שתי שורות שכדאי לתלות על הקיר של כל מחלקת יחסי ציבור בעמק הסיליקון: ״AI הוא לא נשק, הוא כלי. כלי לבניית נשק״. ובעניין ההבטחה שבינה מלאכותית תרפא סרטן? ״בואו נגיד ככה: בעוד עשר שנים יש סיכוי של בערך 10% שסרטן לא יהיה בעיה של אף אחד״. את התיאור המלא של המערכון אפשר לקרוא בדיווח של TechCrunch על הפרודיה.
הטיימינג לא מקרי. ב-23 בספטמבר, פחות משבוע לפני השידור, אמודיי וסם אלטמן מ-OpenAI תדרכו את מועצת הביטחון של האו״ם על סיכוני בינה מלאכותית, במסגרת העצרת הכללית בניו יורק. אמודיי, שהשתתף מרחוק, הזהיר שבינה מלאכותית שמנוהלת בצורה גרועה עלולה לאיים על האנושות, והציע שלושה כיוונים לשיתוף פעולה בינלאומי: הסכמים ממוקדים כמו איסור על שימוש ב-AI לפיתוח נשק ביולוגי, מנגנוני אימות שיאפשרו למדינות לבדוק שהצד השני עומד בהתחייבויות, וסטנדרטים גלובליים לבדיקת מודלים לצד מערכת דיווח על תקריות אבטחה. באותו שבוע ממש הנשיא טראמפ כינה פיקוח על AI ״תוכנית גלובליסטית״ ואמר שארצות הברית צריכה לעודד ״סופר-אינטליגנציה״ ולא לרסן אותה. כלומר, מצד אחד מנכ״לים שמתחננים לרגולציה על המוצר שלהם עצמם, ומצד שני ממשל שאומר להם ״תרגעו, תמשיכו לבנות״. אם אתם כותבי קומדיה, קשה לבקש חומר גלם טוב יותר.
וכאן, דוגרי, זה כבר פחות מצחיק מבחינת Anthropic. החברה בנתה את כל המותג שלה על היותה ״המבוגר האחראי״ של התעשייה: זו שמדברת בגלוי על סיכונים, מפרסמת מחקרי בטיחות ותומכת ברגולציה. הבעיה היא שמנקודת המבט של הצופה הממוצע בבית, ״אני בונה משהו שעלול להיות מסוכן מאוד, ולכן חשוב שדווקא אני אבנה אותו״ נשמע בדיוק כמו הפאנץ׳ליין. SNL לא המציא את הסתירה הזאת. הוא רק הגיש אותה בצורה שכל אחד מבין בעשר שניות, וזה תמיד היה הכוח שלו. לשם השוואה, כשאילון מאסק הנחה את התוכנית ב-2021 הוא עדיין היה ״היזם המגניב״, ולצוקרברג לקח שנים להפוך מגאון צעיר לדמות שצוחקים עליה. אמודיי קיבל את הפרודיה הראשונה שלו כשהוא כבר מזוהה לא עם הבטחה אלא עם אזהרה, וזה סימן לשינוי אמיתי במצב הרוח הציבורי כלפי התעשייה.
לקורא הישראלי יש כאן גם עניין מעשי. Claude והמודלים של OpenAI הם כבר חלק מהעבודה היומיומית של מפתחים, סטארטאפים וחברות בישראל, והדיון שמתנהל עכשיו באו״ם ובוושינגטון, על סטנדרטים לבדיקת מודלים ועל חובת דיווח על תקריות, הוא בדיוק הדיון שיקבע את כללי המשחק שחברות ישראליות יצטרכו לעבוד לפיהם. ואם הדיון הזה מתקיים במקביל ובאותה עוצמה גם בתוכניות סאטירה בפריים טיים, זה אומר שהלחץ הציבורי לתשובות ברורות כבר לא מגיע רק מחוקרים ומרגולטורים.
האם אמודיי יעשה מה שעשו לא מעט פוליטיקאים לפניו ויופיע בעצמו בתוכנית כדי לצחוק על עצמו? בינתיים אין שום סימן לכך. אבל דבר אחד כבר ברור: כשהשורה ״אנחנו לא מצדדים במה שאנחנו עושים״ מקבלת צחוק מהקהל באולפן 8H, תעשיית ה-AI צריכה למצוא דרך טובה יותר להסביר את עצמה, רצוי כזאת שלא מזכירה את גולום.
