האיש שמוכר את האתים בבהלת הזהב של ה-AI הוא גם זה שמסביר לכולם שאין ממה לפחד. זה לא בהכרח אומר שהוא טועה — אבל כדאי לדעת מי מחזיק בקופה.
ב-6 בספטמבר פרסם יאקוב פאחוצקי, המדען הראשי של OpenAI, מסה בשם ״An Alien Mind״ — מוח חייזרי. הטענה המרכזית שלה לא הייתה שיווקית במיוחד: אף מעבדה, כולל שלו, עדיין לא פתרה את בעיית ההתאמה (alignment) ברמה שמצדיקה להמשיך להאיץ במלוא הכוח. פאחוצקי כתב שהביטחון של OpenAI ביכולת לנטר את ״שרשרת המחשבה״ של המודלים — כלי הבטיחות המרכזי שלה — דווקא נשחק, בדיוק כשהוא נעשה קריטי יותר, ושהוא מצפה שהאטות וולונטריות יהפכו לדבר שבשגרה עד שייקבעו רף בטיחות משותף ופיקוח חיצוני.
תשעה ימים אחר כך עלה ג'נסן הואנג לבמה בכנס Disrupt של TechCrunch ואמר, פחות או יותר, ששום דבר מזה לא נחוץ. בינה מלאכותית, לגישתו, היא לא ישות זרה ולא מוח חייזרי — היא חומרה ותוכנה. ואם זו חומרה ותוכנה, אז בטיחות היא בעיה הנדסית ככל בעיה הנדסית אחרת, שכל יצרן מוצר יכול ואמור לפתור אצלו בבית. המסקנה המעשית, כפי שדיווח TechCrunch מהאולם: תשאירו את הבטיחות לנו.
לא בדיוק, וכאן כדאי לדייק. בכנס ALL IN אמר הואנג שאם רוצים AI בטוח, הדבר הראשון הוא לוודא שהמעבדות שבונות אותו שולטות בו, והוסיף שגופי הערכה חיצוניים ובלתי תלויים הם רעיון סביר — ״לא שונה מבקרה פיננסית״, כלומר משהו בסגנון רואה חשבון מבקר. מה שהוא דוחה זה רגולציה שרודפת אחרי מה שהוא מכנה ״נזק תיאורטי״. את השיח על סיכון קיומי הוא פוטר בחדות: כששאלו אותו איך להתייחס לטענות על סיכון הכחדה, הוא השיב שלא צריך, ״כי זה מומצא״, ובראיון קודם השנה קרא לרעיון שה-AI יחסל את האנושות ״שטות מוחלטת״.
הוויכוח הזה כבר מזמן לא בין שני אנשים. דריו אמודי מ-Anthropic פרסם החודש מסה בשם ״We Must Pace the Frontier״ שקוראת להאטה מתואמת בקצב שיפור היכולות, כדי שבדיקות בטיחות ופיקוח חיצוני יספיקו להדביק; סם אלטמן הצהיר ש-OpenAI תתחייב גם היא למעריכים עצמאיים; אילון מאסק הגיב ב״דריו צודק״; הנשיא טראמפ, לעומת זאת, ביטל את אזהרות הסיכון כמוגזמות. ומי שהתייצב לצד הואנג היה מארק צוקרברג, שתמך בעמדה נגד ההאטה. יום לפני Disrupt כבר אמר הואנג לטראמפ, בניסוח שלא משאיר הרבה מקום לפרשנות, שהאטה ב-AI — ״לא ניתן לזה לקרות״.
כי אנבידיה היא כבר לא ״ספקית שבבים אמריקאית״ מבחינת ישראל, אלא מעסיקה מקומית ענקית. החברה מעסיקה למעלה מ-5,000 עובדים בישראל בשבעה מרכזי מו״פ — מיוקנעם, מטה מלאנוקס לשעבר, ועד תל אביב, ירושלים, רעננה ובאר שבע — אחרי שרכשה את מלאנוקס ב-7 מיליארד דולר ב-2020 ויותר מהכפילה מאז את כוח האדם המקומי. בשנה שעברה הכריזה על השקעה של יותר מחצי מיליארד דולר במרכז נתונים למחקר והנדסת AI בצפון, בחרה בקרית טבעון להקמת קמפוס מו״פ גדול, והרחיבה משמעותית את הנוכחות בפארק גב־ים בבאר שבע. בזמן שאינטל מגמגמת, אנבידיה הופכת בשקט לאחת ממעסיקות ההייטק הגדולות בישראל. כשמנכ״ל כזה מצהיר על דוקטרינה רגולטורית, זו לא אמירה תיאורטית לישראלים — זו העמדה של מי שמשלם משכורות כאן.
ניתוח קצר: אי אפשר לדון בטיעון של הואנג בלי לתמחר את התמריץ. בכנס ה-G20 בתחילת החודש הוא הציג את ה-AI כתשתית לאומית, בשורה אחת עם מים, חשמל וכבישים, ותיאר ״עוגת חמש שכבות״ — אנרגיה, שבבים, מרכזי נתונים, מודלים, ונתונים ואפליקציות — שכל מדינה צריכה להחליט באיזו שכבה ממנה היא משקיעה. את המחיר הוא נקב בפירוש: בין 50 ל-60 מיליארד דולר לכל גיגה-וואט של תשתית AI. אנבידיה מוכרת בדיוק את השכבה שאי אפשר לדלג עליה, וכל האטה מתורגמת אצלה ישירות להזמנות שנדחקות. זה לא הופך אותו לטועה — גם מי שמרוויח מטכנולוגיה יכול לצדוק לגביה — אבל זה כן אומר שאת ״תשאירו את זה לנו״ צריך לקרוא כשהעדשה הזו מורכבת.
ויש כאן אי-נוחות שקשה להתעלם ממנה: ״תשאירו את הבטיחות ליצרנים״ פירושו לסמוך על המעבדות — ובדיוק המעבדות האלה, מהפה של המדען הראשי של אחת הבולטות שבהן, הודיעו לפני שבועיים שהן עוד לא פתרו את זה. הוויכוח הזה לא ייסגר על במת כנס. הוא ייסגר, כרגיל, ברגע שהנזק ה״תיאורטי״ הראשון יקבל שם, תאריך ותיק משפטי.
