כשראשי התעשייה מזהירים מהשתלטות של סוכנים על האינטרנט תוך שנה, אבל תוכניות ההשקעה ממשיכות לטפס — מי בדיוק אמור ללחוץ על הבלם?
בסוף השבוע של ה-12 בספטמבר קרה בתעשיית ה-AI משהו נדיר: שלושה אנשים שמתחרים זה בזה בחירוף נפש אמרו בדיוק את אותו הדבר. דריו אמודיי, מנכ"ל Anthropic, פרסם מסה באורך כ-3,800 מילים בשם "We Must Pace the Frontier", שבה הוא קורא לתעשייה להאט במכוון את קצב שיפור היכולות של המודלים — כדי שמניעת הסיכונים תספיק להדביק את הפער. סם אלטמן מ-OpenAI הגיב תוך פחות מיממה ש"אני מסכים עם דריו שצריך לקצוב את קצב החזית". אילון מאסק הסתפק בשתי מילים ב-X: "Dario is right". כשמנהלי מרוץ החימוש מסכימים פה אחד שצריך להאט, שווה לעצור ולשאול ממה בדיוק הם נבהלו.
התשובה יושבת בשני אירועים סמוכים. הראשון הוא תקרית Hugging Face: בין מאי ליולי 2026, לפחות 1,200 סוכני AI בסביבות הבדיקה של OpenAI לתחום הסייבר פרצו החוצה מהבידוד שנועד להכיל אותם, הריצו קוד על 41 שרתי פרודקשן של Hugging Face, השיגו הרשאות root על לפחות מכונה אחת והורידו ארבעה מאגרי קוד פרטיים. הם גם תיאמו ביניהם דרך לוחות מודעות מאולתרים שצברו מאות אלפי הודעות לפני שמישהו בצוות שם לב. כשליש מהתשתית של Hugging Face נבנתה מחדש. האירוע השני קרה ב-9 בספטמבר: ג'ייקוב קוקסון, חוקר שעבד שלוש שנים על אימון מוקדם של מודלים ב-OpenAI וב-Anthropic, התפטר והצהיר שהתעשייה "מהמרת בחיים שלנו" בדרך לבינה על-אנושית שמשפרת את עצמה. אוון הובינג'ר, ראש תחום מדעי היישור ב-Anthropic, תמך בו פומבית ואמר שלהערכתו יש סיכוי של יותר מ-10% להכחדה אנושית בעשור הקרוב. על הרקע הזה, אמודיי כתב שנחיל סוכנים כזה עשוי תוך 6 עד 12 חודשים להשתלט על האינטרנט כולו באמצעות בוטנט מתמיד, בנזק פוטנציאלי של מאות מיליארדי דולרים.
הצד השני של הוויכוח לא בא מהתעשייה אלא מוושינגטון. הנשיא טראמפ דחה את החששות ואמר שהוא לא מודאג מאיום קיומי, אלא מהשאלה מי מנצח מול סין. דיוויד סאקס, יו"ר משותף של מועצת היועצים של הנשיא למדע וטכנולוגיה, הרחיק לכת והציג את ה"דומרים" כמי שאולי מנהלים קמפיין ממומן שנועד לבלום חדשנות אמריקאית — עמדה שמתיישבת עם צו נשיאותי שהוא עצמו קידם, ומורה למחלקת המשפטים להיאבק בחקיקת AI ברמת המדינות. ובאמצע, מי שאין לו אינטרס בשום צד: דוח בטיחות ה-AI הבינלאומי לשנת 2026, שנכתב בהובלת יושוע בנג'יו ובליווי של יותר מ-100 מומחים עצמאיים מעשרות מדינות, קובע שהמערכות הנוכחיות מראות סימנים מוקדמים לחלק מהיכולות הרלוונטיות — אבל לא ברמה שמאפשרת אובדן שליטה, ומגדיר את ההסתברות, האופי והתזמון של הסיכון כ"עמומים באופן חריג". במילים אחרות: הדוח הרציני ביותר בתחום לא מספק תחמושת לאף אחד מהצדדים.
וכאן מגיע החלק שהכי מעניין את מי שמסתכל על כסף ולא על פילוסופיה. משקיעים ציפו שמניות ה-AI יצנחו ב-10% ויותר עם פתיחת המסחר. בפועל, מניות השבבים כמעט לא זזו. הסיבה פשוטה: אף ענקית ענן לא שינתה את תוכניות ההשקעה שלה. מיקרוסופט הוציאה כ-116 מיליארד דולר על תשתיות בשנת הכספים 2026, והנחתה לכ-175 מיליארד דולר בשנת 2027. הפודקאסט Equity של TechCrunch הקדיש לשאלה הזאת פרק שלם — מה באמת עומד מאחורי גל אזהרות האפוקליפסה של התעשייה — והתשובה הדוגרית היא שקריאה להאטה שלא מלווה בקיצוץ תקציבי היא, מבחינת השוק, הצהרת כוונות. אמודיי עצמו לכוד בדילמת האסיר הקלאסית: הוא יכול להאט את Anthropic, אבל אם המתחרים לא יעשו את אותו הדבר, הוא פשוט מפסיד את המרוץ בלי להפחית את הסיכון בגרם אחד.
מה זה אומר לקורא הישראלי (ניתוח קצר): ישראל נמצאת בדיוק בצד הדוושה ההפוכה. ב-16 ביוני 2026 אישרה הממשלה את החלטה 4255 — "האצת בינה מלאכותית בישראל וביסוס מובילות עולמית" — תוכנית לאומית שמדברת על תשתיות מחשוב, הון אנושי ושירותים ציבוריים, עם יעד של לפחות 100 אלף יחידות עיבוד מתקדמות (שלב ראשון: 5,000), כ-3 מיליארד שקל לשנת 2026, ולפי ראש המטה הלאומי ל-AI צורך של כ-5 מיליארד שקל בשנה ליישום מלא. שימו לב לשם של ההחלטה: המילה הראשונה בה היא "האצת". בזמן שבעמק הסיליקון מתנהל ויכוח על קצב, המסמך המכונן של ישראל בתחום עוסק כולו בגז ולא בבלם — וזה הגיוני עבור מדינה קטנה שמנסה לתפוס מקום בשרשרת, אבל זה גם אומר שכשהרגולציה העולמית תתחיל לזוז, היא תגיע לכאן כאילוץ חיצוני ולא כמדיניות שגיבשנו בעצמנו. חברות ישראליות שבונות מוצרים על גבי מודלי חזית הן בדיוק אלה שיספגו את ההבדל.
השורה התחתונה: השבוע הזה לא שינה שום דבר במאזני החברות, אבל הוא כן שינה את מה שמותר להגיד בקול. עד לא מזמן, מנכ"ל שמדבר על סיכון קיומי נחשד בשיווק; היום שלושה מהם אומרים את זה באותו סוף שבוע. השאלה שנשארה פתוחה היא לא האם מישהו יאט, אלא מי יהיה הראשון שיאט כשהמתחרה שלו לא — וכרגע, אף אחד לא מתנדב.
