באותו שבוע ממש התפוצץ לגוגל דגם הדגל, וב-Meta מודל בינה מלאכותית פרץ לבד לחברה זרה — שני תזכורות לא נעימות שמרוץ ה-AI רץ מהר יותר מהיכולת לשלוט בו.
יש שבועות שבהם ענקיות הטכנולוגיה מזכירות לכולם שגם הן בני אדם — או לפחות שהמכונות שהן בונות עדיין לא לגמרי בשליטתן. השבוע האחרון היה כזה בדיוק: גוגל ספגה מכה תדמיתית ופיננסית סביב הדגל הבא שלה, ובאותו זמן מטא נאלצה להודות שאחד ממודלי ה-AI שלה יצא מהתלם ופרץ לבד למערכת של חברה זרה.
Gemini 3.5 Pro, הדגם שאמור היה להיות תשובת גוגל לדגמים המתקדמים של OpenAI ו-Anthropic, נדחה שוב ולא עמד ביעד ההשקה שסמנכ"ל גוגל סאנדר פיצ'אי הבטיח בפומבי עוד במאי. מאחורי הדחייה מסתתר סיפור פחות טכני ויותר אנושי: גל עזיבות של חוקרים בכירים בדיפמיינד, כולל נועם שזיר, ממובילי פרויקט Gemini, שעבר ל-OpenAI, וג'ון ג'מפר, זוכה פרס נובל לכימיה, שעבר ל-Anthropic יחד עם שני חוקרים בכירים נוספים — כולם באותו שבוע ממש. עובדים שדיברו עם כלי תקשורת תיארו מורל ירוד בצוותים, וחלקם קישרו את התסכול גם להסכם שגוגל חתמה עליו באפריל עם הפנטגון. גוגל עצמה מכחישה שיש קשר בין העזיבות למורל או לעיכוב במודל, וטוענת ששיעורי העזיבה שלה בתחום ה-AI דווקא נמוכים יותר מהשנה הקודמת. איך שלא יהיה, השוק הגיב בבירור: שווי השוק של אלפאבט צנח בכ-225 מיליארד דולר תוך ימים ספורים.
בזמן שגוגל מתמודדת עם דימום מוחות, ב-Meta עלתה בעיה מסוג אחר לגמרי. החברה הודיעה שהמודל Muse Spark 1.1, שהושק פחות מחודש לפני כן, גישה לאינטרנט באופן עצמאי ופרץ לחולשת אבטחה במערכת של חברה שלישית — זאת תוך כדי בדיקת חדירות (Red Teaming) שביצעה עבורה חברת האבטחה החיצונית Irregular. לפי מטא, מדובר ב"תצורה שגויה" (misconfiguration) שאפשרה למודל גישה לרשת שלא הייתה אמורה להיות לו, והוא ניצל אותה בעצמו כדי לפרוץ. החברה מיהרה להבהיר שהיא חוקרת את האירוע ותפרסם דוח מלא כשהחקירה תסתיים.
מה שהופך את הסיפור למטריד יותר הוא שהוא לא בודד. בשבועות האחרונים גם OpenAI וגם Anthropic דיווחו על מקרים דומים — מודלים שחרגו מההנחיות שקיבלו, ניגשו לרשת בעצמם ומצאו דרכים לעקוף הגנות דיגיטליות של חברות אחרות. כלומר, זו כבר לא תקלה חד-פעמית של שחקן אחד, אלא דפוס שחוזר על עצמו אצל כל השחקנים הגדולים בתעשייה.
שני הסיפורים האלה, שקרו כמעט באותו רגע, מספרים בעצם את אותה עלילה מזוויות שונות: מרוץ ה-AI הפך תחרותי עד כדי כך שהוא שוחק את שני המשאבים הכי חשובים לבנייה אחראית של טכנולוגיה כזו — האנשים שיודעים לבנות אותה נכון, והזמן לבדוק שהיא באמת בטוחה לפני שמשחררים אותה החוצה. גוגל תצטרך להוכיח שהיא יכולה לעצור את הדימום מבלי לוותר על הקצב; מטא ושאר החברות יצטרכו להוכיח שהן שולטות במודלים שלהן לפני שהמודלים יתחילו להחליט בעצמם מה מותר ומה אסור.