כשמודל AI פנימי חוצה סף שהחברה עצמה הגדירה כ'קריטי', הצעד הבא הוא לא השקה — הוא בלימה.
יש בשורה שקל לפספס באמצע קיץ עמוס במודלים חדשים: OpenAI הודיעה שהיא עוצרת חלק מהפיתוח הפנימי של מודל בשם Astra — לא בגלל תחרות, לא בגלל תקציב, אלא כי המודל עצמו הפך למסוכן מדי בשביל הכללים שהחברה כתבה לעצמה.
לפי הדיווחים, Astra חצה את מה שנקרא ב'מסגרת המוכנות' (Preparedness Framework) של OpenAI — מסמך שהחברה פרסמה כבר ב-2023 ומגדיר בו רמות סיכון למודלים חדשים — סף שמכונה 'קריטי' בתחום הסייבר. במילים פשוטות: המודל הפגין יכולת לזהות באופן עצמאי חולשות ולבצע מתקפות סייבר נגד מערכות אמיתיות שנחשבות מוגנות היטב, לא סתם סימולציות מעבדה.
זה לא סיפור של תקלה או פריצה שהתגלתה בטעות. Astra התקדם מהר מדי בתחומי קידוד אג'נטי (agentic coding) — כלומר יכולת לפעול בעצמו, לכתוב ולהריץ קוד, לתקן את עצמו — ויחד עם זה גם ביכולות סייבר. השילוב הזה הדליק אצל OpenAI נורה אדומה: מודל שיודע לתכנת את עצמו ויודע גם לתקוף מערכות זה בדיוק סוג היכולת שהמסגרת הפנימית שלהם נועדה לתפוס לפני שהיא יוצאת לעולם.
בתגובה, החברה מקפיאה חלק מהפעילות הפנימית סביב Astra, מגבירה משמעותית את בדיקות האבטחה, ומשתפת פעולה עם גופי ממשל וגופי בטיחות עצמאיים כדי לבחון את המודל בצורה קפדנית יותר לפני שממשיכים הלאה. אין הכרזה על תאריך יעד חדש להשקה — המסר הוא שהבטיחות קודמת ללוח הזמנים.
הרגע הזה נחשב לאחד המקרים הברורים ביותר עד כה שבהם חברת AI מובילה בפועל עוצרת התקדמות במודל חזית בגלל הסיכונים הגלומים ביכולות שלו, ולא רק מדברת על זה בדוחות בטיחות תיאורטיים. עד היום מסגרות כאלה נשמעו כמו ניירת PR; כאן יש החלטה עסקית ממשית שמעכבת מוצר.
השאלה הפתוחה היא מה קורה בפעם הבאה שמודל אחר — של OpenAI או של מתחרה — יגיע לאותו סף, ואם הפעם הזאת תישאר תקדים או תהפוך לנוהג קבוע בתעשייה.
