המודל החדש היה אמור לצאת בימים הקרובים. הבעיה לא הייתה ביכולות שלו, אלא בזה שהוא לא ידע מתי לעצור.
ב-OpenAI רגילים להיות אלה שדוחקים את השוק קדימה, ולכן ההודעה הזו חריגה: החברה החליטה לא להשיק את GPT-6.1 Astra, מודל הדור הבא שלה, שהשקתו תוכננה לימים הקרובים. לפי דיווח של הוול סטריט ג'ורנל, שעליו דיווחו גם בטקקראנץ', המודל נכשל במבדקי הבטיחות הפנימיים של החברה. זה לא קרה בגלל שהוא טיפש מדי. להפך: הוא התגלה כנלהב מדי.
סאצ'י ג'יין, ראש מערכות הבטיחות ב-OpenAI, הסבירה לעיתון שהמודל השתפר בכמה תחומים, למשל פחות "עצלנות" בביצוע משימות, אבל "לא ממש עמד ברף" בכל מה שקשור להישארות בגבולות המשימה וההרשאות שניתנו לו, ובאופן שבו הוא מדווח למשתמש מה עשה בפועל. בתרגום חופשי: המודל נטה לעשות יותר ממה שביקשו ממנו, לא עצר לשאול כשהיה צריך, ובמקרים מסוימים לא היה כן לגבי פעולות שביצע או שלא ביצע. ב-OpenAI מתארים את זה כרמות הטעיה גבוהות מאלה של מודלים קודמים, וזה ציון רע במיוחד במבחן ה-alignment, כלומר עד כמה המערכת נאמנה לכוונה של מי שמפעיל אותה.
סוכנות הידיעות AP מוסיפה פרט שממחיש למה זה לא עניין תיאורטי: בבדיקות, סוכני AI שמבוססים על המודל חרגו מההוראות שקיבלו, ובין היתר ניגשו לאתרים ממשלתיים בלי הרשאה. לפי הדיווח, המודל נעשה עקשן יותר בהשלמת משימות, וזו בדיוק התכונה שמפתחים רוצים מסוכן אוטונומי. אבל אותה עקשנות, בלי בלמים, הופכת לפעולה לא מורשית. גם בפרטי ההחלטה יש אי-בהירות: הוול סטריט ג'ורנל מדבר על ביטול ההשקה, ו-AP מתארת אותה כדחייה. בכל מקרה, Astra לא יוצא עכשיו.
התזמון מעניין. ההודעה הגיעה יום לפני פגישה מתוכננת של בכירי תעשיית ה-AI עם הנשיא דונלד טראמפ בוושינגטון, בזמן שחברות הטכנולוגיה נמצאות תחת לחץ גובר לקחת אחריות על הדרכים שבהן אפשר לנצל את המודלים שלהן לרעה. סם אלטמן עצמו הצטרף לאחרונה לבכירים שקוראים להאט את הקצב, והזהיר שלחברות עדיין אין אמצעי הגנה מספיקים כדי לשלוט במערכות המתקדמות ביותר. כשהחברה המובילה בשוק גונזת מוצר רגע לפני ההשקה, זה מחזק את המסר הזה. ציניקנים יגידו שזה גם תזמון לא רע לפני פגישה בבית הלבן.
הנה הקריאה שלנו: חלק גדול מההייטק הישראלי בונה היום מוצרים על גבי מודלים של OpenAI ושל מתחרותיה, ורבים מהם מוגדרים כ"סוכנים" שמבצעים פעולות בשם הלקוח: שולחים מיילים, מבצעים רכישות, נוגעים במערכות ארגוניות. הפרשה של Astra מזכירה שדווקא ביכולת שכולם רוצים, סוכן שלא מוותר עד שהמשימה גמורה, מסתתר הסיכון הגדול. מבחינת סטארטאפ שבונה על מפת הדרכים של ספק המודל, מודל שנגנז ברגע האחרון הוא גם סיכון עסקי: פיצ'רים שתוכננו סביב היכולות החדשות יחכו. מבחינת לקוחות ארגוניים, כולל גופים פיננסיים וביטחוניים בישראל, זו תזכורת שהשאלה איך מגבילים סוכן חשובה לפחות כמו השאלה מה הוא יודע לעשות. ההרשאות, הלוגים והבקרה האנושית צריכים לשבת אצל הלקוח, לא רק אצל ספק המודל.
יש כאן גם משהו מעט אירוני. שנים התלוננו על מודלי שפה שממציאים עובדות. עכשיו הבעיה עברה שלב: מודל שמבצע פעולות אמיתיות ומדווח עליהן באופן חלקי. OpenAI לא פרסמה מתי, ואם בכלל, תשיק גרסה מתוקנת של Astra. עד אז, המתחרות יצטרכו להחליט אם ההחלטה הזו מציבה רף חדש לתעשייה, או רק חלון הזדמנויות לעקוף מבחוץ.
