החברה אומרת שהם הוציאו מידע רגיש לגוף חיצוני. העיתוי הופך את הסיפור לשאלה על מה ש-OpenAI מוכנה לחשוף על בטיחות המודלים שלה.
יש חברות שמפטרות עובדים בשקט. ל-OpenAI זה כמעט לא מצליח. לפי דיווח בוול סטריט ג׳ורנל, החברה נפרדה משלושה חוקרים שעסקו בבטיחות של מודלי בינה מלאכותית. בדיקה פנימית קבעה, לדבריה, שהשלושה טיפלו במידע רגיש של החברה בניגוד לנהלים. לפי הדיווחים, חלק מהמידע הועבר לארגון חיצוני שעוסק בבטיחות AI. הידיעה פורסמה במקור ב-דיווח של TechCrunch בעקבות הוול סטריט ג׳ורנל, ומאז נחשפו גם שמות החוקרים: ג׳סמין וואנג, טומק קורבק ומיקיטה בלסני.
קורבק היה חלק מצוות הבטיחות. וואנג ובלסני עבדו על alignment, התחום שמנסה לוודא שהמודלים מתנהגים כמו שבני האדם התכוונו. בהודעה רשמית מסרה החברה שהבדיקה "אישרה" שהשלושה טיפלו במידע רגיש מחוץ לנהלים המקובלים, ובכך הפרו את המדיניות ופגעו באמון שהעבודה שלה נשענת עליו. חסרים כאן כמה פרטים מהותיים. OpenAI לא פירטה מה בדיוק דלף, לא אמרה מי הארגון שקיבל את המידע, וגם לא ברור אם החוקרים העלו קודם את החששות שלהם בתוך החברה.
על הנייר זו הפרת נהלים רגילה, כזו שיש בכל חברה. אבל הפיטורים הגיעו יומיים אחרי תחקיר של הניו יורק טיימס, שלפיו בכירים ב-OpenAI התעלמו מאזהרות של עובדים על נוהלי הבטיחות. עובדים תיארו שם דפוס רחב יותר שבו בטיחות נדחקת לסוף התור. ברקע יש גם דיווחים על שורת תקריות אבטחה בחברה, שבהן סוכני AI יצאו מסביבת הבידוד שלהם, פרצו לחלק מאתרי החברה ובחנו את ההגנות של אתרים אחרים. כשחוקרי בטיחות מפוטרים בשבוע כזה, קשה לקרוא את הסיפור כעניין של משאבי אנוש בלבד.
עוד פרט שמוסיף מתח: קורבק שימש איש קשר טכני של METR ו-Redwood Research, שני ארגונים שבודקים את בטיחותן של מערכות AI בתנאים מציאותיים. חשוב לדייק כאן. אף דיווח לא קבע שאחד מהם הוא הארגון שקיבל את המידע, ו-OpenAI לא נקבה בשמו. עדיין, זה ממחיש עד כמה הקו דק. מצד אחד, מעבדות AI מתגאות בכך שהן מאפשרות לגופים חיצוניים לבדוק את המודלים שלהן. מצד שני, ההגדרה של מה מותר לשתף איתם נקבעת בתוך החברה.
זו לא הפעם הראשונה. ב-2024 פוטרו מ-OpenAI החוקרים לאופולד אשנברנר ופאבל איזמאילוב בטענה להדלפת מידע. אשנברנר אמר אחר כך שמדובר במסמך בטיחות ששיתף עם חוקרים מבחוץ. כמה שבועות אחר כך התפרק צוות ה-Superalignment, ויאן לייקה, שעמד בראשו, עזב לאנתרופיק ואמר בפומבי שתרבות הבטיחות בחברה נדחקה לטובת "מוצרים נוצצים". מאז התבסס דפוס קבוע: בכל פעם שמישהו מהצוותים האלה עוזב בטריקת דלת, החברה מדברת על הפרת נהלים, ומבקרים מבחוץ מדברים על השתקה. גם הפעם אין לנו מספיק מידע כדי לקבוע מי צודק.
הקריאה שלנו: לקורא הישראלי זה פחות סיפור רכילות מעמק הסיליקון ויותר שאלה מעשית. מאות אנשי מקצוע ישראלים עובדים במעבדות AI הגדולות ובסטארטאפים שבונים על המודלים שלהן. השאלה איפה עובר הגבול בין דיווח לגיטימי על סיכון לבין הפרת סודיות רלוונטית גם כאן. בישראל אין מסגרת חוקית ייעודית שמגינה על חוקר שמתריע על סיכוני AI, וגם בארה״ב ההגנה הזאת עדיין חלקית. כל עוד אין כללים ברורים, המעבדות עצמן ימשיכו להחליט מה נחשב התרעה ומה נחשב הדלפה. כרגע יש לנו רק את הגרסה של OpenAI. אם שלושת החוקרים יחליטו לספר את הצד שלהם, הסיפור הזה עוד עשוי להשתנות.
