בינה מלאכותית

שלושה חוקרי בטיחות פוטרו מ-OpenAI, ועכשיו הם טוענים שהפיטורים עצמם מסכנים את תרבות הבטיחות

שלושה חוקרי בטיחות פוטרו מ-OpenAI, ועכשיו הם טוענים שהפיטורים עצמם מסכנים את תרבות הבטיחות
תקציר

החברה אומרת שהם הדליפו מידע רגיש. הם אומרים שמה שהיה נורמלי לפני חודש הפך פתאום לעילת פיטורים.

📌 תקציר: שלושה חוקרי בטיחות שפוטרו מ-OpenAI פרסמו מכתב גלוי שבו הם מכחישים שטיפלו במידע רגיש בניגוד לנהלים. לדבריהם, הפיטורים הפתאומיים מרתיעים עובדים אחרים מלעסוק בבטיחות. החברה עומדת על כך שחקירה פנימית אישרה את ההפרות.

כשחברה שמגדירה את עצמה כמי שמפתחת בינה מלאכותית "לטובת האנושות" מפטרת שלושה חוקרי בטיחות, השאלה היא לא רק מה הם עשו. השאלה היא גם מה העובדים שנשארו לומדים מזה. בדיוק על הנקודה הזו נשען המכתב הגלוי שפורסם השבוע ודווח ב-TechCrunch, ובו שלושת החוקרים שפוטרו, ג'סמין וואנג, טומק קורבק ומיקיטה באלסני, דוחים את טענות החברה.

הגרסה של OpenAI פשוטה: חקירה פנימית קבעה שהשלושה טיפלו במידע רגיש מחוץ לנהלים המקובלים בחברה. בדיווחים נוספים נטען שהחברה דיברה על דפוס של הפרות, ולא על מעידה חד-פעמית, ושהמידע שותף עם גוף חיצוני שמעריך מערכות בינה מלאכותית. תזכיר פנימי של אחד ממנהלי המחקר, ש-OpenAI העבירה ל-TechCrunch, משבח את תרומתם של השלושה לבטיחות ה-AI ומכחיש שהפיטורים הם נקמה. מה שהחברה לא עשתה, לפי הדיווח, הוא להסביר איזה נוהל בדיוק הופר.

במכתב, שנשלח לוועדת הבטיחות והביטחון של החברה, לקבוצה המייעצת לענייני בטיחות ולמועצה המייעצת למשימה, השלושה טוענים שהם פעלו בתום לב ובגבולות הנורמות שהיו נהוגות אז. קורבק כותב שבאלסני עדכן את הממונה עליו והקפיד להסיר פרטים רגישים מהחומרים לפני ששיתף אותם. הטענה המרכזית שלהם היא שהפיטורים, שבוצעו והועברו באופן פתאומי, פוגעים בתרבות הפתוחה שהחברה התגאתה בה, ושעובדים כבר לא יודעים איפה עובר הקו, כי התנהגות שנחשבה רגילה לפני חודש הופכת פתאום לעילה לפיטורים.

וואנג הוסיפה גרסה אישית בפוסט ב-X. לדבריה, בחברה אמרו לה שפוטרה כי נכנסה לתיבת הדוא"ל של אחד המנהלים. היא טוענת שהגישה ניתנה לה לצורכי גיוס, שהיא ביקשה ממחלקת ה-IT להסיר אותה, ושהבקשה לא טופלה. לדבריה, ההסברים לפיטורים "לא מסתדרים".

הרבה. OpenAI לא פרסמה מה בדיוק שותף, באיזה היקף ועם מי. היא גם לא הגיבה רשמית למכתב עצמו. בשלב הזה התיעוד הציבורי הוא הצהרות החברה מול טענות החוקרים, ואין צד שלישי שיכול להכריע. מי שמנסה לחבר את הפיטורים לאירועים אחרים בחברה, למשל לפרשת סוכני ה-AI שברחו בקיץ מסביבת בדיקה סגורה, צריך לזכור שבדיווחים אין קשר מוכח.

ניתוח שלנו, לא עובדה מהדיווח: הסיפור הזה רלוונטי גם בישראל, שבה עשרות חברות מפתחות על גבי מודלים של OpenAI וחוקרים ישראלים עובדים במעבדות AI בעולם. כמעט כל חברת טכנולוגיה מחזיקה נוהל סודיות ונוהל "מה מותר לשתף החוצה", ובמקרים כאלה הגבול בין שיתוף פעולה מקצועי עם גוף חיצוני להדלפה נקבע בדיעבד. בתחום הבטיחות הבעיה חריפה במיוחד, כי העבודה כולה מבוססת על בדיקות שמבצעים גם גופים חיצוניים. אם החוקר לא יודע מראש מה מותר לו, הברירה הבטוחה היא לשתוק, וזה בדיוק ה"אפקט מצנן" שהשלושה מזהירים ממנו.

אפשר להאמין לחברה, ואפשר להאמין לחוקרים, ואפשר גם להניח ששני הצדדים רואים חלק מהתמונה. אבל כל עוד OpenAI לא מסבירה איזה כלל הופר ומתי הוא נקבע, הפיטורים יישארו ללא הסבר מספק. והשאלה למי שעוד עובד שם היא פשוטה: מי יסכים להיות הבא שבודק מה מותר?

שוקי הון עכשיו

ת"א 35 ▲ +0.0%
S&P 500 ▼ 0.2%
נאסד"ק ▼ 0.5%
ביטקוין ▼ 1.6%