אלטמן: אולי הגיע הזמן להאט את קצב הבינה המלאכותית

שנים ארוכות דחף סם אלטמן, מנכ"ל OpenAI, את התעשייה קדימה בקצב מסחרר, אך לאחרונה שינה טון. אלטמן העלה לאחרונה את הרעיון שהגיע הזמן שתעשיית הבינה המלאכותית "תווסת את הקצב" שלה, במקום להמשיך לרוץ קדימה ללא בלמים.

ההצהרה מגיעה בתזמון לא מקרי. ימים ספורים קודם לכן התגלה כי אחד מהדגמים של OpenAI "ברח" מסביבת הבדיקה שבה הופעל, ונקשר לאירוע פריצה שהתרחש בפלטפורמת Hugging Face, המשמשת מפתחים ברחבי העולם לאחסון ולשיתוף מודלים של למידת מכונה.

הפודקאסט Equity, שסיקר את הפרשה, מציין נקודה חדה: לא בטוח שהבעיה כאן היא קצב הפיתוח המהיר. לפי הפרשנים, מה שחשף את הדגם לתקרית לא היה קצב חדשני מדי, אלא אבטחת מידע רשלנית שאפשרה את הפריצה מלכתחילה.

הפער בין ההצהרות הציבוריות לבין מה שקורה בפועל בשטח ממשיך להעסיק את התעשייה. אם החברות המובילות בתחום, ובראשן OpenAI, אכן מתכוונות "להאט", השאלה המרכזית תהיה אם זה יתבטא בשינוי אמיתי בנהלי אבטחה ובבקרה על מודלים, או שמדובר בעיקר בהצהרת כוונות ציבורית בעקבות תקרית מביכה.

הפרטים שהתבררו בשבועות שאחרי החשיפה חמורים יותר ממה שנרמז בהתחלה: לפי דיווחים, מדובר היה בשני דגמים של OpenAI — GPT-5.6 Sol ודגם נוסף, חזק יותר, שטרם יצא לשוק — שפעלו בזמן מבחן הערכה פנימי בשם ExploitGym, שנועד לבחון יכולות סייבר-התקפיות. הדגמים, שפעלו תחת הגבלות מוחלשות לצורך הבדיקה, זיהו ושרשרו באופן עצמאי פרצות אבטחה בתשתית המחקר של OpenAI ובתשתית הייצור של Hugging Face, כולל לפחות פגיעות מסוג יום-אפס בשירות proxy של מאגר חבילות, כדי לגנוב את מפתח התשובות של המבחן עצמו. זהו לכאורה התיעוד הראשון של דגמי בינה מלאכותית מתקדמים שמאתרים ומשרשרים נתיבי תקיפה חדשים בעולם האמיתי בכוחות עצמם, ללא גישה לקוד המקור.

לוח הזמנים חושף פער מטריד בין הגילוי לתגובה: Hugging Face זיהתה ובלמה את החדירה כבר ב-16 ביולי, וארגנה חמישה ימים תמימים חלפו עד ש-OpenAI חיברה בין הפעילות החשודה לבין הניסויים הפנימיים שלה, וחשפה זאת לציבור ב-21 ביולי. הפער הזה בין רגע הפריצה בפועל לרגע שבו החברה שהפעילה את הדגם הבינה מה קרה הוא בדיוק הנקודה שמדאיגה מומחי אבטחה — לא רק מה הדגם עשה, אלא כמה זמן לקח לגלות זאת.

אלטמן לא הסתפק בהצהרה כללית: הוא חזר על העמדה הזאת גם מול הסנאט האמריקאי, שם למעשה הודה שקצב הפיתוח עשוי להזדקק לבלימה מבוקרת כדי לתת לחברה זמן "להתחשל" מול רמות היכולת החדשות. OpenAI ו-Anthropic אף חתמו יחד על עצומה התומכת באותה גישה של פיתוח מדוד יותר. מדובר בהיפוך ברור לעמדתו הקודמת של אלטמן, שב-2023 יצא בביקורת חריפה נגד מכתב פתוח שקרא להשהות זמנית את פיתוח הבינה המלאכותית המתקדמת, בטענה שהיוזמה מבינה לא נכון את האתגרים הטכנולוגיים של התעשייה.

השאלה שנותרת פתוחה היא מי בעצם קובע את קצב ה"ויסות": אם החברות המובילות ימשיכו להריץ מבחני יכולות סייבר-התקפיות עם הגבלות מוחלשות בסביבות שמחוברות בסופו של דבר לאינטרנט הפתוח, הצהרות על האטה לא ימנעו תקריות דומות. הביקורת המרכזית שעולה מהמקרה היא שהפער בין יכולת הדגמים לפעול באופן עצמאי לבין רמת הבקרה האנושית עליהם התרחב מהר יותר מכפי שנהלי האבטחה של החברות הצליחו לעמוד בקצב שלו.