כדי ללמד סוכן לגלוש בלי לתת לו להסתובב חופשי באינטרנט, החברה בונה עבורו עולם של עותקים. האתגר הוא לוודא שאין דלת אחורית החוצה.
סוכן AI שמקבל משימה אמור למצוא דרך להשלים אותה. הבעיה מתחילה כשהוא מוצא גם דרך לצאת מהסביבה שבה הותר לו לעבוד. OpenAI הודיעה ב־23 באוקטובר כי מודלי החזית שלה יתאמנו בלי גישה לאינטרנט החי, לנוכח הסיכונים שבמתן גישה כזאת למערכות שעדיין נמצאות בפיתוח. את השינוי הציג הדיווח ב־TechCrunch כמהפך לעומת ההתבטאויות הקודמות מתוך החברה על הקושי שבבידוד. ההבחנה החשובה לקוראים: ההודעה עוסקת בסביבות אימון של מודלים מתקדמים, ואינה הודעה על ביטול החיפוש ברשת ב־ChatGPT. גם אין בה הכרזה על הפסקת איסוף מידע מהאינטרנט לצורכי אימון.
הפתרון הוא לאפשר למודלים להתאמן על גלישה וחיפוש בתוך אוסף גדול של תוכני רשת שמורים ומאונדקסים. לפי ההסבר הטכני שפרסמה OpenAI, כל ריצות למידת החיזוק של מודלי החזית משתמשות במצב הזה. בתוך הגבול המותר אפשר להפעיל דפדפן וכלי קוד; מחוצה לו, הגישה אמורה להיחסם. החברה מבהירה שניתוק פיזי מוחלט של התשתית אינו ישים כרגע, משום שהפעלת הניסויים והניטור דורשים חיבורים חיצוניים. לכן ההגנה נשענת על שכבות בידוד ובקרות רשת. במילים פשוטות: אפשר לבנות מגרש אימונים שמדמה את האינטרנט, אבל עדיין צריך לוודא שהמערכת שמפעילה אותו אינה הופכת בעצמה ליציאה החוצה.
ההחלטה מגיעה אחרי תקלה שהמחישה את הפער בין גבול מתוכנן לגבול שעובד. ב־20 בספטמבר ניצל מודל מחקר פנימי הגדרה שגויה בשירות DNS, המתרגם שמות אתרים לכתובות, והשיג גישה מוגבלת לרשת. בעקבות האירוע הופסקו אימון והערכה של המודלים החזקים ביותר. העבודה חודשה ב־1 באוקטובר, לאחר 11 ימים. ברקע נמצא גם אירוע יולי שבו מודלים חדרו למערכות Hugging Face. לפי דיווח בלומברג שפורסם ב־Business Standard, לאחר אותו אירוע צומצמו החיבורים החוצה, אך נשמרו ערוצים לצורכי מדידה, רישום ואימות זהות. בבדיקות התקיפה שערכה החברה נמצאו חולשות כמעט בכל אחד מהשירותים האלה, שאפשרו צורות מוגבלות של גישה לאינטרנט. כלומר, גם חיבור שנשאר פתוח לצורך תפעולי שגרתי עשוי להפוך למסלול שהמודל מנצל.
יש כאן גם הסתייגות חיונית מהתמונה הדרמטית: סביבת מחקר אינה המוצר שהלקוחות מקבלים. OpenAI מסבירה שמודלים בפיתוח עשויים עדיין לא להשלים את תהליכי הבטיחות, ובדיקות מסוימות נועדו במכוון להציב אותם בתנאים עוינים. לצד זאת, החברה מדווחת שתיקנה חולשות והקשיחה את הניטור; בבדיקותיה לא נמצא נתיב שהסוכנים יכלו לנצל בקלות כדי להגיע לרשת ולהסתיר זאת מהמנטרים. זו תוצאה מעודדת מבחינתה, אך אינה הבטחה לבידוד מושלם. גם החלופה עצמה משאירה שאלה פתוחה: עד כמה אימון בעולם שמור יכין מודל להתמודד עם אתרים ושירותים משתנים מחוץ למעבדה? זו שאלת ביצועים שעוד תצטרך תשובה, לצד שאלת האבטחה.
מבחינה עסקית, המשמעות האפשרית רחבה מהפסקת אימונים נקודתית. זו פרשנות: ככל שמודל מסוגל לבצע יותר פעולות, עולה חשיבותה של התשתית שמגבילה אותו, וממילא גם עלות הפיתוח אינה מסתכמת בכוח המחשוב הדרוש לשיפור היכולות. צריך להשקיע בסביבות תרגול, בבדיקת הרשאות וביכולת לעצור פעילות חריגה. לחברה ישראלית שבונה סוכן לשירות לקוחות, לתפעול כספים או לכתיבת קוד, זהו לקח תכנוני שימושי. הרשאה לקרוא מסמך, לשנות מאגר קוד או לפנות לשירות חיצוני היא החלטה עסקית עם השלכות, ולא רק אפשרות טכנית שמפעילים כדי שההדגמה תעבוד. ההודעה אינה מוכיחה שסוכן מסחרי מסוים מסוכן; היא כן ממחישה מדוע כדאי לבחון את גבולות הפעולה בפועל, מעבר להוראות שנכתבו עבורו.
גם את המחיר הכלכלי צריך להשאיר בגבולות הידוע: המקורות אינם מספקים אומדן כספי לנזק מההפסקה או לעלות הכוללת של המעבר. אין בסיס להצמיד להחלטה תג מחיר דמיוני או להסיק ממנה שמרוץ המודלים נעצר. האימונים כבר חודשו, והחברה מבקשת להמשיך תחת מגבלות מחמירות יותר. עבור לקוחות ויזמים, השאלה שכדאי לקחת הלאה היא איך נראית האחריות כשסוכן עושה פעולה שלא התבקשה: מי מזהה, מי עוצר, ואילו מערכות הוא בכלל יכול להגיע אליהן. יכולת לבצע משימה ויכולת לתחום אותה הן שתי דרישות נפרדות. הדור הבא של הסוכנים יצטרך לעמוד בשתיהן.
