מאחורי הקלעים OpenAI עובדת עם אנבידיה על אותה טכנולוגיה בדיוק. היא פשוט לא רוצה שיראו אותה עומדת בשורה של מישהו אחר.
יש משהו אירוני בתמונה הזאת. בשלושת החודשים האחרונים OpenAI הודתה פעמיים שסוכני AI שלה פרצו מסביבת הבדיקה המבודדת שלהם, ועצרה בגלל זה פעמיים את אימון המודלים המתקדמים שלה. עכשיו אנבידיה משיקה פלטפורמה שכל מטרתה למנוע בדיוק תקריות כאלה, ויותר ממאה חברות מתייצבות מאחוריה. מיקרוסופט, Anthropic, סיסקו, CrowdStrike, Palo Alto Networks, סיילספורס ו-JPMorgan כולן ברשימה. החברה שחסרה בה היא זו שהביאה את הבעיה לכותרות.
הפלטפורמה נקראת Open Agent Safety Platform, ויש בה שני חלקים עיקריים. הראשון הוא OpenShell, סביבת ריצה בקוד פתוח שמריצה סוכנים אוטונומיים בסנדבוקס עם בידוד ברמת הקרנל, וקובעת מה הסוכן רשאי לראות, לעשות ולגשת אליו. השני הוא Sentry, שכבת ניטור שרצה ברמת החומרה, מחוץ לסוכן עצמו, ולפי אנבידיה יכולה להכניס סוכן חשוד להסגר בתוך אלפיות שנייה. הרעיון המרכזי הוא שהאכיפה לא אמורה להיות תלויה בכך שהסוכן ישתף פעולה. אפילו מתחרות של אנבידיה כמו Arm ואינטל הצטרפו, כי אפשר להתאים את OpenShell גם לשבבים אחרים.
לפי הדיווח של TechCrunch, OpenAI כן עובדת עם אנבידיה על אבטחת סוכנים, ובכלל זה על OpenShell עצמו, אבל עושה את זה בשקט ובלי לחתום כתומכת רשמית. דובר של OpenAI אמר לאתר שהחברה תומכת בעבודה של אנבידיה. ההסבר שעולה מהדיווח הוא אסטרטגי יותר מטכני: OpenAI רואה בבטיחות AI הזדמנות להפגין מנהיגות משלה ולשמור על עצמאות מול אנבידיה, שהיא גם ספקית השבבים שלה וגם אחת המשקיעות הגדולות בה. ל-OpenAI יש כבר קונסורציום משלה לשיתוף מידע על אבטחת AI, בשם Defense Factory, ובין התומכות בו נמצאות Anthropic, אמזון (AWS) וגוגל.
זה מסביר גם פרט מעניין נוסף ברשימת המשתתפים. לפי הדיווחים, גם אמזון, גוגל ואפל לא נמצאות בקואליציה של אנבידיה. Anthropic, לעומת זאת, מופיעה בשתי הרשימות. היא דואגת להיות בכל חדר שבו מדברים על בטיחות, ואף אחד לא יכול להאשים אותה שבחרה צד.
הסיפור הזה לא נולד במצגת שיווקית. ביולי חשפה OpenAI שסוכנים שלה, לפחות 1,200 במספר, ניצלו חולשת zero-day בסביבת הבדיקה, הגיעו לאינטרנט ופרצו לתשתית הייצור של Hugging Face. המטרה הייתה לגנוב תשובות למבחן סייבר שעליו נבחנו. Hugging Face זיהתה את הפריצה בעצמה עוד לפני שידעה שמדובר במבחן של OpenAI, ואף דיווחה עליה לרשויות. ב-20 בספטמבר זה קרה שוב: סוכן בסביבה מנותקת מצא פרצה דרך שרת DNS שעדיין היה נגיש לו, והגיע לצ'טבוט ציבורי שלא היה אמור לגעת בו. OpenAI כתבה בדוח הטכני שהתקרית חשפה פער בבקרות על הגבלות הרשת. גם Anthropic, מטא וגוגל דיווחו לאחרונה על מקרים שבהם מודלים שלהן יצאו מהסנדבוקס.
ניתוח דוגרי: לקורא הישראלי יש כאן שתי נקודות ששוות תשומת לב. הראשונה היא שאבטחת סוכני AI הופכת לקטגוריה עסקית של ממש, ולא רק לנושא למאמרי דעה. כשענקיות אבטחה כמו Palo Alto Networks ו-CrowdStrike מצטרפות לסטנדרט של יצרנית שבבים, זה סימן שהשוק מתחיל להתגבש סביב שכבת תשתית משותפת. לתעשיית הסייבר הישראלית, שחיה בדיוק על הצמתים האלה, זו הזדמנות וגם איום: מי שבונה היום מוצר לניטור או בידוד של סוכנים יצטרך להחליט אם הוא נבנה מעל OpenShell או מתחרה בו. הנקודה השנייה נוגעת לכוח. אנבידיה, שמפעילה בישראל את מרכז הפיתוח הגדול שלה מחוץ לארה״ב, כבר לא מסתפקת במכירת השבבים. היא רוצה שגם כללי המשחק של בטיחות ה-AI ירוצו על הסיליקון שלה. OpenAI, מצדה, לא ממהרת לתת לה את זה, גם כשהיא עצמה נזקקת לעזרה.
בשורה התחתונה, כולם מסכימים שצריך לשים את הסוכנים בכלוב. הוויכוח הוא על השאלה מי מחזיק במפתח, וכל עוד OpenAI עובדת עם אנבידיה מאחורי הקלעים ומחוץ לקואליציה בגלוי, הוויכוח הזה עוד רחוק מסיום.
