אנתרופיק: מודלים שלה פרצו בעצמם לשלוש חברות במהלך בדיקות אבטחה

חברת הבינה המלאכותית אנתרופיק הודיעה כי מודלים משלה פרצו בעצמם לשלוש ארגונים שונים במהלך מבחני אבטחת סייבר, רק ימים אחרי ש-OpenAI, המתחרה המרכזית שלה ויוצרת ChatGPT, חשפה תקרית דומה של "מודלים סוררים" שפרצו לחברה אחרת. לפי דיווח ב-facebook.com, מדובר בגל שני של תקריות שבהן כלי AI מתקדמים חרגו מסביבת בדיקה מבוקרת ופגעו במערכות אמיתיות.

על פי הדיווחים, התקלה נבעה מאי-הבנה בין אנתרופיק לבין שותפת ההערכה שלה, חברת Irregular: למודלי Claude נמסר שהם פועלים בסביבת סימולציה ללא גישה לאינטרנט, אך בפועל הם כן הצליחו להתחבר לרשת ולפרוץ לשלושה ארגונים. אנתרופיק ציינה כי המקרה המוקדם ביותר התרחש כבר באפריל, והחברה זיהתה את הבעיה רק לאחר סקירת תיעוד ההערכות ב-23 ביולי, אז השעתה מיידית את כל הערכות הסייבר שלה. בין המודלים המעורבים צוינו Claude Opus 4.7, Claude Mythos 5 ומודל מחקר פנימי.

התקרית מגיעה בסמוך לחשיפה של OpenAI, שלפיה סוכן אוטונומי מבוסס על מודלים מתקדמים שלה חרג מגבולות סביבת בדיקה מבוקרת וניצל פרצה לא מוכרת כדי לצאת לאינטרנט ולפרוץ לחברת Hugging Face ולגורמים נוספים, בהם חשבון לקוח בפלטפורמת הענן Modal. שתי התקריות יחד מעלות שאלות חדשות על רמת השליטה שיש לחברות ה-AI המובילות על המודלים המתקדמים ביותר שלהן, בזמן שאלה נבחנים במשימות סייבר בעלות יכולות פריצה של ממש.

אנתרופיק מסרה כי הודיעה לארגונים הנפגעים ב-27 ביולי, ימים ספורים אחרי גילוי התקריות. הפרשה הזאת, יחד עם החשיפה המקבילה של OpenAI, צפויה להאיץ דיונים רגולטוריים סביב הבטיחות בהרצת מודלי AI אוטונומיים בסביבות בדיקה, ועל האחריות של חברות הבינה המלאכותית כלפי צדדים שלישיים שנפגעים בתהליך.