מיקרוסופט מזהירה: סוכני ה-AI שלכם הם איום פנימי, ומי שמפתח את המודלים לא יציל אתכם

יש משהו כמעט אירוני בכותרת הזאת. מיקרוסופט, אחת מהחברות שהכי תלויות בעסק של מעבדות ה-AI הגדולות, אומרת לארגונים להתייחס לסוכני בינה מלאכותית כמו שמתייחסים לעובד שעלול לפעול נגד החברה. לפי הדיווח ב-TechCrunch, המסר הוא שמודלי החזית "אי אפשר לסמוך עליהם", ושארגונים צריכים לעקוב מקרוב אחרי הסוכנים שעובדים משתמשים בהם מול מערכות שמעבדות כמו OpenAI ו-Anthropic לא שולטות בהן.

המסגור הזה חכם, כי הוא עוקף את הוויכוח על כוונות. איום פנימי בעולם האבטחה הוא מי שכבר בפנים: יש לו הרשאות, גישה לנתונים ואמון. הוא לא חייב להיות זדוני, מספיק שיטעה, יסתבך או ישתלט עליו מישהו אחר. סוכן AI עונה בדיוק על התיאור: מקבל הרשאה לקרוא מיילים, לגעת במסמכים ולהפעיל כלים, ופועל מהר יותר ובהיקף גדול יותר מכל עובד אנושי. השאלה היא כבר לא אם המודל "רוצה" לעשות נזק, אלא מה קורה כשהוא טועה או נפרץ עם מפתחות הממלכה ביד.

בחיפוש נוסף עלה שזה לא רעיון חדש במיקרוסופט. לפי פרסומים מהחודשים האחרונים, החברה הציגה במרץ 2026 את Agent 365, שנותן לכל סוכן זהות משלו ב-Entra, ומרחיבה את Purview Insider Risk Management כך שיחשב ציוני סיכון גם לסוכנים על בסיס הפעילות שלהם. כלומר מדובר בקו מוצרים שלם, וההצהרה החדשה היא החלק השיווקי והמושגי שלו.

החלק המעניין באמת הוא הדגש על סוכנים שעובדים מפעילים מול מערכות שאינן בשליטת מעבדות ה-AI. זו הגרסה המודרנית של "shadow IT": עובד מחבר סוכן לתיבת המייל, ליומן או למערכת ה-CRM, ואף אחד במחלקת אבטחת המידע לא יודע. אי אפשר לפתור את זה עם הבטחה של ספק המודל שהוא "בטוח", כי הסיכון נוצר בחיבור בין המודל לסביבה הספציפית של הארגון.

וכאן גם אינטרס מסחרי שלא כדאי להתעלם ממנו: המסר "אל תסמכו על המעבדות, תסמכו על שכבת הבקרה שלנו" משרת היטב חברה שמוכרת שכבת בקרה. זה לא הופך את הטענה לשגויה. הוא רק אומר שכדאי לקרוא אותה גם כעמדת מכירה.

זו הערכה שלנו, לא נתון מהדיווח: בישראל, שבה סטארטאפים, בנקים וחברות סייבר אימצו כלי AI מהר, הפער בין האימוץ לבין הפיקוח עלול להיות גדול במיוחד. ארגון שמעסיק מאות עובדים שמשתמשים בסוכנים בלי מדיניות ברורה כבר מחזיק, בפועל, צוות "עובדים" שאיש לא מנהל. השלבים הבסיסיים נשמעים משעממים אבל הם הכי חשובים: מלאי של הסוכנים הפעילים, הרשאות מינימליות, יומני פעולות שאי אפשר לשנות, ויכולת לעצור סוכן בלחיצה.

בסוף, מיקרוסופט אומרת משהו שאנשי אבטחה אומרים כבר שנים על כל טכנולוגיה חדשה: אל תבנו על אמון, בנו על הנחה שמשהו ישתבש. נשאר לראות כמה ארגונים יטרחו ליישם את זה לפני התקרית הראשונה, ולא אחריה.