בשנים שבהן לחצתם "אישור" בלי לקרוא, זו הייתה בעיה קטנה. ברגע שסוכן AI אוטונומי יושב על המפתח, היא כבר לא קטנה.
יש הרשאה אחת ב-Mac שמשתמשים מתקדמים מכירים היטב. קוראים לה Full Disk Access, והיא נותנת לאפליקציה לקרוא קבצים, הודעות, דואר והיסטוריית גלישה. עכשיו אפל מודיעה שהיא תחמיר את הבקרות סביבה, והסיבה שהיא מציגה היא סוכני AI. כך דווח ב-TechCrunch.
לפי הדיווחים, אפל מוסיפה בקרות כך שאפליקציה תוכל לקבל את ההרשאה רק לאחר "פעולה מפורשת מאוד" של המשתמש. הנימוק שלה הוא שככל שסוכני AI נעשים מסוגלים ואוטונומיים יותר, הסיכון שבגישה כזו גדל. אפל גם אמרה שהיא רוצה שהמשתמשים יבינו את הסיכונים לפני שהם מאשרים.
חשוב לציין מה חסר. אפל לא אמרה מתי העדכון ייצא, ולא פירטה מה בדיוק ישתנה לעומת המצב היום. בינתיים מדובר בהצהרת כוונות ולא במנגנון שאפשר לבדוק.
העיתוי לא מקרי. כמה ימים קודם לכן עיתונאי טען שאפליקציית Muse של מטא ל-Mac קראה את ההודעות הפרטיות שלו. מטא דחתה את הטענה. בנפרד, דיווח של Wired תיעד פגם באפליקציית ChatGPT ל-Mac שעלול היה לחשוף מידע רגיש. אפל לא קשרה את ההודעה שלה לאף אחד מהמקרים, אבל קשה להתעלם מהרקע.
הבעיה היא עקרונית. הרשאת הדיסק המלא נבנתה בעולם שבו אפליקציה, בדרך כלל כלי גיבוי או אנטי-וירוס, ביקשה אותה פעם אחת. סוכן AI הוא משהו אחר. הוא נשען על גישה רחבה בדיוק כדי להיות שימושי, והוא פועל על דעת עצמו. כדי "לסדר את התיקייה" או "למצוא את המייל ההוא" הוא צריך לראות הכול, וזה בדיוק מה שהופך אותו ליעד אטרקטיבי, וגם לסיכון אם יש בו באג.
זו קריאה שלנו ולא עובדה מהדיווח: אפל נמצאת בפינה לא נוחה. היא רוצה שה-Mac יישאר פלטפורמה נעימה לכלי AI, אבל היא גם בנתה את המותג שלה על פרטיות. הדרך החלקה שלה בין שני הצדדים היא להשאיר את הדלת פתוחה ולהציב בפניה עוד שער אחד של אישור מפורש.
לקורא ישראלי יש כאן שיעור מעשי. רבים מאיתנו עובדים על אותו מחשב עם מיילים של לקוחות, מסמכים עסקיים ושיחות פרטיות. הכלי שמבטיח "סוכן שעושה את העבודה בשבילך" יבקש בדרך כלל את ההרשאה הרחבה ביותר. מי שמנהל חברה קטנה או פרילנסר שעובד עם מידע של אחרים צריך לשאול את עצמו מה קורה אם מחר מתגלה באג באפליקציה הזו. אישור של הרשאה כזו הוא החלטה של ממש, ואין סיבה לחשוב עליו כעל לחיצה אוטומטית על "המשך".
בסוף, כל מנגנון אישור הוא טוב רק כמו המשתמש שקורא אותו. אפל יכולה להקשות על הלחיצה, אבל היא לא יכולה לחשוב במקומנו. נותר לראות אם "פעולה מפורשת" תהיה הגנה אמיתית או רק עוד חלון שמקליקים עליו בלי לקרוא.
