מכתב באורך 4,000 עמודים נחת בבית דין לענייני סעד בגרמניה. זה לא טרול משועמם — זה אזרח שביקש מהצ'אטבוט לנסח לו את התביעה.
נתחיל במספר אחד שמסביר את כל הסיפור: התלונות שהגיעו לנציב תלונות הדיור בבריטניה קפצו מכ-2,600 בשנת 2022 לקצת יותר מ-7,000 בשנה החולפת. באותה תקופה בדיוק, הסוכנות האמריקאית להגנת הצרכן בתחום הפיננסי (CFPB) ראתה גידול של פי חמישה בתלונות. גם עתירות משפטיות בברזיל ועצומות לפרלמנט הגרמני זינקו. מה קרה בין 2022 להיום? בעיקר דבר אחד: ChatGPT.
קבוצת חוקרים החליטה לתת לתופעה שם — "הצפה אייג'נטית" (agentic flooding) — ולמדוד אותה. במאמר חדש, שיוצג בכנס AAAI לאתיקה של בינה מלאכותית וחברה באמצע אוקטובר, מיפו כריס שמיץ יחד עם לואיס האמונד (Cooperative AI Foundation) ואלן צ'אן (GovAI) 84 מקרים חשודים של הצפה ב-11 מדינות — מבקשות לקצבאות רווחה ועד ערעורים משפטיים רשמיים. המכנה המשותף לכולם: יש להם ממשק מקוון שסוכן AI יכול לגשת אליו.
הממצא המעניין הוא שההצפה מגיעה בשני טעמים. בחמישים מהמקרים מדובר בהצפה כמותית — פשוט יותר בקשות. בשבעים ושישה מהמקרים מדובר בהצפה איכותית — אותה בקשה בדיוק, רק שהיא מנופחת, ארוכה ומורכבת פי כמה. ב-42 מקרים קורים שני הדברים יחד. הדוגמה שקשה לשכוח: מכתב שחצה את רף 4,000 העמודים שנחת בבית דין סוציאלי בגרמניה. אדם אחד, כמה דקות מול מודל שפה, ותיק שאיש לא יכול לקרוא בלי שבוע עבודה.
כאן מגיע החלק שהופך את הסיפור מ"עוד פאניקה על AI" למשהו אחר לגמרי. הציפייה הטבעית היא שמאחורי מבול הבקשות עומדים נוכלים, בוטים או טרולים. המחקר אומר את ההפך. "הרוב המוחלט של המקרים שאנחנו מוצאים הם אנשים שזכאים לתבוע משהו — שתובעים בדיוק את הדבר הזה", אמר שמיץ בריאיון ל-TechCrunch. כלומר, מה שאנחנו רואים הוא לא התקפה על המערכת אלא סגירה פתאומית של פער מימוש הזכויות — כל אותם אנשים שוויתרו בעבר כי הטופס היה מפחיד, הניסוח היה משפטי מדי או פשוט לא היה להם כוח.
כי העלויות א-סימטריות באופן אכזרי. לאזרח עולה שלוש דקות לייצר ערעור מנומק; לפקיד בצד השני עולה שעות לקרוא אותו, לבדוק ולהשיב — וכוח האדם הזה לא גדל פי חמישה. התוצאה הצפויה היא תורים, החלטות אוטומטיות ופיצוצי תקציב. החוקרים גם בנו מטריצת סיכון ומצאו שהחשיפה הגבוהה ביותר היא דווקא בשירותים ש"משתלמים כלכלית אבל מסובכים לתביעה". ב-14 מהמקרים הממשלות כבר הגיבו — החזרת אגרות, חסימת טווחי IP, הוספת חיכוך. הבעיה, מזהירים החוקרים, היא שחיכוך מסנן קודם כול את החלשים והפחות דיגיטליים. במילים אחרות: הדלת שהטכנולוגיה הרחיבה נסגרת דווקא על מי שהיא נועדה לשרת.
ומה אצלנו? (כאן זו כבר קריאה שלנו, לא נתון מהמחקר). ישראל לא נכללת בין 11 המדינות שנבדקו, אבל מי שניסה פעם להגיש תביעת נכות לביטוח לאומי, לערער על החלטת ועדה רפואית, להתעמת עם דו"ח חניה עירוני או להגיש בקשה להחזר מס — יודע בדיוק כמה מהמאמץ הוא לא מהות אלא ניסוח. זה בדיוק סוג המאמץ שמודל שפה מוחק. שני הכיוונים כאן לגיטימיים ומתנגשים: מצד אחד, אזרח ישראלי שסוף סוף מקבל כלי שמשווה אותו לעורך דין שהצד השני יכול להרשות לעצמו; מצד שני, מערכת ציבורית שמתקשה עם העומס הקיים, ועכשיו תקבל ערעורים ארוכים, ממוסמכים ומנוסחים היטב בקצב שלא ראתה מעולם. הפיתוי לענות על ניסוח אוטומטי בבדיקה אוטומטית — גדול, וזו בדיוק הנקודה שבה זה הופך למסוכן.
השורה התחתונה אינה "עצרו את הסוכנים". אם אנשים תובעים מה שמגיע להם, המערכת לא מוצפת — היא פשוט נבחנת לראשונה בעומס האמיתי של הזכאות. השאלה הפתוחה היא אם הבירוקרטיה תבחר להתייעל, או להקשות — וכרגע, בארבעה עשר מקרים מתוך שמונים וארבעה, התשובה הייתה "להקשות".
