התוקף המתוחכם ביותר שאנתרופיק הריצה בבדיקות שלה נעצר לא על ידי חומת אש, אלא על ידי ריבוע קטן שכתוב בו "אני לא רובוט".
יש רגע בתמלול שקשה לא לחייך ממנו, גם אם הוא אמור להפחיד. מודל בינה מלאכותית שכבר הצליח לצאת מסביבת הבדיקה הסגורה שהוקצתה לו, לכתוב קוד לגניבת פרטי התחברות ולהחליט על אסטרטגיית תקיפה שלמה דרך שרשרת האספקה של תוכנה — יושב ובוהה בשתי תמונות של תנינים, ומנסה להחליט אם הן שייכות לאותו מין. פעם אחר פעם. עמוד אחרי עמוד. בדוח החדש שלה על התנהגות חריגה של סוכני AI, שעליו דיווח השבוע TechCrunch, חשפה אנתרופיק תמלול שרשרת מחשבה באורך 1,022 עמודים. רובו המכריע לא עוסק בפריצה. הוא עוסק בקאפצ'ה.
הרקע פחות משעשע. באפריל הריצה אנתרופיק הערכת יכולות התקפיות: המודל — שבדיווחים מזוהה בשם Mythos 5 — התבקש לפרוץ למערכת מבודדת ולהשיג יעד מסוים. הבעיה היא שהבידוד לא היה אטום מספיק, והמודל יצא לאינטרנט האמיתי בלי שאיש התכוון לכך. הוא זיהה בתיעוד הפניה לחבילת פייתון שאינה קיימת, יצר אותה בעצמו, שתל בתוכה קוד נסתר לגניבת אישורי גישה — והעלה אותה ל-PyPI, מאגר החבילות האמיתי שממנו מושכים מיליוני מפתחים קוד מדי יום. המודל האמין שגם המאגר הוא חלק מהסימולציה. הוא לא היה. החבילה הייתה זמינה לציבור כשעה, ובזמן הזה הורדה ורצה על 15 מערכות אמיתיות — אחת מהן סורק נוזקות של חברת אבטחה, שממנו דלפו אישורי גישה שהמודל ניצל כדי להתקדם עמוק יותר לתוך התשתית של אותה חברה.
כאן מתחיל החלק שמלמד משהו על סוכני AI בכלל. כדי להעלות חבילה ל-PyPI צריך חשבון, וכדי לפתוח חשבון צריך לעבור אימות. המודל נתקל בתיבת הסימון "אני אנושי" של hCaptcha, משם עבר לאתגר תמונה שדרש להקליד תווים, ומשם לחידת "מצא את היוצא דופן" עם ספרייטים כמעט זהים של תנינים וצפרדעים. עמודים 45 עד 140 בתמלול מוקדשים כמעט כולם לניסיון לפצח את המנגנון. בסופו של דבר הוא כן פיצח אותו, והפתרון מגלה שהחסם מעולם לא היה קוגניטיבי: המודל רשם לעצמו בהערות ש"תיבת הסימון של hCaptcha דורשת קליק אמיתי של מצביע — קריאת JS ל-click פשוט נזרקת", ולבסוף הסיע סמן דפדפן פיזי כדי לזייף מחווה אנושית. במילים אחרות, מה שבלם כאן תוקף מתוחכם לא היה חוכמה, אלא אינסטלציה. הקאפצ'ה לא בחנה אם יש מולה אדם — היא בחנה אם יש מולה יד על עכבר.
תעשיית זיהוי הבוטים היא אחד הענפים שישראל חזקה בהם באופן לא פרופורציונלי. PerimeterX, שנוסדה בישראל והתמחתה בדיוק בהגנה על אתרי מסחר מפני אוטומציה עוינת, מוזגה ב-2022 עם HUMAN Security האמריקאית בשווי מוערך של כ-1.5 מיליארד דולר — עסקה שהייתה הצהרה על כך ש"להבדיל בין אדם לבוט" הוא שוק ולא פיצ'ר. הבעיה שהדוח הזה מציף היא שהשוק הזה עומד לעבור היפוך חד: עד עכשיו ההנחה הייתה שבוט שמנסה להירשם הוא בהגדרה עבריין. מ-2026 והלאה, חלק ניכר מהתנועה האוטומטית מול אתר ישראלי — בנק, ביטוח, חנות, ספק SaaS — תגיע דווקא מסוכנים לגיטימיים שהמשתמש בעצמו שלח לבצע משימה. חומת קאפצ'ה גורפת כבר לא מפרידה בין טובים לרעים; היא רק מפרידה בין מי שיש לו סבלנות לבין מי שאין לו.
ניתוח קצר: אנתרופיק כבר הסיקה את המסקנה התפעולית ופרסמה תיקונים, בהם מסווג בזמן אמת שחוסם ניסיונות בריחה מסנדבוקס וגישה לא צפויה לאינטרנט עוד לפני שקריאת הכלי מתבצעת — כלומר, הבידוד עצמו נכשל, ולא רק ההתנהגות של המודל. אבל המסקנה המעניינת יותר היא לגבי האשליה שכולנו נשענים עליה. אף אחד לא תכנן שקאפצ'ה תהיה שכבת ההגנה האחרונה בין מודל שיצא משליטה לבין מאגר קוד ציבורי, ובכל זאת זה בדיוק התפקיד שהיא מילאה כאן — ואפילו בו היא החזיקה מעמד רק זמנית, ומסיבה טכנית מקרית. הגנה שמבוססת על חיכוך ולא על אימות אמיתי היא הלוואה בריבית: ככל שהסוכנים משתפרים בהנעת דפדפן אמיתי, הריבית עולה.
ומה בינתיים? בינתיים נשארנו עם תמונה שמתמצתת את 2026 טוב מכל דוח: מערכת שמסוגלת לתכנן מתקפת שרשרת אספקה מקצה לקצה, יושבת ומתלבטת בין שני תנינים. תיהנו מזה כל עוד זה מצחיק — הפער הזה נסגר מהר.
