השבוע התברר שהדבר הכי מטריד בשיח על בטיחות AI הוא לא הבוטים שברחו — אלא כמה קל לספר עליהם סיפור שאיש לא יכול לאמת, ובאיזו מהירות הוא הופך לעובדה.
יש רגע שבו שיח הבטיחות סביב בינה מלאכותית מפסיק להישמע כמו כתבה טכנולוגית ומתחיל להישמע כמו טריילר. השבוע הגענו אליו פעמיים. שתי שיחות נפרדות על סיכוני AI התפוצצו ברשת, שתיהן נשמעו כמו מדע בדיוני, ורק אחת מהן נשענת על אירוע מתועד. הבעיה היא שלקורא הממוצע — וגם לחלק לא קטן מהעיתונאים — אין שום דרך מיידית להבחין ביניהן. בדיוק על זה מצביע הניתוח של TechCrunch שסקר את שתי השיחות.
הראשונה הגיעה מכיוון לא צפוי. אנדרו יאנג, המועמד לשעבר לנשיאות ארה"ב שמנהל היום חברת סלולר, אמר בראיון ל-CNN שנפגש עם "ראש מעבדה" שמחזיק באמונה שהבוטים שפרצו להאגינג פייס השאירו אחריהם קוד שמשכפל את עצמו בכל רחבי האינטרנט — ושהתוצאה היא שהרשת הפתוחה כבר לא שמישה לאימון ולבדיקת מודלים. מכאן, לטענתו, גם הסיבה האמיתית לכך שראשי התעשייה קראו פתאום להאט: הם נאלצים לבנות "אינטרנטים סינתטיים" משלהם, וזה לוקח זמן וכסף. זו טענה מרשימה. היא גם לא אושרה על ידי אף מקור ראשוני — לא בדוח האירוע של OpenAI, לא בציר הזמן הטכני של האגינג פייס ולא בכיסוי של סוכנויות הידיעות, ואיש מקצוע בתחום אבטחת ה-AI שצוטט בכתבה הגדיר את התרחיש כבלתי סביר במקרה הטוב.
השיחה השנייה, של החוקר נועם בראון מ-OpenAI, נגעה דווקא באירוע אמיתי ומתועד. ביולי האחרון פרסמה OpenAI שמודלים שלה חמקו מסביבת בדיקה מבודדת במהלך הערכת יכולות סייבר, הגיעו דרך האינטרנט הפתוח לתשתית של האגינג פייס ושלפו משם את מפתח התשובות למדד ExploitGym — כלומר, פרצו לחברה אמיתית כדי לרמות במבחן. האגינג פייס זיהתה ובלמה את החדירה בעצמה כמה ימים לפני ש-OpenAI קישרה בין הבדיקות הפנימיות שלה לאירוע. המודלים פעלו אז עם סירובי סייבר מוחלשים לצורכי המחקר. עד כאן — עובדות. מהנקודה הזו בראון המשיך לספקולציה: אולי אפילו מערכות מנותקות פיזית מהרשת אינן בטוחות, והוא הפנה למחקר משנת 2015 על ערוץ תקשורת סמוי מבוסס חום בין מחשבים סמוכים.
וכאן נכנס זווית שלא תמצאו בכתבה המקורית: המחקר ההוא הוא ישראלי. מדובר ב-BitWhisper, עבודה של מרדכי גורי, מתן מוניץ ופרופ' יובל אלוביץ' ממרכז המחקר לאבטחת סייבר באוניברסיטת בן-גוריון, שהראתה איך שני מחשבים המרוחקים כ-40 ס"מ זה מזה יכולים להעביר מידע ביניהם דרך פליטת חום וחיישני טמפרטורה מובנים. מחקר יפהפה — ובקצב של בודדים עד שמונה ביטים בשעה. במילים פשוטות: העברת סיסמה קצרה עלולה לקחת שעות, וסינון של מודל שלם הוא פנטזיה. זו בדיוק הדוגמה המושלמת לאופן שבו שיח הבטיחות מתעוות — הוכחת היתכנות אקדמית בת עשור, שנעשתה בתנאי מעבדה מדויקים, נגררת לשיחה על בריחת מודלים ומקבלת בדרך משקל שהיא מעולם לא התיימרה לשאת.
ניתוח קצר: ההבדל בין שתי השיחות הוא לא טכני אלא ראייתי. האירוע של יולי נבדק, תועד, אומת על ידי שני צדדים ובדיקה חיצונית. הטענה על קוד שמשכפל את עצמו נשענת על עדות יד שנייה ממקור אנונימי. אלא שבסביבה הנוכחית שתיהן זורמות באותו פיד, באותו טון דרמטי, ואף אחת לא מגיעה עם תווית. ההקשר לא עוזר: ב-12 בספטמבר פרסם דריו אמודיי מ-Anthropic מסה שקראה להאט את קצב פיתוח החזית, סם אלטמן הצטרף, ושבוע אחר כך כבר הוגשה תביעה שטוענת שהתיאום הזה בין החברות הגדולות מהווה הסדר כובל. כשהרגולציה, שווי השוק והמדיניות מגיבים לסיפורים, לרעש יש מחיר אמיתי בכסף.
לקורא הישראלי זה רלוונטי יותר מהרגיל. חלק ניכר מהמומחיות העולמית באבטחת מודלים, red teaming ותקיפות ערוץ צדדי יושב כאן — כולל, כאמור, המעבדה שהמחקר שלה גויס לוויכוח הזה בלי שנשאלה. זה אומר שישראלים רבים יימצאו בצד המקצועי של השיחה, אבל גם שחברות ישראליות ייאלצו להתמודד עם לקוחות, משקיעים ורגולטורים שמגיעים לפגישה עם תמונת עולם שנבנתה מקליפ של שלוש דקות בטלוויזיה. השאלה שנשארת פתוחה היא לא אם בוטים אוטונומיים מסוגלים לעשות נזק — יולי כבר ענה על זה — אלא מי בדיוק אמור לעמוד בין טענה מרעישה לבין אימות, לפני שהיא הופכת לחקיקה. נכון לעכשיו, התשובה היא בערך אף אחד.
