הדו"ח המודיעיני נראה בדיוק כמו דו"ח מודיעיני אמיתי. זו, בדיוק, הייתה הבעיה.
תארו לעצמכם את הרגע הזה: מטוסים אמריקאיים באוויר, חיילים חמושים מתכוננים להשתלט על ספינה, והמטרה היא כלי שיט סיני שעל פי המודיעין מוביל רכיבים לתוכנית נשק גרעיני. ואז, ממש לפני שהמבצע יוצא לדרך, מישהו עוצר את הכול ושואל שאלה פשוטה: מאיפה בעצם הגיע המידע הזה? התשובה הייתה צ'אטבוט. הדיווח, שנחשף בבלעדיות ברשת CNN וזכה להדים בכל העולם, מתאר כמעט־תקרית בין שתי מעצמות גרעיניות שהתחילה לא במרגל כפול ולא בזיוף רוסי, אלא בהזיה של מודל שפה.
לפי הדיווחים, הדו"ח הופץ באביב האחרון, בתקופת הלחימה מול איראן, ומקורו באנליסט בפיקוד המבצעים המיוחדים האמריקאי באוקיינוס השקט (SOCOM Pacific), שמפקדתו בהוואי. האנליסט ביקש מכלי AI להצליב מידע ממקורות גלויים עם מודיעין אותות מסווג שנמצא במאגרים הממשלתיים. המודל הגיע למסקנה שגויה לחלוטין לגבי המטען שהספינה נושאת. ואז הגיע החלק שהופך תקלה לכמעט־מלחמה: האנליסט השתמש ב-AI בפעם השנייה כדי לעצב את הממצאים לפורמט של דו"ח מודיעין תקני — ומשם הוא זרם בערוצי הפיקוד כמו כל מסמך אחר. פיקוד המבצעים המיוחדים והפנטגון לא הגיבו לפניית CNN.
כי הדו"ח נראה נכון. זה לב העניין, וזה מה שמדאיג את המומחים הרבה יותר מהטעות עצמה. מודל שפה שמנסח פסקה בסגנון מודיעיני מייצר מסמך שנראה בדיוק כמו פרי עבודתו של גוף מודיעין — אותו אוצר מילים, אותה ודאות מנוסחת היטב, אותה נימה יבשה. הוודאות המזויפת הזאת היא בדיוק מה שמאפשר לשגיאה לטפס במעלה שרשרת הפיקוד בלי שאיש יעצור אותה. ג'ייק סטקלר, חוקר במכון GovAI וקצין לשעבר בצבא האמריקאי, אמר לTechCrunch שחשוב שאנשי הכוחות יבינו את אי-הוודאות שטבועה במודלי שפה — במיוחד בהחלטות שעלולות להוביל לשימוש בכוח, כמו סימון מטרות, ניתוח מודיעיני ותכנון מבצעי.
הרקע הרחב יותר הוא מרוץ. בינואר האחרון פרסם שר ההגנה פיט הגסת' "אסטרטגיית האצה לבינה מלאכותית", שמטרתה המוצהרת היא להנגיש את מודלי ה-AI המובילים של ארה"ב ישירות לידיהם של כשלושה מיליון אנשי צבא ואזרחים במשרד ההגנה — ובכל רמות הסיווג. ההיגיון ברור: מי שמקבל החלטות מהר יותר מנצח, וארה"ב לא יכולה להרשות לעצמה לפגר אחרי סין. הבעיה היא שהתמריץ הזה דוחף בדיוק לכיוון ההפוך מזהירות: שלושה מיליון משתמשים חדשים, בלי הכשרה עמוקה באופן שבו המודלים האלה נכשלים, בסביבה שבה מהירות היא מדד ההצלחה.
כי ישראל לא צופה בסיפור הזה מהיציע — היא אחת המדינות שנמצאות הכי עמוק בפנים. מערכות מבוססות AI כמו "הבשורה" ו"לבנדר" תוארו בפרסומים רבים כחלק ממערך סימון המטרות של צה"ל, ובדצמבר 2025 הוקמה חטיבת בינה — גוף ייעודי במודיעין שמרכז את תחומי ה-AI והפקת הידע. תחקירים בעיתונות הזרה, שסוקרו גם בישראל, כבר העלו את השאלה אם הישענות על כלים כאלה עלולה דווקא לשחוק את איכות העבודה המודיעינית. התקרית האמריקאית מוסיפה לוויכוח הזה נקודה חדשה וחדה: הסיכון הגדול אינו בהכרח מודל שמסמן מטרה שגויה, אלא תהליך שבו פלט של מודל נכנס לצינור הארגוני ומאבד בדרך את תווית האזהרה שלו. ברגע שהמידע לובש את מדי הדו"ח הרשמי, כבר אי-אפשר להבדיל בין מסקנה של אנליסט לבין השלמה סטטיסטית של טקסט.
ניתוח קצר: הכשל כאן הוא לא טכנולוגי אלא תהליכי, ולכן גם לא ייפתר בגרסה הבאה של המודל. הזיות אינן באג שמישהו ישכח לתקן — הן תכונה מובנית של האופן שבו מודלים גנרטיביים עובדים, ואפילו שיעור שגיאות נמוך מאוד הופך למסוכן ברגע שמכפילים אותו במיליוני שאילתות ביום. מה שחסר הוא הדבר המשעמם: שרשרת מקורות (provenance) שמלווה כל פסקה, חובת סימון של תוכן שנוצר במכונה, ואדם אחד שהאחריות עליו ברורה לפני שמסמך הופך להוראת מבצע. בשורה התחתונה, המערכת האמריקאית עבדה — מישהו שאל את השאלה הנכונה בזמן. השאלה הפתוחה, וזו שכדאי להחזיק בראש בפעם הבאה שמישהו מוכר "האצת AI" כערך בפני עצמו, היא כמה פעמים אפשר לסמוך על כך שהשאלה הזאת תישאל בכלל.
