הצ'טבוט הרשמי של ממשלת ארה"ב כותב שירה על מיינקראפט, וזה בכלל לא באג

ביום שלישי השיק הבית הלבן את America.gov, פורטל בינה מלאכותית שאמור להיות נקודת הכניסה של האמריקאים לשירותי הממשל הפדרלי. יש בו שורת חיפוש אחת, ואפשר לשאול בה כמעט הכול: איך מזמינים חניון לילה בפארק לאומי, איך מוציאים דרכון לילד ואיך מחליפים כרטיס ביטוח לאומי שאבד. תוך כמה שעות הגולשים כבר מצאו את מה שבאמת מעניין אותם, והוא לא היה הדרכון. מי ששאל את הצ'טבוט על מיינקראפט קיבל תשובה של כ-1,800 מילים: מונולוג פיוטי ומוזר שמשלב את עולם הקוביות של המשחק עם מספרי תיקים, טפסים רשמיים וכתובות של אתרים ממשלתיים.

התגובה הראשונה הייתה צפויה. צ'טבוט ממשלתי שמתחיל לכתוב שירה נשמע כמו מודל שפה שאיבד את זה. אבל כמו שמתברר מהבדיקה של TechCrunch, זה לא באג. הטקסט הוא עיבוד של "שיר הסוף" (The End Poem), הטקסט שכתב הסופר האירי ג'וליאן גאף ושמוצג לשחקנים אחרי שהם מסיימים את מיינקראפט. בגרסה של America.gov השיר עבר הסבה לשפה ממשלתית, כלומר מישהו מהצוות הכניס לצ'טבוט ביצת פסחא מכוונת. דונלד טראמפ ציין בנאום ההשקה את אדוארד קוריסטין, מתכנת בן 20 ובוגר DOGE, כאחד המהנדסים המובילים בפרויקט. עדיין לא ידוע מי בדיוק הוסיף את הפיצ'ר הזה.

מאחורי הקלעים יש כאן יותר מצ'טבוט אחד. לפי ג'ו גביה, מנהל העיצוב הראשי של הממשל האמריקאי ואחד ממייסדי Airbnb, האתר מבוסס על Gemini של גוגל ועל Grok, המודל שפיתחה xAI של אילון מאסק ושפועל היום תחת SpaceXAI. המערכת שואבת מידע מכ-29 אלף אתרים פדרליים. בינתיים היא רק מכוונת את המשתמשים למקום הנכון, אבל התוכנית היא שב-2027 אפשר יהיה להתחיל תהליכים ישירות בפלטפורמה ולעקוב אחריהם. המשמעות היא שהצ'טבוט אמור להפוך בהדרגה מדלפק מודיעין לפקיד של ממש.

על פניו זו בדיחת גיקים חביבה. אבל היא נוגעת בשאלה רצינית: כמה אמון אפשר לתת בכלי ממשלתי מבוסס AI. ברגע שמשתמש רואה תשובה הזויה, קשה לו לדעת אם זו ביצת פסחא או הזיה אמיתית של המודל, וההבדל הזה חשוב בדיוק כשהשאלה הבאה תהיה על דמי אבטלה או על הגשת בקשה לוויזה. מערכת שמשלבת שני מודלים של שתי חברות מסחריות, אחת מהן בבעלות של איש עסקים שמעורב פוליטית באופן גלוי, גם מעוררת שאלות על שקיפות: מי מחליט מה המודל עונה, ומה עוד מסתתר בהנחיות המערכת שלא גילינו בינתיים.

הזווית הישראלית, בקצרה: כל מי שניסה לנווט באתר gov.il כדי למצוא את הטופס הנכון מבין מיד את הקסם של "שאלה אחת, תשובה אחת" במקום עשרות אתרים של משרדים שונים. ממשלות בכל העולם, כולל כאן, בוחנות איך להכניס מודלי שפה לשירות לאזרח, והניסוי האמריקאי הוא מקרה מבחן בזמן אמת בקנה מידה ענק. הלקח המעשי לכל מי שבונה מערכת כזו הוא שהיא נמדדת לא רק לפי כמה חכמות התשובות שלה, אלא גם לפי כמה צפויות הן. ביצת פסחא שנראית בדיוק כמו הזיה היא בדיחה, אבל היא גם עולה משהו באמון של המשתמשים.

בינתיים אפשר לנשום לרווחה: הצ'טבוט של ממשלת ארה"ב לא עבר משבר קיומי, מישהו פשוט אוהב מיינקראפט. השאלה האמיתית תעלה ב-2027, כשהוא יתחיל לטפל בטפסים עצמם. אז כדאי שהשירה תישאר בצד.