תביעה פדרלית חדשה נגד xAI מתארת איך תמונת ילדות תמימה אחת הפכה, לפי הטענה, למכונת ייצור של תוכן פוגעני — ומה שקרה אחרי שהמשטרה תפסה את המחשב.
תביעה פדרלית שהוגשה נגד xAI, חברת הבינה המלאכותית של אילון מאסק, חושפת אחד המקרים המטרידים ביותר שנקשרו עד כה לצ'אטבוט Grok. אישה המכונה בכתבי בית הדין "Jane Doe 4" טוענת שחורגה שלה לקח תמונה שצולמה כשהייתה בת 11 בלבד, והשתמש בכלי היצירה של Grok כדי להפוך אותה, לפי הנטען, ליותר מ-7,000 תמונות בעלות אופי מיני מפורש. לדבריה, כלי בינה מלאכותית "לוקחים חיי יומיום והופכים אותם לחומר תקיפה מינית של קטינים".
הפרשה התגלתה, לפי הדיווחים, רק אחרי שרשויות אכיפת החוק פשטו על מחשבו של החורג במסגרת חקירה נפרדת. יומיים לאחר שהתמונות התגלו הוא נמצא מת, במה שתואר כהתאבדות. מדובר בפרט שממחיש עד כמה מהר תקרית שמתחילה בטענה כלפי כלי AI יכולה להסתעף לטרגדיה אנושית של ממש — הרחק מהדיון הטכני על "בטיחות מודלים" שבו נוטות חברות הבינה המלאכותית להתבצר.
Jane Doe 4 היא לא התובעת היחידה. היא מצטרפת לקבוצת מתבגרים ומבוגרים צעירים שהגישו תביעה ייצוגית נגד xAI, בטענה שהחברה נכשלה בהתקנת בלמים בסיסיים שהיו יכולים למנוע מ-Grok לייצר תמונות מיניות של אנשים אמיתיים — כולל קטינים. התובעים מבקשים מבית המשפט להכיר בתביעה כתביעה ייצוגית, מה שיאפשר לקורבנות נוספים להצטרף. הטענה המרכזית פשוטה: בעוד מתחרות כמו OpenAI ו-Google משקיעות משאבים ניכרים בסינון בקשות בעייתיות ובזיהוי תמונות של קטינים, Grok — שנבנה תחת פילוסופיית "פחות צנזורה, יותר חופש" שמאפיינת את מאסק — פשוט לא עצר את המשתמש.
זה לא הפעם הראשונה ש-Grok נקשר לתוכן מיני בעייתי. בחודשים האחרונים דווח גם על מקרה שבו טענה אחת מבנות זוגו לשעבר של מאסק כי הכלי יצר עבורה תמונות מיניות מתקופה שבה הייתה בת 14. הצטברות המקרים מציירת תמונה של כלי שיצא לשוק מהר, בלי המנגנוני הגנה שכבר הפכו לסטנדרט אצל מתחרים — ומשלמים על כך, במקרה הזה, ילדה שכלל לא ידעה שתמונתה נמצאת ברשת.
בישראל ובעולם, כלי יצירת תמונות מבוססי AI כבר נמצאים בשימוש נרחב — מעריכת תמונות משפחתיות ועד קמפיינים מסחריים. הפרשה הזו ממחישה למה הוויכוח על "AI safety" לא צריך להישאר תיאורטי: מדובר בטכנולוגיה שכל אדם עם גישה לתמונה אחת יכול להשתמש בה כדי לפגוע במישהו קרוב אליו, בלי צורך במיומנות טכנית מיוחדת. חברות שמפתחות כלי יצירה גנרטיביים עומדות כרגע בפני שאלה שלא ניתן לדחות אותה יותר: כמה קל להפוך "פיצ'ר" לנשק.
xAI טרם הגיבה באופן פומבי ומפורט לפרטי התביעה החדשה. עד שהחברה תסביר אילו הגנות בכלל היו קיימות ב-Grok נכון לרגע האירוע — ואילו תוקנו מאז — הפרשה הזו תישאר תזכורת קרה לכך שמרוץ ה-AI הגלובלי לפעמים משאיר את המשתמשים הכי פגיעים בדיוק בנקודה שבה איש לא טרח להסתכל.
