מדעני בינה מלאכותית הפכו את הסירוב של מודלים לעמוד התווך של הבטיחות. הבעיה: סירוב הוא התנהגות מאומנת, לא מצפון.
מאז שבני אדם התחילו לדמיין מכונות חושבות, ברור היה שהן יוכלו, כמונו, להגיד "לא". ספרות המדע הבדיוני מלאה בסיפורי מרד רובוטי, וברובם מדובר באזהרה. בשנים האחרונות התהפכה התמונה: הרעיון שמודל בינה מלאכותית לא צריך לעשות כל מה שמבקשים ממנו הפך כמעט לדבר ציווי. מאמר חדש ב-MIT Technology Review שואל אם אנחנו לא נשענים על היכולת הזאת יותר מדי.
לפי מה שמצטט המאמר, כבר ב-2021 הציגה Anthropic עמדה שלפיה מודלים צריכים לסרב בנימוס לבקשות מסוכנות, למשל עזרה בבניית פצצה. מאז המודלים מאומנים לסרב למספר עצום של בקשות. הטענה המרכזית בביקורת היא שמודל שאומן על מיליארדי דפי אינטרנט רוכש, בין היתר, שליטה רחבה באלימות ובארס מילולי. מה שהוא לא לומד הוא איך לשמור את היכולות האלה לעצמו.
במילים אחרות, הידע נשאר במודל, והסירוב הוא שכבה שהודבקה עליו אחר כך. שכבה כזאת אפשר לעקוף, ולפעמים היא גם חוסמת בקשות לגיטימיות לגמרי. (פרשנות משנית של המאמר באתר סיני מדגישה בדיוק את זה: סירוב כדפוס התנהגות מאומן ולא כשיקול מוסרי. את הניסוח הזה לא הצלחתי לאמת בטקסט המלא, ולכן אני מציג אותו בזהירות.)
הדיון הזה כבר אינו אקדמי. בפברואר 2026 דחתה Anthropic את דרישות משרד ההגנה האמריקאי להסיר מגבלות על השימוש ב-Claude. שני קווים אדומים נשארו: מעקב המוני אחר אזרחים אמריקאים ונשק אוטונומי קטלני. מנכ"ל החברה, דריו אמודיי, אמר שהחברה "לא יכולה בלב שלם להיענות". לפי הדיווחים, משרד ההגנה איים לנתק את הקשר ולהגדיר את החברה כסיכון בשרשרת האספקה, ובכירים אמרו שמתחרות כמו OpenAI, גוגל ו-xAI גמישות יותר. לא בדקתי איך הסיפור התפתח מאז, אבל כבר ברור שבמקרה הזה "לא" הוא החלטה עסקית ופוליטית של בני אדם ולא של המודל.
וכאן הניתוח שלי, ולא של המאמר: מי שמדבר על "בינה שיודעת לסרב" מערבב שני דברים שונים. האחד הוא מודל שמסרב לבקשה בצ'אט. השני הוא חברה שמסרבת ללקוח. הראשון נשבר בעזרת ניסוח חכם, והשני עולה כסף אמיתי. קל לבלבל ביניהם, וזה נוח לכל מי שרוצה להשאיר את האחריות בידי הטכנולוגיה.
לקורא ישראלי זה קרוב מאוד הביתה. הצבא, חברות הסייבר והביטחון ופרויקטים של ניתוח מודיעין כבר משלבים מודלי שפה בעבודה. מי שבונה מוצר על גבי מודל מסחרי לא צריך להניח ש"המודל כבר יסרב אם משהו לא בסדר". צריך מדיניות שימוש, בקרה אנושית ובדיקות עצמאיות, בעיקר כשהמודל נוגע במידע רגיש או בהחלטות שמשפיעות על אנשים.
בשורה התחתונה, סירוב של מודל הוא רשת ביטחון חלקית ולא מצפון. בינתיים נשארה שאלה פתוחה שאף אחד לא פתר: אם אי אפשר לסמוך על המכונה שתגיד "לא", מי בדיוק אמור להגיד אותו במקומה?
