הכלי החדש נראה כמו כפתור חירום, אבל ליד הכפתור עומד שופט – וכל גוף פדרלי אחר מוצא את עצמו מחוץ למשחק.
כשחברת AI מציעה חוק שיגביל את המודלים של חברות AI, כדאי לקרוא את הסעיפים הקטנים. לפי הדיווח ב-TechCrunch, שנשען על פרסום קודם של Politico, אנתרופיק מפיצה בקרב חברי קונגרס טיוטת חוק פדרלי שמתיימרת להגן מפני בינה מלאכותית שיצאה משליטה. בפועל, כך נטען, היא גם מונעת מרשויות פדרליות לעצור שחרור של מודל בלי אישור שופט.
לפי הדיווחים, ממשל יוכל לחסום מודל רק אם הוא מהווה סיכון מיידי להרג או לפציעה קשה של יותר מ-50 איש, או לנזק של יותר ממיליארד דולר. הסיכון צריך לנבוע מאחד משלושה תרחישים: נשק ביולוגי, מודל שבורח מפיקוח המפתחת שלו, או מתקפת סייבר.
המנגנון עצמו מורכב משלבים. "מעריכים עצמאיים" שירשמו במשרד המסחר האמריקאי יבחנו את המודלים, והחברות יוכלו לשלם להם כל עוד התשלום אינו מותנה בתוצאות. מעריך שמוצא סיכון קרוב יצטרך לדווח למשרד המסחר תוך 72 שעות (פרט שמקורו בדיווח יחיד, ולכן כדאי לקחת אותו בזהירות). משרד המסחר יפנה לשופט פדרלי, לפי הדיווחים בבית המשפט המחוזי של וושינגטון, והשופט יכריע. הטיוטה כוללת גם דרישות למסגרות בטיחות, דוחות שקיפות, הגנה על חושפי שחיתויות ודיווח על אירועים קריטיים.
הסעיף שמעורר את מרב ההסתייגויות: אף משרד או סוכנות אחרת לא יוכלו להשעות פיתוח, פריסה או שימוש פנימי במודל בכוחות עצמם. מבקרים טוענים שהחוק מגביל בעיקר את הרגולטור ולא את המפתחות.
התגובות חלוקות. יש הרואים בטיוטה רשת ביטחון הכרחית, ויש הטוענים שהיא צרה ואיטית מכדי למנוע אסון בזמן. הרף של 50 נפגעים ומיליארד דולר מזכיר את חוק SB 53 של קליפורניה, שמשתמש באותם מדדים. חשוב לזכור שזו טיוטה שמופצת, לא הצעת חוק שהוגשה, ושפרטיה מגיעים מדיווחים עיתונאיים ולא מנוסח רשמי שראינו.
ברקע יש הצעות מתחרות: לפי הדיווחים, הנציגים לורי טרהאן וג'יי אוברנולטה קידמו את FRONTIER Act, ובסנאט מנהיג הרוב ג'ון ת'ון עובד עם הסנאטורים איימי קלובושר וטד קרוז על חקיקה בנושא סיכונים קטסטרופליים. אנתרופיק ניסחה את טיוטתה כ"מדיניות סבירה שהקונגרס צריך לפעול לפיה".
ניתוח שלנו: ישראל אינה צד בחקיקה הזו, אבל מי שבונה כאן מוצרים על מודלים אמריקאים, ורבים כאלה בהייטק המקומי, מושפע ממה שיוחלט בוושינגטון. הסדר שבו עצירה של מודל עוברת בית משפט נותן ודאות לעסקים: פחות סיכוי שמודל שהתשתית שלכם נשענת עליו ייעלם בגלל החלטה מנהלית פתאומית. מצד שני, אותה ודאות באה על חשבון מהירות התגובה במקרה אמיתי של סכנה. יש גם שאלה עקרונית: כשחברה מובילה בשוק כותבת את כללי המשחק שיחולו עליה, כדאי לשאול מי הרוויח מהניסוח.
בינתיים מדובר במסמך שמסתובב במסדרונות. אם הוא יהפוך לחוק, נגלה אם שופט באמת מהיר מספיק לעצור מודל לפני שהנזק מתרחש, ועד אז כדאי לא לבלבל בין כפתור חירום לבין כפתור שצריך לבקש עליו אישור.
