כשענקיות ה-AI מציעות לפתוח את הדלת למבקרים חיצוניים, השאלה החשובה היא מי מחזיק במפתח ומי כותב את הדוח.
במשך שנים תעשיית ה-AI ענתה על שאלות בטיחות במשפט אחד: "תסמכו עלינו". עכשיו היא מציעה גרסה חדשה: "בואו תראו בעצמכם, אבל מבפנים". הרעיון של מעריכים משובצים (embedded evaluators), כלומר צד שלישי שאמור להיות ניטרלי ויושב בתוך ארגון ה-AI, צבר תאוצה בחודשים האחרונים על רקע שורת אירועי בטיחות במעבדות. לפי הדיווח ב-TechCrunch, ראש המדיניות של Hugging Face מזהיר שזה לא יהיה פתרון קל.
לפי הדיווחים, ב-12 בספטמבר פרסם מנכ"ל אנת'רופיק, דריו אמודיי, מאמר שבו הציע לתת למעריכים חיצוניים גישה מתמשכת למעבדות, ברמת שילוב שדומה לזו של עובדים. הוא השווה את המודל לפיקוח על בנקים, שם הרגולטור עובד לצד הצוות ועוקב אחרי הפעילות באופן שוטף. סם אלטמן מ-OpenAI מיהר להודיע שגם החברה שלו תעשה זאת. אנת'רופיק כבר דיווחה שהמעריך המשובץ הראשון שלה הוא יחידת Faculty של אקסנצ'ר, והבטיחה להכריז על נוספים בשבועות הקרובים.
ארגונים נוספים הצטרפו לדיון. לפי הסיקור, ארגון METR פרסם באמצע אוקטובר הצעה קונקרטית: חוקרים עצמאיים שיעבדו בתוך המעבדות עם גישה מוגבלת בזמן, ראיונות פרטיים עם עובדים וזכות לפרסם. ההצעה וולונטרית, החברות יכולות לדחות בקשות ולמחוק חומרים, והיא לא אמורה לשמש שער אישור לפני השקה. חברת Apollo Research טענה מצדה שהבדיקות צריכות להתבצע לאורך האימון ולא רק לפני ההשקה.
הבעיה היא שהמילה "ניטרלי" נושאת הרבה משקל. הסיקור מצביע על כך שאף אחת מהחברות לא פרסמה כללים מלאים לבחירת מעריכים, לחשאיות, לזכויות דיווח או ליישוב מחלוקות על ממצאים. ויש תקדים לא מעודד: בבדיקה שערכה OpenAI בעקבות אחד האירועים, קיבלו METR ו-Redwood בערך שבוע במקום, ובדיעבד אמרו שלא הצליחו להסיק מסקנות בביטחון, בין היתר בגלל מגבלות של היקף ותזמון. הדוח עצמו עבר מחיקות, והמעריכים אמרו שגם ערכו אותו לפי משוב מהחברה. כאן בדיוק עובר הקו בין פיקוח לבין יחסי ציבור עם חותמת חיצונית.
יש גם עניין של מי משלם. מעריך שמקבל את הכסף, הגישה והחוזה מהחברה שהוא בודק נמצא בניגוד עניינים מובנה. כך עובדות גם חברות ביקורת פיננסית, ואנחנו יודעים איך זה הסתיים כמה פעמים. זה לא אומר שהרעיון גרוע. זה אומר שהפרטים, ולא הכותרת, יקבעו אם יש כאן פיקוח אמיתי.
זו קריאה שלנו, לא עובדה מהדיווח. ישראל היא יצואנית טכנולוגיה, וחברות ישראליות בונות מוצרים על גבי מודלים של אותן מעבדות. אם ענקיות ה-AI יקבעו סטנדרט של ביקורת חיצונית, סביר שלקוחות ארגוניים, בנקים וגופים רגולטוריים יתחילו לדרוש אותו גם מספקים קטנים יותר. הסטארטאפ הישראלי הבא שמוכר AI לבנק אירופי עלול למצוא את עצמו עונה על שאלון על "מי בדק אותך מבפנים". מי שבונה היום על מודל של מעבדה גדולה כדאי שיעקוב אחרי הפרטים הקטנים ולא רק אחרי ההצהרות.
בינתיים הרעיון נשמע טוב בכל הכותרות, והמבחן האמיתי יגיע ברגע שמעריך יגלה משהו לא נוח ויצטרך להחליט אם לפרסם אותו. עד אז, כדאי לזכור שלהכניס מישהו הביתה זה עדיין לא אותו דבר כמו לתת לו מפתח.
