הרובוט יודע לעבוד. מי יוודא שהוא לא פוגע בעובדים?

בסרטון הדגמה, הרובוט בדרך כלל יודע בדיוק מה לעשות, והאנשים סביבו יודעים בדיוק איפה לעמוד. במקום עבודה אמיתי, התיאום הזה הוא מותרות: מישהו משנה כיוון, חפץ מסתיר את הדרך, והמשימה הפשוטה הופכת למבחן בטיחות. Safeworld רוצה לבנות את המבחן הזה במחשב, באמצעות בני אדם דיגיטליים, לפני שאנשים אמיתיים יצטרכו להשתתף בו. לפי דיווח TechCrunch, החברה נחשפה עם גיוס של יותר מ־12 מיליון דולר, בהובלת Shine Capital ו־a16z Speedrun. הזווית המעניינת כאן היא עסקית לא פחות משהיא טכנולוגית: לצד החברות שבונות רובוטים, נוצרת הזדמנות לחברות שיבדקו מתי אפשר לתת להם לעבוד לידנו. ההבדל בין הדגמה מרשימה לבין מערכת שאפשר להפעיל יום אחרי יום עשוי להיות המקום שבו יידרשו הרבה מהעבודה — ומהכסף.

באתר הרשמי של Safeworld, החברה מתארת מערכת לבדיקות ולהערכת בטיחות של רובוטים בסביבת אנשים. התהליך שהיא מציגה כולל יצירת מסלולים אפשריים, חיזוי סיכונים במפגש בין אדם לרובוט ושמירת ראיות מהבדיקות. הטענה שלה היא שמצבים מסוכנים קשה לבדוק בבטחה בעולם הפיזי, שהתנהגות אנושית מייצרת מגוון רחב של מקרי קצה, ושניסויים פיזיים יקרים ואיטיים להרחבה. מאחורי החברה עומדים דינג ז'או, פרופסור בקרנגי מלון ומנהל מעבדת Safe AI, קייל וונג וסימו רשידי. בעמוד החברה אצל a16z Speedrun הדגש הוא על יצירת תרחישים נדירים אך קריטיים, חשיפת אופני כשל וכימות סיכון. כלומר, המדד החשוב אינו רק כמה בדיקות המערכת מסוגלת להריץ, אלא האם היא יודעת למצוא את הבדיקה שהמהנדסים לא חשבו לכתוב.

הרעיון של בדיקת התנהגות אנושית מסוכנת בסימולציה אינו נולד עם סבב הגיוס הזה. כבר במחקר שפורסם כקדם־פרסום ב־2021, טום האק, כריסטוף לדרמן וטורסטן קרוגר הציגו שיטה לאיתור סכנות שנובעות מהתנהגות בלתי צפויה של עובדים לצד רובוטים. הם הסבירו את המלכודת: אם מדמים רק את ההתנהגות המצופה, סכנות חשובות עלולות להישאר מוסתרות; אם מנסים לדמות כל התנהגות אפשרית, המשימה אינה ישימה מבחינה חישובית. במקום זאת, הם הציעו לכוון את החיפוש באמצעות מגבלות של תהליך העבודה, מידת הסטייה מההתנהגות הרגילה ומדד סיכון. ההדגמה שילבה עובד, זרוע רובוטית ורובוט נייד. זהו מחקר נפרד, ולא אימות של Safeworld, אבל הוא מספק הקשר חשוב: יותר סימולציות אינן בהכרח בדיקות טובות יותר. צריך לבחור היטב מה לדמות, אחרת אפשר לקבל הר של תוצאות ובכל זאת לפספס את המפגש המסוכן.

בפרסום ההשקה ב־Citybiz מתואר הכיוון הטכני בפירוט נוסף: בניית תרחישי בדיקה בדפדפן, על בסיס תקני בטיחות, אירועים קודמים ויומני פעילות של רובוטים, תוך שימוש בשפה טבעית ובמודלים של מסלולי תנועה אנושיים. החברה מדווחת שם על פיילוטים עם כמה ארגונים מקבוצת Fortune 50; זו טענה שלה, ולא תוצאה עצמאית שמוכיחה שהמערכת מונעת תאונות. באותו פרסום מוצגת הבדיקה כשכבה מתמשכת, משום שעדכון תוכנה יכול לשנות את התנהגות הרובוט. כאן נמצא היגיון מסחרי ברור: אם הבטיחות תלויה גם בגרסת התוכנה ובסביבה שבה המכונה פועלת, בדיקה לפני ההשקה לבדה אינה עונה על כל השאלות. לצד זאת, הדמיה מוצלחת עדיין מחייבת לבחון מה היא מייצגת, אילו הנחות הוזנו אליה ואיפה הראיות נגמרות. מעבר של מבחן אינו הבטחה גורפת שלא תהיה פגיעה.

מבחינת עסק ישראלי ששוקל להכניס רובוט למחסן או למפעל, הניתוח הכלכלי מתחיל בשאלה רחבה יותר ממחיר המכונה: כמה עבודה מועילה היא תוכל לבצע בתנאים שבהם באמת מותר ואפשר להפעיל אותה? כדוגמה מחשבתית, רובוט מהיר שמחייב עצירות תכופות ליד עובדים עשוי לספק תפוקה שונה מאוד מזו שמוצגת בהדגמה. לכן, הערכת השקעה צריכה לבחון גם את סביבת העבודה, את תהליך הבדיקה ואת השינויים שיידרשו בתפעול. זו המשמעות המקומית האפשרית של שירות כמו Safeworld, ולא טענה על לקוחות ישראליים שלה: הוא עשוי לעזור להפוך דיון כללי על אמון לשאלות קונקרטיות על מסלולים, מפגשים וסיכונים. עבור חברות רובוטיקה ישראליות, אותה לוגיקה עשויה להיות רלוונטית גם בצד המכירה — לקוח יכול לבקש ראיות שמתייחסות לאתר שלו, ולא להסתפק בסרטון מהמשרד של היצרן. הבטיחות, במובן הזה, נכנסת ישירות לחישוב הכדאיות.

ההימור של Safeworld הוא שיצרנים ומפעילים ישלמו על היכולת לגלות בעיות לפני שהן הופכות לאירוע בעולם האמיתי. כדי להצדיק את ההוצאה, החברה תצטרך להראות שהתרחישים שלה רלוונטיים, שהתוצאות עוזרות לקבל החלטות ושאפשר לחזור על הבדיקות כאשר התנאים משתנים. מהמקורות שנבדקו לא עולה נתון עצמאי על שיעור התאונות שהמערכת מנעה, ולכן מוקדם להכריז שנמצא פתרון לבעיית הבטיחות של רובוטי AI. אבל השאלה שהיא מעלה ראויה למקום ליד נתוני המהירות והדיוק בכל מצגת מכירה: מה קורה כשהאדם ליד המכונה עושה משהו שאיש לא תכנן? בני האדם הדיגיטליים יכולים לספוג את הניסיונות. את הביטחון לגבי בני האדם האמיתיים עוד צריך להרוויח.