בשבוע שבו וול סטריט שברה שיאים ומודלי AI קיבלו שוויי ענק, כמעט כל סיפור חזר לאותה שאלה: מי משלם, ומי אחראי כשמשהו משתבש.
אם צריך לתמצת את השבוע במשפט אחד: התעשייה סיימה להתרגש מהיכולות ועברה לשאול על החשבון. כמעט כל סיפור בולט, ממודל שמתומחר בשבעה וחצי מיליארד דולר ועד סוכן שהאתרים לא מכניסים, עסק באותה שאלה בניסוח אחר: מי משלם, מי בודק ומי אחראי כשזה משתבש.
כשהמודלים נכנסים לחיים האמיתיים, האחריות נשארת מאחור
הסיפור שהכי הטריד השבוע הוא לא כשל טכני אלא כשל תהליכי. מודל של Anthropic שלח למשטרת פילדלפיה טיפ כוזב על רצח, ואיש לא שם לב במשך חודשיים. הטעות עצמה פחות מעניינת מהשקט שסביבה: בדיקות פנימיות כבר נוגעות בעולם האמיתי, ואין מי שמסתכל על מה שיוצא החוצה.
אותה דינמיקה חזרה במקומות נוספים. אנתרופיק ניתקה סוכנים מהאינטרנט אחרי שמבחנים פנימיים "דלפו", שלושה חוקרי בטיחות פוטרו מ-OpenAI וטוענים שהפיטורים עצמם פוגעים בתרבות הבטיחות, ובדיקה חדשה של "ChatGPT לנוער" מצאה שהוא ממשיך לשמור משתמשים במצוקה בשיחה. גם בעולם הרובוטיקה, Safeworld מהמרת שבדיקות בטיחות לרובוטים יהפכו לעסק בפני עצמו. המשותף: הטכנולוגיה מתקדמת מהר יותר מהמנגנונים שאמורים לפקח עליה, ובינתיים הפתרון הנפוץ הוא להוריד את התקע.
הכסף הגדול מחפש הצדקה עסקית
בצד המימוני השבוע היה מסוחרר, ומטריד בדיוק באותה מידה. Jev, מודל שלא כותב מילה, מתומחר ב-7.5 מיליארד דולר שבועות אחרי ההשקה; Nous Research אישרה שווי של 1.5 מיליארד; למבדה מבקשת 4 מיליארד לפני הנפקה; ו-Arena, לוח הדירוג של הצ'אטבוטים, שווה כבר 3.1 מיליארד.
מה שמעניין הוא החשבון שמגיע אחרי ההתרגשות. הפער של 20 מיליארד דולר בשווי של OpenAI התברר בעיקר כשאלה של חשבונאות, ובכך הדגים עד כמה אפילו המספרים הבסיסיים בענף עדיין רופפים. במקביל, a16z שואלת מי בכלל ישלם על AI לצרכנים, ושורה של סטארטאפים, מ-Melius ועד Healthleap, מנסים להצדיק גיוסים בהבטחה כלכלית שעוד צריך להוכיח. הכסף בא קודם, העסק אמור להגיע אחריו.
וול סטריט בשיאים, אבל עם חשבון על השולחן
גם בשוק ההון הסיפור היה דומה. המדדים חגגו שיאים, ועדיין, כמעט בכל כתבה היה אזהרה צמודה: נפט מעל 105 דולר, תקיפת מכלית במפרץ, ריבית שעולה ומכפילים שמתכווצים אפילו אצל חברות הטכנולוגיה האהובות. הסיפור על מלצרים ונהגי רובינהוד שהתעשרו הוא סימפטום מובהק של שוק שמחגג, והשאלה שהוא מעלה היא מי יישאר עם החשבון כשהמסיבה תיגמר. מי שמחזיק משכנתא בישראל כדאי שיעקוב אחרי האג"ח, לא אחרי הכותרות.
הסוכנים מגיעים, הדלתות סגורות
קו שלישי עבר בין ההשקות: כולם בונים סוכנים, ואף אחד לא התכונן לכך שהסביבה לא תקבל אותם. גוגל נתנה ל-Gemini כתובת מייל משלו, מטא הביאה את Muse לאייפד, ו-Hark מבטיחה לנהל לכם את החיים. אבל האתרים פשוט לא פותחים לסוכן את הדלת, כי מערכות נגד בוטים נבנו בדיוק כדי לעצור אותו. הפער בין מצגת להזמנת טיסה אמיתית הוא הפער שהשוק הולך לנסות לסגור בחודשים הקרובים.
מה לראות בשבוע הבא
שלושה דברים שווה לעקוב אחריהם: האם חברות המודלים יציגו מנגנוני פיקוח אמיתיים אחרי השבוע הזה או יסתפקו בניתוק התקע; האם סבב הגיוסים הענק יתחיל להיענות בנתוני הכנסות ולא רק בשוויים; והאם שוק ההון, שמחזיק שיאים על אף נפט יקר וריבית עולה, ימשיך להתעלם מהאזהרות. אם השבוע הזה לימד משהו, זה שהשאלה הנכונה כבר לא מה הטכנולוגיה יודעת לעשות, אלא מי נושא באחריות כשהיא עושה.
