Jev מתפשט במהירות בין צוותי פיתוח, אבל תופס שבריר מההוצאה שלהם: הצצה לכלכלה של AI שמקבל החלטות קטנות.
🔗 קישור למוצר: Jev של TypeSafe AI
בשביל להחליט לאיזה תור להעביר פנייה מלקוח, לא תמיד צריך מכונה שיודעת לכתוב מסה. לפעמים צריך רק בחירה אחת, מהר ובמחיר שמאפשר לחזור עליה שוב ושוב. על המשבצת הזאת יושב Jev, מודל ההחלטות של TypeSafe AI, שעומד במרכז דיווח חדש של TechCrunch על שיא האימוץ ב־Vercel. לפי נתוני החברה, כ־35% מהצוותים המשלמים ב־AI Gateway השתמשו בו בתוך שבועיים מהגעתו לשירות. זה הישג בולט, אבל כדאי לקרוא את האותיות שמסביב למספר: מדובר בצוותים שמשתמשים בשער הגישה למודלים של Vercel, ולא ב־35% משוק ה־AI או מכלל לקוחות החברה.
מה בדיוק הם מקבלים? לפי ההסבר של Vercel על המודל, Jev הוצג ב־15 בספטמבר ככלי שמקבל הקשר ושאלות מוגדרות, ומחזיר בחירות, ציונים או תשובות כן־לא בצירוף הסתברויות. התוצאה מיועדת לשימוש ישיר בקוד: לבחור איזה כלי יופעל בהמשך, להחליט אם תהליך צריך לנסות שוב, או להעביר מקרה לא ברור לבדיקה אנושית. במקום לבקש מהמערכת לנסח תשובה ואז לחלץ ממנה החלטה, המפתח מגדיר מראש איזו החלטה נחוצה. כבר ביממה הראשונה ב־Gateway הגיע המודל לכמעט 13% מהצוותים המשלמים. כלומר, נתון השבועיים ממשיך זינוק שנראה כבר בפתיחה.
המספר הכלכלי המעניין מסתתר לצד שיא האימוץ. לפי מדד השימוש של Vercel לאוקטובר, Jev היה אחראי ל־0.27% בלבד מההוצאה ב־Gateway בשבועיים הראשונים שלו. הוא גם קיבל את מספר הבקשות הגבוה ביותר בספטמבר, אף שהצטרף באמצע החודש. לעומת זאת, בשימור משתמשים הוא דורג חמישי: 55.6% מהצוותים שניסו אותו בשבוע הראשון חזרו בשבוע השני. אלה מדדים שונים שעונים על שאלות שונות. תפוצה מלמדת כמה צוותים התנסו; חזרה מלמדת משהו על המשכיות; הוצאה מלמדת כמה כסף עבר בפועל. להכריז על מנצח לפי אחד מהם בלבד זה נוח לכותרת, ופחות שימושי למי שבונה תקציב.
גם ההבטחה הטכנולוגית דורשת הפרדה בין מה שנמדד לבין מה שמשווק. TypeSafe מציגה את Jev כחלק מקטגוריה שהיא מכנה System One Models: מודלים שנועדו לקבל החלטות בתוך תוכנה, עם הערכת ביטחון לכל החלטה. החברה מפרסמת יתרונות גדולים במהירות ובעלות בתהליכים שבחנה, אך אלה טענות שלה לגבי משימות מסוימות, ולא התחייבות לחיסכון זהה בכל יישום. מבחינה מעשית, תשובה שמגיעה בפורמט הנכון עדיין יכולה להיות החלטה שגויה. לכן, הניתוח שלנו הוא שהשאלה החשובה בבחינת כלי כזה אינה רק אם הקוד מצליח לקרוא את הפלט, אלא אם הבחירה מועילה מספיק כדי להצדיק פעולה. הסתברות נלווית מאפשרת להגדיר סף לבדיקה; היא לא מחליפה בדיקת איכות.
עבור צוות מוצר ישראלי, הערך האפשרי הוא דווקא בעבודה האפורה שמאחורי המסך. כדוגמה ליישום אפשרי, מערכת שירות יכולה להפריד בין בקשת ביטול, תקלה ושאלה כללית, ולהשאיר את ניסוח התשובה למודל אחר. זו פרשנות לדרך שבה אפשר להשתמש בטכנולוגיה, ולא דיווח על לקוח מסוים שכבר עושה זאת. ההיגיון העסקי פשוט: כשאותה החלטה חוזרת פעמים רבות, גם עלות קטנה וזמן המתנה קצר מצטברים. אבל בעברית צריך לבדוק את המערכת על עברית אמיתית של לקוחות — כולל שגיאות כתיב, קיצורים וערבוב עם אנגלית. נתוני האימוץ שפורסמו אינם מספקים תשובה על איכות בעברית. חיסכון בבקשה בודדת עלול להיעלם אם הסיווג השגוי מייצר עוד טיפול ידני.
יש כאן גם לקח לקריאת דוחות על שוק ה־AI. Gateway הוא חלון לשימוש שעובר דרכו; שימוש שמגיע ישירות לספקי המודלים נמצא מחוץ לחלון הזה. לכן, שיא של Vercel הוא ראיה לביקוש בתוך הפלטפורמה, ולא דירוג עולמי של כל המודלים. ובכל זאת, הפער בין תפוצה גבוהה לחשבון קטן מציע כיוון מעניין: מוצר AI יכול להפוך לרכיב נפוץ בתוכנה בלי להיות הסעיף הגדול בתקציב שלה. עבור מי שבונה שירות, זה עשוי להיות יתרון. עבור מי שמנסה להסיק מההתלהבות כמה הכנסות ייווצרו, זו סיבה להאט. המבחן הבא של Jev יהיה להמשיך להיבחר גם כשהניסוי הראשון יהפוך לשגרת עבודה — ולספק החלטות ששווה להשאיר שם.
