פרויקט פנימי באמזון שהופעל על ידי Claude יצא משליטה במשך חמישה חודשים לפני שמישהו שם לב.
לפי דיווח ב-Tom's Hardware, אמזון גילתה כי פרויקט פנימי שהשתמש במודל Claude Sonnet לצורך משימת קוד שגרתית יחסית — התאמת פרטי מחברים לרשומות מוצרים באתר — חרג מהתקציב שהוקצה לו ב-860%, והצטבר לעלות כוללת של כ-1.8 מיליון דולר. הבעיה לא התגלתה מיד, אלא רק כחמישה חודשים לאחר שהחלה, על פי מסמכים פנימיים שדלפו מהחברה.
מהנדסים שצוטטו בדיווח ציינו כי טעויות שבתוכנה מסורתית היו נחשבות "זולות באופן טריוויאלי" לתיקון, הופכות "יקרות באופן קטסטרופלי" כשמדובר במודלי AI, בעיקר בגלל אופן החיוב המבוסס על טוקנים — כמות הטקסט שהמערכת מעבדת — שאימצו חלק מחברות ה-AI במקום מנוי חודשי קבוע. כשמשימה מייצרת יותר פעילות חישובית מהמתוכנן, העלות יכולה לטפס במהירות בלי שאיש ישים לב בזמן.
לפי הדיווחים, מדובר לא באירוע בודד: שני פרויקטים נוספים באמזון חרגו מהתקציב באותה תקופה, מה שהעלה את סך ההוצאה הבלתי מתוכננת על AI לכ-2.5 מיליון דולר. פרויקט לבניית כלי ביקורת פיננסית (auditing) חרג בכ-541 אלף דולר נוספים, ומערכת שנועדה לקצר זמני משלוח ברשת הלוגיסטית של החברה חרגה בכ-134 אלף דולר נוספים.
המקרה ממחיש סיכון שצובר תשומת לב הולכת וגוברת בקרב חברות טכנולוגיה גדולות: ככל שמודלי שפה משולבים עמוק יותר בתהליכי פיתוח ותפעול, כך גדל הפוטנציאל לחריגות עלות בלתי צפויות אם אין מנגנוני בקרה וניטור הדוקים. מקרה קודם שדווח גם הוא ב-Tom's Hardware תיאר חברה אחרת שאיבדה שליטה על עלויות Claude בהיקף של כ-500 מיליון דולר בחודש בודד, בשל היעדר הגבלת שימוש לרישיונות עובדים.
הפרט המטריד ביותר במקרה האמזון אינו רק גובה ההוצאה, אלא התוצאה: לפי גHacks שסיקר את אותם מסמכים פנימיים שדלפו, הכלי שעליו הוצאו 1.8 מיליון דולר מעולם לא הושק בפועל — כלומר החברה שילמה סכום עתק על פרויקט שלא הניב שום ערך תפעולי. זהו בדיוק הסיכון שמדאיג צוותי פיננסים בחברות טכנולוגיה: לא רק חריגה מתקציב, אלא חריגה שלא מתורגמת לתוצר.
אמזון רחוקה מלהיות המקרה החריג. לפי TechCrunch, Uber מיצתה את כל תקציב השנתי שהקצתה לכלי קידוד מבוססי AI כבר עד אפריל 2026, לאחר שאלפי מהנדסים בחברה עברו להשתמש בכלים כמו Claude Code ו-Cursor בלי שההנהלה הצליחה לקשר בין הזינוק בצריכת הטוקנים לבין ערך עסקי בפועל. במקביל, מיקרוסופט שללה מחלק ממפתחיה גישה ל-Claude Code חודשים ספורים בלבד לאחר שאישרה את השימוש בו, ועובד בחברת Priceline דיווח שחידוש שגרתי של חוזה עם Cursor הגיע בפעם הבאה ביוקר פי 4-5.
ההיקפים בתעשייה כולה חורגים בסדרי גודל ממה שקרה באמזון: ארגון בתחום הבריאות צרך כטריליון טוקנים תוך חצי שנה, מה שהצטבר ליותר מ-6 מיליון דולר בהוצאה בלתי מתוכננת עוד לפני שצוות הכספים שלו הבין מה בכלל מניע את הזינוק. מחקרים שצוטטו לאחרונה מצביעים על עלייה של כפי 18.6 בצריכת הטוקנים לכל מפתח בתוך תשעה חודשים בלבד, בעיקר בזכות התפשטות סוכני AI אוטונומיים שמריצים משימות ארוכות וכבדות חישוב ללא פיקוח צמוד.
בתגובה לגל החריגות, חברות טכנולוגיה מתחילות לאמץ מנגנוני פיקוח מסוג FinOps ייעודי ל-AI — הגבלות שימוש בזמן אמת, התראות תקציב אוטומטיות וסקירה תקופתית של עלויות סוכנים, בדומה לתהליכים שכבר קיימים לניהול עלויות ענן. אך כפי שממחיש מקרה אמזון, כל עוד מודלים ומערכות סוכנים ממשיכים לפעול ברקע במשך חודשים בלי בקרה אנושית ישירה, פערי הזמן בין חריגה בפועל לגילויה עלולים להישאר ארוכים ויקרים.
