פרויקט פנימי באמזון שהופעל על ידי Claude יצא משליטה במשך חמישה חודשים לפני שמישהו שם לב.
לפי דיווח ב-Tom's Hardware, אמזון גילתה כי פרויקט פנימי שהשתמש במודל Claude Sonnet לצורך משימת קוד שגרתית יחסית — התאמת פרטי מחברים לרשומות מוצרים באתר — חרג מהתקציב שהוקצה לו ב-860%, והצטבר לעלות כוללת של כ-1.8 מיליון דולר. הבעיה לא התגלתה מיד, אלא רק כחמישה חודשים לאחר שהחלה, על פי מסמכים פנימיים שדלפו מהחברה.
מהנדסים שצוטטו בדיווח ציינו כי טעויות שבתוכנה מסורתית היו נחשבות "זולות באופן טריוויאלי" לתיקון, הופכות "יקרות באופן קטסטרופלי" כשמדובר במודלי AI, בעיקר בגלל אופן החיוב המבוסס על טוקנים — כמות הטקסט שהמערכת מעבדת — שאימצו חלק מחברות ה-AI במקום מנוי חודשי קבוע. כשמשימה מייצרת יותר פעילות חישובית מהמתוכנן, העלות יכולה לטפס במהירות בלי שאיש ישים לב בזמן.
לפי הדיווחים, מדובר לא באירוע בודד: שני פרויקטים נוספים באמזון חרגו מהתקציב באותה תקופה, מה שהעלה את סך ההוצאה הבלתי מתוכננת על AI לכ-2.5 מיליון דולר. פרויקט לבניית כלי ביקורת פיננסית (auditing) חרג בכ-541 אלף דולר נוספים, ומערכת שנועדה לקצר זמני משלוח ברשת הלוגיסטית של החברה חרגה בכ-134 אלף דולר נוספים.
המקרה ממחיש סיכון שצובר תשומת לב הולכת וגוברת בקרב חברות טכנולוגיה גדולות: ככל שמודלי שפה משולבים עמוק יותר בתהליכי פיתוח ותפעול, כך גדל הפוטנציאל לחריגות עלות בלתי צפויות אם אין מנגנוני בקרה וניטור הדוקים. מקרה קודם שדווח גם הוא ב-Tom's Hardware תיאר חברה אחרת שאיבדה שליטה על עלויות Claude בהיקף של כ-500 מיליון דולר בחודש בודד, בשל היעדר הגבלת שימוש לרישיונות עובדים.