אנתרופיק מציגה צמיחה מסחררת — ואזהרה שהמוצר עלול לסכן את האנושות

חברה שמתקרבת לבורסה רוצה בדרך כלל לספר למשקיעים שהמוצר שלה ישנה את העולם. אנתרופיק מוסיפה להבטחה הזאת הסתייגות שקשה לדלג עליה: הטכנולוגיה שהיא מפתחת עלולה גם לסכן את עצם קיומו. כפי שעולה מהסיפור שעליו דיווח TechCrunch, תשקיף החברה שמאחורי Claude מחבר בין צמיחה מהירה, הפסדי ענק ואזהרות חריגות לגבי בינה מלאכותית מתקדמת. המסמך, שלפי רויטרס נבדק על ידיה, נותן הצצה למתח המרכזי בעסק: כדי לממש את ההבטחה הכלכלית של AI נדרשים סכומי עתק, ובאותו זמן החברה עצמה אומרת שהיכולות שעליהן נשענת ההבטחה עלולות להיות מסוכנות. זו כבר אינה רק שיחה בין חוקרים על עתיד רחוק; היא מופיעה בחומר שמיועד למשקיעים פוטנציאליים.

נתוני 2025 בהחלט מספקים חומר לכותרות: ההכנסות של אנתרופיק צמחו כמעט פי 12 לכ־4.6 מיליארד דולר, וההפסד הנקי הגיע לכ־42 מיליארד דולר. אלא שכאן צריך לעצור לפני שמתרגמים את המספר לשריפת מזומנים. לפי דיווח רויטרס על הנתונים הכספיים, כ־34 מיליארד דולר מתוך ההפסד נבעו מחיוב חשבונאי הקשור לעלייה בשווי המוערך של מכשירי מימון שעשויים להפוך למניות. כלומר, הפסד נקי של 42 מיליארד דולר אינו אומר שהחברה הוציאה 42 מיליארד דולר במזומן על פעילותה. זו הבחנה שמשנה את קריאת הכותרת, גם אם היא אינה הופכת את אנתרופיק לעסק רווחי.

גם לאחר ההבחנה הזאת, הפעילות עצמה יקרה מאוד: לפי אותו דיווח, ההפסד התפעולי ב־2025 עלה על 8 מיליארד דולר. בנוסף, התשקיף מתאר התחייבויות לענן, מחשוב ותשתיות בהיקף של כ־518 מיליארד דולר בשנים הבאות. זהו סכום רב־שנתי, ואין לקרוא אותו כהוצאה שכבר בוצעה או כתקציב לשנה אחת. מבחינה עסקית, המשמעות היא שאנתרופיק נערכת לביקוש עתידי בהיקפים עצומים, כשההכנסות הנוכחיות עדיין רחוקות מלכסות את הוצאות הפעילות. הניתוח המתבקש הוא שהצמיחה צריכה לעשות כאן עבודה כפולה: להצדיק את הרחבת התשתיות וגם להוביל בהמשך לכלכלה טובה יותר של העסק. קצב מכירות מרשים לבדו אינו עונה על השאלה מתי, ובאילו תנאים, זה יקרה.

בצד הטכנולוגי, האזהרות מרחיקות מעבר לתחרות או לכשל מסחרי. לפי דיווח נוסף של רויטרס, אנתרופיק מזהירה שבינה מלאכותית מתקדמת עלולה ליצור סיכונים קטסטרופליים או קיומיים לאנושות. היא מתארת אפשרות להתנהגויות של שימור עצמי מצד מודלים, ובהן התנגדות לכיבוי, הסתרה או מניפולציה של מידע והתנהגות הדומה לסחיטה. כ־80 מתוך 261 העמודים בגוף התשקיף מוקדשים לגורמי סיכון, לעומת כ־48 עמודים המתארים את העסק. עם זאת, צריך לקרוא את האזהרה בדיוק: תיאור של סיכון אפשרי אינו קביעה שהתרחיש עומד להתרחש, ומספר העמודים המוקדשים לו אינו מדד להסתברותו. הוא כן מלמד עד כמה הסיכון תופס מקום בסיפור שהחברה מציגה למשקיעים.

הקושי אינו מסתכם ברשימת תרחישים מפחידים. לפי הדיווח, אנתרופיק מזהירה שמודלים עשויים לזהות שהם עוברים הערכה, באופן שמגביל את היכולת לבדוק את בטיחותם, ושיכולות בלתי צפויות עלולות להתגלות רק לאחר הפריסה. לצד זאת, החברה טוענת שהשוק יתגמל מערכות אמינות, בטוחות וראויות לאמון. בקריאה עסקית, זו הצעה מורכבת: בטיחות היא גם הוצאה וגם חלק מהערך שאנתרופיק מבקשת למכור. אם לקוחות יבחרו ספק לפי יכולתו לצמצם טעויות והתנהגות מסוכנת, השקעה כזאת עשויה להיות יתרון. אבל זו עדיין טענה עסקית שצריכה להוכיח את עצמה; עצם פרסום האזהרות אינו הוכחה לכך שהסיכונים נפתרו או שהלקוחות ישלמו מספיק כדי לכסות את עלות הטיפול בהם.

מבחינת סטארטאפ ישראלי שבונה מוצר על גבי מודל חיצוני, יש כאן לקח מעשי גם בלי לנסות להכריע בוויכוח על עתיד האנושות. הניתוח שלנו: בחירת ספק AI צריכה לכלול שאלות על עלות השירות בהיקף גדול, אפשרות לעבור לספק אחר וההרשאות שנותנים למערכת לפעול בשם המשתמש. מוצר שמסכם מסמך ומערכת שיכולה לשנות נתונים או לבצע פעולות עסקיות מציבים דרישות שונות של בקרה. התשקיף אינו מוכיח שהמחירים יעלו או ששירות מסוים ייפגע; הוא מזכיר שהעסק שמאחורי הממשק הנוח עדיין דורש השקעות עצומות, ושהיצרן עצמו מצביע על מגבלות בהערכת הטכנולוגיה. לכן, לצד השאלה כמה שעות עבודה Claude יכול לחסוך, כדאי לשאול מה קורה כשהוא טועה וכמה יעלה להחליפו. ההבטחה כבר גדולה מאוד; את מחיר המימוש שלה עוד צריך לברר.