ההבטחה היא יותר עבודה בפחות כסף ופחות טעויות. לעסקים, המבחן יהיה כמה עולה להגיע לתוצאה שאפשר באמת להשתמש בה.
🔗 קישור למוצר: GPT-6 Sol למפתחים
עוד מודל AI שמבטיח להיות חכם יותר כבר לא מספיק כדי לפתוח תקציב. מודל שמבטיח גם להקטין את החשבון וגם לחסוך תיקונים? זה כבר משפט שמעניין מנהלי פיתוח. OpenAI משיקה את GPT-6 Sol ואת GPT-6 Luna, שני מודלים חדשים שמצטרפים ל-Astra במשפחת GPT-6. כפי שמצוין בדיווח של TechCrunch על ההשקה, החברה מציגה אותם כקרובי משפחה של Astra. לפי OpenAI, הם אומנו בשיטות דומות, אבל מיועדים להציע שילוב נגיש יותר של יכולות ועלות. Astra נשאר הבחירה שהחברה ממליצה עליה למשימות התובעניות ביותר; החדשים אמורים להפוך יותר מהעבודה היומיומית לכדאית כלכלית.
המספרים המרכזיים מופיעים בהודעת ההשקה הרשמית: מחיר מיליון טוקני קלט ב-Sol יורד מ-4 דולרים בדור הקודם ל-2 דולרים, ומיליון טוקני פלט יורדים מ-20 ל-10 דולרים — חיתוך של 50% במחיר הבסיס של Sol למפתחים. ב-Luna, המחירים החדשים הם 10 סנט למיליון טוקני קלט ו-50 סנט למיליון טוקני פלט, לעומת 20 סנט ו-1.20 דולר בהתאמה. כלומר, בצד הפלט של Luna ההוזלה אפילו גדולה ממחצית. אלה מחירי שימוש בממשק התכנות, המחושב לפי יחידות הטקסט שהמודל מעבד ומייצר; אין להסיק מהם שמחיר מנוי חודשי לצרכן ירד באותו שיעור. ההבחנה הזאת חשובה למי שרואה כותרת על הוזלה ומיד מחפש אותה בחיוב של ChatGPT.
לצד המחיר, OpenAI טוענת ש-Sol החדש עושה בערך מחצית ממספר הטעויות העובדתיות של קודמו במבחן פנימי שלה. המבחן מבוסס על שיחות שעברו הסרת פרטים מזהים, שבהן משתמשים דיווחו בעבר על טעויות. החברה עצמה מבהירה שהמדגם הזה אינו מייצג שימוש טיפוסי. זו נקודה מהותית: שיפור במאגר שאלות שהכשילו מודלים הוא נתון שימושי, אבל אינו אומר שכל משתמש יקבל מעכשיו מחצית ממספר הטעויות בכל משימה. גם אין כאן מדידה שמבססת הבטחה מיוחדת לעברית. מבחינה עסקית, השאלה המעניינת היא אילו טעויות נעלמות: טעות בניסוח שאפשר לתקן בשנייה שונה מטעות בנתון שמחייבת לבדוק מחדש מסמך שלם. שיעור שגיאות כולל לבדו לא מספר את כל הסיפור הזה.
ההשקה ממשיכה מהלך שכבר החל בקיץ. בעדכון המחירים של 30 ביולי הורידה OpenAI את מחירי GPT-5.6 Luna ו-Terra, והציגה את היעילות הכלכלית כחלק מרכזי מהיצע המודלים שלה. באותו פרסום היא תיארה חלוקת עבודה אפשרית: מודל חזק מתכנן ופותר אי-ודאות, ומודל זול יותר מבצע שינויים מוגדרים ובדיקות. הפרשנות העסקית היא שהבחירה כבר אינה חייבת להיות מודל אחד לכל המוצר. אפשר להתאים את ההוצאה לשלב בעבודה. עבור חברה שמפתחת שירות מבוסס AI, זה פותח אפשרות לתמחור מדויק יותר של התפעול — אבל גם מוסיף החלטה הנדסית: מתי המודל הזול מספיק טוב, ומתי צריך להעביר את המשימה הלאה.
הנה המשמעות האפשרית לצוות ישראלי, כניתוח ולא כנתון מההשקה: אם מוצר מסכם פניות שירות בעברית, ממיין מסמכים או מסייע למפתחים, כדאי לחשב עלות לתוצאה תקינה, כולל זמן התיקון האנושי. למשל, הוזלה במחיר הטוקנים עשויה לאפשר להוסיף בדיקה נוספת לכל תשובה בלי להגדיל את תקציב המודל. מנגד, אם צריך להריץ שוב משימות שנכשלו או להקדיש יותר זמן לביקורת, חלק מהחיסכון נעלם. בדיקה מקומית מועילה תכלול פניות אמיתיות בעברית, ערבוב עברית ואנגלית, שמות מוצרים וניסוחים שהלקוחות משתמשים בהם בפועל. אפשר להשוות את המודלים על אותו אוסף משימות ולמדוד הצלחה, זמן תגובה ומספר התערבויות. כך מקבלים תשובה שרלוונטית למוצר, ולא רק ציון שנראה מצוין בשקף ההשקה.
גם למחירון עצמו יש אותיות קטנות שכדאי להכניס לחישוב. לפי דף המודל הרשמי של Sol, קלט שנקרא מהמטמון מתומחר ב-20 סנט למיליון טוקנים, אך כתיבה למטמון מחויבת בנפרד; בקשות עם יותר מ-272 אלף טוקני קלט מקבלות תמחור מוגדל לכל הבקשה. המשמעות היא ששני מוצרים המשתמשים באותו מודל יכולים להגיע לחשבונות שונים מאוד, בהתאם לאורך ההקשר ולאופן השימוש החוזר במידע. לכן ההשקה נותנת למפתחים סיבה טובה לפתוח מחדש את גיליון העלויות, לצד מבחני האיכות. ההבטחה של OpenAI ברורה: יותר יכולת בפחות כסף. ההוכחה תגיע כשהחשבונית תרד, בלי שרשימת התיקונים תתארך.
