המהלך שהדהים את עולם הגו חוזר למרכז הוויכוח על בינה מלאכותית — והפעם השאלה היא מה צריך לבדוק לפני שנותנים למודל אחריות על החלטות עסקיות.
לפני עשור, אבן אחת על לוח גו גרמה לאנשים לפקפק בשיקול הדעת של מחשב — ואז בשיקול הדעת של עצמם. במרץ 2016, במשחק השני מול לי סדול בסיאול, AlphaGo הניחה אבן בשורה החמישית במהלך שנראה בתחילה משונה להפליא. מהלך 37 הפך מאז לסמל של יכולת מכונה למצוא פתרון שבני אדם לא ציפו לו. לפי התיאור הרשמי של DeepMind, הוא סייע לתוכנה לנצח באותו משחק; הסדרה הסתיימה בניצחונה 4:1. עכשיו תור גרפל, שהיה שותף לפיתוח המערכת, חוזר לרגע ההוא כדי להעלות שאלה פחות נוחה: האם ההתפעלות שלנו מצ'אטבוט שמסביר את עצמו נשענת על יכולת דומה, או שאנחנו מעניקים להסבר יותר מדי קרדיט?
הטענה עומדת במרכז מאמרו ב־MIT Technology Review, שפורסם ב־2 באוקטובר. את עיקריה גרפל מפרט גם בפוסט שפרסם בעקבות המאמר: AlphaGo יכלה לבחון התפתחויות אפשריות במשחק ולבדוק את ההערכות שלה מול ההשלכות. מודלי השפה, לטענתו, עדיין חסרים תהליך הסקה נפרד שעוקב אחר הידוע, אי־הוודאות והראיות, ומברר אם באמת הושגה התקדמות. הוא מכיר בשיפור שהושג באמצעות זמן עיבוד נוסף, אבל מדגיש ששרשרת הסברים ארוכה אינה כשלעצמה הוכחה לתהליך הסקה אמין. לדבריו, הרצון לפתח גישה אחרת הוא גם הסיבה שעזב לאחרונה את Google DeepMind. זו עמדה של חוקר מתוך התחום, ולא תוצאה של ניסוי חדש שמכריע לבדו את השאלה.
הרקע המחקרי מסביר למה הוויכוח הזה לא נעלם. ביוני 2025 פרסמו חוקרי אפל את המחקר The Illusion of Thinking, שבחן מודלים באמצעות חידות שאפשר להעלות בהדרגה את מורכבותן, תוך שמירה על המבנה הלוגי שלהן. החוקרים רצו לבדוק מעבר לציון הסופי גם את רצפי ההסברים שהמודלים מייצרים. בניסויים שלהם הופיעו שלושה מצבים: במשימות פשוטות היה לעיתים יתרון למודלים רגילים; ברמת קושי בינונית, העיבוד הנוסף של מודלי ההסקה העניק יתרון; וברמת קושי גבוהה, שתי הקבוצות קרסו. ממצא מסקרן נוסף היה שהיקף העיבוד עלה עם הקושי עד לנקודה מסוימת, ואז ירד, אף שלפי החוקרים נותר תקציב טוקנים מספיק. זה ממצא משמעותי על המערכות שנבדקו בתנאים האלה. הוא עדיין אינו תעודת פטירה לכל יכולת הסקה של כל מודל, ובוודאי אינו מדידה של כל המערכות הזמינות באוקטובר 2026.
גם אופן הבדיקה עצמו ספג ביקורת. מאמר תגובה שפורסם ביוני 2025 טען שחלק מהכישלונות קשורים למגבלות אורך התשובה, ושבחלק מחידות חציית הנהר נכללו מצבים שאינם פתירים תחת התנאים הנתונים. אלה טענות נגד תכנון הניסוי, ולא הוכחה נגדית לכך שהמודלים חושבים כמו בני אדם. תמונה נוספת הגיעה ממחקר שפורסם ב־arXiv ביולי 2025: כשהחוקרים הוסיפו למודלים סביבת הרצת Python ומרחב עבודה לרישום צעדי ביניים, מודלי ההסקה שנבדקו גברו על המקבילים הרגילים בכל רמות הקושי שנבחנו. המשמעות הזהירה היא שיכולת המערכת תלויה גם בכלים ובצורת המשימה. מבחן שמחייב לכתוב רצף ארוך של מהלכים אינו שקול בהכרח למבחן שמאפשר לייצר תוכנית ולבצע אותה.
כאן נמצאת, בניתוח שלנו, הנקודה המעשית לקורא הישראלי. חברה שבוחנת עוזר AI לניתוח תקציב, לתכנון מלאי או לבדיקת מסמכים לא חייבת להכריע תחילה מהי חשיבה. היא כן צריכה להגדיר מה ייחשב לתוצאה נכונה, ואיך תיבדק. נניח שמודל מציע תוכנית רכש ומצרף הסבר מסודר: האם הוא שמר על מגבלת התקציב, חישב נכון את הכמויות וזיהה שהנתונים חסרים? אלה שאלות שאפשר לבדוק בנפרד מהרהיטות שלו. בדוגמה כזאת, חיבור למחשבון או לקוד בדיקה עשוי להיות משמעותי יותר מעוד פסקה שבה המודל מסביר מדוע הוא בטוח. מבחינה כלכלית, גם זמן העבודה שנדרש לאימות ולתיקון צריך להיכנס לחישוב החיסכון. זהו שיקול לתכנון הטמעה, ולא נתון על תשואה שנמדדה כאן.
החיבור בין AlphaGo לצ'אטבוטים גם מזכיר הבדל שקל לפספס: בגו יש לוח, כללים ותוצאת משחק מוגדרת. בהחלטה עסקית יכולים להיות נתונים חלקיים, מטרות מתחרות והנחות שמתבררות כשגויות. לכן ההצלחה של מערכת משחקים אינה הבטחה לפתרון כל בעיה פתוחה, אבל היא כן מספקת כיוון מחשבה: להציע אפשרויות, לבדוק אותן ולשנות מסקנה כשהבדיקה דורשת זאת. לעסק חשוב לדעת כיצד אפשר לאמת את התוצאה, גם כשהדיון בשאלה אם המודל באמת חושב נשאר פתוח. האתגר שהגרפל מציב הוא לבנות תהליך שאפשר לבקר, ולא להסתפק בתחושת אמון שמייצרת שיחה טובה. המהלך הבא של הבינה המלאכותית יצטרך לעמוד ביותר ממבחן הרושם.
