כשה-AI קבע כמה מים ואוכל לקחת להר בגובה 4,300 מטר, אף אחד בקבוצה לא עצר לבדוק את זה מול המציאות.
שלושה גברים צעירים מרוסוויל שבקליפורניה יצאו בסוף השבוע לטפס אל פסגת הר שסטה - הר געש כבוי בגובה של כ-4,322 מטר בצפון המדינה, אחד ההרים הגבוהים והדרישתיים בקליפורניה. את התכנון הם לא עשו עם מדריך טיולים, פורום מטיילים או חבר מנוסה, אלא עם Gemini, הצ'אטבוט של גוגל. זו הייתה ההחלטה שכמעט עלתה להם ביוקר.
לפי משרד השריף של מחוז סיסקיו, שדיווח על האירוע כפי ש-TechCrunch תיעד, הקבוצה הקימה מחנה בסיס בגובה כ-2,560 מטר ביום שבת, ויצאה לפסגה בשלוש לפנות בוקר ביום ראשון - עם תיקי יום קלים בלבד. הם הגיעו לפסגה רק בשבע בערב, שעות ארוכות אחרי שעת החזרה המומלצת בצהריים, ונאלצו לרדת בחשכה מוחלטת. לדברי השריף, הפתק שקיבלו מ-Gemini הנחה אותם לקחת הרבה פחות אוכל ומים ממה שהקבוצה בפועל נזקקה לו, בטח כשטיפוס שתוכנן ל-8 שעות הפך לתלאה בת יומיים.
שעה לתוך הירידה, המטיילים כבר התקשרו למוקד השריף וביקשו כיוונים - אבל בסופו של דבר סטו מהמסלול לתוך קניון מד קריק, ערוץ תלול וטכני שממש לא מיועד לירידה מאולתרת בלילה. באחד השלבים אחד מחברי הקבוצה נפל ופצע את ברכו. הם נאלצו לבבואק (ללון בשטח פתוח, ללא ציוד מתאים) בערוץ עד שסיירי טיפוס של שירות היערות האמריקאי הגיעו אליהם בבוקר, טיפלו בהם רפואית והחזירו אותם בשלום לנקודת המוצא.
משרד השריף כינה את ההסתמכות על ה-AI "כשל קריטי" (critical misstep) - ניסוח חד במיוחד עבור הודעה רשמית של רשות אכיפה, שממחיש עד כמה התופעה הזו - טיולי הרים שמתוכננים כליל על ידי צ'אטבוט - כבר לא נדירה מספיק כדי להתעלם ממנה.
בישראל אין הרי שלג בגובה 4,300 מטר, אבל יש מכתש רמון, מסלולי אילת, נחלים בגולן ומצדה בקיץ - כל אלה מקומות שבהם תכנון לא נכון של כמות מים או שעות יציאה כבר גבה מחיר, גם בלי מעורבות של AI. הפיתוי להזין "תכנן לי טיול להר X, כמה מים אני צריך" לתוך צ'אטבוט ולקבל תשובה בטוחה-לכאורה ומדויקת-לכאורה קיים בדיוק באותה מידה כאן. הבעיה המרכזית היא לא שה-AI "שיקר" במתכוון, אלא שהוא ענה בביטחון מלא על שאלה שדורשת הכרה בפועל של השטח, מזג האוויר של אותו יום ורמת הכושר של כל משתתף - משתנים שצ'אטבוט טקסט פשוט לא יכול לדעת, אבל גם לא טורח לציין שהוא לא יודע.
גוגל טרם פרסמה תגובה רשמית לאירוע. עד שתעשה זאת, הסיפור הזה נשאר תזכורת פשוטה וזולה בהרבה מהתזכורת שהמטיילים עצמם קיבלו בשטח: AI יכול לעזור לארוז תרמיל, אבל הוא לא תחליף לידע מקומי, למפת שטח מעודכנת ולשעון שמזכיר לך מתי הזמן לפנות ולרדת - לפני שהחושך עושה את זה בשבילך.
