סטארטאפ שגייס תשעה מיליון דולר כדי להבדיל בין בן אדם למכונה מגלה שהגבול ביניהם כבר לא קיים
🔗 קישור למוצר: Pangram
יש הבדל בין לשאול "האם זה נכתב על ידי AI" לבין השאלה שבאמת מטרידה היום את האינטרנט: מי בכלל אחראי למה שכתוב כאן. הסטארטאפ פנגרם (Pangram Labs), שהוקם ב-2023 על ידי שני חוקרים לשעבר מסטנפורד, מקס ספרו וברדלי אמי, בנה כלי שמנסה לענות על זה - וגייס בגללו 9 מיליון דולר נוספים בהובלת Menlo Ventures, מה שמעמיד את סך הגיוסים שלו על כ-13 מיליון דולר.
ספרו, שמככב בסרטון TechCrunch שממנו מגיעה הכתבה הזו, טוען שהמסגור הפופולרי של "אמיתי מול מזויף" פשוט מפספס את התמונה. תוכן AI כבר לא מגיע ארוז יפה כטקסט שלם שמכונה כתבה מא' עד ת'. הוא מגיע כטיוטת AI שעבר עליה בן אדם, כמכתב מקורי שעבר "הומניזציה" בכלי ייעודי כדי לעקוף גלאים, וגם - וזו הבעיה שהכי מטרידה חברות - כתשובה לבקשת עבודה, ביקורת מוצר או תביעת ביטוח שאף אחד לא ציפה שתיבדק מולה בכלל.
פנגרם משווקת את עצמה כמדויקת מהמתחרות, עם טענה לשיעור גילוי של מעל 99.98% ושיעור התרעות שווא של אחד ל-10,000 - נתונים שלטענת החברה אושרו במחקרים אקדמיים באוניברסיטאות שיקגו ומרילנד. אבל בדיקות חיצוניות אחרות מצאו פערים לא קטנים בין השיווק למציאות, עם שיעורי טעות שנעו בין 0.5% ל-2% בתלות בסוג הטקסט. במספרים גדולים - מיליוני מסמכים, תלמידים, כתבים - גם אחוז בודד של טעות מתורגם לאלפי אנשים חפים מפשע שמסומנים כרמאים.
אחד המקרים שממחישים את זה בצורה הכי כואבת נגע לעיתונאית ונית' פייר טיילור לורנץ, שהואשמה על בסיס תוצאה של פנגרם בשימוש ב-AI בכתבה - ורק בדיקה חוזרת של ספרו עצמו גילתה שמדובר בהתרעת שווא. זו בדיוק הסכנה שבהפיכת כלי סטטיסטי-הסתברותי לפסק דין סופי: מוסדות חינוך, מערכות עיתונאיות ופלטפורמות מתחילות להתייחס לציון של גלאי כאמת מוחלטת, במקום כאינדיקציה שדורשת שיקול דעת אנושי.
למרות הביקורת, הביקוש רק גדל. פנגרם כבר משתפת פעולה עם Substack, שמשתמשת בטכנולוגיה שלה כדי להראות לקוראים אילו כותבים בפלטפורמה נעזרים ב-AI בניוזלטרים שלהם, והחברה עכשיו מרחיבה את המוצר גם לזיהוי תמונות שנוצרו במחולל - לא רק טקסט. זה מסמן לאן כל השוק הזה נע: לא לעולם שבו לגלאי אחד יש תשובה חד-משמעית, אלא לעולם שבו כל פלטפורמה תצטרך את שכבת האמון שלה, ותקווה שהיא טועה פחות ממה שהיא מבטיחה.
