צריך רק כמה תמונות וכשתי דקות של הקלטה כדי לבנות כפיל דיגיטלי שעונה לקוראים בזמן אמת. השאלה היא מה עושים עם זה אחר כך.
🔗 קישור למוצר: Synthesia Roleplay Sessions
כתבות על בינה מלאכותית מתארות בדרך כלל מוצר של מישהו אחר. הפעם ב-TechCrunch הפכו את הכיוון: אחד הכותבים קיבל אווטאר דיגיטלי אינטראקטיבי של עצמו, שקוראים יכולים לדבר איתו ממש. לא מדובר בסרטון מוקלט מראש. זו דמות שמקשיבה, עונה ומגיבה בזמן אמת. הנושא שהוא מדבר עליו מתאים באופן כמעט אירוני לניסוי: למה סטארטאפים שמגובים בהון סיכון נוטים יותר להונאות. הכפיל מתמחה בהונאות, והמסקנה שעולה מהכתבה היא "רגשות מעורבים".
את האווטאר בנתה Synthesia, חברת וידאו ה-AI הבריטית, וזו הפעם הראשונה שהיא יצרה אווטאר של עיתונאי. התהליך קצר באופן מטריד: צולמו תמונות במשרדי החברה, והוקלטו בערך שתי דקות של קול. זה כל מה שנדרש. מתחת לפני השטח עובדת שרשרת של כמה מודלים: זיהוי דיבור שהופך את השאלה של הקורא לטקסט, מודל שפה שמנסח תשובה, סינתזת קול שמקריאה אותה בקול של המקור, ומודל וידאו שמנפיש את התמונה בזמן שהדמות מדברת. לאווטאר הוגדר גם גבול ברור: הוא עונה רק על שאלות שקשורות לכתבה אחת.
הכתבה שעליה הוא אומן פורסמה ב-TechCrunch ביולי, והיא מבוססת על מחקר של אימפריאל קולג' הלונדוני ושל בית הספר למנהל עסקים emlyon הצרפתי. החוקרים בנו מאגר של מייסדים וחברות טכנולוגיה שהועמדו לדין בגין הונאת ניירות ערך, אזרחית או פלילית, על ידי ה-SEC ומשרד המשפטים האמריקאי בין 2000 ל-2023. לפי הממצאים, חברות שגייסו הון סיכון הואשמו בהונאה יותר מחברות שלא גייסו. סטארטאפים שהוקמו בשווקים רותחים, עם פיקוח חלש ובדיקת נאותות רופפת, היו בסיכוי גבוה ב-19% להסתבך בהונאה בהמשך. ובחברות שבהן המייסדים שולטים בדירקטוריון, הסיכוי להונאה היה כפול. החוקרים מתארים תהליך הדרגתי שהם קוראים לו "façading": קודם מגזימים בתיאור המציאות, אחר כך מייצרים ראיות מזויפות כדי לגבות את ההגזמה, ובסוף מגיעים לשלב העמוק. ההונאה נבנית מהרבה החלטות קטנות, ולא מרגע דרמטי אחד.
גם המוצר עצמו לא נולד בשביל עיתונאים. הוא מבוסס על Roleplay Sessions, שירות ש-Synthesia השיקה ביולי ללקוחות ארגוניים. עובדים מתרגלים בו שיחות קשות, כמו שיחת מכירה קרה, לקוח עצבני או שיחת משוב עם עובד, מול אווטאר שיודע גם להתווכח. בסוף מאמן AI נותן להם ציון ומשוב. החברה אומרת שבהמשך השנה ייכנסו גם תרחישים של ראיונות עבודה וסינון מועמדים, ושהכוונה היא להגיע בעתיד לעסקים קטנים, לבתי ספר ולמשתמשים פרטיים ככל שהמחירים ירדו. במילים אחרות, מה שהוצג כאן כגימיק עיתונאי הוא הדגמה של מוצר שמכוון לשוק רחב הרבה יותר.
ניתוח שלנו: לקורא הישראלי הסיפור הזה מוכר. D-ID, חברה ישראלית, בונה כבר שנים טכנולוגיה של פנים מדברות ואווטארים לשיחה, והתחום כולו עבר ממצגות תאגידיות משעממות לממשק שיחה של ממש. אבל הסיפור מעניין בגלל המתח שהוא חושף, יותר מאשר בגלל הטכנולוגיה. אם שתי דקות של קול וכמה תמונות מספיקות כדי לייצר כפיל משכנע שמדבר בשמך, אותה טכנולוגיה עצמה משמשת גם נוכלים שמתחזים למנכ"לים, לבני משפחה ולאנשי ציבור. בישראל, שבה הונאות טלפוניות והתחזויות ברשתות החברתיות הן כבר מכת מדינה, הגבול בין "כפיל מורשה" לבין "זיוף עמוק" הוא בעיקר שאלה של מי לחץ על הכפתור. גם השאלות העסקיות לא ברורות: של מי הכפיל? מה קורה כשהוא טועה בשמך? והאם עיתונאי, מרצה או יועץ ירצו שגרסה שלהם תענה לשאלות בזמן שהם עצמם ישנים?
לזכות הניסוי של TechCrunch צריך לומר שהוא נעשה בשקיפות מלאה: הכפיל מוצג כאווטאר, הוא מוגבל לנושא אחד ולא מתחזה לאף אחד. זה בערך המצב האידיאלי, והוא עדיין השאיר את מי שעומד מאחוריו עם תחושה לא נוחה. נראה שבקרוב נצטרך להחליט לא רק אם לבנות לעצמנו שיבוט, אלא גם איך נוכיח שהשיבוטים של אחרים הם באמת שלהם.
