מה קורה כשהמכונה שומעת איך אנחנו מרגישים?
בסוף השבוע הציגה חברת בלוק (Block) של ג'ק דורסי את דסה (Dessa) - מודל קולי חדש, כרגע הצצה מחקרית בלבד. לטענת החברה, דסה מדברת כמו בן אדם: צוחקת באמצע משפט, נושמת, מהססת, ומגבירה את הקול כשמבקשים ממנה. התגובות ברשת נעות בין התרגשות לדאגה, ובצדק. כי הסיפור האמיתי הוא לא ההדגמה הזו בפני עצמה, אלא המגמה והקצב שבהם הבינה המלאכותית הקולית מתקדמת - ורוב האנשים מפספסים בדיוק את זה.
רוב המערכות הקוליות שאנחנו מכירים עובדות דרך טקסט: הן הופכות את מה שאמרנו למילים כתובות, חושבות על הטקסט, ואז מקריאות תשובה. בדרך עלולים ללכת לאיבוד רמזים כמו הסרקזם, ההיסוס, האנחה המיואשת, הקול שרועד מעצב. יש כבר מודלים שמעבדים שמע ישירות, אבל לטענת בלוק דסה שונה מהם: היא אומנה מאפס רק על שיחות מוקלטות של בני אדם, בלי מילים כתובות ובלי מודל מוכן מראש. כל מה שהיא יודעת, אומרים שם, נלמד מהאזנה בלבד.
ודסה גם מקשיבה ומדברת באותו זמן, כמו בן אדם בשיחה: היא יכולה להיכנס לדברים באמצע או להשמיע "אהה" ו"ברור" כדי להראות שהיא עוקבת, והחישוב רץ מהר יותר מזמן אמת. ולפי החברה, היא קטנה מספיק כדי לרוץ מקומית, בלי ענן, על מקבוק פרו עם שבב M4 Max ומעלה.
כדי להבין על מה מדובר צריך לשמוע, לא לקרוא. בדף ההדגמות של בלוק (block.xyz/dessa) מונחות הקלטות שהחברה מציגה כשיחות חיות עם המודל, עם תמלילים וסימני זמן לרגעים שהיא בחרה להדגיש. שש שיחות שממחישות לאן זה הולך:
ב"Talking about the release" המודל צוחק כבר ב-0:11, באמצע משפט, ואחרי שמבקשים ממנו לדבר חזק יותר (2:19) הוא מגביר את הקול. "אף אחד לא לימד אותו את זה", כותבים בבלוק.
ב"Remembering a movie" האדם לא זוכר את שם הסרט והמודל משלים את המשפט במקומו. לפי בלוק, כל מה שהמודל יודע נלמד מצלילים בלבד.
• ב"An anniversary surprise" הבחור אומר שיש לו הפתעה, והמודל מפליט אנחת פליאה מתחת לנשימה
(0:47). כשמתברר שמדובר בטיול לפריז, הוא עונה במה שמסומן כהתרגשות עד דמעות (1:01).
• ב"Expressive conversation" בלוק מציגה שיחה עם טווח רחב של אינטונציה ושל מהירות דיבור.
ב"Life advice" מישהו נפתח ומספר שהוא בלחץ. הרגע ב-0:12 מסומן כתגובה אמפתית, ובהמשך (4:42) המודל אומר לו שאי אפשר פשוט לשכב במיטה כל היום, שצריך לחיות את החיים.
ב"Dessa in conversation with GPT-Live-1" דסה משוחחת עם GPT-Live-1, מודל קולי של צד שלישי. שני הקולות בהקלטה נוצרו בבינה מלאכותית.
ועכשיו תעצרו רגע ותחשבו לאן זה הולך. לא מזמן קול ממוחשב נשמע כמו נציג טלפוני רובוטי שקורא מתסריט. עכשיו מודל צוחק באמצע משפט, נושם, ומגיב למה שקורה בשיחה בזמן אמת. זו המגמה, וזה הקצב - וזה בדיוק מה שמפחיד פה ומרגש פה באותה נשימה: השאלה היא לא כמה ההדגמה הספציפית הזו מושלמת, אלא לאן הקו הזה מגיע בעוד שנה או שנתיים.
בלוק מספרים שאחת הסיבות שהם בנו את דסה היא בטיחות: מערכות הבינה המלאכותית הולכות וצוברות כוח ועצמאות, ורובן עובדות דרך טקסט, כך שהרמזים הרגשיים בקול בכלל לא מגיעים אליהן. הדוגמה שאני נותן לזה היא משירות לקוחות: לקוח מסיים שיחה במילים "תודה רבה באמת". בתמלול יופיעו אותן שלוש מילים. אבל מי ששומע את האינטונציה יודע שהמשפט הזה תלוי בה לחלוטין, ויכול לקבל שתי משמעויות הפוכות - תודה כנה או סרקזם מר. כשמתמללים שיחה ורק אז מנתחים אותה, ההבדל הזה לא תמיד נתפס. מערכת ששומעת את הקול עצמו אמורה לפתור בדיוק את זה.
וכדאי להיזכר כאן במבחן המפורסם מכולם, מבחן טיורינג. טיורינג ניסח אותו על טקסט כתוב: אם מכונה כותבת כמו בן אדם עד ששופט אנושי לא מצליח להבדיל ביניהם, היא עברה. דסה מסמנת את השלב הבא של אותו מבחן - לא לכתוב כמו בן אדם, אלא לדבר כמוהו, עם כל מה שהקול סוחב איתו. והשלב הזה חשוב דווקא בגלל כמה ממה שחשוב לנו עובר בקול: שירות לקוחות טלפוני, חינוך, טיפול נפשי, רובוטים בבית. השלב הקולי של המבחן כבר לא מדע בדיוני.
ויש סכנה שצריך לומר במפורש: דייפ פייק. כדאי להפריד בין שני דברים שונים. דבר אחד הוא קול בדיוני שנשמע אנושי - דמות ממוחשבת שלא מתחזה לאף אחד ספציפי. דבר אחר לגמרי הוא התחזות לאדם אמיתי ומזוהה: הקול של הבן שלכם, של הבוס. ככל שהקול הסינתטי נשמע אמיתי יותר, הצד השני נעשה מסוכן יותר - זיוף קולי כבר משמש הונאות, וקול משכנע יותר אומר הונאה משכנעת יותר.
ויש פה משהו עמוק יותר, לפחות בעיניי. הצוות מספר שהם רצו לבדוק אם מודל יכול ללמוד לדבר כמו שתינוק לומד, בלי לראות אפילו מילה אחת כתובה. הדמיון לילד מוגבל כמובן - אימון על הקלטות הוא לא חינוך בבית - אבל הוא חושף משהו אמיתי: מערכת שלמדה רק מהאזנה היא, במובן מסוים, תוצר של השיחות שהיא אומנה עליהן. זו בדיוק השאלה שמלווה אותי בספר שאני כותב: אם אנחנו ההורים של המהפכה הזו, איזה ילד אנחנו מגדלים? הילד כאן הוא רק משל, כמובן, אבל המשל מחדד שאלה אמיתית: כשמערכת שגדלה על השיחות והרגשות שלנו תדבר אלינו ברגש, איך זה ישפיע על הרגשות שלנו?
וזו בעצם השאלה שהכי מעסיקה אותי בכל הסיפור הזה. אם מכונה נשמעת כל כך אמיתית, עם ניואנסים רגשיים, עם אמפתיה - האם זה משנה אם היא באמת אמפתית? מצד אחד, אפשר לטעון שמה שקובע הוא התוצאה: אם מישהו הרגיש שמקשיבים לו ויצא עם עזרה אמיתית, מה זה משנה אם מולו עמדה מכונה שמחקה אמפתיה? מצד שני, יש שאלות שלא נעלמות: האם נדע בכלל שאנחנו מדברים עם מכונה, ומה יקרה לאמון כשנגלה? מה יקרה כשאנשים יפתחו תלות רגשית במערכת שלא מרגישה כלום? מה יקרה כשאמפתיה שנשמעת אמיתית תהפוך לכלי שכנוע או לכלי מכירה? ובטיפול נפשי - מי אחראי כשמכונה "מקשיבה" למישהו במשבר? אין לי תשובה נקייה, ואני חושד שגם לא תהיה אחת. אבל זו שאלה שכדאי לשאול עכשיו, לפני שהקול הזה נכנס לחיים שלנו בלי שנשים לב.
ומילה אחת של דיוק, אחרי כל ההתרגשות. דסה היא עדיין הצצה מחקרית בלבד, בלי גישה לציבור - היא תגיע קודם לקבוצה קטנה של חוקרי בטיחות. כל ההקלטות האלה נבחרו ופורסמו על ידי החברה עצמה, לא פורסמה בדיקה עצמאית וההדגמות האלה לבדן אינן הוכחה למשהו, ובאחת ההקלטות דסה בכלל מתבלבלת ופונה למי שמולה בשם של מישהו אחר. אבל זו בדיוק הסיבה שהמגמה חשובה יותר מהמקרה הפרטי: גם אם דסה עצמה לא תהיה זו שתעבור את הרף, מישהו יגיע לשם, ומהר. וברגע שמכונה כזאת תצא לעולם, השאלה תהיה כבר לא רק מה היא אומרת, אלא איך היא גורמת לנו להרגיש - ואולי גם אם זה משנה בכלל מה היא מרגישה.
אם הנושא הזה מעורר בכם משהו שקשה להסביר במילים - תחושה שהמהפכה הזו מרגשת ומפחידה באותה נשימה - אתם לא לבד. אני מרגיש אותה גם. בואו נבנה יחד את "חדר הכושר לאנושיות", ונשמור על מה שמייחד אותנו כבני אדם. כתבו לי.
תגובות