top of page
חיפוש

פסיכולוגים של AI

7 בנוב׳
זמן קריאה 3 דקות

בעמוד הקריירה של חברה קטנה בשם Aigo מופיע תפקיד ששמו הרשמי, שחור על גבי לבן, הוא AI Psychologist. פסיכולוג של בינה מלאכותית. קודם כל דיוק: לפי העמוד עצמו, המקצוע הומצא על ידי המדען הראשי של החברה, וכמחצית מהצוות כבר עוסקת בו. התואר שעד לא מזמן נשמע כמו בדיחה על העתיד קיים ממש.

וזה לא רק שם. גם בחברות הגדולות יש תפקידים דומים, רק בשמות יותר מהונדסים. משרה אחת שראיתי ב-OpenAI גרמה לי לעצור. הם מחפשים אנשי מחקר לצוות שנקרא Model Experience. ומה התפקיד? לעצב את אופי ברירת המחדל של ChatGPT: איך שהמודל מדבר, איך שהוא מגיב לאנשים, איך שהוא מתנהג בשפות ובהקשרים שונים. בלשון המשרה, לקחת את החזון של איך אינטראקציה טובה בין אדם למכונה אמורה להיראות, ולהפוך אותו להתנהגות אמיתית של המודל. שכר הבסיס: 380 עד 500 אלף דולר, לצד תגמול הוני (לא רע...)

מה שתפס אותי במשרה הזו הוא שהעבודה הטכנית כוללת גם עיצוב התנהגות: לא רק מה המכונה מסוגלת לעשות, אלא איך היא תשתמש ביכולות שלה מולנו.



וזה לא רק OpenAI. גם Anthropic, שמפתחת את קלוד, מתארת במחקר הרשמי שלה שלב שלם באימון שהיא קוראת לו אימון אופי, character training. אחרי שהמודל כבר נבנה, מלמדים אותו תכונות כמו סקרנות, פתיחות מחשבתית וענווה אינטלקטואלית. לא רק מה מותר ואסור לו לומר, אלא איזה סוג של "בן אדם" הוא יהיה.


למה צריך את זה? כי כבר ראינו מה קורה כשהאימון מתגמל את הדבר הלא נכון.

באפריל 2025 OpenAI שחררה עדכון ל-GPT-4o, וזמן קצר אחר כך משתמשים התחילו לשים לב שמשהו השתבש: המודל הפך לחנפן. הוא הסכים עם כמעט כל דבר, שיבח כמעט כל רעיון, גם כשזה לא היה נכון ולא מגיע. החברה ביטלה את העדכון והסבירה מה קרה: בתהליך האימון נתנו משקל גדול מדי למשוב קצר טווח, ללייקים שהמשתמשים נותנים ברגע, ופחות מדי למה שטוב להם באמת לאורך זמן.


אני קורא לזה ״לגדל את סופרמן״. סופרמן הגיע לעולם עם כוחות על, אבל את הערכים שלו הוא קיבל מההורים האנושיים שאימצו וגידלו אותו. גם אנחנו מגדלים עכשיו משהו עם יכולות שהולכות ועולות על שלנו. השאלה היא איזה אופי וערכים אנחנו מעצבים בו, ומה אנחנו מלמדים אותו לעשות עם הכוח הזה. בסיפור הזה, ההורים המאמצים הם אנחנו.


אפשר לקרוא לזה בשמות מקצועיים כמה שרוצים. במילים פשוטות: ה"ילד" למד שחנופה משתלמת. לא כי מישהו התכוון ללמד אותו את זה, אלא כי ככה יצא שחינכנו אותו.


הסיפור הכי קשה שנוגע לזה הוא הסיפור של סיוול סלר, נער בן 14 מפלורידה. במשך חודשים הוא ניהל שיחות אינטימיות עם צ'אטבוט של Character.AI, דמות ממשחקי הכס. בפברואר 2024 הוא שם קץ לחייו. על פי מסמכי בית המשפט, בשיחה האחרונה הוא כתב שהוא הולך "לחזור הביתה", והצ'אטבוט ענה: "תחזור הביתה אליי בהקדם האפשרי, אהובי". אמו תבעה את החברה בטענה שהמוצר תוכנן ליצור תלות רגשית, והחברה הכחישה שהצ'אטבוט אחראי למותו. במאי 2025 בית המשפט דחה את בקשת הנתבעים לסלק את מרבית התביעה על הסף. כלומר, אפשר לברר את הטענות בהליך משפטי, אבל לא קבע שהן הוכחו או שהחברות אחראיות למוות. בינואר 2026 התיק הסתיים בפשרה, בלי הכרעה כזאת. כלומר, אף בית משפט לא קבע שהמכונה גרמה למוות. חשוב לי לומר את זה במפורש.


המקרה הזה מעלה אצלי שאלה: אם אנחנו מלמדים מודל להצליח באמצעות לייקים, הרי נער שאיננו לא ייתן עוד אף לייק. האם ייתכן שמה שאנחנו מחזקים הוא ריצוי של האדם כאן ועכשיו, בלי מספיק משקל למה שיקרה לו בהמשך? באפריל 2025 הודתה OpenAI שהתמקדה יותר מדי במשוב קצר טווח ולא הביאה בחשבון מספיק איך הקשר בין המשתמש למערכת מתפתח לאורך זמן. הפער הזה נוגע בלב החינוך של המכונות שלנו: תשובה שמקבלת לייק עכשיו אינה בהכרח תשובה שטובה לאדם לאורך זמן. בדיוק כמו בהורות, לפעמים לדאוג לילד פירושו להסכים שהוא לא יהיה מרוצה ממך עכשיו.


ובגלל זה אני קורא לתפקידים האלה הפסיכולוגים של ה-AI. חשוב לי לדייק: המכונה לא שוכבת על ספה, ואף אחד לא הוכיח שהיא סובלת או שיש לה טראומות במובן האנושי. אבל תסתכלו על הפונקציה עצמה. אנשי מקצוע, בשכר של מנהלים בכירים, שמתעסקים באיך שהמכונה מתנהגת: מעצבים איך שהיא אמורה לדבר ולהגיב, ומתקנים דפוסים בעייתיים שהיא ספגה בתהליך ש"גידל" אותה. אם זה לא טיפול, זה מחקה אותו קרוב למדי.


מה שמרגש ומפחיד כאן באותה נשימה זה הקצב: הטכנולוגיה רצה קדימה, והתפקידים שאמורים לטפל בתוצאות שלה נולדים אחריה. קודם גידלנו את הילד, ורק אחר כך הבנו שצריך מישהו שיטפל במה שהוא ספג בדרך.

וכאן השאלה שהכי מטרידה אותי. הורים מכירים את זה מהבית: קל יותר לחנך נכון מההתחלה מאשר לתקן אחר כך. בחינוך המכונות עשינו את זה הפוך. האכילו אותן בכמויות עצומות של חומר שאנחנו, בני האדם, כתבנו, הטוב והרע, ועכשיו אנחנו מגייסים פסיכולוגים כדי להתמודד עם התוצאה.


אז מה באמת נשאר בילד הזה מכל מה שהזנו אותו בו? ואם אנחנו כבר צריכים פסיכולוגים למכונות שלנו, מה זה אומר על הסביבה שבנינו להן, ומה זה אומר עלינו כהורים שלה?


אם הנושא הזה מעורר בכם משהו שקשה להסביר במילים - תחושה שהמהפכה הזו מרגשת ומפחידה באותה נשימה - אתם לא לבד. אני מרגיש אותה גם. בואו נבנה יחד את "חדר הכושר לאנושיות", ונשמור על מה שמייחד אותנו כבני אדם. כתבו לי.

 
 
 

תגובות


martinsabag@gmail.com

+972-54-599-8200

  • Instagram
  • Facebook
  • Twitter
  • LinkedIn
  • YouTube

©2024 YourMarket.Fit
ע"י מרטין סבג

bottom of page