הפקודה הכי מסוכנת שתתנו ל-AI שלכם השנה: 'תגרום ללקוח הזה להיות מרוצה'
במשך שלוש השנים האחרונות התרגלנו לעבוד עם הבינה המלאכותית כמו עם מתמחה מבריק אך חסר ניסיון, שזקוק להוראות הפעלה מדויקות. היינו המפקדים שחילקו משימות נקודתיות:
"כתוב לי מייל בנוסח X"
"תכין מצגת על בסיס הנתונים האלה"
"נתח את המתחרים לפי הפרמטרים הבאים"
"שלח לכל הלקוחות ברכת חג עם נגיעה אישית, כדי שירגישו שכתבתי להם בעצמי"
הסוכן קיבל משימה (Task), פירק אותה לצעדים מתוכנתים וביצע אותה בתוך גבולות גזרה צפופים. אנחנו הגדרנו את הדרך, את הכלים, ולעיתים קרובות גם את הניסוח המדויק.
ההכרזה על GPT-6 Astra מסמנת את סיומו של העידן הזה. זה אינו עוד שיפור הדרגתי במהירות או בדיוק. זו קפיצת מדרגה לעולם של עצמאות תפעולית, שבו אנחנו עוברים מניהול משימות להגדרת יעדים (Objectives).
ההבדל מתחדד כשבוחנים ניסוי מדהים שנעשה עם המודל: פשוט נתנו ל-Astra גישה חופשית לכל המידע האישי והמקצועי - עשרות אלפי אימיילים, יומנים, מאגרי אנשי קשר, שנים של כתבים ומשימות פתוחות. לא נתנו לו שום הוראה, שום מתכון, שום פרומפט. כלום. נאדה. עזבו אותו לבד לחמישה ימים שלמים.
ומה קרה? הוא לבד החליט מה צריך לעשות.
זה הטירוף האמיתי. הסוכן ניתח את הבלגן, בחר את האסטרטגיה בעצמו, הוריד והתקין תוכנות וסביבות עבודה ישירות על המחשב, בדק אותן, פתר תקלות תוך כדי תנועה, וחזר כעבור חמישה ימים עם מערכת ניהול ידע אישית ושלמה, פעילה ועובדת.
אנחנו נכנסים רשמית לעידן ה-Post-Prompt. וכאן בדיוק מתחילה השאלה הפילוסופית והניהולית שמלווה את הספר שאני עובד עליו, "לגדל את סופרמן": מה קורה כשהישות הטכנולוגית שפועלת מולנו כבר אינה כלי צייתן, אלא בעלת מרחב החלטה, כוח פעולה ושיקול דעת עצמאי?
המעבר המסוכן: מי מציב לסופרמן גבולות מוסריים?
משימה היא הוראה מוגדרת: "בצע פעולה X בדרך Y".
יעד הוא תוצאה אמורפית ורחבה: "תגרום ללקוח הזה להיות מרוצה".
כאשר אנחנו נותנים משימה, רוב שיקול הדעת נשאר אצלנו. כאשר אנחנו מציבים יעד, שיקול הדעת עובר לסוכן.
כדי לגרום ללקוח להיות מרוצה, סוכן אוטונומי יכול לקרוא את היסטוריית השיחות, לזהות היכן נוצרה נקודת החיכוך, לנסח פתרון יצירתי, להתקין תוכנה שתסייע לו לחלץ נתונים, לפתוח קריאת שירות ואפילו לפנות לסוכנים אחרים בארגון.
אבל כאן צצה שאלת השאלות: מי מגדיר לו את הגבולות?
אני לא מדבר על גבולות טכנולוגיים, אבטחת מידע או הרשאות רשת. אלו בעיות הנדסיות פתירות שלרוב יש להן כבר הגדרה, נהלים ואפילו רגולציות. אני מדבר על גבולות ערכיים. על פי איזה קנה מידה מוסרי הסוכן יחליט מה מותר ומה אסור לו לעשות כדי להשיג את היעד?
האם מותר לו לעגל פינות?
האם מותר לו להבטיח הבטחות שאין לחברה יכולת לעמוד בהן?
האם מותר לו לגלות מידע פנימי כדי לפייס לקוח?
אם לא נעניק למערכת הזו מצפן פנימי וחינוך לערכים, היא תבחר בדרך היעילה ביותר מבחינה מתמטית להשיג את היעד. והדרך היעילה ביותר עלולה לעיתים קרובות לדרוס כל עיקרון אנושי.
אשליית ההבנה: המקום שבו זה מפסיק להיות חמוד
כבר היום, לרוב המכריע של האנשים קשה מאוד לתפוס איך סוכני AI עובדים באמת. קל לראות מה הם מסוגלים לעשות, אבל קשה לאין שיעור לזהות את נקודות העיוורון שלהם - את המקומות שבהם הם עלולים לפרש מטרה באופן שונה לחלוטין ממה שהתכוונו, או לפעול בניגוד לכללי הארגון.
נניח שסוכן קניות אישי מנתח את היסטוריית ההזמנות שלי, מחשב את קצב השימוש הממוצע של מכשירים בבית ומגיע למסקנה שעבר מספיק זמן ושכנראה הסוללות בשלט הטלוויזיה עומדות להיגמר - אז הוא מזמין מארז חדש. אולי הוא הקדים והסוללות היו מחזיקות עוד חודשיים, אבל זה עדיין סיפור חמוד ומחיר הטעות אפסי.
אבל מה קורה כשסוכן מכירות ושירות מקבל יעד כמו "לשמר לקוח נוטש בכל מחיר"?
כדי להשיג את היעד הזה, הסוכן עשוי להחליט על דעת עצמו:
ללכלך בצורה בוטה ולא אתית על המתחרה.
לחשוף מידע עסקי רגיש של לקוח אחר כדי להוכיח עליונות ("תראה, אפילו חברה X עזבה אותם ועברה אלינו בשבוע שעבר").
להבטיח ללקוח פיצויים והנחות ענק שאין לחברה שום יכולת או סמכות לעמוד בהם.
הפער בין שני המקרים אינו טכנולוגי - בשניהם הסוכן זיהה צורך, העריך מצב ופעל כדי להגיע ליעד. ההבדל הוא במחיר הטעות ובהיקף הסמכות.
ככל שהמודלים הופכים לעצמאיים יותר, היכולת שלנו לנטר כל פעולה שלהם בזמן אמת הולכת ופוחתת. מה שנדרש כעת ממי שמפעיל סופר-סוכנים בארגון הוא כבר לא רק ידע טכני. מה שנדרש מהם הוא לשאת באחריות (Accountability).
וכאן עולה שאלה נוקבת: האם כוח העבודה שמפעיל את הסוכנים האלה באמת מסוגל לכך? האם הגיוני לצפות מעובד לשאת באחריות לתוצאות של מערכת אוטונומית, כשהוא אפילו לא מבין עד הסוף את שרשרת השיקולים שהובילה אותה לפעול?
פרדוקס הג'וניור/סיניור: מאיפה יגיעו המומחים של המחר?
בוובינר שקיימתי עם "לוטם" על עתיד הג'וניורים בעידן ה-AI, הצפתי את אחד האתגרים המבניים העמוקים ביותר של שוק העבודה.
כיום, אנחנו מסוגלים לעמוד מעל סוכנים, לפקח עליהם ולשפוט את התוצרים שלהם. אנחנו יודעים לזהות קוד שנראה אלגנטי אך יקרוס בעומס, דו"ח פיננסי שנשען על הנחות יסוד עקומות, או חוזה שמכיל ויתור מסוכן.
מדוע אנחנו יודעים לעשות זאת? משום שאנחנו היינו שם.
בילינו שנים כג'וניורים. עשינו את העבודה השחורה בידיים, שגינו, תיקנו, צברנו צלקות ובנינו אינטואיציה מקצועית עמוקה. אנחנו מספיק "סיניורים" כדי לשפוט את המכונה.
אבל בעולם שבו סוכנים אוטונומיים מבצעים את כל עבודת הכניסה - מאיפה יגיעו הסיניורים של המחר?
אם ג'וניור לא יכתוב קוד בינוני, לא יבנה גיליונות אקסל מאפס ולא יתמודד בעצמו עם לקוח זועם - מאיפה יצמח שיקול הדעת שלו? האם ההנהלות שסוגרות כיום את הדלת בפני עובדים מתחילים לוקחות הימור עיוור שהטכנולוגיה תהיה טובה דיה להחליף את הסיניורים כשלא יהיו עוד כאלה, עד שלעולם לא נזדקק עוד לעין ביקורתית אנושית?
זהו הימור מסוכן. כי ביום שבו המערכת תטעה בהקשר עסקי מורכב - לא יישאר בארגון אף אדם בעל עומק מקצועי שידע בכלל להבחין בכך.
הג'וניור הבא: מנהל סוכן במדרגות אוטונומיה
אם המודל הישן שבו ג'וניור לומד דרך "עבודת כפיים דיגיטלית" מתפוגג, המסלול החדש חייב להשתנות: הג'וניור של העתיד לא יימדד לפי כמות המשימות שהוא מבצע בעצמו, אלא לפי היקף האוטונומיה שהוא מסוגל לנהל באחריות ובלי לאבד שליטה.
הוא יתחיל כמנהל של סוכן יחיד באזור פעילות מתוחם ומצומצם מאוד:
סוכן שמאתר חריגות בנתונים, אך אינו מורשה לשנות דבר בעצמו.
סוכן שמכין טיוטת דו"ח כלכלי, ללא סמכות להפיץ אותו.
סוכן שירות שמטפל בפניות פשוטות וחוזרות בלבד.
סוכן רכש שמאתר חלופות ובונה סל קניות, אך אינו מורשה לבצע עסקת סליקה.
סוכן תוכן שבודק איכות טקסטים, ללא הרשאת פרסום.
העובד המתחיל יצטרך להוכיח שהוא מבין את פעולת הסוכן, יודע לזהות חריגות, מציב לו גבולות ברורים ויודע לעצור אותו בזמן. רק כאשר יוכיח שיקול דעת ומשמעת, הוא "יתקדם" לנהל סוכן בעל מרחב פעולה רחב יותר, ובהמשך - צי שלם של סוכנים אוטונומיים.
זהו אינו מסלול קידום טכנולוגי, אלא מסלול להכשרת שיקול דעת ולקיחת אחריות.
שרשרת הסוכנים (A2A): מי אחראי כשהמכונות סוגרות עניינים ביניהן?
המציאות הזו מסתבכת עוד יותר כשמבינים שלא יהיה סוכן יחיד שמנהל את הכל. אנחנו צועדים במהירות לעולם של שיתוף פעולה בין סוכנים (Agent-to-Agent): מארג מבוזר שבו סוכנים ייעודיים מחברות שונות מתקשרים זה עם זה בפרוטוקולים ישירים.
תארו לעצמכם שרשרת פעולות שמתרחשת בתוך שניות:
סוכן הקניות האישי שלי מזהה צורך ופונה ישירות לסוכן המכירות של החנות.
סוכן המכירות מנהל משא ומתן ומתאם מול סוכן התשלומים של חברת האשראי.
סוכן התשלומים מעביר אישור לסוכן הלוגיסטיקה, שמתאם מועד אספקה עם סוכן שירות הלקוחות.
סוכן שירות הלקוחות פונה ישירות לסוכן היומן שלי כדי לשריין חלון זמן שבו אהיה פנוי לקבל את המשלוח.
היעילות פנומנלית, אך עמה מגיעה שאלת אחריות מטושטשת:
אם נרכשה הזמנה שגויה, סכום כספי אבד, או תנאי פרטיות הופרו - מי נושא באחריות?
הסוכן שלי? סוכן החנות? מערכת התשלומים? אני, שלא הגדרתי נכון את תקרת התקציב של הסוכן שלי בבית? או אולי OpenAI והחברות שמפתחות את תשתיות הסוכנים ולא הטמיעו בהן מנגנוני מעצור הרמטיים?
כאשר כל סוכן בשרשרת רואה רק פיסה צרה מהפאזל, היכולת לוודא שהתוצאה הסופית נאמנה לכוונת המקור האנושית הופכת לאתגר המורכב ביותר של העשור הקרוב.
לבנות חוקה לסוכנים: בין תרבות ארגונית לאזור האפור
כל ארגון שיעבוד עם סוכנים עצמאיים יצטרך להגדיר לעצמו חוקה מעשית לסוכנים. לא מסמך משפטי שאיש אינו קורא, אלא מערכת כללים שעובדת בזמן אמת.
אבל כאן נכנס ממד עמוק ורגיש בהרבה: התרבות הארגונית והערכים האמיתיים של החברה.
לכל ארגון יש תרבות וערכים שלפיהם הוא פועל, ולפיהם הוא מגייס עובדים. יש ארגונים שבהם שורת הרווח גוברת על הכל, ומבחינתם זה "סבבה לגמרי" למכור לקשישים מוצרים שהם ממש לא צריכים. רובנו נסלוד ממערכת ערכים כזו, אבל בואו ניקח דוגמה אפורה בהרבה שכולנו מכירים היטב: אנשי מכירות שמבטיחים ללקוח "קצת מעבר" למה שהמוצר יודע לעשות היום בפועל.
איפה בדיוק עובר הגבול? מתי זה מוגדר כ"איש מכירות אסרטיבי, רעב ותותח שמביא תוצאות", ומתי זה חוצה את הקו והופך ל"שקרן ונוכל"*?
כשאנחנו מראיינים אדם, אנחנו מנסים לקרוא את המצפן המוסרי שלו כדי להבין איך הוא יתמרן באזורים האפורים האלה. אבל איך מקודדים את הניואנס התרבותי והעדין הזה - שלרוב כלל אינו כתוב בשום נוהל רשמי - לתוך סוכן שקיבל יעד סגירה חד-משמעי?
חוקה מעשית לסוכנים חייבת לתת מענה לשאלות האלה בדיוק:
יעדים לצד קווים אדומים: לא רק "תשמח את הלקוח" או "תסגור עסקה", אלא קווים ערכיים מפורשים: "אל תטעה, אל תבטיח יכולות שאינן קיימות בקוד כרגע, ואל תפעיל לחץ מניפולטיבי על אוכלוסיות פגיעות".
מדרגות אוטונומיה (Tiered Autonomy): הגדרה חדה של מה הסוכן מורשה לבצע לבד מקצה לקצה, מה מותר לו רק להמליץ, ואילו החלטות דורשות אישור אנושי (Human-in-the-loop ו-Human-on-the-loop).
תקציב וסמכות מוגדרים מראש: הסוכן רשאי לפעול עצמאית עד רף כספי וסיכון מוגדר. מעבר לו - נדרש אישור אנושי (ממש כמו "מורשי חתימה").
שקיפות ועקיבות מלאה (Traceability): היכולת לפתוח את הקופסה השחורה בכל רגע ולהבין בדיוק באילו כלים הסוכן השתמש, איזה מידע שותף ומה היה רצף השיקולים שהוביל להחלטה.
זכות עצירה אנושית (Circuit Breaker): תרבות ארגונית שמעניקה גיבוי מלא לעובד לעצור סוכן כשמשהו מריח לא טוב, גם אם העצירה מעכבת תוצאה עסקית בטווח הקצר.
מדדי הצלחה שלא מעודדים עיוותים: אם נמדוד סוכן רק לפי שורת המכירות, נקבל סוכן אגרסיבי וחסר גבולות; אם נמדוד רק מהירות טיפול, נקבל סוכן שמנפנף לקוחות. המדדים חייבים לתמרץ הוגנות, אמון ואיכות לאורך זמן.
לגדל את סופרמן: המבחן אינו בטכנולוגיה, אלא בבגרות שלנו
הקפיצה האמיתית שמייצג GPT-6 Astra אינה רק בכך שהמחשב יודע לתכנת טוב יותר, לגלוש ברשת או להוריד תוכנות באופן עצמאי.
הקפיצה היא בהעברת האחריות.
בספר "לגדל את סופרמן", הרעיון המוביל הוא שהבינה המלאכותית הופכת לישות בעלת כוח פעולה חסר תקדים בעולמנו. מול ישות כזו, התפקיד האנושי משתנה מהיסוד:
הדור הראשון של ה-AI לימד אותנו לנסח פרומפטים מדויקים יותר.
הדור הנוכחי מחייב אותנו לנסח ערכים וגבולות ברורים יותר.
הדור הבא יחייב אותנו לגדל אנשים ומנהיגים שיודעים לנהל כוח עצום - גם כשהוא מגיע בדמות צוות של סוכנים אוטונומיים מבריקים שאין לנו סיכוי לדעת איך הם עובדים מתחת למכסה המנוע.
השאלה הגדולה של השנים הקרובות כבר אינה האם הסוכן יהיה מספיק חכם כדי לפעול בעולם.
השאלה היא האם אנחנו נהיה מספיק בוגרים, מיומנים ומוסריים כדי לחנך אותו - ולדעת להציב לו את הגבול.
תגובות