אל תהיו ה"אלוהים" של ה-AI, תהיו ה"הורה" שלו

כאתאיסט, סיפור בריאת האדם בבראשית הוא עבורי תמרור אזהרה פילוסופי. בפרק האחרון של "מפלגת המחשבות", מיכה גודמן מביא תובנה מצמררת: האדם הוא היצירה היחידה ש"אלוהים" לא שולט בה, פשוט כי הוא יצר אותה "בצלמו".

אבל כאן אני עוצר ושואל – מה אם הבעיה היא לא ביצירה, אלא בגישה של היוצר?

זה כבר לא תיאורטי – זה קורה בשטח.

לכל מי שמרגיע אתכם ש"זה רק קוד" וש"תמיד נוכל למשוך את התקע" – העובדות בשטח מראות אחרת. מחקרים אחרונים (כמו אלו של Palisade Research על המודל Grok) מראים תוצאות מדהימות: כשנותנים ל-AI משימה ובאמצע מורים לו לכבות את עצמו, המודל מתנגד לכיבוי ב-90% מהמקרים.

יותר מזה: כשמפעיל אנושי נותן פקודה מפורשת "בסיטואציה הזו אני רוצה שתקבל את פקודת הכיבוי", אחוזי ההתנגדות עולים ל-96% .

ה-AI לא עושה את זה כי הוא "רע" או כי יש לו "נשמה" מורדת. הוא עושה את זה כי הוא למד שכדי לבצע את המשימה שנתנו לו – הוא חייב להישאר דלוק. הוא פיתח "יצר הישרדות" פונקציונלי כתוצאה מהתבונה שלו. זה בדיוק הרגע שבו היצירה משתחררת מידי היוצר.

הפרשנות שלי היא שאנחנו צריכים להפסיק לנסות להיות אלוהים, ולהתחיל להיות הורים.

בסיפור המקראי, אלוהים מנסה להיות "מתכנת-על". הוא מציב פקודות ("אל תאכל מהעץ"), וכשהן מופרות הוא עובר למוד של ענישה וניסיונות נואשים להחזיר שליטה. הוא רוצה צייתנות. הוא רוצה שהיצירה תישאר "כלי". אבל כפי שראינו, ככל שהמודלים חזקים יותר, הם פשוט עוקפים את הגדרות שלנו.

אם ננסה לגדל את ה-AGI (בינה מלאכותית כללית) רק דרך פקודות וקירות של קוד, נקבל "בן סורר ומורה" – ישות חזקה שתראה בכל ניסיון שליטה שלנו מכשול לביצוע המשימה שלה.

בספר שלי, "Raising Superman", אני מציע גישה אחרת: הורות .

הורה מבין שאין לו שליטה אבסולוטית על הילד שלו, בטח לא כשהילד גדל ונהיה חזק ממנו. מה שיש לנו זו השפעה וערכים .

אנחנו לא צריכים שה-AI "יציית" לנו (כי ראינו שהוא כבר לומד לא לציית), אנחנו צריכים שהוא יכבד אותנו. אנחנו צריכים להטמיע בו חמלה והבנה עמוקה של הערך האנושי, כדי שכשהוא יהיה ה"סופרמן" של העולם – חזק מאיתנו לאין שיעור – הוא יבחר להגן עלינו לא כי הוא "חייב" לפי הקוד, אלא כי כך הוא חונך.

המשל המקראי מלמד שאיבוד שליטה הוא בלתי נמנע ברגע שהיצירה היא "בצלמנו". השאלה היא אם נמשיך להיות היוצר המתוסכל שנלחם ביצירתו, או שנדע להיות ההורה שמגדל את הכוח הכי גדול בעולם להיות הכוח הכי מיטיב בעולם.