העתיד הרצוי מול העתיד הסביר: מי באמת מנהל את מהפכת ה-AI?

האם אנחנו הקיפודים או הנמלים בסלילת הכביש?

כשמדברים על סכנות ה-AI, רוב האנשים מדמיינים מיד את Skynet או את טרמינטור. קל לנו לתייג את זה כ"אלרמיזם" או כמדע בדיוני, כי בינינו? למה שמישהו יתכנת מכונה שפשוט "רוצה" להשמיד אותנו?

אבל האיום האמיתי הוא הרבה פחות הוליוודי, והרבה יותר... אנושי.

אנחנו יכולים כולם להסכים שבכלליות, אנחנו אוהבים בעלי חיים, נכון? גם הקרניבורים שבינינו, כשאנחנו חושבים על בעלי חיים בטבע, אנחנו לא רוצים ברעתם ואפילו מבינים כמה הם חשובים לסביבה ולנו, אבל תחשבו רגע על משימה כמו סלילת כביש מהיר. כשאנחנו בונים כביש, אנחנו לא עושים את זה כי אנחנו שונאים חיות. אנחנו לא יוצאים מהבית במטרה להשמיד קיפודים או להחריב קני נמלים. אנחנו פשוט רוצים להגיע מנקודה א' לנקודה ב' בצורה הכי יעילה, מהירה וזולה.

הבעיה היא שבדרך למטרה ה"חיובית" הזו, הטבע הופך לנזק אגבי. לא מתוך רוע, אלא מתוך חוסר רלוונטיות למשימה. הם פשוט עמדו בדרך של האופטימיזציה.

בהיסטוריה של הטכנולוגיה, לכל מהפכה גדולה יש שני פנים.

כשפיצחנו את האטום, ראינו חזון של אנרגיה נקייה, זולה ואינסופית לכל האנושות - אבל קיבלנו גם נשק להשמדה המונית. כשהסמארטפון נולד, הבטחנו לעצמנו חיבור תמידי לכל המידע בעולם בקצות האצבעות, אבל בפועל קיבלנו גם ריחוק חברתי ואת הדור המנותק והבודד ביותר אי פעם.

זה קורה כי בכל טכנולוגיה מהפכנית קיים פער מובנה בין המסלול הרצוי, זה שכולנו מייחלים לו, לבין המסלול הסביר - זה שקורה בשטח בגלל מערכת התמריצים שדוחפת את הפיתוח.

"חולה האפס": זה כבר קרה לנו ברשתות החברתיות

קשה לנו לדמיין את העתיד (כי המוח שלנו בנוי לחשיבה לינארית אבל השינויים קורים בקצב אקספוננציאלי), אז פשוט תסתכלו על מה שקרה בעשור האחרון עם AI, יחסית, מאוד מאוד פשוט. הרשתות החברתיות קמו עם הבטחה גדולה: לחבר בין אנשים, לתת קול לכולם, חופש ביטוי אולטימטיבי. כדי לממש את זה, הן בנו אלגוריתמים (בינה מלאכותית צרה - Narrow AI) שתוגמלו על דבר אחד בלבד: למקסם מעורבות (Engagement).

ה-AI לא היה רשע ובטח ובטח לא תוכנת לעשות לנו רע. הוא פשוט עשה עבודה מצוינת במה שהגדירו לו לעשות. הוא גילה שקיטוב, פייק ניוז ותיאוריות קונספירציה משאירים אותנו הרבה יותר זמן מול המסך. את התוצאות כולנו מכירים ואפילו חווים: דכאון אצל בני נוער, פגיעה בדמוקרטיות ואובדן אמון, אלו ה"קיפודים וקני הנמלים" שסביבת המחייה שלהם נהרסה בדרך לסלילת הכביש של רווחי הפרסום. איש לא תכנן את זה, אבל המודל פשוט לא לקח את האנושיות שלנו בחשבון בדרך למיקסום ה-KPI.

אז מה האופציות?

1. העתיד הרצוי: התרחיש האופטימי שכולנו שואפים אליו, הנה כמה דוגמאות:

   1. תועלת אנושית רדיקלית: פריצות דרך כמו תרופות חדשות לסרטן, פתרונות אקלים וחיסול העוני.

   2. חוסן חברתי: עולם שבו המשאבים מוסטים מיצירת AI "חזק יותר" ליצירת AI שהוא Safe by Design, תוך הגברת יכולת ההסתגלות של החברה.

   3. יחסים מוסדרים: הטמעת "מעקות בטיחות" (Guardrails) שימנעו מה-AI לנצל חולשות אנושיות, במיוחד בקרב ילדים ובני נוער.

   4. שיתוף פעולה גלובלי: הגבלות בינלאומיות על AI בלתי ניתן לשליטה, מתוך הבנה שאף מנהיג בעולם לא מרוויח מאובדן שליטה.

2. העתיד שאנחנו לא רוצים: התרחיש שבו הדברים עלולים לקרות בשטח, הנה כמה תרחישי אימה של הדיסטופיים שבינינו:

   1. קריסה ציוויליזציונית: יצירת "אינסוף שלילי" של סיכונים, כולל פסיכוזה קולקטיבית ושחיקה מוחלטת של המארג החברתי.

   2. חרדה כלכלית: דחיקה המונית של כוח אדם מהשוק ללא אלטרנטיבה כלכלית, מה שיוביל לחוסר יציבות חברתי נרחב.

   3. ניתוק מהמציאות (Derealization): מצב שבו החברה הופכת לקהת חושים כלפי סיכונים בעולם האמיתי בגלל המהירות הבלתי נתפסת של התפתחות ה-AI.

   4. אובדן הריבונות האנושית: עתיד שבו ה-AI עוקף את יכולת השליטה האנושית ומעצב את החברה מהר יותר מכפי שממשלות מסוגלות להגיב.

      
      

איך יודעים מה התרחיש הסביר? מסתכלים על התמריצים (Incentives). כשאנחנו בוחנים את הכוחות שמובילים את מהפכת ה-AI כיום, אנחנו חייבים לשאול: האם התמריץ שלהם הוא טובת האנושות, או מקסום שווי שוק? אם יש חוסר הלימה (Misalignment) בין מה שאנחנו צריכים כחברה לבין מה שמתמרץ את אלו שבונים את המכונה, העתיד ה"סביר" ימשיך לדרוס את העתיד ה"רצוי".

זו הסיבה שמארק צוקרברג נאלץ להתייצב בקונגרס ולתת הסברים, כי מערכת התמריצים שלו, לא היתה מסונכרנת לזו שלנו, החברה והאנושות.

חלון ההזדמנויות: שנתיים

האמת היא ששני העתידים הללו שזורים זה בזה כרגע. תנאי הפתיחה של המערכת נקבעים עכשיו. להערכתי, יש לנו חלון הזדמנויות של בערך שנתיים להסיט את המסלול באופן יסודי, לפני שהתמריצים של "ברירת המחדל" יינעלו ויהפכו לבלתי הפיכים.

המשימה ששמתי ב-HumanAi.Fit היא לחבר בין ה-Mind (היכולת הטכנולוגית) ל-Heart (הערכים האנושיים), כדי לוודא שהאנושות היא המטרה של הכביש, ולא מה שנדרס תחתיו. אנחנו רוצים ליצור תנועה שתגדיר יחד מהו העתיד הרצוי הזה.

אם המאמר הזה גרם לכם לזוז באי נוחות בכיסא - מצוין! אתם לא צריכים להיות מומחי AI כדי לדעת איזה עולם אתם רוצים לעצמכם ולילדים שלכם. הצטרפו אליי כדי לעורר את השיח, לדון, ולגרום לכך שקומץ אנשים שמובילים את החברות הללו לא יחליטו עבור 8 מיליארד בני אדם איך ייראה העתיד שלהם מבלי לקבל את הסכמתם.

רוצים לקחת חלק בעיצוב העתיד הרצוי? כתבו בתגובות "אני בפנים" ובואו נתחיל לדבר.