כשהאמון נשבר, מה נשאר?
בתחילת אוקטובר 2026 חברה אחת השיקה דמות וידאו שמדברת איתך בזמן אמת. לפי המפתחים עצמם, בניסוי של דקה אחת, 26 מתוך 54 משתתפים (48%) חשבו שדיברו עם בן אדם. חשוב לדעת: את המשתתפים לא הזהירו מראש שאולי מולם AI. זו תוצאה שהמפתחים פרסמו, לא בדיקה עצמאית.
את החדשות האלה כולם יכתבו, אז אני רוצה לדבר על משהו אחר. לא על מה שהמכונה למדה. על מה שקורה לנו.
משהו קורה לאמון
אני מרגיש שיותר ויותר אנשים לא סומכים על אנשים, ובמקום זה סומכים על אלגוריתמים. קחו חדשות. כל עיתון וכל ערוץ מואשמים שוב ושוב שהם נוטים לצד כזה או אחר. למה? כי מאחורי העורך יושב בן אדם, ולבן אדם יש דעות. אבל כשאלגוריתם בוחר לנו מה לראות, כמעט אף אחד לא חושד שיש לו הטיה. הוא מרגיש לנו ניטרלי, בלי אינטרסים.
ואפליקציות היכרויות הן דוגמה טובה. אנחנו מרגישים שאנחנו בוחרים, ומאמינים שהאלגוריתם הוגן וחסר אינטרסים. אבל הוא זה שהחליט את מי להראות לנו. הבחירה שלנו היא בתוך קבוצה קטנה שהוא בחר מראש. ויש כאן גם חשש: לאפליקציה כדאי שנישאר בה. אז יכול להיות שהיא מראה לנו לא את מי שאנחנו צריכים, אלא את מי שהיא חושבת שיחזיק אותנו הכי הרבה זמן. אני לא טוען שכל אפליקציה עושה את זה. אבל זו שאלה שאנחנו כמעט לא שואלים.
ככל שהוא צודק, אנחנו סומכים עליו יותר
וזה החלק שמדאיג אותי באמת. אנחנו נותנים אמון בהדרגה, ולפי כמה שמישהו צודק. סומכים על Waze כי הוא הוביל אותנו הביתה הרבה פעמים. בהתחלה הכלים האלה טעו, המציאו דברים, והיינו זהירים. אבל אם הם ימשיכו להשתפר ויהיו צודקים יותר ויותר, בייעוץ קריירה, בייעוץ פיננסי ובעוד תחומים, נעביר להם את האמון מבני אדם בלי לשים לב. לא כי מישהו הכריח אותנו. כי הם פשוט צדקו.
ודווקא בגלל זה צריך לעצור רגע. אמון שנבנה על כך שמישהו צודק, מפסיק לבדוק. ומי שמפסיק לבדוק לא יראה מתי האינטרס של מי שמאחורי המערכת מתחיל למשוך לכיוון אחר.
ועכשיו גם העיניים והאוזניים
עד היום היה לנו מקום אחרון להיאחז בו: מה שאני רואה ושומע בעצמי. שיחת וידאו עם אדם היא כמעט הוכחה שהוא שם.
ב-2024 עובד כספים בחברת Arup בהונג קונג השתתף בשיחת וידאו עם מי שנראו ונשמעו כמו המנהל הכספי של החברה ועוד עמיתים. לפי המשטרה, כולם היו זיופים. הוא העביר כ-25 מיליון דולר. חשוב להגיד: זה לא היה AI שמנהל שיחה חופשית בזמן אמת, ולא ברור עד הסוף איך בדיוק נעשה הזיוף. אבל המסקנה כבר שם: פנים וקול מוכרים הפסיקו להיות הוכחה.
ועכשיו תדמיינו, אם הכלים האלה ימשיכו להשתפר, שיחת וידאו שבה מולכם נראה הילד שלכם או האישה שלכם. אותן פנים, אותו קול, אותו צחוק. איך תדעו? ואם אי אפשר לדעת, מה נשאר?
למה זה כל כך גדול
כי אמון הוא הנכס הכי גדול של האנושות, ואנחנו כמעט לא מרגישים אותו. בלי אמון אין כלכלה, אין מטבע ואין מסחר. כמעט כל דבר סביבנו עומד עליו. ואם האמון הזה מתחיל להתפורר, אין תיקון קטן. הכול מתפורר איתו.
זה לא אבוד
רגע לפני הפאניקה, זה לא נגמר בקטסטרופה. כבר היו לנו שינויים כאלה. פעם, לייצר הודעות סמס או מייל עבור פישינג היתה טכנולוגיה מתקדמת, היום זה במאסות. הנוכלים לא צריכים שכולם ילחצו, אבל מספיק שבריר האחוז ממיליוני מיילים/סמסים כאלה שילחץ ויש להם אחלה הצלחה. אז למדנו לא ללחוץ על כל קישור במייל, ולא לתת קוד ששלחו בהודעה. נלמד גם את זה. הבעיה היא שפעם, לעשות הונאת Deep Fake היתה מסובכת ויקרה, אבל כמו שרואים כאן, זה הולך ונהיה פשוט וזול ממש. אז צריך להתחיל עכשיו, ולא אחרי הפעם הראשונה שנפגעים.
כמה דברים פשוטים אפשר לעשות כבר היום. להסכים במשפחה על מילת קוד לשעת חירום. אם מישהו מבקש כסף בשיחת וידאו, לנתק ולחזור אליו במספר שאני מכיר. ולהמשיך לשאול מי הציג לי את מה שאני רואה, גם כשהתשובה נוחה.
ועכשיו אתם
על מי אתם סומכים יותר היום, על אדם או על אלגוריתם? יש לכם מילת קוד במשפחה? כתבו לי בתגובות, ואם הפוסט הזה גרם לכם לחשוב, שתפו אותו הלאה.
אם הנושא הזה מעורר בכם משהו שקשה להסביר במילים - תחושה שהמהפכה הזו מרגשת ומפחידה באותה נשימה - אתם לא לבד. אני מרגיש אותה גם. בואו נבנה יחד את "חדר הכושר לאנושיות", ונשמור על מה שמייחד אותנו כבני אדם. כתבו לי.
תגובות