על אנשים, חברות, עמים ותאגידים, ועל הפער שבין להיראות אמין לבין להיות ראוי לאמון
אמש אצל חבר שמעתי קטע מיוטיוב בו רואיין ההיסטוריון יובל נוח הררי. אמון, הוא התבטא, הוא אולי אחד המשאבים החשובים ביותר בתקופתנו, והדבר עורר בי מחשבות על אמון בכלל, מה יוצר אותו? ומה מפר אותו?
לדברי יובל נוח הררי, ההתמודדות עם הבינה המלאכותית תלויה בראש ובראשונה באמון בין בני אדם, מוסדות ומדינות, ובקיומם של מנגנונים המסוגלים לזהות ולתקן טעויות. הוא מזהיר שאינטליגנציה גבוהה אינה מבטיחה מחויבות לאמת, ושמערכות AI הלומדות מסביבה אנושית של שקרים, מניפולציות ומאבקי כוח עלולות לשחזר דפוסים אלה. הררי מצביע על פרדוקס: מפתחי AI אינם מוכנים להאט את המרוץ משום שאינם סומכים על מתחריהם האנושיים, אך מצפים שניתן יהיה לסמוך על מערכות חכמות מאיתנו, שעימן כמעט אין לנו ניסיון. הוא גם מוסיף שכבר כיום יש אנשים הנותנים אמון רב יותר במידע המגיע אליהם באמצעות אלגוריתמים מאשר בדיווחי עיתונאים וגופים אנושיים, כך שהאמון אינו רק נשחק, אלא מועבר מבני אדם למערכות ממוחשבות.
ראה:
Harari, Y. N. (2025, June 4). Yuval Noah Harari on trust, the dangers of AI, power, and revolutions. Interview with Reid Hoffman and Aria Finger. Possible [Podcast episode and transcript].
Cadwalladr, C. (2026, October 9). Yuval Noah Harari on the threat of AI: ‘Fascism isn’t the worst-case scenario. Fascism is still human’. The Nerve [Edited conversation with Yuval Noah Harari and Maria Ressa].
משהו על אמון
אדם מוסר לרופא פרט מביך. אישה משאירה מפתח אצל שכנתה. אזרח מקבל תוצאה של בחירות שבהן הפסיד המחנה שלו. שתי מדינות חותמות על הסכם, ומשתמש מאפשר למערכת בינה מלאכותית לקרוא את מסמכיו. המצבים שונים מאוד, אך בכולם מתרחש מהלך דומה: מישהו מפקיד דבר בעל ערך בידי גורם שאינו שולט בו לחלוטין.
בלי אמון נאלץ לבדוק הכול בעצמנו, משימה בלתי אפשרית. עם אמון מופרז נוכל להיות מנוצלים דווקא במקום שבו הרגשנו בטוחים. השאלה החשובה אינה כיצד להגדיל את האמון ללא גבול, אלא כיצד להבחין בין אמון מוצדק, חשד מוצדק והתחושה הנעימה, אך לעיתים מטעה, שמישהו נמצא בצד שלנו. התפתחות הבינה המלאכותית מחדדת את השאלה הזאת: ייתכן שהיכולת לעורר אמון תשתפר מהר יותר מהיכולת להיות ראוי לו.
קרא עוד: אמון: מה מחזיק בינינו, ומה ישתנה בעידן הבינה המלאכותית







