למה משתלם לשקר - בפוליטיקה ובכלל

בשנים האחרונות התרגלנו לתבנית קבועה בשיח הציבורי הישראלי. מתפרסמת הקלטה, סרטון או צילום של מסמך, ותוך שעות ספורות מופיעה הטענה שהחומר מפוברק.

פעם טענה כזאת דרשה עבודה. היה צריך להסביר מי זייף, באילו אמצעים, מתי ולשם מה. היום מספיק להגיד את מילת הקסם "בינה מלאכותית", ומה שלפני רגע נתפס כראיה הופך בחזרה לשאלה פתוחה.

זה קורה בכל מחנה ובכל צד, ובכל מקום בעולם, וזה בדיוק מה שהופך את זה למעניין. אין כאן צד אחד שגילה תכסיס. יש כאן כלי חדש שנמצא באותה מידה בידיהם של כולם, ומשתלם להשתמש בו.

פעם הטענה שהחומר מפוברק דרשה עבודה. היה צריך להסביר מי זייף, באילו אמצעים, מתי ולשם מה. היום מספיק להגיד את מילת הקסם "בינה מלאכותית", ומה שלפני רגע נתפס כראיה הופך בחזרה לשאלה פתוחה

רוב הדיון הציבורי על זיופים מבוססי בינה מלאכותית עוסק בשאלה ההפוכה. אנחנו מודאגים מכך שנאמין לדברים שלא קרו: סרטון מזויף של פוליטיקאי, הקלטה מפוברקת של פקיד ציבור או מפקד צבאי, תמונה שלא צולמה מעולם. זה חשש סביר, אבל הוא לא החשש הנכון. הסכנה הגדולה יותר איננה שנאמין למה שלא קרה, הסכנה היא שנפסיק להאמין למה שכן.

שני משפטנים אמריקאים, רוברט צ'סני ודניאל סיטרון, נתנו לזה שם עוד ב-2018, לפני שהטכנולוגיה בכלל הבשילה. הם קראו לזה דיבידנד השקרן (The Liar's Dividend) : הרווח שצומח לשקרן מעצם העובדה שזיופים משכנעים קיימים בעולם. השקרן לא צריך לייצר אף זיוף בעצמו. מספיק שהאפשרות קיימת כדי לייצר את אותו ספק, שמבחינתו הוא רווח.

כדאי לשים לב לא-סימטריה. לייצר זיוף שיעמוד בבדיקה עדיין דורש מאמץ, כלים וזמן. להכחיש דבר אמיתי דורש משפט אחד. הטכנולוגיה הורידה את מחיר השקר, אבל היא הורידה את מחיר ההכחשה לאפס. במשחק שבו התקיפה חינמית וההגנה יקרה, ברור מי מנצח.

ההשלכות חורגות הרבה מעבר לפוליטיקה, והן כבר כאן. תצלום שהוגש כראיה בבית משפט אינו סוגר עוד את הדיון, הוא פותח דיון חדש בפני עצמו. חברת ביטוח שמקבלת תיעוד של נזק צריכה כעת לאמת את התיעוד לפני שהיא מטפלת בתביעה. עובדת שמגישה תלונה על הטרדה ומצרפת הקלטה תיתקל בשאלה אם ההקלטה אותנטית, לפני שמישהו בכלל יגיע לתוכן שלה. בכל אחד מהמקרים האלה, מי שיש לו אינטרס להטיל ספק או להכחיש קיבל עכשיו טענת הגנה שעולה לו כלום.

לייצר זיוף שיעמוד בבדיקה עדיין דורש מאמץ, כלים וזמן. להכחיש דבר אמיתי דורש משפט אחד. הטכנולוגיה הורידה את מחיר השקר, אבל מחיר ההכחשה ירד לאפס. במשחק א-סימטרי זה – התקיפה חינמית וההגנה יקרה

ההרגל הזה מתפשט מהר יותר מהטכנולוגיה עצמה. אנשים למדו את התכסיס הרבה לפני שנתקלו בזיוף אמיתי אחד. זה כבר לא כלי טכנולוגי, זה רפלקס תרבותי עם השפעות עמוקות על כל מרחבי החיים המשותפים.

הרבה פעמים מתארים את התקופה הנוכחית כעידן הפוסט-אמת. לדעתי זו טעות באבחנה, ולכן היא גם מובילה לפתרונות שלא עובדים ולא יעבדו.

אמת, כמושג, תמיד הייתה שנויה במחלוקת. היא סובייקטיבית, תלוית זמן, מקום ואינטרס. בימי הביניים האמת הייתה שהשמש מקיפה את כדור הארץ, וזה לא היה כישלון של האמת אלא הטבע שלה. הביטוי "האמת שלי" יכול להתקיים בדיוק משום שהאמת מכילה סובייקטיביות מלכתחילה.

מציאות היא משהו אחר לגמרי. היא ראשונית ותלוית חושים. יורד גשם או לא יורד גשם. יש חושך או יש אור. קיימת חצי אמת, לא קיימת חצי מציאות. אמת היא מה שאנחנו מרגישים או חושבים שהוא נכון. מציאות היא מה שאנחנו יכולים לחוות כאמיתי. אמת עוסקת במה נכון, מציאות עוסקת במה קיים.

ההבחנה הזאת החזיקה את הכול. כשהוויכוח על האמת הגיע למבוי סתום, תמיד אפשר היה לרדת קומה ולחזור להתבסס על החושים. ראיתי. שמעתי. הייתי שם. זה היה הבורר האחרון, וזה מה שאפשר לחברות אנושיות להתווכח בלי להתפרק לרסיסים.

זה מה שנשבר עכשיו. בפעם הראשונה בהיסטוריה, אי אפשר עוד לסמוך על מה שראית במו עיניך. אני קורא למצב הזה "פוסט-מציאות", וזו לא החמרה של הפוסט-אמת אלא שבר מסוג אחר לגמרי. לא נשברה ההסכמה על פרשנות העובדות. נשבר המנגנון שבאמצעותו קבענו מהי עובדה מלכתחילה.

אי אפשר עוד לסמוך על מה שראית בעיניך. אני קורא לזה "פוסט-מציאות". זו לא החמרה של הפוסט-אמת אלא שבר מסוג אחר. לא נשברה ההסכמה על פרשנות העובדות. נשבר המנגנון שבאמצעותו קבענו מהי עובדה מלכתחילה

הסכנה איננה שנתחיל להאמין לכל דבר. הסכנה היא שלא נאמין יותר לכלום, ואז השאלה מה באמת קרה לא תוכרע בראיות אלא בשייכות. לא נשאל עוד מה ראינו. נשאל למי אנחנו מאמינים.

וזו שאלה שעדיין אין לה תשובה נכונה.

אודי וולקוב הוא חוקר טכנולוגיות השפעה ויועץ אסטרטגי, ומפתח את המסגרת התיאורטית "פוסט־מציאות" באוניברסיטת תל אביב. סמנכ"ל שיווק בחברת הדיפנס־טק Althimis ויועץ מייסד ב-Polytik.ai, מיזם לסימולציה פוליטית מבוססת בינה מלאכותית. בעברו ניהל קמפיינים דיגיטליים ואסטרטגיה תקשורת במספר מערכות בחירות בישראל ובעולם.