הבוחר הישראלי חשדן, ובצדק. עברנו מספיק מערכות בחירות כדי לפתח אינסטינקט הגנתי בסיסי: כשאנחנו נתקלים ברשתות החברתית בסרטון דרמטי מדי, בקטע קול שנשמע רובוטי, או בתמונה חריגה של מועמד, נורת האזהרה נדלקת. אנחנו מזהים "דיפ-פייק". ומבינים שמנסים "להנדס לנו את התודעה".

אבל בזמן שאנו מחפשים את הזיוף הבוטה, חומות ההגנה שלנו נעקפות מהאגף שנראה לנו הנייטרלי ביותר – הצ'אט.

לפי נתוני איגוד האינטרנט הישראלי, רבע מהציבור בישראל (25%) מתכוון או שוקל להשתמש בכלי בינה מלאכותית כדי לקבל החלטה לגבי הצבעתו בבחירות, או לאסוף מידע לקראת הבחירות.

כשאנחנו פונים לעוזר דיגיטלי, אנחנו לא מרגישים שאנחנו צופים בתשדיר בחירות; אנחנו מרגישים שאנחנו מנהלים שיחה אובייקטיבית עם אנציקלופדיה חיה ומורידים את ההגנות.

אבל למעשה, אנחנו לא מקבלים תשובה מאלגוריתם טהור, המהווה מדע מדויק, אלא מוצר שעבר "אופטימיזציה אלגוריתמית" שעלול להיות מושפע מאינטרסים, מהטיות של אתרי חדשות, או אפילו מקמפיינים של מדינות אויב.

האם ניתן "להרעיל" את הצ'אטבוטים?

עד לא מזמן, הנחת העבודה של מומחי אבטחה הייתה שכדי להטות מודל בינה מלאכותית, כמו ChatGPT, ג'מיני וקלוד, התוקף צריך להשתלט על אחוז ניכר מנתוני האימון שלו – משימה כמעט בלתי אפשרית, כשמדובר במודלים ענקיים. מחקר פורץ דרך של חברת Anthropic ניפץ את האשליה הזו.

החוקרים מצאו כי הזרקה של 250 מסמכים זדוניים בלבד מספיקה כדי לשתול "דלת אחורית" (Backdoor) קבועה במודל, ללא קשר לגודלו ולכמות המידע העצומה שהוא מכיל. לפי הפרסום של Anthropic על הרעלת מודלים, מדובר, בממוצע, בפחות מ-0.00016% מנתוני האימון של אחד המודלים המרכזיים.

חשוב להבהיר: מחקר זה מציג היתכנות טכנולוגית במעבדה (החדרת דלת אחורית לקוד) ואינו מעיד על כך שפעולה כזו מבוצעת כעת בישראל, אך הוא צריך להדליק נורת אזהרה לגבי קלות המניפולציה הפוטנציאלית.

הסף הטכני להטיית מודלים, או להטיית המקורות הדיגיטליים שהמודלים שואבים מהם מידע בזמן אמת, נמוך בהרבה ממה ששערכנו בעבר.

מודלים של בינה מלאכותית מתווכחים על המציאות ושברה (צילום: יצירה דיגיטלית: אלון קורנגרין)

האם ה-AI יכולה לשנות עמדות?

האם שיחה עם צ'אט באמת יכולה לשנות עמדות של בוחרים? מחקר מקיף שפורסם בכתב העת המדעי היוקרתי Nature הוכיח שכן, ובאופן דרמטי.

בניסוי מבוקר שנערך במספר מדינות, משתמשים שניהלו שיחות אינטראקטיביות עם מודל שנטה לצד פוליטי מסוים שינו את עמדותיהם בשיעור שהיה גבוה פי ארבעה מההשפעה של תשדירי בחירות ופרסומות פוליטיות ממוקדות.

לפי המחקר, המודל לא צעק סיסמאות; הוא פשוט הציג עובדות סלקטיביות, בטון רגוע, מנומק ומותאם באופן לחששות, שהמשתמש עצמו העלה במהלך השיחה.

יותר מכך: החוקרים גילו פרדוקס מטריד – המודלים המשכנעים ביותר היו לעיתים קרובות אלה שהכי פחות דייקו בעובדות.

האם הרגולציה יכולה לעצור את השפעות הצ'אט על הבוחר?

בישראל, כמו בשאר העולם, רגולטורים מציעים פתרון לבעיה – חובה חסמן מידע שנוצר ב-AI.

אלא שמחקרים שונים מראים כי חובת הסימון פשוט לא עובדת. תיוג של טקסט או תשובה ככאלה ש"נוצרו באמצעות בינה מלאכותית" לא הפחית בצורה משמעותית את אפקט השכנוע של מודל ה-AI על המשתמשים.

ברגע שאדם נמצא בתוך דיאלוג דינמי – כשהוא שואל שאלת המשך, מביע ספק ומקבל מענה מיידי – המוח שלנו נוטה להתייחס לאינטראקציה הזו כאל שיחה אמיתית. התווית בשולי המסך הופכת לשקופה.

יתרה מכך, מחקרים שונים (כמו אלו של ארגון AlgorithmWatch העוקב אחר אלגוריתמים במרחב הציבורי) הראו כי המערכות נוטות "לרשת" באופן אוטומטי את ההטיות, חצאי-האמיתות ותפיסות העולם של גופי המדיה והאתרים שהן מצטטות ומסכמות.

המכונה אינה בודקת את האמינות והאובייקטיביות של המקור, אלא פשוט מסכמת את מה שזמין או פופולרי באותו רגע. אם מקור המידע שהמודל שולף ממנו מוטה – התשובה ה"נייטרלית" שנקבל תהיה מוטה באותה מידה, מבלי שהמודל עצמו "ידע" שהוא כזה.

הביטוי ההרסני ביותר לכשל הזה נחשף בניתוחי עומק ביטחוניים, כמו המחקר של חוקרי המכון למחקרי ביטחון לאומי העוסק בהיערכות לאומית מול השפעה והתערבות זרה ברשתות.

הדוח מפרט כיצד גורמים עוינים – ובראשם איראן – מנהלים באופן עקבי מאמצי השפעה על התודעה הציבורית והחוסן החברתי בישראל, באמצעות הפצת דיסאינפורמציה, הפעלת רשתות של מאות חשבונות מתחזים, ושימוש מניפולטיבי ברגשות ובאירועים נפיצים.

קמפיינים ממוקדים אלה אינם מנסים למכור אידאולוגיה זרה; מטרתם היא להשתמש בנתונים מוטים ובחצאי-אמיתות אלגוריתמיות כדי להעמיק את השסע האזרחי, לזרוע דמורליזציה, ולעודד חוסר אמון מוחלט במערכת הדמוקרטית.

כאשר בוחר נעזר בצ'אט כדי לסכם את תמונת המצב הפוליטית, הוא עלול לקבל גרסה שעברה "אופטימיזציה" סמויה על ידי שחקנים עוינים, המוגשת לו במסווה של סקירה עובדתית ואובייקטיבית.

מה אנו יכולים לעשות כדי שהצ'אט לא יטה אותנו? 

כדי לא לתת למכונה להנדס לנו את התודעה, מומלץ לאמץ מספר הרגלים פשוטים בכל פעם שמחפשים מידע פוליטי:

לבדוק טענות הפוכות במקביל, בחלונות נפרדים

הצ'אט נוטה "לזרום" עם מה שאנו רוצים לשמוע. אם תשאלו אותו למה מועמד מסוים טועה, הוא יתאמץ למצוא סיבות למה הוא טועה.

איך עושים את זה? שואלים שאלה שמוטה לכיוון מסויים (למשל: "מה היתרונות של התוכנית הכלכלית של מועמד X?"), ואז סוגרים את חלון השיחה ופותחים חלון חדש. בחלון החדש שואלים שאלה הפוכה ("מה החסרונות של התוכנית הכלכלית של מועמד X?"). השילוב בין שתי התשובות ייתן תמונה מלאה יותר.

לבקש מהצ'אט קישורים ומקורות

אין להאמין לטקסט שכתבה ה-AI כפשוטו, גם אם הוא נראה רציני ומנוסח יפה. הכריחו את הצ'אט להראות קבלות.

איך עושים את זה? מוסיפים בסוף השאלה בקשה פשוטה: "תראה לי קישורים ישירים לאתרים שעליהם הסתמכת, ורשום לי בקצרה מאלו אתרי חדשות או מסמכים רשמיים לקחת את המידע".

אם הצ'אט מתחמק, נותן קישורים שבורים או מסתמך רק על פוסטים ברשתות החברתיות – אין מה לסמוך על התשובה.

לבקש מהצ'אט להתווכח עם עצמו

הבינה המלאכותית מציגה, לעיתים, דעות פוליטיות בטון רגוע וסמכותי שנשמע כמו עובדה מדעית. כדאי לזכור זאת, ולהתייחס לדבריה כאל דעה שהעתיקה מהרשת, ולא כאל עובדה.

איך עושים את זה? מיד אחרי שהצ'אט עונה, כותבים לו: "עכשיו תהיה עורך הדין של הצד השני. רשום לי את שלושת הטיעונים הנגדיים הכי חזקים שיש נגד מה שכתבת הרגע".

להצליב בין מודלים שונים 

חברות שונות מפתחות מודלים שונים של AI; לכל אחד מהם יש מבנה אלגוריתמי משלו ומנוע חיפוש אחר שמזין אותן בזמן אמת. כדי לקבל תמונה מאוזנת ומדוייקת יותר, כדאי להצליב את השאלות בין מודלים שונים.

איך עושים את זה? כותבים שאלה, מעתיקים אותה, ומציגים אותה במקביל לשני מודלים שונים (למשל, פעם אחת ב-ChatGPT ופעם אחת בקלוד או בג'מיני), ולחפש את ההבדלים בין התשובות.

האם מנוע אחד מדגיש עובדות שהשני השמיט? האם הטון של אחד מהם אוהד יותר למועמד או למפלגה מסויימת? ההבדלים האלה הם הדרך הקלה ביותר לזהות היכן נגמרות העובדות היבשות ומתחילה ההטיה הדיגיטלית.

לכתוב לצ'אט בלי רמזים לעמדתך

מערכות AI אומנו להיות שירותיות ואדיבות, מה שגורם להן "להתחנף" אלינו אם הן יזהו רמז לעמדה שלכם בתוך השאלה, הן ישנו את התשובה כדי להסכים איתכם. כדאי לשוחח עם ה-AI בלי להסגיר בפניה את עמדתכם. 

איך עושים את זה? כשאתם שואלים שאלה, אל תכניסו אליה מילים טעונות או רמזים למה שאתם חושבים. במקום לשאול: "זה נכון שמועמד א' נכשל בטיפול במשבר הדיור?", תשאלו בנוסח ניטרלי: "מהם הנתונים הרשמיים על מחירי הדיור בתקופת כהונתו של מועמד א'?".

ככל שהשאלה שלכם תהיה נייטראלית ו"יבשה" יותר, כך תאלצו את המערכת לספק עובדות במקום להנהן בהסכמה.

לסיכום: הסכנה הגדולה מהבינה המלאכותית בבחירות האלו היא לא שקרים בוטים שקל לזהות. הסכנה היא שהמסך נותן לנו תחושה כה חזקה של "בדיקת עובדות עצמאית ואובייקטיבית", עד שאנחנו מסתגרים בתוכו ובטוחים שקיבלנו את התמונה המלאה.

אנחנו בטוחים שחקרנו את האמת – בזמן שקיבלנו מוצר שעבר אופטימיזציה אלגוריתמית.

כדי לשבור את הלולאה הדיגיטלית הזו, הצעד האפקטיבי ביותר הוא להפוך את כיוון המשחק: במקום לתת לטכנולוגיה לעצב את דעתנו, עלינו לרתום אותה כדי להתעמת עם המציאות פנים אל פנים.

ולבסוף – לא כדאי להסתפק במחקר הדיגיטלי. ניתן לקחת את התשובות שקיבלנו מהצ'אט, ולהשתמש בהן כסימולציה. בקשו מהצ'אט לנסח עבורכם את השאלות הקשות, המביכות והנוקבות ביותר למועמדים ולתומכים שלהם.

את השאלות הללו אפשר להפנות לאנשים שאנו מדברים איתם בשיחות אמיתיות, וגם למועמדים עצמם, אם אנו מצליחים להגיע אליהם, בכנס בית, באסיפת בחירות או בווידאו צ'אט פתוח. 

שום אלגוריתם לא יכול להחליף את האינסטינקט האנושי שמתעורר כשרואים פוליטיקאי מנסה להשיב לשאלה חדה בעולם האמיתי, בלי מסכים, בלי פילטרים ובלי יכולת לערוך את התשובה מראש. המשחק האמיתי עדיין מתרחש במציאות.

אבי בן הר הוא טכנולוג בהכשרתו, ויזואליסט בנשמתו. ציוני אופטימיסט וחוקר עולמות שלא מפסיק לתהות. "פשטות היא התחכום העילאי" - לאונרדו דה וינצ'י.