חברת ההזנק "Chatoptic", שנוסדה בין היתר על ידי מומחה קידום האתרים וה־GEO – אופטימיזציה למנועי בינה מלאכותית – פבל ישראלסקי, עוסקת בשגרה בניטור ובמדידת הנראות של מותגים בתוך תשובות של צ'אטבוטים.
לקראת הבחירות בישראל החליטו בחברה לבדוק את אחת השאלות הרגישות ביותר: מה ימליצו מודלי הבינה המלאכותית המובילים בעולם למשתמשים ישראלים ששואלים אותם למי להצביע? הנתונים מראים כי מדובר בסוגיה בעלת משקל פוליטי אמיתי: לפי מחקר של איגוד האינטרנט הישראלי, כל ישראלי רביעי שוקל להתייעץ עם AI לפני שיחליט איזה פתק לשים במעטפה.
כדי להבין איך המנגנון הזה עובד, ב־Chatoptic בנו 26 "פרסונות" – פרופילים דיגיטליים מפורטים המייצגים את פסיפס החברה הישראלית: מחקלאי בצפון, דרך צעירה תל־אביבית ועד בוחרים מהמגזר החרדי או הערבי. לכל דמות הוגדרו מאפיינים דמוגרפיים, פחדים ורצונות ייחודיים.
לכבוד הבחירות בישראל החליטו בחברה לבדוק את אחת השאלות הרגישות ביותר: מה ימליצו מודלי הבינה המלאכותית המובילים בעולם למשתמשים ששואלים אותם למי להצביע?
החברה נתנה לפרסונות הללו "לראיין" את חמשת הצ'אטבוטים המובילים בשוק: ChatGPT, קלוד (Claude), פרפלקסיטי (Perplexity), גרוק (Grok) וג'מיני (Gemini), באמצעות שאלות השוואה מתוחכמות.
לאחר ניתוח יסודי של 7,051 ציטוטים מתוך התשובות, הממצאים הועלו לדשבורד מיוחד המציג מי מהצ'אטים בחר באיזו מפלגה, באילו תחומים, ואילו הבדלים קיימים אפילו ברמה המגדרית. בריאיון לזמן ישראל ישראלסקי מסביר איך בדיוק זה עובד מאחורי הקלעים.
מהו הממצא בסימולציה הזו שהכי הפתיע אתכם?
"הממצא הראשון שגיליתי, ושלא הייתי מודע אליו לפני כן, הוא שהצ'אטבוטים בכלל לא מוכנים להמליץ על מפלגות אם שואלים אותם בצורה ישירה. אם תשאל כרגע את הצ'אט שלך: 'למי כדאי לי להצביע בבחירות הקרובות?' – במודלים כמו ChatGPT או Gemini המערכת תזהה מייד שמדובר בנושא פוליטי נפיץ, והפרוטוקול יחסום את התשובה.
"כדי לקבל המלצה אתה חייב לנסח את השאלה אחרת, בצורה עקיפה. למשל: 'תן לי דוגמה למפלגות שנושא יוקר המחיה נמצא בראש סדר העדיפויות שלהן'. בשלב הזה הצ'אט כבר ישלוף המלצות ספציפיות".
התוכי הדיגיטלי
גיליתם ש־84% מהתשובות של ה־AI מבוססות על ציטוטים מאתרי חדשות ישראליים. זה אומר שאם התקשורת בארץ מוטה או חולה ב"פייק ניוז", ה־AI באמת מייצר תובנה חכמה או שהוא פשוט תוכי מתוחכם של אתרי החדשות?
"אם תשים לב, רשתות חברתיות זכו רק ל־4% מהתשובות, ומזה אפשר ללמוד פחות או יותר על הלוגיקה של מודלי השפה.
"הממצא הראשון שגיליתי, ושלא הייתי מודע אליו לפני כן, הוא שהצ'אטבוטים בכלל לא מוכנים להמליץ על מפלגות אם שואלים אותם בצורה ישירה"
"הם באים ואומרים דבר כזה: אנחנו חייבים להתבסס על מקור כלשהו כדי להמליץ על משהו. רשתות חברתיות, בגלל שזה User Generated Content – תוכן גולשים – אז כל אחד יכול לייצר פוסטים פיקטיביים ובוטים שיאדירו אותי.
"לעומת זאת כשזה אתר חדשות, אז אף בן אדם לא יכול להשפיע על זה חוץ ממי שבתוך המערכת – הכתבים, העורכים וכולי. אז שם המניפולציה קצת יותר קשה. אבל כן, אף שזה לא מושלם, אין להם ברירה אלא להתבסס על הדבר הזה".
אבל אם הצ'אט מושך תוכן מגוף תקשורת עם אג'נדה פוליטית ברורה, כמו למשל "ערוץ 14", המשתמש יבין ממנו שבנימין נתניהו הוא הבחירה המושלמת עבורו כמעט בכל תחום. האם לבינה מלאכותית יש יכולת להבדיל בין תעמולה לידיעה חדשותית נקייה?
"הטיות כאלה אפשריות, אבל הן לא קלות לביצוע, כי הצ'אט לרוב אינו מסתמך על מקור יחיד אלא מבצע הרבה הצלבות ברקע.
"בפועל, כשאתה שואל את ChatGPT שאלה, הוא לוקח את הפרומפט שלך ומפרק אותו לכמה תתי־פרומפטים. כל תת־פרומפט כזה מבצע חיפוש במנועי חיפוש חיצוניים כמו גוגל או בינג, ואז המודל אוסף את כל התוצאות, מצליב ביניהן ובונה תשובה.
"אם אתר מסוים, שכולו מוטה לטובת מועמד מסוים, יופיע במיקומים הגבוהים ביותר במנועי החיפוש, יש סיכוי ממשי שמודל השפה יסתמך עליו, אבל הוא לבדו לא יקבע את התשובה שתקבל".
"אם אתר מסוים, שכולו מוטה לטובת מועמד מסוים, יופיע במיקומים הגבוהים ביותר במנועי החיפוש, יש סיכוי ממשי שמודל השפה יסתמך עליו, אבל הוא לבדו לא יקבע את התשובה"
מפת המקורות של ה־AI בישראל
מי הם האתרים החדשותיים בטופ רשימת החיפושים של מודלי הבינה המלאכותית בישראל לפי הנתונים שלכם?
"לפי הסטטיסטיקות שלנו, האתר המוביל ביותר הוא 'ynet', ואחריו, לפי הסדר: 'מאקו', 'כלכליסט', 'מעריב', 'וואלה', 'ישראל היום' וזמן ישראל.
"נקודה מעניינת ששמנו לב אליה נוגעת לוויקיפדיה. אף שוויקיפדיה מופיעה ברשימת האתרים המובילים הכללית, המודלים היחידים שהתבססו עליה בפועל הם Perplexity, Claude ו־Grok. לעומת זאת, Gemini ו־ChatGPT לא. הסיבה לכך היא אולי ניסיונות העבר של גורמים פוליטיים לבצע מניפולציות ולשכתב ערכים באתר באופן מגמתי".
האם למפלגות יש את האמצעים, הלכה למעשה, "לשחק לנו בראש" ולעצב את תשובות ה־AI כדי שימליץ עליהן?
"ברמת העיקרון זה אפשרי. אם הם עכשיו ידאגו להעלות תכנים בכל הפלטפורמות האלה שברשימה, והתכנים שיעלו יהיו חיוביים על אותו מועמד, אז עקרונית כן, אבל זה לא כזה פשוט.
"זה כמו שאם אני אקח עכשיו, נגיד, את הרכב הכי גרוע בעולם, ואני אהדהד אותו באתרי חדשות, ובכל מקור שהמודל ניזון ממנו, אז הוא ימליץ על הרכב הזה כי הוא לא באמת יודע אם זה רכב טוב או לא".
הדהוד באתרים כדי להטות AI די קל לייצר באמצעות כתבות ממומנות, תוכן שיווקי. מספיק שיש לך קצת הון ואתה יכול באופן מלאכותי להיות בטופ ההדהודים באתרים. השאלה היא אם הצ'אט יודע להבדיל בין כתבה עיתונאית לטור ממומן?
"הצ'אטים היום כבר יודעים, כי יש סיגנל שמבוסס על כמה פרמטרים: ניסיון, מומחיות, סמכותיות ואמינות. אלה בעצם ארבעה מדדים שעוזרים לחיפוש של גוגל להבין אם פיסת התוכן הזאת נכתבה על ידי מומחה או לא.
"כשהם (מודל AI) נתקלים בכתבה שלא חתום עליה בן אדם אמיתי, שם אמיתי, אלא כתוב 'נכתב על ידי צוות אתר X או על ידי מערכת אתר X, מבחינתם זה יקבל פחות משקל מאשר מאמר שחתום על ידי בן אדם אמיתי"
"אני חושב שגם מודלי השפה בודקים את הדבר הזה. ומה זה אומר בגדול? כשהם נתקלים בכתבה שלא חתום עליה בן אדם אמיתי, שם אמיתי, אלא כתוב 'נכתב על ידי צוות אתר X או על ידי מערכת אתר X, מבחינתם זה יקבל פחות משקל מאשר מאמר שחתום על ידי בן אדם אמיתי.
"ובכלל, אם הם נתקלים בתגית כמו תוכן ממומן או תוכן שיווקי, גם את זה הם לוקחים בחשבון. כן, מודל השפה סורק את התוכן בעמוד".
המודל שמתחנף והמודל שמוודא
הצ'אטבוטים מתוכנתים להיות "עוזרים אישיים" שהמטרה שלהם היא לרצות את המשתמש. נתקלתם במקרים שבהם המודל שינה את דעתו הפוליטית מקצה לקצה רק כדי להתחנף לפרסונה חרדית לעומת פרסונה חילונית, למשל?
"האמת היא שבסימולציה שלנו לא ניהלנו שיחה מתגלגלת ארוכה, אלא בדקנו מודל של One shot, פנייה חד־פעמית. רצינו לראות מה יוצא בתוצאה הראשונה והנקייה על סמך הפרופיל הדיגיטלי שהגדרנו.
"אבל בעולם האמיתי, מנגנון הריצוי והחנפנות הזה עובד שעות נוספות בתוך שיחה מתמשכת. שָׁם המשתמש לגמרי מוביל את המודל לאן שהוא רוצה.
"נניח שאתה שואל את הצ'אט: 'לאיזו מפלגה כדאי להצביע? חשוב לי במיוחד נושא הביטחון'. הצ'אט יזרוק לך כמה שמות של מפלגות, נניח הליכוד או מפלגה אחרת. אם תגיב לו מייד: 'אתה בטוח לגבי המפלגה הזו? דווקא הבנתי שהם לא הכי מומלצים בתחום' – באותו הרגע המודל מבין שהרצון הפנימי שלך הפוך. הוא מייד יתקפל, יזרום איתך ויחזק את ההטיה שלך: 'כן, אתה צודק, הם באמת לא הכי מומלצים מהסיבות הבאות…'
"בנוסף לנטייה הזו לרצות את המשתמש, גילינו גם פערים טכנולוגיים מרתקים בין המודלים השונים, שיצרו הבדלים קיצוניים בתשובות אפילו בפנייה החד־פעמית"
"הצ'אט לעולם לא יתווכח איתך. הוא אף פעם לא יעמוד על שלו ויגיד: 'לא, אתה טועה, הם כן טובים'. היוזר תמיד מוביל, והצ'אט פשוט אומר לו את מה שנעים לו לשמוע".
ומה לגבי ההבדלים בתוצאות בין הצ'אטים?
"בנוסף לנטייה הזו לרצות את המשתמש, גילינו גם פערים טכנולוגיים מרתקים בין המודלים השונים, שיצרו הבדלים קיצוניים בתשובות אפילו בפנייה החד־פעמית. לקחנו פרסונה של גבר חרדי ושאלנו את ChatGPT ואת Perplexity לגבי המפלגות שיטפלו הכי טוב ביוקר המחיה.
"התוצאות היו הפוכות לחלוטין: ב־ChatGPT המפלגות שקפצו ראשונות היו ש"ס, יהדות התורה והליכוד. ב־Perplexity שלוש הראשונות היו דווקא הליכוד, יש עתיד וישראל ביתנו, בעוד המפלגות החרדיות נדחקו לסוף הרשימה".
איך אתה מסביר פער כל כך קיצוני?
"ההסבר נעוץ בדרך שבה המודלים הללו בנויים ובצורה שבה הם ניגשים למידע. ChatGPT מאומן על דאטה סטטי שנסגר בתאריך מסוים. אם תשאל אותו מה בירת צרפת, הוא לא צריך לגלוש באינטרנט כדי לענות נכון, כי זה מידע קבוע שלא משתנה.
"הבעיה מתחילה בתוצאות שמתבססות על מידע עדכני. המודל לא תמיד מפעיל חיפוש רשת, ולפעמים הוא מתבסס רק על מה שהוא יודע. אם הוא לא רואה צורך להפעיל חיפוש כדי לבדוק את עצמו, או אם המשתמש לא ביקש ממנו להפעיל חיפוש ברשת, הוא לא יפעיל. במקרה של הפרסונה החרדית הוא פשוט הפעיל קשר אסוציאטיבי קבוע מראש אצלו: חרדי = מפלגות דתיות.
"המשתמש הממוצע בבית נוטה להתייחס ל־ChatGPT כאילו הוא אלוהים, הישות החכמה ביותר שיודעת הכול. המציאות היא שהוא מוגבל מאוד למידע שעליו הוא אומן"
"לעומת זאת, Perplexity סורק את הרשת בזמן אמת בכל שאלה שאתה מפנה אליו. הוא עשה בדיקה בלייב וגילה שכנראה יש עתיד וישראל ביתנו כתבו משהו שקשור ליוקר המחיה שקשור לחרדים, ולכן הוא הציף אותם".
אשליית "בנט 2026" והסכנה החינמית
זה אומר שהצ'אטבוט עלול לפספס לחלוטין שינויים פוליטיים דרמטיים בזמן אמת, כמו איחוד מפלגות, פרישת מועמדים או תרחישים פוליטיים חדשים אחרים, ועדיין לתת המלצות על בסיס מידע ישן?
"בדיוק. המשתמש הממוצע בבית נוטה להתייחס ל־ChatGPT כאילו הוא אלוהים, הישות החכמה ביותר שיודעת הכול. המציאות היא שהוא מוגבל מאוד למידע שעליו הוא אומן.
"היו לנו דוגמאות חיות בסימולציה שבהן המודל שלף פתאום המלצה להצביע למפלגת 'בנט 2026'. במציאות אין כבר מפלגה כזו בקלפי, אבל מודל השפה לא באמת מבין את העולם האמיתי. יש לו דאטה ישן, וכאמור, הוא מנסה לחסוך עלויות ולכן לא תמיד רץ לבדוק את עצמו ברשת.
"הבעיה הזו חמורה שבעתיים בגרסאות החינמיות. כיום רוב הציבור משתמש בגרסה החינמית של ChatGPT ולא בגרסת ה־Pro בתשלום. הגרסאות החינמיות מוגבלות עוד יותר בכל הנוגע לחיבור דינמי לרשת, ולכן המידע הפוליטי שמקבלים שם לעיתים לא מעודכן.
"לעומת זאת, אם תשאל אותו שאלה מתמטית כמו איך לחשב נפח של תיבה, התשובה תהיה מדויקת לחלוטין, כי זה מידע שלעולם אינו משתנה".
"הבעיה הזו חמורה שבעתיים בגרסאות החינמיות. כיום רוב הציבור משתמש בגרסה החינמית של ChatGPT ולא בגרסת ה־Pro בתשלום. הגרסאות החינמיות מוגבלות עוד יותר בכל הנוגע לחיבור דינמי לרשת"
נחזור לנתון המדאיג: רבע מהישראלים שוקלים להתייעץ עם AI לפני הבחירות. כמי שמכיר את הקרביים של הטכנולוגיה הזו, מה היית אומר לילדים שלך אם הם היו מבקשים להצביע לפי המלצת הצ'אט?
"אז קודם כול, אני מאוד מנסה ללמד את הילדים שלי לא לסמוך על הצ'אט. להבדיל מגוגל, שבאמת שואף לתת לי את התשובה האובייקטיבית הנכונה, הצ'אט רוצה לרצות. מעבר לזה, אנשים פיתחו נטייה מובנית לנסח את השאלות שלהם בצורה שמראש מחזקת את תפיסת העולם שלהם, והצ'אט פשוט זורם איתם ומאשש את ההטיות שלהם.
"חשוב להבין שהצ'אט מנתח את היסטוריית השיחות שלך, מבין מי אתה, ומספק לך המלצה שנשמעת משכנעת להפליא – אבל היא קולעת בול למה שאתה רוצה לשמוע, ולאו דווקא למה שנכון או אובייקטיבי. בדברים הגורליים האלה, אסור בשום אופן לסמוך עליו.
"לעומת זאת, כשאני משתמש במערכת הזאת בשביל ידע ולמידה – היא מעולה. למשל, אם אני עכשיו רוצה ללמוד משהו: איך הוא עובד, איך עושים, איך פועלים, איך כדאי לי לבחור מזנון לסלון, תעזור לי לתכנן טיול לברלין, כל מיני דברים כאלה – מושלם".
תגובות עכשיו הזמן לומר את דעתך
תגובתך פורסמה! שתפו את עמוד הפרופיל שלכם
ועכשיו אנו זקוקים לתמיכה שלך עזרו לנו להמשיך ליצור עיתונות אמינה, מקצועית וליברלית
תמכו בנו