כשצוות של רשת CBS עבר על 1,000 סרטוני וידיאו שנשלחו אליו מאנשים שהיו כביכול בשטח בישראל או בעזה בשבוע שעבר, הוא מצא שרק 10% מהם ראויים לשימוש.

חלק מ־900 הסרטונים שנדחו על־ידי הצוות נוצרו באמצעות "דיפ־פייק" – טכנולוגיית בינה מלאכותית המסוגלת לשטות באנשים ולגרום להם להאמין שאדם מסוים אמר משהו שהוא לא אמר.

מנכ"לית CBS ונדי מקמהון אמרה בהצהרה כי הרשת "בנתה בשקט" יכולות התמודדות עם מגפת הדיפ־פייק, והוסיפה כי כמה מיוצרי הדיפ־פייק עושים זאת למטרת "דיסאינפורמציה".

בזמן שצה"ל מתכונן להיכנס לעזה, מרחב הסייבר עומד לשמש שוב כשדה קרב מרכזי עבור מקבלי ההחלטות בזמן אמת – ועבור דעת הקהל. אולם, הפעם סרטוני דיפ־פייק מציבים איום חדש שלא היה נוכח בעימותים הקודמים בעזה.

חיילי צה"ל בשטח כינוס על גבול עזה, 17 באוקטובר 2023 (צילום: יונתן זינדל/פלאש90)

כדי להבין קצת יותר את הנושא, שוחחנו עם מיכאל מטיאס, מנכ"ל "קלריטי" – חברת הזנק שהוקמה לפני כשנה כדי להתמודד עם אתגר הדיפ־פייק באמצעות פיתוח "מנוע בינה קולקטיבית מבוסס בינה מלאכותית" לשימוש בכל העולם. לדברי מטיאס, אסור לזלזל בטכנולוגיה החדשה.

"אבולוציית־על דרמטית של מידע כוזב כובשת אותנו בסערה, יש לזה השפעה בייחוד במלחמה, השפעה דרמטית", אומר מטיאס. "פלטפורמות וערוצי עיתונות מקוונים לא ערוכים להתמודד עם זה כי הם משתמשים בשיטות מסורתיות לניהול תוכן, בעיקר במנהלי תוכן אנושיים".

"פלטפורמות וערוצי עיתונות מקוונים לא ערוכים להתמודד עם זה כי הם משתמשים בשיטות מסורתיות לניהול תוכן, בעיקר במנהלי תוכן אנושיים"

מטיאס שוחח עם זמן ישראל ביום חמישי בשבוע שעבר, לפני שעלה על מטוס מניו יורק לישראל. בשבילו, המלחמה הזאת הנוכחית אישית מאוד: בין למעלה מ־1,300 הנרצחים במעשי הטבח שביצע חמאס, היו כמה חברים שלו ושל עמיתיו שהשתתפו בפסטיבל סופרנובה. כמו כן, שלושת אחיה של בת זוגו נשלחו להילחם ביחידה מובחרת.

איום מתחת לרדאר

סרטוני דיפ־פייק נמצאים בכותרות פחות משנה, כך שיש עדיין בלבול רב בציבור בנוגע לטכנולוגיה ולאופן שבו היא יכולה לשמש בידי שחקנים רעים, אומר מטיאס. "סרטון דיפ־פייק הוא התחזות שבה אתה לוקח את הזהות של מישהו וגורם לו לעשות דברים ולהגיד דברים שהוא לא אמר או עשה".

גיל אבריאל, מנהל אסטרטגיה ראשי ב"קלריטי", ד"ר נטלי פרידמן, מנהלת טכנולוגיה ראשית והמנכ"ל מיכאל מטיאס (צילום: באדיבות קלריטי)

מטיאס מזכיר את סרטון הדיפ־פייק של נשיא אוקראינה שמפציר בלוחמים להניח את נשקם כדוגמה לאיום שנוצר באמצעות בינה מלאכותית. לדבריו, מוקדם יותר השנה נעשה שימוש בסרטון דיפ־פייק כדי להתערב בבחירות בברזיל וכעת בבריטניה – והטכנולוגיה משמשת גם בארה"ב ליצירת "דיפ־פייק של מנהיגים פוליטיים כדי לשנות את דעת הקהל".

על פי הערכה של אחד המומחים המובילים בישראל לאבטחת סייבר, מנהל אבטחת המידע הוותיק אייל ששון, "וקטור ההתקפה של הדיפ־פייק מתפתח בקצב הבינה המלאכותית ודורש יכולות בינה מלאכותית כדי להתמודד איתו. אנחנו כבר רואים הונאות פיננסיות בבנקים וניסיונות ליצור הנדסה חברתית בקנה מידה רחב במערכות פוליטיות. זה הולך להיות בכל מקום".

מטיאס מזכיר את סרטון הדיפ־פייק של נשיא אוקראינה שמפציר בלוחמים להניח את נשקם כדוגמה לאיום שנוצר באמצעות בינה מלאכותית. לדבריו, נעשה שימוש בדיפ־פייק גם כדי להתערב בבחירות בברזיל

"ארגונים חייבים להתחיל לאמץ כלים לחסימת הונאת הנדסה חברתית מתקדמת ופישינג", אומר אודי מוקדי, יו"ר חברת אבטחת המידע "סייברארק".

ללא עלויות וללא מכשולים טכנולוגיים

"קלריטי", שהוקמה עם שותפים מאוניברסיטת סטנפורד ומהמכון הטכנולוגי של מסצ'וסטס, ושיש לה מטה מחקר ופיתוח בישראל, תכננה להתמקד במערכות בחירות מסביב לעולם, בבטיחות תשתיות חיוניות ובאיום שמציבה מניפולציית הדיפ־פיק, מסביר מטיאס.

אולם, למותר לציין, מתקפת הפתע של חמאס שינתה את המשוואה עבור "קלריטי", אומר מטיאס, שיש לו הכשרה וניסיון מקצועי באבטחת סייבר ובבינה מלאכותית. אחד ההיבטים המפחידים של טכנולוגיית הדיפ־פייק הוא שכל אחד יכול ליצור סרטונים. במילים אחרות, אין עלויות או מכשולים טכנולוגיים שעוצרים אנשים מלהשפיע על דעת הקהל באמצעות זיוף אירועים שלא קרו מעולם.

כפי שאמרה מקמהון מ־CBS ביום חמישי, ערוצי תקשורת אינם ערוכים מספיק להבחין בין סרטונים אמיתיים לבין סרטונים שנוצרו למטרות "דיסאינפורמציה". בעוד ש־CBS מפתחת יכולות להתמודד עם אתגרי דיפ־פייק, אומר מטיאס, רוב ערוצי התקשורת אינם מעריכים נכונה את היקף האיום שמציבים סרטונים שנוצרו על־ידי בינה מלאכותית.

"מהפכת דיפ־פייק"

חמאס ותומכיו כבר השתמשו בדיפ־פייק במלחמה הנוכחית, אומר מטיאס, ויוצרי דיפ־פייק פרו־פלסטינים ודאי ינסו לבצע מניפולציה במצב הפוליטי בשבועות הקרובים (מטיאס אומר שמסיבות ביטחוניות הוא לא יכול לחשוף דוגמאות לסרטוני דיפ־פייק שנעשה בהם שימוש).

חמאס ותומכיו כבר השתמשו בדיפ־פייק במלחמה, אומר מטיאס, ויוצרי דיפ־פייק פרו־פלסטינים ודאי ינסו לבצע מניפולציה במצב הפוליטי בשבועות הקרובים (מסיבות ביטחוניות אי־אפשר לחשוף דוגמאות)

"כשזה מגיע למשא ומתן ולחטופים, ולמצבים מבוססי זהויות עדינים כאלה, דיפ־פייק הוא שיטה שבה אתה משנה את המציאות וגורם לאנשים לחשוב באמצעות הנדסה חברתית שקרה משהו שלא באמת קרה", אומר מטיאס.

כרגע, "הרוב הגדול של סרטוני דיפ־פייק מגיע מקבוצות תוכן שנוצרו על־ידי משתמשים בפלטפורמות כמו טלגרם. הסרטונים מגיעים למיליוני אנשים והם מאוד ויראליים. אתה יכול לשנות את השיח הציבורי על מה שקורה".

אילוסטרציה: מנכ"ל OpenAI סם אלטמן בשימוע של ועדת המשנה לענייני פרטיות, טכנולוגיה ומשפט של הסנאט, 16 במאי 2023 (צילום: AP/Patrick Semansky)

מטיאס אומר של"קלריטי", שבסיסה בניו יורק ובקליפורניה, יש צוות מחקר ופיתוח בישראל שכולל כמה מחבריו מהשירות הצבאי ביחידה 8200. היחידה – הגדולה ביותר בצה"ל – ממלאת תפקיד דומה לזה של הסוכנות לביטחון לאומי של ארה"ב.

אף שמתקפת הפתע ומעשי הטבח של 7 באוקטובר ערערו את אמון האזרחים בצבא ובשירותי הביטחון, לישראל יש תפקיד בלתי פרופורציונלי בהגנה על מרחב הסייבר באופן כללי, אומר מטיאס. "לישראל יש את הטכנולוגיה הטובה ביותר בעולם כדי להתמודד עם האיום שמציב הדיפ־פייק".

כשהוא נשאל אם יש דבר אחד שהקוראים צריכים לדעת על האיום, מטיאס אומר שכל מי שצופה בסרטונים ממלחמת ישראל–עזה אחראי לוודא שהמדיה לא עברה מניפולציה

החברה של מטיאס תודיע בקרוב על שותפות לאימות תוכן רגיש ולהגנה על הציבור מפני נפילה קורבן למניפולציות דיפ־פייק. כשהוא נשאל אם יש דבר אחד שהקוראים צריכים לדעת על האיום, מטיאס אומר שכל מי שצופה בסרטונים ממלחמת ישראל–עזה אחראי לוודא שהמדיה לא עברה מניפולציה.

"המחיר של שיתוף דיפ־פייק הוא חלק מהמלחמה, וזו מלחמה עולמית נגד הטרור", אומר מטיאס. "אנחנו בתחילתה של מהפכת דיפ־פייק".