ב"ניו יורק טיימס" דווח כי בחודשים האחרונים עשו איראן, סין וגורמים בישראל שימוש חדשני בבינה מלאכותית כדי ליצור קמפייני השפעה אוטונומיים ברשתות החברתיות – מהלך המגביר את החשש בקרב גורמי ממשל בארה"ב וחוקרי אבטחה מפני התפתחותה המהירה של הטכנולוגיה.
לפי הדיווח, גורמים אלו שילבו טקטיקות של בינה מלאכותית כדי להגדיל את המהירות ואת היקף הפעילות של קמפיינים ברשת לרמות שחורגות מהיכולת האנושית הממוצעת, תוך מעורבות אנושית מינימלית, כך לדברי גורמי ממשל אמריקאים וחוקרי אבטחה המעורים בנושא.
בשלב הראשון, המדינות והקבוצות השתמשו במודלים של בינה מלאכותית מסין המבוססים על קוד פתוח – מערכות עוצמתיות הזמינות להורדה ולשינוי בחינם. לאחר מכן, הם השתמשו במודלים אלו כדי ליצור "סוכנים", שהם בוטים המסוגלים להפעיל תוכנות ולבצע משימות באופן עצמאי.
ברגע שמאות סוכני בינה מלאכותית כאלה שוחררו לרשת, הם פתחו באופן אוטונומי רשתות של חשבונות מזויפים בפלטפורמות כמו אינסטגרם, פייסבוק, טוויטר וטיקטוק, ציינו החוקרים והגורמים הרשמיים. לאחר מכן, הסוכנים הפיצו במהירות בחשבונות המזויפים פוסטים שקריים על פוליטיקה ואירועים אקטואליים, במטרה להשפיע על דעת הקהל ולהתסיס את השיח.
לדברי גורמי ממשל אמריקאים, הייתה זו אחת הפעמים הראשונות שבהן סוכני בינה מלאכותית, המבוססים על מודלים סיניים, שימשו לניהול כל שלבי קמפיין ההשפעה – החל מיצירת החשבונות המזויפים ועד לתיאום המסרים שלהם ברשת. ברוב המקרים, מפעילי המערכות נטרלו את מנגנוני ההגנה שאמורים למנוע ממודל הבינה המלאכותית ליצור חשבונות מזויפים או לבצע מניפולציות ברשת, הוסיפו הגורמים.
הקמפיינים המבוססים על סוכנים עצמאיים אלו היו בוסריים, אך משכו את תשומת ליבם של שירותי המודיעין בארה"ב, של חברות הטכנולוגיה הגדולות ושל מומחי אבטחה. קבוצות אלו פעלו כדי לחשוף את זהות העומדים מאחורי המאמצים ואת שיטות הפעולה שלהם, וגילו כי הקמפיינים הסיניים והאיראניים נהנו מגיבוי מדינתי, בעוד ששני קמפיינים ישראליים מקורם בחברות פרטיות.
הקמפיינים עוררו חששות בנוגע לאופן שבו ניתן להשתמש במודלים זמינים של בינה מלאכותית כדי לנהל מאמצי השפעה ברשת באופן עצמאי לחלוטין. כמה בכירים אמריקאים הביעו חשש שפעולות דומות יכוונו נגד מצביעים בארה"ב לקראת בחירות האמצע בנובמבר.
קמפיינים המונהגים על ידי סוכנים ככל הנראה יהפכו לנפוצים יותר ככל שהטכנולוגיה תשתפר, אמר קייל קרייטון, עמית במרכז לאבטחה וטכנולוגיות מתפתחות של אוניברסיטת ג'ורג'טאון, שחוקר בינה מלאכותית ואבטחת מידע. "סוכנים יכולים להיות מתוחכמים למדי, ולכן בנוסף להפעלה בהיקף נרחב, יש להם יכולת להשתלב ולהיראות יותר כמו משתמש אנושי", הוא הסביר.
בדוחות שפורסמו השנה, טיקטוק ו-Meta, חברת האם של פייסבוק ואינסטגרם, ציינו כי בינה מלאכותית שימשה ליצירת חשבונות ותכנים בפלטפורמות שלהן. בדוח מהחודש שעבר, Meta דיווחה על "התפתחות משמעותית מבחינה טכנית" של גורמים עוינים שעורכים ניסויים בבינה מלאכותית. החברה זיהתה קמפיינים איראניים וישראליים שהשתמשו בטכנולוגיה, מבלי לספק פרטים נוספים.
בינה מלאכותית "מוטמעת כעת בתוך מערכות אוטומטיות שיכולות לייצר, להתאים ולהפיץ תוכן עם התערבות אנושית מינימלית", ציינה Meta בדוח שלה. טוויטר לא הגיבה לבקשות תגובה.
בינה מלאכותית משמשת כבר זמן רב ליצירת סרטונים וטקסטים מטעים ולייצור תמונות משכנעות, אך חוקרי האבטחה ציינו כי הקמפיינים האוטונומיים היו חריגים.
בעבר כבר נעשה שימוש לרעה בסוכנים שנוצרו על ידי חברות כמו OpenAI, כולל על ידי איראן באוגוסט 2024, אך מודלים פתוחים של בינה מלאכותית מאפשרים רמה חדשה של אוטונומיה, הסביר קייל צ'אן, חוקר במכון ברוקינגס. בניגוד למודלים סגורים של חברות כמו OpenAI ו-Anthropic, שבהם קוד המקור אינו נחשף, מודלים פתוחים יכולים לפעול על חומרה פרטית, מה שאומר שאף חברה לא יכולה להתערב ולסגור את המערכות.
הקמפיין האיראני, שזכה לגיבוי מדינתי, עורר דאגה מיוחדת, ציינו הגורמים והחוקרים. איראן התמקדה בקהלים בארה"ב, והחשבונות המזויפים שנוצרו על ידי סוכני הבינה המלאכותית התחזו לאזרחים אמריקאים המתגוררים בערים גדולות.
החשבונות תייגו עיתונאים ופוליטיקאים בתגובות שהפיצו תכנים פופולריים ועמדות נגד המפלגה הרפובליקנית. כמעט 80,000 בני אדם עקבו אחר החשבונות, שהיו פעילים במחצית הראשונה של השנה. רשת "אקסיוס" דיווחה בעבר על כמה היבטים של הרשת האיראנית.
גורמי מודיעין וביטחון לא סיפקו פרטים נוספים על הקמפיין הסיני, מעבר לכך שהוא התנסה באותן טקטיקות של בינה מלאכותית.
מתוך שני הקמפיינים שאותרו בישראל, אחד נוצר במהלך הקיץ על ידי IntelEye, חברה מתל אביב שהוקמה ב-2023 על ידי יוצאי קבוצת NSO – חברת הסייבר ההתקפי שהוכנסה לרשימה השחורה של ארה"ב, כך לדברי שני גורמים המעורים בפרטי הקמפיין.
גורם ביטחוני אמריקאי שתודרך על הקמפיין של IntelEye אמר כי פעילות החברה הגיעה לידיעתן של חברות הרשתות החברתיות ושל המודיעין האמריקאי מוקדם יותר השנה. הקמפיין השתמש בסוכני בינה מלאכותית שיצרו אלפי חשבונות בפייסבוק, אינסטגרם, טיקטוק וטוויטר; החשבונות הגיבו לפוסטים ולתגובות שעסקו בבחירות הארציות שייערכו בחודש הבא בישראל. החשבונות גם פרסמו תוכן שתמך והתנגד לראש ממשלת ישראל בנימין נתניהו, ציין הגורם.
מאור סלק, ממייסדי IntelEye, אמר בריאיון כי החברה שלו השתמשה ב-DeepSeek, מודל בינה מלאכותית סיני בקוד פתוח, כדי לשלוט באלפי חשבונות ברשתות החברתיות, אך טען כי מדובר היה בניסוי שנועד לבחון את בטיחותם של מודלים אלו.
"IntelEye לא מפעילה קמפייני השפעה", אמר סלק. "העבודה שלנו עם DeepSeek בוצעה לצורכי מחקר הגנתי ובדיקות, כדי להבין כיצד מודלים עם אמצעי הגנה בלתי מספקים עלולים להיות מנוצלים לרעה, וכדי לשפר את זיהוי הפעילות הזו".
סלק הוסיף כי IntelEye רכשה 10,000 חשבונות ברשתות החברתיות כדי שיישלטו על ידי סוכני הבינה המלאכותית; כ-1,000 מהם היו פעילים. החשבונות השאירו תגובות מתחת לסרטונים או פוסטים וניסו לפתח שיחות עם משתמשים, ללא הצלחה רבה. מודל הבינה המלאכותית בחר את ההנחיות ואת הנושאים שעליהם פרסמו החשבונות, הוא ציין. בדיעבד, הוא אמר, IntelEye הייתה צריכה לעדכן את חברות הרשתות החברתיות על קיום הניסויים.
"זה נראה כמו ניסיון מתואם ליצור חשבונות מזויפים במספר פלטפורמות", מסר דובר מטעם Meta. "רק אחוז קטן מהחשבונות הללו היו בפלטפורמות שלנו, וכבר הסרנו באופן יזום את רובם המכריע באמצעות מערכות הזיהוי האוטומטיות שלנו".
בדוח שלה מהחודש שעבר, Meta ציינה קמפיין נפרד שהופעל על ידי "גוף מסחרי שפועל מישראל". היא לא נקבה בשם החברה ולא סיפקה מידע נוסף, אך ציינה שהקמפיין עשה שימוש בבינה מלאכותית ב"מערך מתוחכם למדי".
תגובות עכשיו הזמן לומר את דעתך
תגובתך פורסמה! שתפו את עמוד הפרופיל שלכם
ועכשיו אנו זקוקים לתמיכה שלך עזרו לנו להמשיך ליצור עיתונות אמינה, מקצועית וליברלית
תמכו בנו