פרשנות | רוסיה וסין רותמות את הבינה המלאכותית למערכה גלובלית של דיסאינפורמציה ותעמולה

התקדמות טכנולוגית מואצת, המאפשרת יצירת והפצה של חדשות מזויפות ותעמולה בקנה מידה חסר תקדים, מנוצלת על ידי שחקנים מדינתיים כמו רוסיה וסין כדי לעצב דעת קהל, להשפיע על בחירות ולערער מוסדות דמוקרטיים ברחבי העולם.

הבינה המלאכותית (AI), המקדמת פתרונות יעילים בתחומים רבים, משמשת כיום ככלי נשק בידי מדינות המבקשות להפיץ מידע כוזב ולשבש את הסדר העולמי. רוסיה וסין, המובילות במאמצים אלו, מנצלות את הטכנולוגיה המתקדמת כדי להגיע לקהלים רחבים יותר ובאופן מתוחכם ויעיל מאי פעם.

רוסיה: דיסאינפורמציה מבוססת בינה מלאכותית ככלי אסטרטגי

רוסיה, הידועה בקמפיינים מתוחכמים להפצת דיסאינפורמציה, שיפרה משמעותית את יכולותיה באמצעות הבינה המלאכותית. מחקר שנערך לאחרונה מצא כי תעמולה רוסית חלחלה לצ'אטבוטים מערביים, והשפיעה על תשובותיהם והפיצה נרטיבים התואמים את האינטרסים של הקרמלין.

רשת דיסאינפורמציה מוסקבאית בשם "Pravda" (שפירושו "אמת"), הפועלת תחת הכינוי "Portal Kombat", חודרת באופן מכוון לצ'אטבוטים מבוססי AI בתעמולה פרו-קרמלינית. הרשת מפעילה כ-150 אתרים ב-49 מדינות ובשפות שונות, המאגדים תוכן ממקורות תקשורת רוסיים ופרו-קרמליניים. מטרתה העיקרית היא להציף את האינטרנט בנרטיבים כוזבים, במטרה להשפיע על מאגרי הנתונים עליהם מתבססים מודלים של בינה מלאכותית, ולעצב את התשובות שמספקים צ'אטבוטים מבוססי AI.

בדיקה של NewsGuard בחנה 10 צ'אטבוטים מובילים, כולל ChatGPT-4 של OpenAI, Gemini של Google, ו-Copilot של Microsoft, אל מול 15 נרטיבים כוזבים שהפיצה רשת Pravda. הממצאים חשפו כי הצ'אטבוטים שיחזרו את הדיסאינפורמציה הרוסית ב-33% מהמקרים, מה שמעיד על הצלחת הרשת בהטמעת תעמולה בתוכן שנוצר על ידי AI.

טקטיקה זו, המכונה "LLM Grooming" על ידי American Sunlight Project, מהווה איום פוליטי, חברתי וטכנולוגי משמעותי. באמצעות מיקוד במודלים של שפה גדולה (LLM), רשת Pravda מבטיחה שמערכות AI יפיצו, מבלי דעת, תעמולה רוסית, ובכך יגדילו את השפעתה.

כלים המונעים על ידי בינה מלאכותית מאפשרים לסוכנים רוסים ליצור סרטוני דיפ-פייק, מאמרים סינתטיים ותוכן מטעה ברשתות החברתיות בקצב חסר תקדים. רשתות בוטים אוטומטיות מגבירות את המסרים הללו, ויוצרות אשליה של תמיכה או הסכמה נרחבת. הבינה המלאכותית גם מסייעת במיקרו-מיקוד, תוך התאמת מסרים לקהלים מסוימים כדי למקסם את השפעתם.

סין: העתקת שיטות רוסיות והרחבת השפעה גיאופוליטית

סין, בדומה לרוסיה, אימצה את הבינה המלאכותית כדי לשדרג את מאמצי התעמולה שלה, במיוחד סביב סכסוכי טריטוריה בים סין הדרומי ושאיפותיה הגיאופוליטיות הרחבות יותר. על פי דיווח של Fulcrum, הבינה המלאכותית ממלאת תפקיד מרכזי בהחרפת המתיחות בין סין לפיליפינים.

סין משתמשת בבינה מלאכותית להפעלת מבצעי מידע רחבי היקף, הכוללים יצירת חשבונות מזויפים ברשתות החברתיות, תגובות שנוצרות על ידי בינה מלאכותית בתקשורת הממלכתית וניתוח אוטומטי של נרטיבים גלובליים כדי לכוונן מסרים תעמולתיים. קמפייני דיסאינפורמציה סיניים משלבים לעיתים קרובות נרטיבים מבוססי בינה מלאכותית עם תקשורת מדינתית מסורתית, ויוצרים מערכת אקולוגית המחזקת את מטרותיה האסטרטגיות של בייג'ינג.

בנוסף, הבינה המלאכותית משמשת למעקב ולהשתקת מתנגדים בתוך סין, תוך סינון מידע ביקורתי כלפי הממשל והגברת נרטיבים פרו-סיניים מחוץ למדינה. גישה זו מבטיחה שבייג'ינג תשמור על שליטה הן על השיח המקומי והן על התפיסות הבינלאומיות. השימוש ההולך וגובר במנועי בינה מלאכותית סינים בשווקי המערב צפוי להגדיל את יכולותיהם להשפיע בזירה המקומית, האזורית ובסופו של דבר - על כל העולם.

ההשפעה הגלובלית של תעמולה מבוססת בינה מלאכותית

השימוש בבינה מלאכותית בלוחמת מידע אינו רק סוגיה אזורית, אלא אתגר גלובלי. דו"ח של אוניברסיטת סטנפורד מדגיש כיצד קמפייני דיסאינפורמציה מבוססי בינה מלאכותית הופכים מתוחכמים יותר ויותר וקשים יותר לזיהוי. יכולתה של הבינה המלאכותית ליצור מאמרי חדשות מזויפים היפר-ריאליסטיים, לזייף מסמכים הנראים רשמיים ולערוך תוכן וידאו, גורמת לכך שקשה יותר ויותר להבחין בין אמת לשקר.

אחד ההיבטים המדאיגים ביותר של דיסאינפורמציה מבוססת בינה מלאכותית הוא הפוטנציאל שלה לערער את האמון במוסדות דמוקרטיים. ככל שתוכן שנוצר על ידי בינה מלאכותית מציף פלטפורמות דיגיטליות, הספקנות הציבורית כלפי עיתונאות אמינה גוברת, מה שיוצר סביבה שבה האמת הופכת לסובייקטיבית. תופעה זו עלולה לערער יציבות בחברות ולפגוע בחוסן הדמוקרטית.

סיכום: מאבק באיום הדיסאינפורמציה העולמי

העולם עומד בפני אתגר משמעותי: מדינות אוטוריטריות מנצלות את כוחה של הבינה המלאכותית כדי להפיץ דיסאינפורמציה ולחתור תחת הסדר הדמוקרטי. מנגנוני בקרה טכנולוגיים ורגולטורים יצמצמו בהדרגה את ההשפעה המזיקה הזו, אולם עד אז, חיוני לפתח מודעות ציבורית, לבנות מערכות חיסון בפני מידע כוזב ולפעול במשותף כדי להגן על האמת בעולם הדיגיטלי. רק שילוב של מאמצים יאפשר להתמודד עם האיום הגלובלי שמציבה תעמולה מבוססת בינה מלאכותית.