מניפולציה בדעת הגולש

אחרי הסטוקסנט, התקפות ה-DDoS, ההנדסה החברתית, הוירוסים ותוכנות הכופר, מגיע תורן של הנוזקות החברתיות. מדובר בדור הבא של הנוזקות במרחב הקיברנטי שיפעלו בצורה מתוחכמת יותר מסוגי האיומים הקיימים כיום, ותפקידן יהיה לבצע מניפולציה חברתית על קהלים גדולים. המטרה: הטייה של דעת הקהל לצורך השגת יעדים פוליטיים וכלכליים

photo by: shutterstock.com

אחת השאלות בהקשר כלי תקיפה בסייבר היא לאן הם מתפתחים? וירוסים בהפצה המונית התפתחו להתקפות ממוקדות (APT) וכלי תקיפה לצורך חבלה עברו מהממד הוירטואלי לפיזי עם חשיפתו של הסטוקסנט. ובכן, מגמה חדשה מאותתת על כיוון חדש - מעבר מהתקפה ישירה על גולשים להתקפה שמטרתה שכנוע. בצורה אחרת - כלי תקיפה שמטרתם שינוי חברתי באמצעות מניפולציה על דעת קהל, תפיסה, רעיונות, רגשות ועוד.

מהתקפה ישירה - לשכנוע

למה לגנוב או לסחוט אם אפשר לגרום לפלוני לעשות מעשה מסוים, והכל בצורה לגיטימית? ובכן, השאלה הזו מניעה את ארגוני הפשע המאורגן, ארגוני הביון וקבוצות האקטיביסטים לחפש פתרונות אלגנטיים יותר מאשר תוכנות שיתקפו את הקורבן בצורה ישירה. צריך לזכור כי נכון להיום כל מנגנוני ההגנה באינטרנט בנויים על ההנחה שהתוקף יתקוף. אין היום מנגנונים שיודעים להתמודד עם ביצוע פעולות לגיטימיות שמטרתן שינוע קהלים או יחידים לביצוע פעולות.

העובדה שעולם אבטחת המידע עובר מהגנות מבוססות חוקים להגנות מבוססות לימוד מכונה (זיהוי פעילות חריגה/זיהוי אנומליות), לא פותרת את הבעיה. מדובר בפתרונות המבוססים על פילוסופיה של חיפוש התקפות בוקטורים שונים, ולא בכלים או שיטות שיכולות לגלות השפעה פסיכולוגית/קוגניטיבית על משתמשים. ומה עם התוקף לא יתקוף ולמרות זאת ישיג את מבוקשו? מה אז? במקרים כאלו, אין לעולם אבטחת המידע פתרונות.

בואו נניח שארגון פשע ירצה למנוע מגולשים להגיע לאתר מסוים, התקפה הקרויה 'התקפת מניעה' או DDoS בלעז. כיום, אותו ארגון צריך לתחזק רשתות של מאות או אלפי בוטנטים בהם הוא שולט מרחוק אותן הוא יכול להפעיל ביום פקודה. הוא יכול גם להשתמש בהתקפות הגברה תוך ניצול פרוטוקולים כמו NTP. לא משנה באיזה שיטת תקיפה יבחר התוקף, הוא עדיין צריך לתקוף באופן ישיר משתמש או מערכת כדי להשיג את מבוקשו. תקיפה שיכולה להדליק מנגנוני הגנה.

לעומת שיטות ההתקפה הישירה, מה קורה אם אותו ארגון מבצע התקפה עקיפה, מניפולציה לגיטימית, על קהל מוגדר. למשל, הוא גורם לקהל גדול להאמין שבשעה מסוימת ביום מסוים יהיה מבצע מכירות באתר המיועד ליפול. מקרה שיכול להמחיש את הרעיון ארע בחודש דצמבר האחרון כאשר מערכת הכרטוס של חברת Delta Airlines החלה למכור כרטיס טיסה הלוך-חזור בין ניו יורק ללוס אנג'לס במחיר של 47 דולרים. מספיק ציוץ אחד בטוויטר כדי להפיל את האתר. בתרחיש אחר, התוקף יכול לגרום לקהל גדול להאמין שהנשיא האמריקאי נפצע והבית הלבן תחת התקפה. מקרה אמיתי שארע בחודש אוקטובר בשנה שעברה. באותו מקרה, הבורסה של ארה"ב איבדה 136 מיליארד דולרים מערכה. שוב, מדובר בשינוי תפיסה של גולשים לגבי מאורע מסוים שגורם להם לעשות מעשה בעולם הפיזי.

אבל אלו המקרים הפשוטים. מה קורה אם רוצים להפיל ממשלה מכהנת ולהסמיך תחתיה ממשלה חדשה במדינה מסוימת? ארועי ה'אביב הערבי' הם הדוגמא העדכנית ביותר כיצד רשתות חברתיות באינטרנט יכולות לשנע המונים בממד הפיזי בלי לתקוף אפילו שרת אחד. אמנם אין עדות לכך (מלבד אולי תיאוריות קשר) שמאחרי אירועי האביב הערבי עומד גוף מנווט, אולם לאחרונה היו עדויות למספר מקרים דומים שמאחרי כולם עמד הממשל האמריקאי (ולכאורה ה-CIA). בתחילת חודש אפריל השנה, חשפה סוכנות החדשות AP מזימה של ה-CIA תחת הכותרת "Cuban Twitter". מדובר בפרויקט שהתנהל במשך שנתיים ומומן על ידי ממשלת ארה"ב שנועד להשיג שתי מטרות - למשוך אליו עשרות אלפי צעירים מקובה ולגרום להם להתנגד למשטר בצורה מוחצנת.

באירוע אחר, ניסתה מחלקת המדינה של ארה"ב להשפיע על הלך הרוח ברחוב באפגניסטן באמצעות רשת חברתית מבוססת הודעות SMS בשם Paywast. מדובר ברשת חברתית סלולארית באפגניסטן, במימון אמריקאי שהחלה לפעול בינואר 2011. המטרה הרשמית של הרשת היא לצור סביבה נוחה שתוביל לשינויים חברתיים וכלכליים חיוביים לתושבי המדינה. ההשקעה של ארה"ב בפרויקט מוערכת בכ-5 מליוני דולרים.

בנוסף לקובה ואפגניסטן, חשף הניו יורק טיימס בסוף חודש אפריל השנה את הקמתה של רשת תקשורת עצמאית בטוניס. מדובר ברשת בלתי תלויה בתשתית התקשורת של המדינה, ולכן לא נתונה לניטור של הממשל. המטרה - לאפשר למתנגדי המשטר לתקשר ביניהם בצורה חופשית ולגשת לחומרים שהממשל מונע גישה חופשית אליהם. הפרויקט מבוסס על רשת אנטנות המותקנות על גגות הבתים שמנוהלות באמצעות תוכנה ייעודית (mesh network). גם במקרה זה, המימון להקמת הרשת בסך 2.8 מליוני דולרים הגיע ממחלקת המדינה של הבית הלבן.

רעיונות כאלו כיצד לנצל את האינטרנט, במיוחד את הרשתות החברתיות, כדי להפיץ בחשאי נקודות מבט ידידותיות לאינטרסים מערביים ולהפיץ מידע כוזב או מזיק על יעדים לשינוי, מופיעים שוב ושוב בחומרים שפירסם אדוארד סנאודן. מסמכים שהוכנו על ידי NSA ומקבילו הבריטי ה-GCHQ, ושפורסמו בעבר על ידי theintercept, כמו גם על ידי ה-NBC - מפרטים תוכניות אלה. בכלל זה, יחידה מיוחדת המוקדשת בחלקה ל"פגיעה בלגיטימיות" של אויבי הסוכנות באמצעות הפצת מידע כוזב באינטרנט.

מאמר שפורסם ב-2003 ב-Dartmouth College, מגדיר את סוג ההתקפות האלו כ"פריצות קוגניטיביות" (pdf). מדובר בקטגוריה של התקפות על מערכות מחשב או מידע המסתמכת על שינוי תפיסות של משתמשים אנושיים והתאמת התנהגויות כדי להצליח להשיג את המטרה. במסגרת המאמר מוזכרות מגוון דוגמאות למקרים אמיתיים שארעו ביניהם הודעה מזויפת באתר CNN בשנת 2001 בדבר מותה של הזמרת בריטני ספירס ועד השפעה על ערך מניית Emulex באמצעות הודעה מזויפת לעיתונות בשנת 2000.

טכנולוגיות תומכות

כדי לממש את המניפולציה, יש צורך בטכונלוגיות תומכות. בין שהתוקף הוא ארגון ביון, פשע או ארגון האקטיביסטי, ההשפעה על ציבור משתמשים נעשית לרוב בצורת גירוי-תגובה עד לשינוי התפיסה המבוקש. כלומר, יש צורך בטכנולוגיות שיאפשרו לבצע גירוי משתמשים (למשל - הודעה מזויפת באתר חדשות) ולקבל תגובה מהם (למשל - תגובת הגולשים באמצעות ציוצים בטוויטר לאותה כתבה). אם השינוי לא ייצר אצל המשתמשים תגובה כלשהי, רגשית (כעס) או מעשית (כניסה לאתר מסויים / הגעה פיזית למקום מסוים), יש צורך לשכלל אותו עד להשגת התוצאה הרצויה. בכל מהלך קמפיין ההתקפה, קהל הגולשים אינו מודע כלל שהוא נמצא תחת ניסיון לשחק בדעתו.

בין הטכנולוגיות התומכות בסוג זה של התקפות אפשר לציין את הביג דאטה, הניתוח הרגשי (Sentiment Analysis), הרשת הסמנטית (Semantic Web) וכלי ניהול לרשתות חברתיות. כמו כן, ראוי לציין גם כלים מבוססי תוכנה חכמים לייצור אוטומטי של תוכן. הביג דאטה היא טכנולוגיה שמאפשרת אחסון מידע בכמויות גדולות. כאשר עוסקים בקהלים גדולים ברשתות חברתיות, מדובר בכמות עצומה של מידע הכולל טקסטים, קטעי וידאו וקטעי קול ואיסוף ואחסון המידע הוא השלב הראשון והינו קריטי להצלחת ההתקפה.

לאחר שהמידע הגולמי נאסף, צריך לנתח אותו. לדעת מה התגובה הרגשית של הקהל לגירוי. בין שרוצים להפיל ממשלה ובין שרוצים לשנע המונים למבצע מכירות מסוים בחנות, יש צורך להבין את הקהל. כאן נכנסות לתמונה שיטות של ניתוח רגשי, ביניהן גם כלים מתחום הרשת הסמנטית. מדובר בכלים שיודעים להבין את משמעות הטקסטים בצורה אוטומטית ללא אדם במעגל. בצורה כזו, התוקף יכול 'להפריח בלון' בדמות כתבה חדשותית, מאמר דעה או סטטוס, ולראות כיצד זה משפיע על הקהל שקיבל אותו. מיותר לציין שכל מנגנוני אבטחת המידע הקיימים לא יודעים להתמודד עם סוג זה של התקפות.

בנוסף לכלי האחסון מידע, הניתוח שלו וההבנה שלו, יש כלים שעוזרים לתוקף לייעל את ההתקפה באמצעות התמקדות במובילים חברתיים. הרעיון די פשוט - בכל חברה נתונה יש מובילי דעה בודדים שסוחפים אחריהם את כל השאר. זה יכול להיות במסגרת התא המשפחתי (מישהי שמכתיבה אופנה למשל), בתא החברתי המצומצם (אחד החברים שתמיד קובע את המסלול של הטיול לכולם), וזה קורה גם במסגרות גדולות יותר כמו מקום העבודה, תא סטודנטים באוניברסיטה, ארגון מחאה חברתית, בין כותלי מפלגה פוליטית ואפילו ברמת מדינה או קהילה בינלאומית.

כדי לאתר את מובילי הדעה בתוך המרחב החברתי עליו רוצים להשפיע, יש כלים מתחום ניהול רשתות החברתיות (social media management system). אחת הדוגמאות היא למשל מערכת Tracx (המייסדים שלה ישראלים). מדובר במערכת מתקדמת לניהול הפעולות ברשתות החברתיות המאפשרת לארגון לייעל את השיווק והמוניטין שלו ברשתות חברתיות. אחת היכולות של הכלי היא למצוא מובילי דעה לפי מילות מפתח (תחומי עניין) במרחב חברתי מוגדר מראש על ידי מאפיינים כמו מדינה, מין, טווח גילאים ועוד. מערכות נוספות באותה קטגוריה כוללות את sprinklr, Salesforce Marketing Cloud, visibletechnologies, spredfast ואחרות.

טכנולוגיה נוספת שראוי לציין בהקשר זה היא כלים המאפשרים יצירת תוכן באיכות גבוהה בצורה ממוכנת. מחקר שבוצע לאחרונה באוניברסיטת Karlstad שבשוודיה, התעמק בשאלה כיצד מגיבים גולשים אנושיים לתוכן שנכתב על ידי תוכנה (software-generated content). תוצאות המחקר הראו כי כמעט ולא קיים הבדל בדרך שבה הקוראים מתייחסים לכתבה, בין שנכתבה על ידי עיתונאי מקצועי או על ידי תוכנה. בין החברות שכבר עוסקות בתחום אפשר למצוא את Narrative Science או אלגוריתם בשם Quakebot שפותח על ידי עיתונאי שכותב עבור הלוס אנג'לס טיימס.

לשחק ברגשות של אנשים

ובכן, למרות שעד היום התגלו מקרים בודדים של התקפות מסוג זה, ולרוב הם יוחסו לארגוני ביון מדינתיים, אין ספק כי מדובר בתופעה שתלך ותתפשט עם דחיפה מכיוון ארגוני פשע והאקטיביסטים. רק המחשבה על ארגון האקטיביסטי שיכול לסכסך בצורה חשאית בין שתי מדינות כדי להשיג את השינוי האידיאולוגי שבו הוא חפץ, באמצעות שינוי דעת קהל במרחב חברתי מוגדר, יכולה לעורר פלצות בקהילה הבינלאומית.

מה קורה למשל אם ארגון כזה רוצה לעורר אינתיפאדה שלישית בישראל בחסות מצרים וירדן? כל מה שהוא צריך להשיג זו מסה קריטית באותן מדינות ובקרב ערביי ישראל לכך שישראל הורסת את מסגד אל-אקצה. צריך לזכור כי מדובר בהטיית דעת קהל רגשית שאינה קשורה לעובדות בשטח. ומה קורה אם בתרחיש אחר ארגון אידיאולוגי מסוים מצליח לסכסך בין הודו לפקיסטן דרך שכנוע המונים באותן מדינות שאחד הצדדים מתכנן לכבוש את קשמיר? במקרה הזה מדובר באפשרות של פתיחת מלחמה גרעינית. עם הכלים שהזכרנו קודם לכן, זו אפשרות מעשית שנכון להיום אין לה מענה.

בתרחיש אחר יכול מועמד פוליטי ממדינה מסוימת לבקש מארגון פשע לזכות בשלטון בבחירות הקרובות. גם כאן, שימוש בכלים כאלו יכול להביא לדה-לגיטימציה של המועמדים האחרים בעיני הבוחרים, ולגרום לשינוי פוליטי במדינה. במקרה כזה, המצביעים אפילו לא ידעו שהם בחרו באותו מועמד בגלל מתקפת סייבר שמטרתה שינוי דעת קהל.

ואלו רק חלק מהדוגמאות. מנעד התרחישים יכול לכלול כל שינוי חברתי או כלכלי כיד הדימיון של התוקף, והוא יכול לעשות זאת מבלי לחשוש מאמצעי אבטחת המידע הקיימים. אלו ימשיכו לחפש כתובות IP חשודות, שינוי התנהגותי במנגנון אימות זהות, דפוסי תעבורה חריגים ועוד וקטורי תקיפה שאינם רלוונטים להתקפות חברתיות / פסיכולוגיות.

נקודה נוספת שעתידה לתרום להתפתחות תקיפות כאלו היא המעבר מניהול ידני של התקפות אלו לנוזקות (Malware) אוטומטיות. בשונה מארגוני ביון שפועלים בשירות מדינה ויעדי התקיפה שלהם מפוקחים על ידי הממשל, בעולם ארגוני הפשע מדובר בעסק של רווח והפסד. במילים אחרות, ארגון פשע ירצה להכניס את כל היכולות שהוזכרו קודם לכן לנוזקות ש'חיות' בעולם הוירטואלי, ויש להן יכולות להשפיע על המשתמשים האנושיים. בצורה כזו, הרווח מכל קמפיין התקפה יהיה גדול יותר מאשר ניהול שלו בצורה ידנית.

לסיכום, השאלה היא לא 'אם', אלא 'מתי'. המקרים שכן צפו לתקשורת - כמו קובה, טוניס ואפגניסטן הם רק קצה הקרחון. סביר להניח שקמפיינים כאלו מתנהלים בשנים האחרונות בצורה חשאית על ידי מדינות שרוצות להשיג יעדים גיאו-פוליטיים, ועל ידי תאגידים בינלאומיים שרוצים דעת קהל אוהדת לגבי המוצרים שלהם. בהקשר זה, כניסה של ארגוני פשע וקבוצות האקטיביסטיות כדוגמאת 'אנונימוס' רק תאיץ את השימוש בשיטות התקפה מסוג זה. בסופו של דבר, מדובר בכלי נשק אידילי - הוא פועל בצורה לגיטימית, אינו מדליק את אמצעי ההגנה הקיימים, ההשפעה שלו אמנם לוקחת יותר זמן אך העוצמה שלו גדולה יותר, ועם האפשרות לצור תוכן בצורה אוטומטית הוא גם זול לתפעול.

You might be interested also

An example of what currently appears on the landing pages of the blocked Iranian sites. Screenshot from the Press TV website  

US blocks dozens of Iranian media websites 

Against the backdrop of the faltering nuclear negotiations and the election of a new Iranian president, the Department of State announced that the websites' operation constitutes a violation of American sanctions, and accused Iran of carrying out disinformation campaigns