המהפכה הסמויה: איך הבינה המלאכותית משנה את כללי המשחק בעולם הסייבר

בשנים האחרונות, העולם הפך לכאוטי והקטי (קדחתני), ומתנהל בין מצבים קיצוניים בכל תחום ובכל רמה. אנו עדים להופעת "ברבורים שחורים" - אירועים בלתי צפויים שמשנים את המציאות בקצב אקספוננציאלי, ללא כל התראה מוקדמת.

הקטיות באה לידי ביטוי במגוון תחומים: מגפת הקורונה, חוסר יציבות כלכלית עם תנודות קיצוניות בשווקים, עליית ריביות, אינפלציה ומיתון. מלחמות, כמו המלחמה באוקראינה-רוסיה שהחלה ב-24 בפברואר 2022, והעימות האזורי בישראל שפרץ ב-7 באוקטובר 2023, לצד החשש הגובר מהתפרצות מלחמת עולם שלישית.

בנוסף, אנו עדים להקצנה חסרת תקדים וקיטוב חברתי עמוק בכל העולם (לא רק בישראל), תופעה המחריפה על ידי הרשתות החברתיות, המשמשות תיבות תהודה לדעות קיצוניות מכל הצדדים. התוצאה היא התחזקות עמדות קיצוניות והעמקת הקרעים בחברה עד כדי קיטוב מוחלט.

הכול משתנה בקבועי זמן מאוד קצרים, ובאופן מהיר מאוד וללא שליטה. אין ספק שאנו עדים לרגעים היסטוריים, והדבר נכון גם בעולם הטכנולוגי.

הטכנולוגיה עוברת שינויים דרמטיים המעצבים מחדש את פני העתיד. דוגמה בולטת לכך היא מהפכת הבינה המלאכותית היוצרת (Generative AI - GenAI). באמצעות מודלי שפה מורחבים (LLMs - Large Language Models), המהפכה הזו מגבירה את קצב ההתפתחות הטכנולוגית באופן אקספוננציאלי. למרות שהשפעותיה של המהפכה הזו עדיין אינן נתפסות במלואן, הן כבר מורגשות בשטח.

דוגמה נוספת לקפיצה טכנולוגית אקספוננציאלית עשויה להגיע בתחום המחשוב הקוונטי (Quantum Computing), שיחולל מהפכה בעולם החישוביות. בעוד שהתרגלנו להתפתחות ליניארית של חומרה, המעבר למחשוב קוונטי יאיץ את היכולות החישוביות באופן קיצוני, וישנה את כל הפרדיגמות בתחום ההצפנה ואבטחת המידע.

נחזור ל-GenAI והשפעתו על עולם אבטחת המידע. טכנולוגיית ה-GenAI מאפשרת קפיצה משמעותית בכתיבה טקסטואלית מכל סוג - מסמכים, קוד ועוד. עקומת השיפור של כתיבת טקסט חדה מאוד, ומייעלת ביצועים בעשרות אחוזים. בעולם הסייבר, טכנולוגיה זו מורידה את חסמי הכניסה להאקינג, ומאפשרת לכל חובבן להפוך להאקר. כבר לא צריך להיות האקר מתוחכם כדי לייצר התקפות סייבר - כיום, יצירת כלי תקיפה באמצעות GenAI היא פשוטה ביותר.

במעבדת המחקר של חברת אימפרבה הצלחנו, לדוגמה, לקחת פגיעות חדשה (CVE) וליצור סביב פגיעות זו קמפיין תקיפה אפקטיבי ביותר תוך דקות באמצעות כלי GenAI חינמי. מה שבעבר היה לוקח ימים עד שבועות, היום ניתן ליצור בפרק זמן של דקות עד שעות. זו דוגמה להאצה מעריכית המשנה את המציאות ומאתגרת את תעשיית הסייבר בצורה חסרת תקדים.

דוגמה נוספת, בעולם הבוטים, אנו עדים לכך שיותר מ-60% מתעבורת הרשת נובעת מבוטים, ומתוכה כ-47% הם בוטים רעים המשמשים לתקיפות והונאות. מגמה זו ממשיכה בקצב מואץ.

כאשר ניגשים להתמודד עם מהפכת הבינה המלאכותית, יש להבחין בין שלושה תחומים מרכזיים: הראשון, השגת יעילות באמצעות בינה מלאכותית (AI for efficiencies), כמו כתיבת מסמכים, מיילים וקוד במהירות; השני, שילוב בינה מלאכותית במוצרי הסייבר ההגנתי (AI for Cyber); והשלישי, הגנת סייבר על מודלי ה-AI עצמם (Cyber for AI), במטרה להגן על קניין רוחני ולמנוע הכנסת דלתות אחוריות שעלולות ליצור התקפות שרשרת אספקה ולהפוך את המודלים ללא בטוחים.

כדי להגן על התקפות מבוססות AI, נדרשת השקעה רבה בטווח המיידי ב-AI for Cyber. על המגן להתכונן למלחמה הבאה, ולא להעמיק את המוכנות למלחמה הקודמת. כלומר, המגן צריך, בשלב המיידי, להדביק את הקצב המעריכי של ההתקפות.

בזמן ששילוב AI בהגנה מפני מתקפות סייבר הוא קריטי בטווח הקצר והבינוני על מנת להדביק את הקצב המעריכי של ההתקפות, חשוב לא פחות ואף יותר, בטווח הארוך, להגן על מודלי ה-AI עצמם. הגנה זו מפני דלתות אחוריות או השפעות שליליות ארוכות טווח היא חיונית, שכן מדובר בזיהום סביבתנו הווירטואלית. הכנסת קוד זדוני כדלת אחורית במערכות המשתמשות ב-AI לשיפור תהליכים היא בעיה חמורה, שכן היא משכללת את סוגי ההתקפות (שרשרת אספקה ועוד), אבל החשש הגדול יותר הוא הכנסת תוכן מזיק למודלים עצמם, שעלול להוביל לשינוי אקספוננציאלי בעולם, שינוי שאולי לא נוכל להחזיר לאחור.

תארו לעצמכם מצב שבו כל מודלי ה-AI בעולם מוזנים על ידי תכנים זדוניים שמקורם בגורמי טרור או בתומכי טרור. ההשפעה שראינו עד כה ברשתות החברתיות, שהביאה לקיטוב עולמי, תיראה זניחה בהשוואה להשפעה שיכולה להיות על מודלי ה-AI. האנטישמיות המתגברת בקמפוסים ברחבי העולם היא תוצאה של שטיפת מוח ברשתות; תארו לעצמכם את ההשפעה האפשרית של שטיפת מוח אקספוננציאלית באמצעות מודלי AI.

המאבק בין "בני האור" ל"בני החושך" מתרחש כאן ועכשיו. לא רק במובן הפיזי, אלא גם במישור עמוק הרבה יותר ברמת התכנים והתודעה.

כדי להתמודד עם המציאות המורכבת והמשתנה במהירות, עלינו לאמץ גישה פרואקטיבית וגמישה בטווח הקצר, הבינוני והארוך. התשובה לאתגרי ההווה והעתיד טמונה ביכולת שלנו לשלב טכנולוגיה מתקדמת עם חשיבה יצירתית ואסטרטגית. עלינו לא רק להגן על עצמנו מפני התקפות, אלא גם לנצל את הפוטנציאל האדיר של הטכנולוגיות החדשות כדי לבנות עתיד בטוח, נקי מזיהומים ויציב יותר.

המפתח להצלחה יהיה בשיתוף פעולה גלובלי, השקעה במחקר ובפיתוח, והכשרת כוח אדם מיומן שידע להפעיל ולהגן על המערכות החדשניות הללו. הזמן אינו לצידנו, ולכן חשוב לפעול עכשיו - לא רק כדי להגן על מה שיש לנו, אלא כדי להבטיח עולם טוב יותר לדורות הבאים. העולם משתנה בקצב אקספוננציאלי, והבחירה בידינו, אם לנצל זאת להזדמנויות או ליפול קרבן לסיכונים.

האחריות שלנו היא להוביל שינוי באופן פרואקטיבי ולא להיגרר אחריו. התמודדות עם האתגרים והשינויים האקספוננציאליים הלא רצויים תתאפשר רק באמצעות פתרונות אקספוננציאליים, להם אנו נדרשים בהקדם.