קרב בין מכונות
התקדמות דרמטית חלה בשנים בטכנולוגיות הבינה המלאכותית ולמידת המכונה. לצד מגוון האפשרויות המדהים, תוקפי סייבר עלולים לנצל אותן על מנת להתעצם, להפוך את התקיפות ליעילות יותר ובכך להגיע לאלפי יעדים. אל מול אלה יש להטיל את משימת ההתגוננות על מערכת המבוססת אף היא על AI. אלה אתגרי הסייבר בעידן הבינה המלאכותית
הודי זק
| 16/04/2020
הודי זק, מערך הסייבר הלאומי. צילום: סייברטק
הבינה המלאכותית ולמידת המכונה התקדמו דרמטית בשנתיים האחרונות, ואפשרו את הופעתם של יישומים רבי-תועלת בתחומים רבים. במבט לעתיד, מגוון האפשרויות מדהים, במיוחד כאשר משלבים את הבינה המלאכותית עם ערוצי תקשורת המתאפיינים ברוחב-פס גבוה והשהייה קצרה ועם יכולות עיבוד חזקות. כלי-רכב אוטונומיים וטיפול רפואי הם רק שניים מתחומי השימוש הנראים לפתע סבירים וניתנים למימוש.
ברם, כמו בכל פריצת דרך טכנולוגית אחרת, גם כאן נלווים אל היתרונות אתגרים משמעותיים. בתחום זה עבריינים המונעים על ידי כוונות פליליות או פוליטיות עלולים למנף יכולות בינה מלאכותית, כדי לשפר את יכולתם לגרום נזק או להשתמש לרעה במערכות קריטיות, המבוססות על בינה מלאכותית כדי להגשים את יעדיהם הזדוניים.
"לתפור" חליפת תקיפה ליעד
היתרון החשוב ביותר שטכנולוגיית הבינה המלאכותית יכולה ליצור עבור תוקפי סייבר הוא האפשרות להימנע מן הפשרה בין היעילות למדרגיות של התקיפה. אם עבריין רוצה לבנות מערכה של תקיפות, הוא יכול להשתמש בכלים גנריים פשוטים, שאותם יפיץ בתפוצה רחבה, או "לתפור" תקיפה בהתאמה למידותיו של יעד ספציפי, כך שתהיה מותאמת בדיוק ותשפר את הסתברות ההצלחה – אבל במקרה כזה הוא יוכל לתקוף רק מספר מצומצם, יחסית, של יעדים. הבינה המלאכותית ממתנת את האילוץ הזה ומאפשרת לישות התוקפת "לתפור" את התקיפות "לפי מידה", תוך הגעה למספר אדיר של קורבנות בו זמנית.
דוגמה פשוטה לסוג זה של תקיפות – מערכה של "דיג" או "פישינג". במהלך השנתיים האחרונות התנסינו בתקיפות כאלה, וברוב המקרים, משתמש סביר יכול, בקלות יחסית, לזהות ולהימנע מלהגיב להודעות דוא"ל מסוג "פישינג" בהתבסס על כללים ואמצעי זהירות פשוטים. כאשר התקיפות מן הסוג הזה הפכו להיות נפוצות יותר, מקבלי ההודעות החלו לגלות ערנות ונעשו מודעים יותר להודעות חשודות, וכך היעילות של המערכות הגנריות הללו פחתה משמעותית.
לעומת זאת, לאחרונה היינו עדים לתקיפות ממוקדות, מתוחכמות מאוד, מסוג Spear-Fishing הפונות ליעדים ערכיים, שולחות אליהם הודעות דוא"ל הממוענות אליהם ישירות – שבמקרים מסוימים אפילו מתחזות להגיע ממישהו שהם מכירים אישית – וכוללות, לכאורה, מידע רלוונטי מאוד. כדי לעשות זאת, על התוקף להשקיע זמן רב ומאמצים משמעותיים בלמידת הרשת החברתית של היעד, בהבנת הסביבה העסקית הרלוונטית בה הוא פועל ובחיפוש "פיתיונות" פוטנציאליים שיגרמו לקורבן להאמין שמדובר בהודעת דוא"ל רלוונטית הפונה אליו מסיבות עסקיות לגיטימיות.
ברם, מערכת בינה מלאכותית מתוחכמת יכולה לבצע את רוב הפעולות הללו, לגבי כל יעד שהוא, תוך מספר שניות ובכך לאפשר ביצוע של מערכות "ספיר פישינג" ממוקדות ומתוחכמות מסוג זה נגד אלפי או אפילו מיליוני יעדים. באופן זה, העבריין יכול להריץ מערכה נרחבת של "פישינג" באמצעות דוא"ל, תוך שהוא נהנה מהסתברות גבוהה להצלחת פעולתו הזדונית מול כל אחד מהקורבנות הפוטנציאליים – עובדה שמעצימה עד מאוד את השפעת התקיפה שלו. גישה דומה ניתן לנצל בסוגי תקיפה נוספים ובכך להפר עוד יותר את האיזון, שאינו מעודד יתר על המידה מלכתחילה, בין היריבים למתגוננים.
להילחם באש באמצעות אש
כאשר אנו חושבים על ניסיון להגן על הישות המותקפת נגד מערכה שכזו – שתהיה מתוחכמת ומותאמת אישית ותבוצע בהיקף נרחב ובמהירות מדהימה – מתברר שאין כל דרך שבה מגן אנושי יוכל להתמודד מול גל שכזה של תקיפות שונות לכאורה, כשברשותו היכולת להבין מה קורה, להגדיר את אמצעי הנגד ולהגיב במסגרת פרק הזמן בו עבריין המתבסס על בינה מלאכותית יכול להשתמש, כדי להגשים את יעדו הזדוני. לפיכך, על הצד המתגונן יהיה "להילחם באש באמצעות אש" ולהטיל את משימת ההתגוננות על מערכת המבוססת אף היא על בינה.
בבינה מלאכותית ובלמידת מכונה כבר נעשה כיום שימוש במערכות אבטחת סייבר, אך כדי לאפשר למערכת הגנה המבוססת על בינה מלאכותית לנהל את הקרב נגד תוקף המתבסס עליה, יהיה על הצד המתגונן להעניק למערכת סדרה של יכולות חדשות. ברור שזירת הסייבר תעבור שינוי מהותי ויסודי במהלך המעבר ממשחקי-מחשבה בין אדם לאדם לקרבות בין מכונה למכונה.
משטח תקיפה נוסף הצפוי להופיע בעתיד הקרוב קשור ליכולתו של העבריין להתערב בתקינות פעולתן של מערכות בינה מלאכותית המשמשות לתמיכה בתהליכים חשובים – בתחומי הפיננסים, האנרגיה, התחבורה או בכל מערך אחר. העובדה שמכונות הן שמבצעות היום את הפעולות בעוד שיכולתם של בני האדם לפקח על החלטותיהן, גורמת לכך שהמכונות הופכות להיות פגיעות למניפולציות.
תוקף מתוחכם יכול למנף את מנגנוני למידת המכונה כדי להטות את החלטות המחשב במטרה להשיג את ההשפעה הזדונית. ניתן לעשות זאת, לדוגמה, על-ידי "הרעלת" הנתונים בהם נעשה שימוש בשלב ההדרכה של התהליך במטרה לשנות את ההתנהגות של המכונה. לחילופין, היריב יכול לשנות את אות הקלט במהלך פעולת המכונה כדי להטות את הפלט בהתאם לצרכיו, או שהוא יכול, בפשטות רבה, לפרוץ ולשנות את הפרמטרים בהם נעשה שימוש במסגרת האלגוריתם הבסיסי עצמו – כל הפעולות האפשריות הללו תגרומנה לשינוי פעולותיה של המערכת מאופן ההתנהגות המקורית הרצויה, לה היא נועדה ותוכננה, למוד פעולה שונה, שנועד לשרת את יעדיו של היריב.
גם כאן עלינו לפתח פרדיגמת התגוננות חדשה כדי לרסן את וקטור התקיפה החדש ואפילו לשנות את האופן בו אנו מפתחים את מערכות הבינה המלאכותית כדי להפוך אותן לבטוחות ומאובטחות יותר מעצם הגדרתן. אנו נידרש לבנות את מערכות הבינה עצמן באופן שיהפוך אותן חסינות יותר לתקיפות הכרוכות במניפולציה ובהרעלה של הנתונים.
חיסון לבינה המלאכותית
בנוסף לכך יהיה עלינו להגדיר דרכים חדשות לבחינה והסמכת מערכת המבוססת על בינה מלאכותית, לא רק כדי לוודא שהמערכת אינה מכילה תוכנות זדוניות כלשהן, אלא גם כדי לבחון את העמידות שלה נגד ניסיונות עתידיים לעוות את תהליכי הלמידה וקבלת ההחלטות שלה לאחר שהיא נכנסת לשירות. האחריות תוטל הן על מפתח המערכת והן על המיישם, שיידרש להתאים את מנגנוני ההגנה וה"חיסון" לשימוש הספציפי, למקורות הנתונים ולמאפייני קבלת ההחלטות שלו.
בנוסף, אסור להתעלם מהחלק החשוב ביותר בכל מערכת – כוח האדם הבונה ומתפעל אותה. את המומחים הללו יהיה עלינו לאמן כך שיהיו מסוגלים לזהות ולהתמודד עם אירועי סייבר הקשורים לבינה מלאכותית ולוודא שריסון האיומים הללו משובץ באופן יסודי וצמוד בתהליכי התכנון והייצור של המערכות.
ברור לחלוטין שרוב הארגונים העושים שימוש במערכות המבוססות AI יתקשו להתמודד עם האיומים הללו ולמצוא את הידע, המשאבים והתקציבים כדי לבנות, להגדיר ולבחון את מנגנוני ההגנה בעידן החדש. זהו המקום בו המדינות אמורות להשתלב ולסייע – בין אם על ידי הגדרת המתודולוגיות ויצירת בסיס הידע אליהם יוכלו הארגונים להתייחס כאשר הם מנסים לשבץ מערכות בינה מלאכותית רגישות, לבנות סביבה שבה ניתן יהיה לבדוק מערכות כאלה בעזרת ערכות נתונים אמינות וייתכן שאפילו לספק כלים וטכנולוגיות לארגונים נבחרים.
לסיכום, עידן הבינה המלאכותית אליו אנו נכנסים מציע אינספור הזדמנויות, אך גם מגלם בחובו סכנות משמעותיות. חשוב שארגונים ומדינות יתחילו לחשוב על האיומים החדשים הללו ולהתכונן מבעוד מועד כדי לאפשר לכולנו למנף באופן מלא את הפוטנציאל של המהפכה הטכנולוגית הזו ולהימנע – ככל האפשר – מן ההשלכות השליליות שלה.
הכותב הוא ראש חטיבת הטכנולוגיה במערך הסייבר הלאומי.
התקדמות דרמטית חלה בשנים בטכנולוגיות הבינה המלאכותית ולמידת המכונה. לצד מגוון האפשרויות המדהים, תוקפי סייבר עלולים לנצל אותן על מנת להתעצם, להפוך את התקיפות ליעילות יותר ובכך להגיע לאלפי יעדים. אל מול אלה יש להטיל את משימת ההתגוננות על מערכת המבוססת אף היא על AI. אלה אתגרי הסייבר בעידן הבינה המלאכותית
הודי זק, מערך הסייבר הלאומי. צילום: סייברטק
הבינה המלאכותית ולמידת המכונה התקדמו דרמטית בשנתיים האחרונות, ואפשרו את הופעתם של יישומים רבי-תועלת בתחומים רבים. במבט לעתיד, מגוון האפשרויות מדהים, במיוחד כאשר משלבים את הבינה המלאכותית עם ערוצי תקשורת המתאפיינים ברוחב-פס גבוה והשהייה קצרה ועם יכולות עיבוד חזקות. כלי-רכב אוטונומיים וטיפול רפואי הם רק שניים מתחומי השימוש הנראים לפתע סבירים וניתנים למימוש.
ברם, כמו בכל פריצת דרך טכנולוגית אחרת, גם כאן נלווים אל היתרונות אתגרים משמעותיים. בתחום זה עבריינים המונעים על ידי כוונות פליליות או פוליטיות עלולים למנף יכולות בינה מלאכותית, כדי לשפר את יכולתם לגרום נזק או להשתמש לרעה במערכות קריטיות, המבוססות על בינה מלאכותית כדי להגשים את יעדיהם הזדוניים.
"לתפור" חליפת תקיפה ליעד
היתרון החשוב ביותר שטכנולוגיית הבינה המלאכותית יכולה ליצור עבור תוקפי סייבר הוא האפשרות להימנע מן הפשרה בין היעילות למדרגיות של התקיפה. אם עבריין רוצה לבנות מערכה של תקיפות, הוא יכול להשתמש בכלים גנריים פשוטים, שאותם יפיץ בתפוצה רחבה, או "לתפור" תקיפה בהתאמה למידותיו של יעד ספציפי, כך שתהיה מותאמת בדיוק ותשפר את הסתברות ההצלחה – אבל במקרה כזה הוא יוכל לתקוף רק מספר מצומצם, יחסית, של יעדים. הבינה המלאכותית ממתנת את האילוץ הזה ומאפשרת לישות התוקפת "לתפור" את התקיפות "לפי מידה", תוך הגעה למספר אדיר של קורבנות בו זמנית.
דוגמה פשוטה לסוג זה של תקיפות – מערכה של "דיג" או "פישינג". במהלך השנתיים האחרונות התנסינו בתקיפות כאלה, וברוב המקרים, משתמש סביר יכול, בקלות יחסית, לזהות ולהימנע מלהגיב להודעות דוא"ל מסוג "פישינג" בהתבסס על כללים ואמצעי זהירות פשוטים. כאשר התקיפות מן הסוג הזה הפכו להיות נפוצות יותר, מקבלי ההודעות החלו לגלות ערנות ונעשו מודעים יותר להודעות חשודות, וכך היעילות של המערכות הגנריות הללו פחתה משמעותית.
לעומת זאת, לאחרונה היינו עדים לתקיפות ממוקדות, מתוחכמות מאוד, מסוג Spear-Fishing הפונות ליעדים ערכיים, שולחות אליהם הודעות דוא"ל הממוענות אליהם ישירות – שבמקרים מסוימים אפילו מתחזות להגיע ממישהו שהם מכירים אישית – וכוללות, לכאורה, מידע רלוונטי מאוד. כדי לעשות זאת, על התוקף להשקיע זמן רב ומאמצים משמעותיים בלמידת הרשת החברתית של היעד, בהבנת הסביבה העסקית הרלוונטית בה הוא פועל ובחיפוש "פיתיונות" פוטנציאליים שיגרמו לקורבן להאמין שמדובר בהודעת דוא"ל רלוונטית הפונה אליו מסיבות עסקיות לגיטימיות.
ברם, מערכת בינה מלאכותית מתוחכמת יכולה לבצע את רוב הפעולות הללו, לגבי כל יעד שהוא, תוך מספר שניות ובכך לאפשר ביצוע של מערכות "ספיר פישינג" ממוקדות ומתוחכמות מסוג זה נגד אלפי או אפילו מיליוני יעדים. באופן זה, העבריין יכול להריץ מערכה נרחבת של "פישינג" באמצעות דוא"ל, תוך שהוא נהנה מהסתברות גבוהה להצלחת פעולתו הזדונית מול כל אחד מהקורבנות הפוטנציאליים – עובדה שמעצימה עד מאוד את השפעת התקיפה שלו. גישה דומה ניתן לנצל בסוגי תקיפה נוספים ובכך להפר עוד יותר את האיזון, שאינו מעודד יתר על המידה מלכתחילה, בין היריבים למתגוננים.
להילחם באש באמצעות אש
כאשר אנו חושבים על ניסיון להגן על הישות המותקפת נגד מערכה שכזו – שתהיה מתוחכמת ומותאמת אישית ותבוצע בהיקף נרחב ובמהירות מדהימה – מתברר שאין כל דרך שבה מגן אנושי יוכל להתמודד מול גל שכזה של תקיפות שונות לכאורה, כשברשותו היכולת להבין מה קורה, להגדיר את אמצעי הנגד ולהגיב במסגרת פרק הזמן בו עבריין המתבסס על בינה מלאכותית יכול להשתמש, כדי להגשים את יעדו הזדוני. לפיכך, על הצד המתגונן יהיה "להילחם באש באמצעות אש" ולהטיל את משימת ההתגוננות על מערכת המבוססת אף היא על בינה.
בבינה מלאכותית ובלמידת מכונה כבר נעשה כיום שימוש במערכות אבטחת סייבר, אך כדי לאפשר למערכת הגנה המבוססת על בינה מלאכותית לנהל את הקרב נגד תוקף המתבסס עליה, יהיה על הצד המתגונן להעניק למערכת סדרה של יכולות חדשות. ברור שזירת הסייבר תעבור שינוי מהותי ויסודי במהלך המעבר ממשחקי-מחשבה בין אדם לאדם לקרבות בין מכונה למכונה.
משטח תקיפה נוסף הצפוי להופיע בעתיד הקרוב קשור ליכולתו של העבריין להתערב בתקינות פעולתן של מערכות בינה מלאכותית המשמשות לתמיכה בתהליכים חשובים – בתחומי הפיננסים, האנרגיה, התחבורה או בכל מערך אחר. העובדה שמכונות הן שמבצעות היום את הפעולות בעוד שיכולתם של בני האדם לפקח על החלטותיהן, גורמת לכך שהמכונות הופכות להיות פגיעות למניפולציות.
תוקף מתוחכם יכול למנף את מנגנוני למידת המכונה כדי להטות את החלטות המחשב במטרה להשיג את ההשפעה הזדונית. ניתן לעשות זאת, לדוגמה, על-ידי "הרעלת" הנתונים בהם נעשה שימוש בשלב ההדרכה של התהליך במטרה לשנות את ההתנהגות של המכונה. לחילופין, היריב יכול לשנות את אות הקלט במהלך פעולת המכונה כדי להטות את הפלט בהתאם לצרכיו, או שהוא יכול, בפשטות רבה, לפרוץ ולשנות את הפרמטרים בהם נעשה שימוש במסגרת האלגוריתם הבסיסי עצמו – כל הפעולות האפשריות הללו תגרומנה לשינוי פעולותיה של המערכת מאופן ההתנהגות המקורית הרצויה, לה היא נועדה ותוכננה, למוד פעולה שונה, שנועד לשרת את יעדיו של היריב.
גם כאן עלינו לפתח פרדיגמת התגוננות חדשה כדי לרסן את וקטור התקיפה החדש ואפילו לשנות את האופן בו אנו מפתחים את מערכות הבינה המלאכותית כדי להפוך אותן לבטוחות ומאובטחות יותר מעצם הגדרתן. אנו נידרש לבנות את מערכות הבינה עצמן באופן שיהפוך אותן חסינות יותר לתקיפות הכרוכות במניפולציה ובהרעלה של הנתונים.
חיסון לבינה המלאכותית
בנוסף לכך יהיה עלינו להגדיר דרכים חדשות לבחינה והסמכת מערכת המבוססת על בינה מלאכותית, לא רק כדי לוודא שהמערכת אינה מכילה תוכנות זדוניות כלשהן, אלא גם כדי לבחון את העמידות שלה נגד ניסיונות עתידיים לעוות את תהליכי הלמידה וקבלת ההחלטות שלה לאחר שהיא נכנסת לשירות. האחריות תוטל הן על מפתח המערכת והן על המיישם, שיידרש להתאים את מנגנוני ההגנה וה"חיסון" לשימוש הספציפי, למקורות הנתונים ולמאפייני קבלת ההחלטות שלו.
בנוסף, אסור להתעלם מהחלק החשוב ביותר בכל מערכת – כוח האדם הבונה ומתפעל אותה. את המומחים הללו יהיה עלינו לאמן כך שיהיו מסוגלים לזהות ולהתמודד עם אירועי סייבר הקשורים לבינה מלאכותית ולוודא שריסון האיומים הללו משובץ באופן יסודי וצמוד בתהליכי התכנון והייצור של המערכות.
ברור לחלוטין שרוב הארגונים העושים שימוש במערכות המבוססות AI יתקשו להתמודד עם האיומים הללו ולמצוא את הידע, המשאבים והתקציבים כדי לבנות, להגדיר ולבחון את מנגנוני ההגנה בעידן החדש. זהו המקום בו המדינות אמורות להשתלב ולסייע – בין אם על ידי הגדרת המתודולוגיות ויצירת בסיס הידע אליהם יוכלו הארגונים להתייחס כאשר הם מנסים לשבץ מערכות בינה מלאכותית רגישות, לבנות סביבה שבה ניתן יהיה לבדוק מערכות כאלה בעזרת ערכות נתונים אמינות וייתכן שאפילו לספק כלים וטכנולוגיות לארגונים נבחרים.
לסיכום, עידן הבינה המלאכותית אליו אנו נכנסים מציע אינספור הזדמנויות, אך גם מגלם בחובו סכנות משמעותיות. חשוב שארגונים ומדינות יתחילו לחשוב על האיומים החדשים הללו ולהתכונן מבעוד מועד כדי לאפשר לכולנו למנף באופן מלא את הפוטנציאל של המהפכה הטכנולוגית הזו ולהימנע – ככל האפשר – מן ההשלכות השליליות שלה.
הכותב הוא ראש חטיבת הטכנולוגיה במערך הסייבר הלאומי.
