גורמי תקיפה משלבים AI לניצול פרצות, הרחבת מתקפות וחדירה ראשונית לרשתות

הבינה המלאכותית עוברת משימוש ניסיוני לשימוש תעשייתי ומובנה יותר בתוך תהליכי תקיפה. לפי גוגל, תוקפים אינם משתמשים במודלים רק כעוזרי כתיבה או מחקר, אלא משלבים אותם בשלבים שונים של שרשרת התקיפה: מתכנון, דרך פיתוח קוד ועד הפעלה אוטונומית של כלים זדוניים.

אחד הממצאים המרכזיים בדוח הוא שגוגל זיהתה לראשונה מקרה שבו גורם פשיעת סייבר השתמש, ככל הנראה, בבינה מלאכותית כדי לפתח ניצול לחולשת Zero-Day. לפי הדוח, התוקפים תכננו להשתמש בחולשה במתקפת ניצול רחבה, אך גילוי מוקדם מצד גוגל סייע לשבש את הפעילות לפני שהוצאה לפועל. החולשה עצמה אפשרה עקיפה של אימות דו-שלבי במערכת ניהול מבוססת קוד פתוח, וזאת בתנאי שלתוקף כבר היו פרטי התחברות תקפים.

המשמעות חשובה: בינה מלאכותית לא בהכרח מחליפה מומחי תקיפה, אלא משמשת כמכפיל כוח. מודלים מתקדמים מסוגלים לסייע בניתוח קוד, לזהות הנחות לוגיות שגויות ולמצוא חולשות שאינן מתגלות בהכרח על ידי כלים מסורתיים, כגון סורקי קוד או Fuzzers. כלומר, התוקפים מקבלים עוזר טכני המאיץ תהליכים שדרשו בעבר זמן, ידע וניסיון רבים יותר.

תרחישים מזויפים של בדיקת קוד

הדוח מתאר גם עניין משמעותי מצד גורמי איום הקשורים לסין ולצפון קוריאה בשימוש בבינה מלאכותית למחקר חולשות. לפי גוגל, חלק מהפעילות כלל ניסיונות "לשכנע" מודלים להתנהג כמומחי אבטחה, למשל באמצעות הצגת תרחישים מזויפים של בדיקת קוד לגיטימית. במקרים אחרים, תוקפים השתמשו במאגרי ידע גדולים של חולשות עבר כדי לכוון את המודל לחשוב כחוקר אבטחה מנוסה. עם זאת, גילוי חולשות הוא רק חלק מהתמונה.

גוגל מתארת גם שימוש בבינה מלאכותית לפיתוח נוזקות וכלי הסוואה. תוקפים משתמשים במודלים כדי לייצר קוד מבלבל, להוסיף "לוגיקה מדומה" שאינה עושה דבר אך מקשה על ניתוח הקוד, ולבנות תשתיות המסייעות להסתיר את מקור הפעילות שלהם. בדוח מוזכרות משפחות נוזקה כגון PROMPTFLUX, HONESTCUE, CANFAIL ו-LONGSTREAM, שבהן זוהו רכיבים או דפוסים המעידים על שימוש ב-LLM לצורך הסוואה, שינוי קוד או יצירת קוד מטעה.

אחד החלקים המדאיגים בדו״ח עוסק בנוזקה בשם PROMPTSPY — דלת אחורית לאנדרואיד שמשלבת יכולות בינה מלאכותית כדי לנווט במכשיר נגוע. במקום להסתמך רק על פקודות קבועות מראש, הנוזקה יכולה לשלוח למודל מידע על ממשק המשתמש של המכשיר, לקבל בחזרה הוראות מובנות, ולבצע פעולות כמו לחיצה או החלקה על המסך. לפי Google, PROMPTSPY אף יכולה לסייע בשימור האחיזה במכשיר, למנוע הסרה, ולפעול בצורה גמישה יותר מנוזקות אנדרואיד מסורתיות.

במילים פשוטות: אנחנו מתחילים לראות מעבר מנוזקה “מתוכנתת מראש” לנוזקה שמסוגלת לפרש מצב, לקבל החלטות ולפעול בצורה מותאמת לסביבה שבה היא נמצאת. הדו״ח מצביע גם על שימוש נרחב בבינה מלאכותית לצורכי מודיעין, סיור והכנת תקיפות. תוקפים משתמשים במודלים כדי למפות מבנים ארגוניים, להבין מי עובד במחלקות רגישות כמו כספים, אבטחה או משאבי אנוש, ולבנות פיתיונות פישינג מדויקים יותר. במקום הודעות כלליות להמונים, מדובר בניסיונות ממוקדים יותר, שמבוססים על הבנה טובה יותר של הארגון והאנשים שבתוכו.

מערכות שמסוגלות להריץ רצף פעולות

בנוסף, Google מתארת מעבר לשימוש בכלים “סוכניים” — מערכות שמסוגלות להריץ רצף פעולות, לשמור מצב, לבחור כלים, ולבצע משימות אבטחה או תקיפה באופן אוטונומי יותר. בדו״ח מוזכרת פעילות שבה גורם איום חשוד הקשור לסין השתמש בכלים כמו Hexstrike ו-Strix נגד חברת טכנולוגיה יפנית ופלטפורמת סייבר במזרח אסיה, כדי לבצע סיור, לזהות חולשות ולאמת אותן בצורה אוטומטית.

תחום נוסף הוא מבצעי השפעה ודיסאינפורמציה. לפי Google, גורמי השפעה מרוסיה, איראן, סין וסעודיה משתמשים בבינה מלאכותית ליצירת תוכן, לוקליזציה, חומרים פוליטיים ואף אודיו סינתטי. בדו״ח מובאת דוגמה ממבצע פרו-רוסי בשם “Operation Overload”, שבו נעשה שימוש ככל הנראה בשיבוט קול כדי להתחזות לעיתונאים אמיתיים ולנצל את האמינות של כלי תקשורת מוכרים.

במקביל, התוקפים מנסים גם לעקוף את מנגנוני ההגנה של שירותי AI עצמם. Google מתארת מערכת אקולוגית מתפתחת של שירותי תיווך, פרוקסי, רישום אוטומטי לחשבונות, ניצול שכבות חינמיות, ושימוש בחשבונות רבים כדי להשיג גישה רחבה ואנונימית יותר למודלים מתקדמים. המטרה: להשתמש ביכולות AI בהיקף גדול, תוך התחמקות מחסימות, מגבלות שימוש ומנגנוני ניטור.

הדו״ח לא מתייחס לבינה מלאכותית רק ככלי תקיפה — אלא גם כמטרה. ככל שארגונים משלבים מודלים, סוכנים, תוספים וספריות קוד בסביבות הייצור שלהם, שכבת ה-AI הופכת לחלק ממשטח התקיפה. לפי Google, התוקפים לא בהכרח מצליחים לפרוץ את המודלים עצמם, אלא מכוונים לרכיבים שמסביבם: ספריות קוד פתוח, מחברים ל-API, קבצי הגדרות, תוספים ושרשראות אספקה תוכנתיות.

דוגמה מרכזית היא פעילות של קבוצת TeamPCP, הידועה גם בשם UNC6780, שלפי הדו״ח פגעה במספר מאגרי GitHub ו-GitHub Actions, כולל רכיבים הקשורים ל-Trivy, Checkmarx, LiteLLM ו-BerriAI. לפי Google, התוקפים השתמשו בחבילות PyPI זדוניות וב-Pull Requests נגועים כדי לגנוב סודות ענן כמו מפתחות AWS וטוקנים של GitHub, ובהמשך לייצר ערך כספי דרך שיתופי פעולה עם קבוצות כופרה וסחיטה.

בינה מלאכותית לזהות חולשות

הפגיעה ב-LiteLLM חשובה במיוחד, כי מדובר בכלי המשמש לשילוב בין ספקי מודלים שונים. פגיעה ברכיב כזה עלולה לחשוף מפתחות API ונתוני גישה למערכות AI ארגוניות — ומשם לאפשר לתוקפים להעמיק חדירה לרשת, לגנוב מידע, או להשתמש במערכות AI פנימיות כדי לבצע סיור ואיסוף מידע בקנה מידה רחב.

המסר של Google ברור: האיום אינו עתידי. הוא כבר כאן, והוא מתפתח במהירות. עם זאת, הדו״ח מדגיש שגם למגינים יש יתרון חדש. Google מציינת שהיא משתמשת בבינה מלאכותית כדי לזהות חולשות, לשפר הגנות, לחסום חשבונות זדוניים, ולפתח כלים כמו Big Sleep ו-CodeMender — סוכני AI שמטרתם למצוא ולתקן חולשות בקוד. כלומר, אותה טכנולוגיה שמאיצה את התוקפים יכולה גם להאיץ את צוותי ההגנה.

השורה התחתונה: בינה מלאכותית לא יצרה סוג חדש לגמרי של פשיעת סייבר — אבל היא משנה את הקצב, את הסקייל ואת רמת התחכום.