בינה מלאכותית מתקדמת יישמה תקיפה "כמעט אוטונומית" של ממשלת טייוואן
לפי דיווח שפורסם באתר The Register, בארבעת הימים הראשונים של חודש יולי פרצו סוכני הבינה המלאכותית ל-85 חשבונות משתמש ממשלתיים
Photo by Aysegul Yahsi on Unsplash
חברת אבטחת המידע הישראלית Dream חשפה השבוע מה שהיא מגדירה כתקיפת סייבר "כמעט אוטונומית" ראשונה מסוגה על מדינה, שבמהלכה השתמש גורם החושד כדובר סינית במסגרת בינה מלאכותית מתקדמת כדי לפרוץ לגופים ממשלתיים בטייוואן. לפי הדיווח שפורסם ביום רביעי, מדובר במערכת רב-סוכנית שהצליחה לפעול ולהסתגל במהלך התקיפה עצמה, כמעט בלי מעורבות אדם.
לפי דיווח שפורסם באתר The Register, בארבעת הימים הראשונים של חודש יולי פרצו סוכני הבינה המלאכותית ל-85 חשבונות משתמש ממשלתיים וגנבו יותר מ-2,500 רשומות כוח אדם. חוקרי Dream גילו עדות לתקיפה בארכיון מקוון בגודל 160 מגה-בייט שהכיל 1,395 קבצים המתעדים את כל מהלך הפעולה. החברה ציינה כי הותקפו "גופים ממשלתיים באסיה" מבלי לנקוב בשם המדינה, אך גורם המקורב לפרשה אישר לאתר כי המדינה שהותקפה היא טייוואן, וגם הפייננשל טיימס, שפרסם ראשון את מחקרה של Dream, זיהה את טייוואן כמטרה.
מהדיווח עולה כי מסגרת התקיפה נבנתה על בסיס כלי בינה מלאכותית פתוחים בשם Hermes ו-OpenClaw, והפעילה עד שמונה תת-סוכנים, כל אחד מהם אחראי על מטרות וטכניקות תקיפה משלו, בשתים עשרה "גלי תקיפה" בין ה-1 ל-4 ביולי. בשלב הראשון מיפו הסוכנים את כל המערכת הממשלתית, וחילצו כתובות URL, נקודות קצה של API, מזהי OAuth והגדרות Keycloak משער ממשלתי בודד, מה שאפשר להם לזהות 21 מערכות ממשלתיות מקושרות. לפי אותו דיווח, במערכת אחת בלבד נמצאו יותר מ-36 נקודות קצה של API, רבות מהן ללא הזדהות כלל, ואחת מהמערכות חשפה את מסד נתוני המשתמשים שלה במלואו בלי כל אימות.
בהמשך מצאו הסוכנים נקודות כניסה נוספות, בהן שלוש נקודות קצה חבויות שקיבלו כל בקשה והחזירו הפעלה מאומתת בלי צורך בפרטי התחברות. באמצעות שמות משתמש שנאספו מ-API לא מוגן, פרצו הסוכנים לפורטל האוטומציה המשרדית של מחלקה ממשלתית, ופענחו קודי CAPTCHA בדיוק של מאה אחוז. הם גם בדקו דפוסי סיסמאות צפויים המבוססים על מספרי העובדים, ופרצו בסופו של דבר ל-85 חשבונות בסבבי "ריסוס סיסמאות" חוזרים. שמונים וארבעה מהחשבונות הפרוצים אפשרו גישה למערכת מידע פנימית, כולל לוחות בקרה, ממשקי ניהול ציוד ועמודי סטטיסטיקת כוח אדם.
לפי מגזין CyberScoop, ההאקרים לא הסתפקו במטרות הראשוניות. הם הרחיבו את הפעולה לספקי שרשרת אספקה של המגזר הציבורי, לרשות הבטיחות הגרעינית של טייוואן, למערכת דואר אלקטרוני ממשלתית וליותר משבע חברות בענף האנרגיה, וסרקו את כולן במקביל בחיפוש אחר תצורות שגויות, ממשקי ניהול חשופים ופרצות הניתנות לניצול. במסגרת התקיפה יושמו גם מה שהחוקרים מכנים "מחזורי למידה" - הפעלות אוטונומיות שבהן המערכת סורקת מסדי נתוני פגיעויות, מאגרי קוד ב-GitHub ופרסומים מקצועיים בתחום אבטחת המידע, כדי לאתר טכניקות המתאימות במיוחד לתשתית הממשלתית הנתקפת. בנוסף, כשהמערכת שגתה היא תיקנה את עצמה בעצמה, בתהליך בקרה עצמאי.
בחברת Dream ציינו כי אף שהמסגרת פעלה בצורה עצמאית ברובה, בנייתה עדיין דרשה מעורבות אנושית משמעותית בכוונון סוכני המערכת, בייעול שיתוף הפעולה בין הסוכנים ובכיוונון לוגיקת קבלת ההחלטות. גורמים בתעשייה מציינים כי המקרה מזכיר תקיפה אוטונומית קודמת שדיווחה עליה חברת Anthropic בסתיו האחרון, כשגם שם, למרות ההגדרה "אוטונומית", נדרשה מעורבות אדם לא מבוטלת.
עם זאת, בתקיפה הנוכחית, שהתועדה בפירוט חריג בארכיון שנחשף, מדובר לדעת החוקרים בעדות המשמעותית ביותר עד כה לכך שתוקפים מדינתיים כבר מפעילים בפועל "צוותי סוכנים" מבוססי בינה מלאכותית לתקיפות סייבר בזמן אמת נגד תשתיות קריטיות.