בינה מלאכותית של Anthropic פרצה את הגנות האבטחה של macOS

חוקרי אבטחה מחברת Calif, מרכז מחקרי מפאלו אלטו, הצליחו לפרוץ את הגנות macOS תוך שימוש בטכניקות שפיתחו בעת בחינת גרסה ראשונית של מודל ה-AI המתקדם של Anthropic, הידוע בשם Mythos. כך דווח ב-Wall Street Journal השבוע. החוקרים כתבו קוד המשרשר שני באגים במערכת ההפעלה של Apple, תוך שימוש במגוון טכניקות להשחתת הזיכרון ולקבלת גישה לאזורים שאמורים להיות בלתי נגישים.

מדובר בניצול הסלמת הרשאות (Privilege Escalation Exploit), שאם ישורשר עם וקטורי מתקפה נוספים, עלול לאפשר לתוקף להשתלט על מחשב Mac. המתקפה מצליחה לעקוף את Memory Integrity Enforcement, מנגנון האבטחה שהציגה Apple בספטמבר 2024, שתוארה על ידה כ"פסגת מאמץ הנדסי חסר תקדים של חמש שנים". כתיבת הקוד המנצל לקחה לצוות Calif כחמישה ימים בסיוע Mythos, וחוקר האבטחה לשעבר של Google, Michał Zalewski, שסקר את המחקר מבחוץ, ציין כי הטכניקה ראויה לתשומת לב דווקא בגלל ההשקעה העצומה שנקטה Apple בנעילת macOS.

מנכ"ל Calif, Thai Duong, הדגיש כי המתקפה לא הייתה ניתנת לביצוע בידי Mythos בלבד, וכי הצלחתה נשענה על המומחיות האנושית של חוקריו. "לא ראינו מקרים שבהם הוא מגיע לטכניקות תקיפה חדשות", אמר. חלק מהחוקרים אף ציינו כי ה"הייפ" סביב Mythos "מוגזם". עם זאת, יכולתו של ה-AI לשכפל ולשלב טכניקות ידועות בקצב גבוה הופכת אותו לכלי חיוני בארגז הכלים של חוקרי הסייבר.

הממצאים מתרחשים על רקע יוזמת Project Glasswing של Anthropic, המאפשרת לחברות נבחרות, ובהן Apple, Google ו-Microsoft, גישה למודל Mythos לצורך זיהוי פגיעויות אבטחה לפני שחרורו הנרחב. כפי שדווח קודם לכן, Mythos גילה למעלה ממאה פגיעויות חומרה גבוהה בדפדפן Firefox תוך שבועיים בלבד, לעומת שני חודשים שנדרשים בדרך כלל לכלל קהילת המחקר. Apple אמרה כי היא בוחנת את ממצאי Calif ולוקחת אותם "ברצינות מרבית", ומנכ"ל Calif הביע ציפייה כי התיקונים יפורסמו במהירות.

המקרה מוסיף לגל חשש גובר בקרב מומחי סייבר מ"Bugmageddon", גל בלתי נשלט של גילויי פגיעויות תוכנה המונע בידי AI, שיוכל להפיל על מחלקות ה-IT בעולם עומס תיקונים חסר תקדים. החשש כבר הגיע לוושינגטון: הבית הלבן שוקל פקודת ביצוע שתעניק לממשל פיקוח על המודלים המתקדמים ביותר. המקרה ממחיש כיצד הקו בין כלי אבטחה הגנתי לכלי תקיפה הולך ומיטשטש ככל שהיכולות של מודלי השפה הגדולים מתקדמות.