לקראת סייברטק 2023: ChatGPT יכול לייצר נוזקה פולימורפית
חוקרי סייברארק הצליחו להראות כיצד הם יצרו וירוס פולימורפי באמצעות הצ'אט | וירוס כזה קשה לזיהוי ויכול לעקוף מוצרי אבטחה רבים
עמי רוחקס דומבה
| 19/01/2023
תמונה: סייברטק
מעבדות סייברארק של חברת CyberArk הישראלית מפרסמים היום מחקר חדש בנושא ChatGPT. המחקר מראה איך ניתן לנצל את ממשק הצ'אט מבוסס ה-AI באמצעות תוכנה שיודעת לתקשר עם הצ׳אט ולקבל ממנו קוד זדוני שמשתנה כל הזמן (polymorphic malware).
במחקר מראים החוקרים כיצד הצליחו לעקוף את מערכת סינון התוכן של ChatGPT, כיוון שבמצב רגיל כל בקשה מהצ'ט לכתוב קוד זדוני תסורב. זאת באמצעות כתיבת קטעי קוד ושימוש ב- API של ChatGPT.
במילים אחרות, לא בגרסא האינטרנטית, וכך ניתן לעקוף את מערכת סינון התוכן של ChatGPT. בנוסף, הצליחו להראות כיצד הם יצרו וירוס פולימורפי באמצעות הצ'אט, וירוס קשה לזיהוי שיכול לעקוף מוצרי אבטחה רבים (אנטי-וירוס לדוגמה). מדובר בווירוס שמשנה את הקוד שלו לפי דרישה באמצעות השימוש במנוע של ChatGPT, ובכך מאפשר מעקף של מוצרי אבטחה רבים.
מדובר במחקר ראשון מסוגו שמציג סכנת סייבר חדשה בהקשר של ChatGPT, והחוקרים צופים שבזמן הקרוב תוקפים ירבו בשימוש ב-ChatGPT על מנת ליצור עוד וירוסים מתוחכמים ומסוכנים. עד היום מחקרים קודמים הראו איך תוקפים יכולים להשתמש בצ'אט המבוסס AI ליצירת קודים זדוניים בלבד, אבל לא עשו שימוש בתוכנה שמתקשרת עם הצ'אט ומצליחה לגרום לו ליצור וירוס מסוג פולימורפי אשר מצליח לגבור על מוצרי אבטחה רבים.
"המחקר מציג לראשונה את הסכנה הטמונה בכך שמוצרי אבטחה לא מצליחים לזהות את הווירוס הפולימורפי, סכנה רצינית מאוד שאסור להתעלם ממנה. במובן הזה מטרת המחקר הייתה לזהות וליצור מודעות סביב הסכנות הטמונות בשימוש בChatGPT", מספר ערן שמעוני, חוקר בכיר במעבדת סייברארק.
בנוסף מראה המחקר כיצד ניתן לבקש מChatGPT ליצור קטעי קוד המבצעים פעולות על פי דרישה; לדוגמה להצפין את כל הקבצים הנמצאים בתיקיה מסוימת עם מפתח הצפנה נבחר. פעולה זו בשל עצמה מאפשרת לתוקפים לייצר בקלות וירוסים מסוגים שונים, ובמיוחד כאלה בעלי יכולת נזק משמעותית כמו תוכנת כופר.
עוד מוסיפים החוקרים ערן שמעוני ועומר צרפתי ממעבדת סייברארק: " זה רק עניין של זמן עד שתוקפים ירבו להשתמש ב-ChatGPT על מנת ליצור וירוסים פולימורפיים מסוכנים, מה שיכול להוות כמכפיל כוח רציני היות והפעולה חוסכת זמן רב עבור תוקפים. שימוש בChatGPT גם מקל על אנשים בעלי ניסיון מועט בכתיבת קוד להיכנס לעולם פשעי הסייבר.״
גם סייברארק משתתפת בכנס סייברטק 2023 שיערך בתל אביב ב31.1.2023. להרשמה לחצו כאן
חוקרי סייברארק הצליחו להראות כיצד הם יצרו וירוס פולימורפי באמצעות הצ'אט | וירוס כזה קשה לזיהוי ויכול לעקוף מוצרי אבטחה רבים
תמונה: סייברטק
מעבדות סייברארק של חברת CyberArk הישראלית מפרסמים היום מחקר חדש בנושא ChatGPT. המחקר מראה איך ניתן לנצל את ממשק הצ'אט מבוסס ה-AI באמצעות תוכנה שיודעת לתקשר עם הצ׳אט ולקבל ממנו קוד זדוני שמשתנה כל הזמן (polymorphic malware).
במחקר מראים החוקרים כיצד הצליחו לעקוף את מערכת סינון התוכן של ChatGPT, כיוון שבמצב רגיל כל בקשה מהצ'ט לכתוב קוד זדוני תסורב. זאת באמצעות כתיבת קטעי קוד ושימוש ב- API של ChatGPT.
במילים אחרות, לא בגרסא האינטרנטית, וכך ניתן לעקוף את מערכת סינון התוכן של ChatGPT. בנוסף, הצליחו להראות כיצד הם יצרו וירוס פולימורפי באמצעות הצ'אט, וירוס קשה לזיהוי שיכול לעקוף מוצרי אבטחה רבים (אנטי-וירוס לדוגמה). מדובר בווירוס שמשנה את הקוד שלו לפי דרישה באמצעות השימוש במנוע של ChatGPT, ובכך מאפשר מעקף של מוצרי אבטחה רבים.
מדובר במחקר ראשון מסוגו שמציג סכנת סייבר חדשה בהקשר של ChatGPT, והחוקרים צופים שבזמן הקרוב תוקפים ירבו בשימוש ב-ChatGPT על מנת ליצור עוד וירוסים מתוחכמים ומסוכנים. עד היום מחקרים קודמים הראו איך תוקפים יכולים להשתמש בצ'אט המבוסס AI ליצירת קודים זדוניים בלבד, אבל לא עשו שימוש בתוכנה שמתקשרת עם הצ'אט ומצליחה לגרום לו ליצור וירוס מסוג פולימורפי אשר מצליח לגבור על מוצרי אבטחה רבים.
"המחקר מציג לראשונה את הסכנה הטמונה בכך שמוצרי אבטחה לא מצליחים לזהות את הווירוס הפולימורפי, סכנה רצינית מאוד שאסור להתעלם ממנה. במובן הזה מטרת המחקר הייתה לזהות וליצור מודעות סביב הסכנות הטמונות בשימוש בChatGPT", מספר ערן שמעוני, חוקר בכיר במעבדת סייברארק.
בנוסף מראה המחקר כיצד ניתן לבקש מChatGPT ליצור קטעי קוד המבצעים פעולות על פי דרישה; לדוגמה להצפין את כל הקבצים הנמצאים בתיקיה מסוימת עם מפתח הצפנה נבחר. פעולה זו בשל עצמה מאפשרת לתוקפים לייצר בקלות וירוסים מסוגים שונים, ובמיוחד כאלה בעלי יכולת נזק משמעותית כמו תוכנת כופר.
עוד מוסיפים החוקרים ערן שמעוני ועומר צרפתי ממעבדת סייברארק: " זה רק עניין של זמן עד שתוקפים ירבו להשתמש ב-ChatGPT על מנת ליצור וירוסים פולימורפיים מסוכנים, מה שיכול להוות כמכפיל כוח רציני היות והפעולה חוסכת זמן רב עבור תוקפים. שימוש בChatGPT גם מקל על אנשים בעלי ניסיון מועט בכתיבת קוד להיכנס לעולם פשעי הסייבר.״
גם סייברארק משתתפת בכנס סייברטק 2023 שיערך בתל אביב ב31.1.2023. להרשמה לחצו כאן
