הסיכון הבא של ה-AI כבר נמצא בתוך המייל והיומן שלכם
המלצות חדשות של משרד המשפטים והרשות להגנת הפרטיות מזהירות מפני סוכנים אוטונומיים שמקבלים גישה למידע אישי ומבצעים פעולות ללא פיקוח מספק
Illustration: Katrin Bolovtsova via Pexels.com
השלב הבא במהפכת הבינה המלאכותית כבר אינו מסתכם במערכות שעונות על שאלות או מייצרות תוכן לפי בקשה. סוכני בינה מלאכותית אישיים מיועדים לפעול באופן עצמאי יותר: להבין מטרות, לתכנן משימות, להשתמש בכלים חיצוניים ולבצע פעולות עבור המשתמש — החל מניהול יומן ודואר אלקטרוני ועד תכנון נסיעות, ניהול כספים וסיוע בלימודים.
על רקע ההתפתחות המהירה של התחום, משרד המשפטים והרשות להגנת הפרטיות פרסמו המלצות לציבור בנוגע לשימוש בסוכני AI אישיים, במטרה לצמצם את הסיכונים לפרטיות, לאבטחת מידע ולשליטה של משתמשים במידע האישי שלהם.
לפי המסמך, בניגוד למערכות בינה מלאכותית יוצרת רגילות, סוכנים חכמים אינם רק מגיבים להנחיות. הם מסוגלים לקבל החלטות, לבצע פעולות ולהתאים את התנהגותם בהתאם למידע שנצבר לאורך זמן. יכולות אלה הופכות אותם לכלים יעילים במיוחד, אך גם מגדילות את כמות המידע האישי שאליו הם עשויים להיחשף.
לדוגמה, סוכן אישי שמסייע בתכנון סוף שבוע יכול להשתמש בהעדפות קודמות של המשתמש, לבדוק מידע באתרים חיצוניים, להתחבר ליומן האישי ואף לבצע הזמנות בפועל. כדי לבצע משימות מסוג זה, הסוכן עשוי לקבל הרשאות גישה למיילים, מסמכים, אנשי קשר, נתוני מיקום, מידע פיננסי או מידע רפואי.
אחד הסיכונים המרכזיים שעליהם מצביעה הרשות הוא ריכוז של מידע אישי רב במקום אחד. סוכן שמנתח מקורות מידע שונים עשוי לא רק לקרוא את המידע שהמשתמש סיפק לו, אלא גם להסיק ממנו תובנות חדשות – למשל לגבי הרגלים, קשרים חברתיים, מצב כלכלי או מאפיינים רפואיים.
כך למשל, סוכן לניהול בריאות וכושר עשוי להסיק מתוך נתוני פעילות גופנית, תפריטים ותזכורות רפואיות כי למשתמש יש צורך תזונתי או רפואי מסוים. אם הסוכן ישתמש במידע הזה במסגרת פעולה אחרת, קיימת אפשרות לחשיפה של מידע רגיש ללא כוונה מפורשת מצד המשתמש.
הרשות מזהירה גם מפני הסיכון הכרוך ביכולת הפעולה העצמאית של הסוכנים. מערכות אלה עשויות לשלוח הודעות, לבצע שינויים, לעדכן מידע או למחוק קבצים בהתאם להרשאות שניתנו להן. במקרה של טעות, תקלה או הגדרה לא נכונה, הפעולה האוטונומית עלולה לגרום נזק שקשה לתקן.
בין ההמלצות המרכזיות שמפרסמת הרשות: להעניק לסוכן גישה רק למידע הנדרש לביצוע משימה מסוימת, לצמצם הרשאות לעריכה או מחיקה, להעדיף גישה זמנית למידע במקום שמירה ארוכת טווח שלו, ולהגדיר נקודות שבהן נדרש אישור אנושי לפני ביצוע פעולות משמעותיות.
הרשות ממליצה גם לבצע בקרה שוטפת על פעולות הסוכן, להבין לאילו מקורות מידע הוא מחובר ולוודא שקיימים מנגנוני גיבוי ושחזור במקרה של פעולה בלתי רצויה.
המסר המרכזי של המסמך הוא שסוכני AI עשויים להפוך לעוזרים דיגיטליים רבי־עוצמה, אך השימוש בהם דורש מודעות גבוהה יותר מצד המשתמשים. ככל שהמערכות יקבלו יכולת לבצע יותר פעולות בשם האדם, כך תגדל החשיבות של שליטה בהרשאות, במידע ובגבולות הפעולה שלהן.