חוק ה-AI האירופי: חריגות לשימוש בזיהוי פנים בזמן אמת
החקיקה החדשה אוסרת שימוש בטכנולוגיות בינה מלאכותית מסוימות, אך פותחת חריגות לביטחון, מה שעורר ביקורת חריפה על אופן השימוש במערכת
החל מה-2 בפברואר, נכנס לתוקף חוק חדש לאיסור שימושים בלתי מתקבלים של טכנולוגיות בינה מלאכותית באיחוד האירופי. החוק נועד להגן על זכויות הפרט ולשמר את עקרונות הדמוקרטיה, אך עורר מחלוקת חריפה בשל החרגות רבות המאפשרות שימושים בתחום הביטחון. מטרתו העיקרית היא לעכב שימושים שעלולים לפגוע בחירויות האזרח, אך מתירה פתחים לשירותי משטרה והגירה במקרים של עבירות חמורות.
על פי דיווח של politico, החוק אוסר במפורש על שימוש בטכנולוגיות שמבצעות פרופילינג לניבוי פשיעה, כריית תמונות מהאינטרנט ליצירת מאגרי זיהוי פנים והערכת רגשות על סמך נתונים ביומטריים. עם זאת, רשויות אכיפת החוק ממשיכות לקבל חריגות לשימוש בזיהוי פנים בזמן אמת במרחבים ציבוריים, במיוחד במקרים של איומים ביטחוניים חמורים.
חוק זה מהווה את הצעד הראשון בעולם לקביעת כללים לשימוש בבינה מלאכותית. האיחוד האירופי מציג את החוק ככלי לשמירה על ערכי הדמוקרטיה והגנה על זכויות האדם, לצד עידוד חדשנות טכנולוגית. אולם, המתנגדים לחוק טוענים כי החרגות מרובות פוגעות באופי האיסורים והופכות את ההגבלות לפחות משמעותיות. מספר אנשים טוענים כי אי האכיפה הקפדנית עלול להוביל להתפתחות שימושים מסוכנים במערכות מתקדמות אלו.
במהלך המשא ומתן על נוסח החוק, חברי הפרלמנט ונציגי הממשלות התמודדו עם סוגיות רגישות כגון מניעת שליטה חברתית וצמצום חירויות הפרט. חברי הפרלמנט טענו כי אין לראות בשימוש בטכנולוגיות אלו איום מיידי כל עוד מתקיימים מנגנוני בקרה נאותים. דוברים מהצד הממשלתי הסבירו כי החרגות שהושגו במהלך המשא ומתן הן חיוניות לשמירה על ביטחון הציבור במקרים חריגים של פשיעה חמורה וטרור.
מעבר לכך, אירועים מן העבר העלו את הצורך באיסור שימושים מסוימים. למשל, בשנת 2019, נוצרה סערה בהולנד בעקבות שימוש באלגוריתם לזיהוי הונאות בקצבאות טיפול בילדים, מה שגרם להאשמות שגויות בקרב אלפי אזרחים. מקרה זה הדגים עד כמה שימוש לא מבוקר יכול לגרום לנזק חברתי וכלכלי כבד. החוק החדיש שואף למנוע הישנות מקרים דומים, אך עורר שאלות לגבי מידת שליטתו והפיקוח על יישומו בשטח.
עם זאת, מקבלי ההחלטות באיחוד האירופי הדגישו את הצורך להמשיך ולפתח מנגנוני בקרה והכשרה מקצועית למשתמשי טכנולוגיות בינה מלאכותית. מדינות החברות יקבעו עד חודש אוגוסט את הגופים המפקחים על אכיפת החוק, ובכך יאפשרו מעקב שוטף ותגובה מהירה לכל הפרה. אנשי מומחים בתחום הדגישו כי האיזון בין חדשנות לבין הגנה על זכויות הפרט חיוני להצלחת החקיקה ולשמירה על ערכי הדמוקרטיה באירופה. העתיד טמון בהמשך שיתוף הפעולה והבקרה המדויקת של השימוש בטכנולוגיות אלו.
מתוך הביקורת הציבורית עולה חשש כי החרגות אלו עלולות לסכן את פרטיות האזרחים. לכן, המשך מעקב וביקורת מקצועית יהוו את המפתח לשימוש אחראי ובטוח בטכנולוגיות אלו. רגולטורים ואקדמאים קוראים לשקיפות מלאה ולחיזוק האכיפה בכל הרמות.
