אירופה קוראת לאסור טכנולוגיות AI למטרת מעקב המוני
בהחלטה בלתי-מחייבת קרא הפרלמנט האירופי לפיקוח אנושי ולשקיפות על מנת להבטיח שמירה על זכויות הפרט. דובר הישיבה: ״ניצחון עצום לכל אזרחי אירופה״
מנדי קוגוסובסקי
| 07/10/2021
BIGSTOCK/Copyright: Thufir
הפרלמנט האירופי קורא לאסור שימוש בטכנולוגיות בינה מלאכותית (AI) למעקב המוני, במטרה להילחם באפליה ולהבטיח את הזכות לפרטיות, וקורא ליישום אמצעי הגנה משמעותיים כאשר נעשה שימוש בטכנולוגיה זו במסגרת אכיפת החוק. ההחלטה הבלתי-מחייבת תחת הכותרת ״בינה מלאכותית במשפט הפלילי והשימוש בה על ידי המשטרה ורשויות השיפוט״, התקבלה אתמול (ד׳) ברוב של 377:248 חברי פרלמנט, וכן 62 נמנעים, לאחר דיון סוער.
במהלך הדיון, העלו חברי הפרלמנט את סוגיות שונות, כגון הסיכון לאפלייה בשל הטייה של האלגוריתם, וציינו שכבר הוכח כי מערכות זיהוי מבוססות בינה מלאכותית מזהות באופן שגוי קבוצות מיעוטים אתניות וגזעיות, להטב״קים, קשישים ונשים בשיעורים גבוהים יותר מאשר קבוצות אחרות (משמע, גברים לבנים מערביים), והדגישו את הצורך בפיקוח אנושי ובסמכויות משפטיות חזקות.
״על ההחלטות הסופיות להתקבל תמיד על ידי מפעילים אנושיים, ולאנשים המנוטרים על ידי מערכת בינה מלאכותית חייבת להיות גישה לתיקון״, כך נכתב בפרסום הרשמי של הפרלמנט האירופי שהופץ בתום ההצבעה. ״על מנת להבטיח כי זכויות היסוד יישמרו בעת שימוש בטכנולוגיות אלה, האלגוריתמים צריכים להיות שקופים, ניתנים למעקב ומתועדים״. המחוקקים הוסיפו בקשה כי במידת האפשר, יעשו רשויות ציבוריות שימוש בקוד פתוח להגברת השקיפות.
עוד דורשים המחוקקים לאסור בחוק על זיהוי אוטומטי של אנשים במרחב הציבורי ולקבל אישור מיוחד למעקב אחר חשודים, לאסור על שימוש במאגרי מידע לזיהוי פנים (דוגמת Clear View השנויה במחלוקת), וכן לאסור ניסיונות למערכת ניקוד חברתית, שמטרתה לדרג את מהימנות האזרחים על סמך אישיותם או התנהגותם. בנוסף, מביעים חברי הפרלמנט דאגה מהשימוש בנתונים ביומטריים לשימוש מרחוק, למשל במסגרת ביקורת הגבולות החכמה בכניסה לאיחוד (פרויקט אותו הם קוראים לבטל).
״לראשונה אי פעם, אנו קוראים לבטל את מערכות זיהוי הפנים לצורכי אכיפת החוק, שכן טכנולוגיה זו הוכיחה את עצמה כבלתי יעילה, ופעמים רבות מובילה לתוצאות מפלות״, מסר חבר הפרלמנט פטר ויטאנוב (מבולגריה), דובר הדיון. ״אנו מתנגדים באופן ברור לשיטור מנבא המבוסס על שימוש ב-AI, וכן על כך עיבוד של נתונים ביומטריים המובילים למעקב המוני. מדובר בניצחון עצום לכל אזרחי אירופה״.
מוקדם יותר השנה הציגה הנציבות האירופאית טיוטת חקיקה בנוגע לשימוש בבינה מלאכותית, בניסיון לקבוע סטנדרטים אחידים לטכנולוגיה, ולהפוך את אירופה למרכז עולמי ומהימן בתחום, באופן ש״יבטיח את הבטיחות והזכויות הבסיסיות של האנשים, תוך חיזוק צריכת הטכנולוגיה הזו, ההשקעה והחדשנות״, לשון המבוא לחוק. ההחלטה שהתקבלה אתמול מהווה צעד נוסף בדרך לאימוץ החוק, שנמצא בדיונים, מעין איתות של חברי הפרלמנט לגבי כיוון נשיבת הרוח בנוגע למיקוד החוק ולנקודות החשובות שצריכות להיות בו.
שוק הבינה המלאכותית, שעומד כיום על שווי מוערך של כ-62 מיליארד דולר צומח בשנים האחרונות בקצב מסחרר, כאשר בחמש השנים הקרובות שוויו צפוי להגיע לבין 150 ל-350 מיליארד (הערכות שונות מתפרסמות חדשות לבקרים). ואולם, השוק נשלט כעת על ידי ארה״ב וסין (שפרסמה בשבוע שעבר קודקס אתי משלה בנושא), כשאירופה מפגרת מאחור.
על פי דו״ח של EIT Urban Mobility, רשות חדשנות עירונית הנתמכת על ידי האיחוד האירופי שפורסם לפני כשבועיים, אירופה מתמודדת עם קשיים טכניים, איכות נתונים ירודה וכן בעיות תקציב (במיוחד ביחד לתקציבי העתק שמושקעים על ידי שתי המדינות האחרות), בניסיונותיה להעביר טכנולוגיה זו לשימושים יומיומיים.
בהחלטה בלתי-מחייבת קרא הפרלמנט האירופי לפיקוח אנושי ולשקיפות על מנת להבטיח שמירה על זכויות הפרט. דובר הישיבה: ״ניצחון עצום לכל אזרחי אירופה״
BIGSTOCK/Copyright: Thufir
הפרלמנט האירופי קורא לאסור שימוש בטכנולוגיות בינה מלאכותית (AI) למעקב המוני, במטרה להילחם באפליה ולהבטיח את הזכות לפרטיות, וקורא ליישום אמצעי הגנה משמעותיים כאשר נעשה שימוש בטכנולוגיה זו במסגרת אכיפת החוק. ההחלטה הבלתי-מחייבת תחת הכותרת ״בינה מלאכותית במשפט הפלילי והשימוש בה על ידי המשטרה ורשויות השיפוט״, התקבלה אתמול (ד׳) ברוב של 377:248 חברי פרלמנט, וכן 62 נמנעים, לאחר דיון סוער.
במהלך הדיון, העלו חברי הפרלמנט את סוגיות שונות, כגון הסיכון לאפלייה בשל הטייה של האלגוריתם, וציינו שכבר הוכח כי מערכות זיהוי מבוססות בינה מלאכותית מזהות באופן שגוי קבוצות מיעוטים אתניות וגזעיות, להטב״קים, קשישים ונשים בשיעורים גבוהים יותר מאשר קבוצות אחרות (משמע, גברים לבנים מערביים), והדגישו את הצורך בפיקוח אנושי ובסמכויות משפטיות חזקות.
״על ההחלטות הסופיות להתקבל תמיד על ידי מפעילים אנושיים, ולאנשים המנוטרים על ידי מערכת בינה מלאכותית חייבת להיות גישה לתיקון״, כך נכתב בפרסום הרשמי של הפרלמנט האירופי שהופץ בתום ההצבעה. ״על מנת להבטיח כי זכויות היסוד יישמרו בעת שימוש בטכנולוגיות אלה, האלגוריתמים צריכים להיות שקופים, ניתנים למעקב ומתועדים״. המחוקקים הוסיפו בקשה כי במידת האפשר, יעשו רשויות ציבוריות שימוש בקוד פתוח להגברת השקיפות.
עוד דורשים המחוקקים לאסור בחוק על זיהוי אוטומטי של אנשים במרחב הציבורי ולקבל אישור מיוחד למעקב אחר חשודים, לאסור על שימוש במאגרי מידע לזיהוי פנים (דוגמת Clear View השנויה במחלוקת), וכן לאסור ניסיונות למערכת ניקוד חברתית, שמטרתה לדרג את מהימנות האזרחים על סמך אישיותם או התנהגותם. בנוסף, מביעים חברי הפרלמנט דאגה מהשימוש בנתונים ביומטריים לשימוש מרחוק, למשל במסגרת ביקורת הגבולות החכמה בכניסה לאיחוד (פרויקט אותו הם קוראים לבטל).
״לראשונה אי פעם, אנו קוראים לבטל את מערכות זיהוי הפנים לצורכי אכיפת החוק, שכן טכנולוגיה זו הוכיחה את עצמה כבלתי יעילה, ופעמים רבות מובילה לתוצאות מפלות״, מסר חבר הפרלמנט פטר ויטאנוב (מבולגריה), דובר הדיון. ״אנו מתנגדים באופן ברור לשיטור מנבא המבוסס על שימוש ב-AI, וכן על כך עיבוד של נתונים ביומטריים המובילים למעקב המוני. מדובר בניצחון עצום לכל אזרחי אירופה״.
מוקדם יותר השנה הציגה הנציבות האירופאית טיוטת חקיקה בנוגע לשימוש בבינה מלאכותית, בניסיון לקבוע סטנדרטים אחידים לטכנולוגיה, ולהפוך את אירופה למרכז עולמי ומהימן בתחום, באופן ש״יבטיח את הבטיחות והזכויות הבסיסיות של האנשים, תוך חיזוק צריכת הטכנולוגיה הזו, ההשקעה והחדשנות״, לשון המבוא לחוק. ההחלטה שהתקבלה אתמול מהווה צעד נוסף בדרך לאימוץ החוק, שנמצא בדיונים, מעין איתות של חברי הפרלמנט לגבי כיוון נשיבת הרוח בנוגע למיקוד החוק ולנקודות החשובות שצריכות להיות בו.
שוק הבינה המלאכותית, שעומד כיום על שווי מוערך של כ-62 מיליארד דולר צומח בשנים האחרונות בקצב מסחרר, כאשר בחמש השנים הקרובות שוויו צפוי להגיע לבין 150 ל-350 מיליארד (הערכות שונות מתפרסמות חדשות לבקרים). ואולם, השוק נשלט כעת על ידי ארה״ב וסין (שפרסמה בשבוע שעבר קודקס אתי משלה בנושא), כשאירופה מפגרת מאחור.
על פי דו״ח של EIT Urban Mobility, רשות חדשנות עירונית הנתמכת על ידי האיחוד האירופי שפורסם לפני כשבועיים, אירופה מתמודדת עם קשיים טכניים, איכות נתונים ירודה וכן בעיות תקציב (במיוחד ביחד לתקציבי העתק שמושקעים על ידי שתי המדינות האחרות), בניסיונותיה להעביר טכנולוגיה זו לשימושים יומיומיים.
