פרשנות | האיחוד האירופאי רוצה לקבוע את גבולות המוסר של מערכות בינה מלאכותית
ה-AI Act צפוי להיכנס לתוקף כבר באפריל 2024. כפי שניתן להבין, מדובר בחוק שהולך להשפיע בצורה דרמטית על יצרניות ה-AI בעולם
הגנה לישראל
| 27/12/2023
תמונה באדיבות הכותב
כבר מספר שנים שאני עוסק בסוגיות הומניות ומוסריות שעומדות מאחורי בינה מלאכותית. רוב האנשים רואים את המנועים הנפלאים האלו בתור מערכת של מטריצות ומספרים שמקבלים קלט ומוציאים פלט, אך עבורי מדובר במראה של ממש לאנושות.
אותה רשת נוירונים תקבל מאפיינים שונים עבור Data Scientists שונים. כל חוקר יבחר הרכב שונה של חומרים ודגשים שונים במהלך תהליך האימון ואף יתייחס בצורה שונה לתוצאות הסופיות שהמודל יספק.
אני רוצה להאמין שרוב האנשים לא מייצרים הטיות בצורה מודעת, אבל כל הטיה אנושית לסוג מסוים של נתונים מקבלת ביטוי ב-AI. מעין טביעת אצבע של החוקר שמייצר את המנוע.
כולנו יודעים שדעות אנטישמיות או גזעניות מטופלות בחומרה בראי החוק, אבל האם המצב זהה כשמדובר ב-AI? התשובה, לצערי, היא לא.
AI אחראי מאומץ על ידי חברות אך לא בזירה המדינית
AI ומוסר הם לא מושגים זרים. Responsible AI, הקונספט שדורש ממשתמשים לבצע שימוש אחראי בבינה מלאכותית, כבר מיושם בחברות וארגונים שרוצים למנוע או לצמצם טעויות ושגיאות אתיות.
מאמרים ושיטות למניעת הטיות נחשפו כבר לפני שנים. למרות זאת, דווקא במישור המדיני הרגולטורי, קיים חוסר משמעותי בגבולות ומגבלות.
בעוד ארגונים ואנשים פרטיים יודעים לשים את הגבול המוסרי, ברמה המדינית לא הצליחו להגיע לניסוח המתאים שיאפשר מצד אחד להשתמש בצורה חופשית ויצירתית ב-AI ומצד שני לשמור על המשתמשים והחברה (society) מפגיעות כאלו ואחרות בזכויות.
כאן נכנסת לתמונה ה-AI Act שמקדם האיחוד האירופי. מאמצע שנת 2021, עוד לפני ש-ChatGPT שינה את חיינו, התחילו לקדם באיחוד האירופי אוסף של תקנות, חוקים והסכמות שייצרו מסגרת רגולטורית ל-AI, כך שקידום, פיתוח ופריסה של פתרונות AI יתאפשרו בצורה בטוחה, מהימנה ואתית.
המטרה העיקרית שלהם הייתה להבטיח שמערכות מבוססות AI מכבדות זכויות וערכים בסיסיים. זו הפעם הראשונה שגוף רשמי ברמה המדינית מוריד את הכפפה ומחליט לעשות סדר בעולם טכנולוגי שעד כה התקדם הרבה יותר מהר מהרגולציה. והיה להם הרבה על מה לדבר.
אחת מההחלטות הראשונות שהתקבלו הייתה שיש לייצר שוק אחיד בעל סטנדרט תואם ברחבי האיחוד האירופי. מעין קווי יסוד בסיסיים בין כל המדינות השונות באיחוד שלא יאפשרו לחברות לפעול במדינה אחת בסטנדרט מסוים ובמדינה אחרת בסטנדרט שונה. במילים אחרות, למנוע אכיפה סלקטיבית ולא אחידה.
החלטה נוספת, די טריוויאלית, הייתה לחייב גופי מחקר ופיתוח לעמוד בחוקים הנוגעים בזכויות יסוד, להגן על נתונים, למנוע פגיעה בפרטיות ואי-אפליה וכן לקבוע כללים רוחביים בהקשרי שקיפות Explainability ואחריות.
למרות שמדובר בדרישה סטנדרטית לחלוטין, הפרטים האלו מעולם לא נקבעו ונאכפו בצורה רשמית. אם נשאיל את זה אלינו כבני אדם, זה שקול להחלטה שאנשים צריכים לכבד את זכותם של אנשים אחרים לפרטיות למשל בשנת 2023.
ניקוד חברתי ומעקב המוני נקבע כאסור
חלקנו מכירים את הסדרה "מראה שחורה", שמציגה עתידים אפוקליפטיים. באחד מהפרקים, מציגים עתיד שבו מעמדם החברתי של אנשים נקבע על בסיס מערכת דירוג. כבר היום, חלק ניכר מהמידע שאנחנו מייצרים משמש גופים שונים כדי להעריך אותנו.
דירוג אשראי, למשל, הוא דוגמה מעולה. באופן מפתיע, רק עכשיו קבעו באיחוד האירופי פעולות מסוימות שאסור לבצע ע"י AI, וביניהן, ניקוד חברתי ומעקב המוני. בדיוק הדברים שעליהם העתיד האפוקליפטי בסדרה מתבסס. מפחיד קצת לא?
בתקנות מופיעים כמובן עוד נושאים רבים. שקיפות לגבי אופן הפעולה של מערכות AI, מתן הסברים על החלטות שמתקבלות ע"י AI (סוג של mission impossible לגופים שעובדים עם מנועים מבוססי Deep Learning), מגבלות שימוש ב-Generative ו-General AI, תמיכה בחדשנות בחברות קטנות, סנקציות ועוד ועוד נושאים רבים.
אפילו על דירוג אנרגטי וצריכת חשמל של מודלי AI מדובר שם.
ה-AI Act
ה-AI Act צפוי להיכנס לתוקף כבר באפריל 2024. כפי שניתן להבין, מדובר בחוק שהולך להשפיע בצורה דרמטית על יצרניות ה-AI בעולם, הגמישות שלהם וההשקעה שלהן במעטפת המוסרית של AI.
ההסכמות שאליהן הגיעו חברי פרלמנט ממדינות שונות באיחוד האירופי, מהוות עוד אבן דרך משמעותית בדרך להגבלה של טכנולוגיה משולחת רסן.
צעד של האיחוד האירופי הוא מעשה מבורך שיעזור לשמור עלינו, המשתמשים, מפני גורמים אינטרסנטיים שעלולים לעשות בטכנולוגיה שימוש לרעה. כולנו מרגישים עכשיו את השפעת ה-DeepFake והדיסאינפורמציה שנוצרים ע"י Generative AI ומשתוללים ברשתות החברתיות על הנרטיב והתודעה במלחמה ואת הנזק האדיר שהם עושים.
רק צריך להיזהר שאותן הגבלות לא יכבו את האש המטורפת שדוחפת את הטכנולוגיה הזו קדימה בשנים האחרונות, רק אולי קצת יחלישו אותה.
עידן בר, הוא מנהל מרכז התמחות AI במטריקס ו-CTO AI במטריקס דיפנס
ה-AI Act צפוי להיכנס לתוקף כבר באפריל 2024. כפי שניתן להבין, מדובר בחוק שהולך להשפיע בצורה דרמטית על יצרניות ה-AI בעולם
תמונה באדיבות הכותב
כבר מספר שנים שאני עוסק בסוגיות הומניות ומוסריות שעומדות מאחורי בינה מלאכותית. רוב האנשים רואים את המנועים הנפלאים האלו בתור מערכת של מטריצות ומספרים שמקבלים קלט ומוציאים פלט, אך עבורי מדובר במראה של ממש לאנושות.
אותה רשת נוירונים תקבל מאפיינים שונים עבור Data Scientists שונים. כל חוקר יבחר הרכב שונה של חומרים ודגשים שונים במהלך תהליך האימון ואף יתייחס בצורה שונה לתוצאות הסופיות שהמודל יספק.
אני רוצה להאמין שרוב האנשים לא מייצרים הטיות בצורה מודעת, אבל כל הטיה אנושית לסוג מסוים של נתונים מקבלת ביטוי ב-AI. מעין טביעת אצבע של החוקר שמייצר את המנוע.
כולנו יודעים שדעות אנטישמיות או גזעניות מטופלות בחומרה בראי החוק, אבל האם המצב זהה כשמדובר ב-AI? התשובה, לצערי, היא לא.
AI אחראי מאומץ על ידי חברות אך לא בזירה המדינית
AI ומוסר הם לא מושגים זרים. Responsible AI, הקונספט שדורש ממשתמשים לבצע שימוש אחראי בבינה מלאכותית, כבר מיושם בחברות וארגונים שרוצים למנוע או לצמצם טעויות ושגיאות אתיות.
מאמרים ושיטות למניעת הטיות נחשפו כבר לפני שנים. למרות זאת, דווקא במישור המדיני הרגולטורי, קיים חוסר משמעותי בגבולות ומגבלות.
בעוד ארגונים ואנשים פרטיים יודעים לשים את הגבול המוסרי, ברמה המדינית לא הצליחו להגיע לניסוח המתאים שיאפשר מצד אחד להשתמש בצורה חופשית ויצירתית ב-AI ומצד שני לשמור על המשתמשים והחברה (society) מפגיעות כאלו ואחרות בזכויות.
כאן נכנסת לתמונה ה-AI Act שמקדם האיחוד האירופי. מאמצע שנת 2021, עוד לפני ש-ChatGPT שינה את חיינו, התחילו לקדם באיחוד האירופי אוסף של תקנות, חוקים והסכמות שייצרו מסגרת רגולטורית ל-AI, כך שקידום, פיתוח ופריסה של פתרונות AI יתאפשרו בצורה בטוחה, מהימנה ואתית.
המטרה העיקרית שלהם הייתה להבטיח שמערכות מבוססות AI מכבדות זכויות וערכים בסיסיים. זו הפעם הראשונה שגוף רשמי ברמה המדינית מוריד את הכפפה ומחליט לעשות סדר בעולם טכנולוגי שעד כה התקדם הרבה יותר מהר מהרגולציה. והיה להם הרבה על מה לדבר.
אחת מההחלטות הראשונות שהתקבלו הייתה שיש לייצר שוק אחיד בעל סטנדרט תואם ברחבי האיחוד האירופי. מעין קווי יסוד בסיסיים בין כל המדינות השונות באיחוד שלא יאפשרו לחברות לפעול במדינה אחת בסטנדרט מסוים ובמדינה אחרת בסטנדרט שונה. במילים אחרות, למנוע אכיפה סלקטיבית ולא אחידה.
החלטה נוספת, די טריוויאלית, הייתה לחייב גופי מחקר ופיתוח לעמוד בחוקים הנוגעים בזכויות יסוד, להגן על נתונים, למנוע פגיעה בפרטיות ואי-אפליה וכן לקבוע כללים רוחביים בהקשרי שקיפות Explainability ואחריות.
למרות שמדובר בדרישה סטנדרטית לחלוטין, הפרטים האלו מעולם לא נקבעו ונאכפו בצורה רשמית. אם נשאיל את זה אלינו כבני אדם, זה שקול להחלטה שאנשים צריכים לכבד את זכותם של אנשים אחרים לפרטיות למשל בשנת 2023.
ניקוד חברתי ומעקב המוני נקבע כאסור
חלקנו מכירים את הסדרה "מראה שחורה", שמציגה עתידים אפוקליפטיים. באחד מהפרקים, מציגים עתיד שבו מעמדם החברתי של אנשים נקבע על בסיס מערכת דירוג. כבר היום, חלק ניכר מהמידע שאנחנו מייצרים משמש גופים שונים כדי להעריך אותנו.
דירוג אשראי, למשל, הוא דוגמה מעולה. באופן מפתיע, רק עכשיו קבעו באיחוד האירופי פעולות מסוימות שאסור לבצע ע"י AI, וביניהן, ניקוד חברתי ומעקב המוני. בדיוק הדברים שעליהם העתיד האפוקליפטי בסדרה מתבסס. מפחיד קצת לא?
בתקנות מופיעים כמובן עוד נושאים רבים. שקיפות לגבי אופן הפעולה של מערכות AI, מתן הסברים על החלטות שמתקבלות ע"י AI (סוג של mission impossible לגופים שעובדים עם מנועים מבוססי Deep Learning), מגבלות שימוש ב-Generative ו-General AI, תמיכה בחדשנות בחברות קטנות, סנקציות ועוד ועוד נושאים רבים.
אפילו על דירוג אנרגטי וצריכת חשמל של מודלי AI מדובר שם.
ה-AI Act
ה-AI Act צפוי להיכנס לתוקף כבר באפריל 2024. כפי שניתן להבין, מדובר בחוק שהולך להשפיע בצורה דרמטית על יצרניות ה-AI בעולם, הגמישות שלהם וההשקעה שלהן במעטפת המוסרית של AI.
ההסכמות שאליהן הגיעו חברי פרלמנט ממדינות שונות באיחוד האירופי, מהוות עוד אבן דרך משמעותית בדרך להגבלה של טכנולוגיה משולחת רסן.
צעד של האיחוד האירופי הוא מעשה מבורך שיעזור לשמור עלינו, המשתמשים, מפני גורמים אינטרסנטיים שעלולים לעשות בטכנולוגיה שימוש לרעה. כולנו מרגישים עכשיו את השפעת ה-DeepFake והדיסאינפורמציה שנוצרים ע"י Generative AI ומשתוללים ברשתות החברתיות על הנרטיב והתודעה במלחמה ואת הנזק האדיר שהם עושים.
רק צריך להיזהר שאותן הגבלות לא יכבו את האש המטורפת שדוחפת את הטכנולוגיה הזו קדימה בשנים האחרונות, רק אולי קצת יחלישו אותה.
עידן בר, הוא מנהל מרכז התמחות AI במטריקס ו-CTO AI במטריקס דיפנס
