שיא האירוניה: סין פרסמה קודקס אתי לשימוש בטכנולוגיית בינה מלאכותית
בין השאר, מושם דגש על כך שבני האדם יוכלו תמיד לשלוט בטכנולוגיה ולבחור עד כמה להשתמש בה – אך המציאות בשטח שונה לחלוטין, כאשר הטכנולוגיה משמשת לא רק למעקב ולאיסוף נתונים מסיבי על כלל האזרחים, אלא גם כנשק נגד קבוצות אתניות ספציפיות, כמו האויגורים
מנדי קוגוסובסקי
| 05/10/2021
GSTOCK/Copyright: Putilov Denis
משרד המדע והטכנולוגיה של סין פרסם מערך הנחיות בנושא בינה מלאכותית (AI), המדגיש הגנה על זכויות המשתמשים ומניעת סיכונים, באופן התואם את מטרתה של בייג׳ינג לעקוף את ארה״ב להפוך למובילה העולמית בתחום עד לשנת 2030, כך על פי פרסום של ה-South China Morning Post (SCMP), עיתון (ואתר) מוביל בשפה האנגלית בבעלות קבוצת עליבאבא.
על פי ההנחיות, אשר אוגדו במסמך שכותרתו ״מפרט האתיקה של הבינה המלאכותית מהדור החדש״, המטרה העיקרית היא לוודא שהבינה המלאכותית נמצאת תמיד בשליטת בני האדם ושהם – ולא המכונות – יהיו בעלי הסמכות העליונה. עוד מציינות ההנחיות כי לכל אדם תהיה הזכות לבחור אם לקבל שירותי AI מלכתחילה ומתי להפסיק אינטראקציה קיימת, וכי מושם דגש גם על שיפור הרווחה האישית, הגנה על פרטיות ובטיחות, מידע לגבי הנתונים הנאספים, הגברת האוריינות האתית.
שם המשחק: שליטה
אבל המילים היפות מסתירות אמת אחרת, קשה ואכזרית. ״למרות התקדמות משמעותית במגזרים ספציפיים של בינה מלאכותית, נותר פער גדול בין הגדרות של נורמות אתיות לבין יישומם באמצעות חוקים ותקנות״, כתבה ביוני האחרון רבקה ארסנטי, אנליסטית במכון מרקטור ללימודי סין (MERICS), המבוסס בגרמניה. היא ציינה שעל מדינות המערב לשאוף לשיתוף פעולה עם סין בנושא, שכן ״הבנת הגישה הסינית לנושא היא חשובה ביותר, כיוון שהיא תהווה את כוח היסוד בעיצוב מסלול הבינה המלאכותית ואת האופן השליטה עליו״.
שליטה, זה שם המשחק הסיני, בכל התחומים – והבינה המלאכותית מהווה עוד נדבך בהעצמתה. במסד האתיקה החדש משתקפים מאמציה של בייג׳ינג להפעיל שליטה רבה יותר על המגזר הטכנולוגי ולרסן את השפעתו באופן שיסייע לחיזוק המפלגה והמדינה. לפני כחודשיים פורסם מחקר אקדמי שסקר את היקף פעילות הניטור והחסימה של תכנים מרחבי העולם על ידי סין. והצנזורה הזו היא רק דוגמא אחת קטנה מתוך אינספור דוגמאות למעקב הצמוד אחר האזרחים ואיסוף הנתונים המסיבי כמעט על כל פרט בחייהם, שרק מתגברים עם התקדמות הטכנולוגיה.
״רטוריקת האתיקה של הממשל הסיני יכולה להיתפס כצביעות לאור השימוש בבינה מלאכותית לצורכי מעקב המוני, דיכוי ואפלייה אתנית. עם זאת, מנקודת המבט של המנהיגות הסינית ומסגרות המוסר שלה, אין כאן כל סתירה״, מסבירה ארנסטי. ״ביטחון לאומי ויציבות מהוות את הסחורה הקולקטיבית ביותר, המצויה בעדיפות על פרטיות, שקיפות וזכויות הפרט. המפלגה הקומוניסטית הסינית רואה בביטחון וביציבות תנאים מוקדמים להתפתחות כלכלית, מטרה מרכזית באסטרטגיית הבינה המלאכותית״.
בינה מלאכותית כנשק
ארנסטי מציינת כי על מנת לקיים את אותו ביטחון לאומי, סין שואפת להדוף ולדכא את מה שהיא תופסת איומים פנימיים וחיצוניים כאחד, ולשם כך היא מגייסת את הטכנולוגיה – למשל נגד המיעוט האויגורי, אותו היא מגדירה כאוכלוסיית טרור. אך המטרה הסינית לא עולה בקנה אחד עם זכויות אדם בסיסיות, ולא ניתן לשייך זאת להבדלי תרבויות. ״בשינג׳יאנג, שבה מוחזקים לפחות מיליון מוסלמים במחנות מעצר, הטכנולוגיה משלימה את שיטות המשטרה המקובלות בדיכוי האויגורים ומיעוטים אחרים, והבינה המלאכותית ממלאת בכך תפקיד גדול״, היא מציינת במחקרה.
״הנושא האתי חורג בהרבה מהטייה אלגוריתמית: הממשלה הופכת AI לנשק נגד קבוצות אתניות ספציפיות (הדגש במקור, מ״ק). ברחבי סין, מספר פרויקטים של מעקב וידיאו הכריזו כי הצליחו לפתח תוכנה שמזהה אויגורים, אפילו עליבאבא פיתחה תוכנה כזו. (הערת המחברת: בכתבה של ה-SCMP לא זוהתה טיפת ביקורת על פרסום הקוד האתי הסיני. אינטרסים...) בשורה התחתונה, הגישה הממוקדת-ביטחון של בייג׳ינג מסתכנת בך שמטרות פוליטיות יכריעו את סדר העדיפויות בנוגע למחקר, פיתוח ואימוץ בינה מלאכותית בשנים הקרובות״, מסכמת ארנסטי.
בין השאר, מושם דגש על כך שבני האדם יוכלו תמיד לשלוט בטכנולוגיה ולבחור עד כמה להשתמש בה – אך המציאות בשטח שונה לחלוטין, כאשר הטכנולוגיה משמשת לא רק למעקב ולאיסוף נתונים מסיבי על כלל האזרחים, אלא גם כנשק נגד קבוצות אתניות ספציפיות, כמו האויגורים
GSTOCK/Copyright: Putilov Denis
משרד המדע והטכנולוגיה של סין פרסם מערך הנחיות בנושא בינה מלאכותית (AI), המדגיש הגנה על זכויות המשתמשים ומניעת סיכונים, באופן התואם את מטרתה של בייג׳ינג לעקוף את ארה״ב להפוך למובילה העולמית בתחום עד לשנת 2030, כך על פי פרסום של ה-South China Morning Post (SCMP), עיתון (ואתר) מוביל בשפה האנגלית בבעלות קבוצת עליבאבא.
על פי ההנחיות, אשר אוגדו במסמך שכותרתו ״מפרט האתיקה של הבינה המלאכותית מהדור החדש״, המטרה העיקרית היא לוודא שהבינה המלאכותית נמצאת תמיד בשליטת בני האדם ושהם – ולא המכונות – יהיו בעלי הסמכות העליונה. עוד מציינות ההנחיות כי לכל אדם תהיה הזכות לבחור אם לקבל שירותי AI מלכתחילה ומתי להפסיק אינטראקציה קיימת, וכי מושם דגש גם על שיפור הרווחה האישית, הגנה על פרטיות ובטיחות, מידע לגבי הנתונים הנאספים, הגברת האוריינות האתית.
שם המשחק: שליטה
אבל המילים היפות מסתירות אמת אחרת, קשה ואכזרית. ״למרות התקדמות משמעותית במגזרים ספציפיים של בינה מלאכותית, נותר פער גדול בין הגדרות של נורמות אתיות לבין יישומם באמצעות חוקים ותקנות״, כתבה ביוני האחרון רבקה ארסנטי, אנליסטית במכון מרקטור ללימודי סין (MERICS), המבוסס בגרמניה. היא ציינה שעל מדינות המערב לשאוף לשיתוף פעולה עם סין בנושא, שכן ״הבנת הגישה הסינית לנושא היא חשובה ביותר, כיוון שהיא תהווה את כוח היסוד בעיצוב מסלול הבינה המלאכותית ואת האופן השליטה עליו״.
שליטה, זה שם המשחק הסיני, בכל התחומים – והבינה המלאכותית מהווה עוד נדבך בהעצמתה. במסד האתיקה החדש משתקפים מאמציה של בייג׳ינג להפעיל שליטה רבה יותר על המגזר הטכנולוגי ולרסן את השפעתו באופן שיסייע לחיזוק המפלגה והמדינה. לפני כחודשיים פורסם מחקר אקדמי שסקר את היקף פעילות הניטור והחסימה של תכנים מרחבי העולם על ידי סין. והצנזורה הזו היא רק דוגמא אחת קטנה מתוך אינספור דוגמאות למעקב הצמוד אחר האזרחים ואיסוף הנתונים המסיבי כמעט על כל פרט בחייהם, שרק מתגברים עם התקדמות הטכנולוגיה.
״רטוריקת האתיקה של הממשל הסיני יכולה להיתפס כצביעות לאור השימוש בבינה מלאכותית לצורכי מעקב המוני, דיכוי ואפלייה אתנית. עם זאת, מנקודת המבט של המנהיגות הסינית ומסגרות המוסר שלה, אין כאן כל סתירה״, מסבירה ארנסטי. ״ביטחון לאומי ויציבות מהוות את הסחורה הקולקטיבית ביותר, המצויה בעדיפות על פרטיות, שקיפות וזכויות הפרט. המפלגה הקומוניסטית הסינית רואה בביטחון וביציבות תנאים מוקדמים להתפתחות כלכלית, מטרה מרכזית באסטרטגיית הבינה המלאכותית״.
בינה מלאכותית כנשק
ארנסטי מציינת כי על מנת לקיים את אותו ביטחון לאומי, סין שואפת להדוף ולדכא את מה שהיא תופסת איומים פנימיים וחיצוניים כאחד, ולשם כך היא מגייסת את הטכנולוגיה – למשל נגד המיעוט האויגורי, אותו היא מגדירה כאוכלוסיית טרור. אך המטרה הסינית לא עולה בקנה אחד עם זכויות אדם בסיסיות, ולא ניתן לשייך זאת להבדלי תרבויות. ״בשינג׳יאנג, שבה מוחזקים לפחות מיליון מוסלמים במחנות מעצר, הטכנולוגיה משלימה את שיטות המשטרה המקובלות בדיכוי האויגורים ומיעוטים אחרים, והבינה המלאכותית ממלאת בכך תפקיד גדול״, היא מציינת במחקרה.
״הנושא האתי חורג בהרבה מהטייה אלגוריתמית: הממשלה הופכת AI לנשק נגד קבוצות אתניות ספציפיות (הדגש במקור, מ״ק). ברחבי סין, מספר פרויקטים של מעקב וידיאו הכריזו כי הצליחו לפתח תוכנה שמזהה אויגורים, אפילו עליבאבא פיתחה תוכנה כזו. (הערת המחברת: בכתבה של ה-SCMP לא זוהתה טיפת ביקורת על פרסום הקוד האתי הסיני. אינטרסים...) בשורה התחתונה, הגישה הממוקדת-ביטחון של בייג׳ינג מסתכנת בך שמטרות פוליטיות יכריעו את סדר העדיפויות בנוגע למחקר, פיתוח ואימוץ בינה מלאכותית בשנים הקרובות״, מסכמת ארנסטי.
