ראש זכויות האדם באו״ם מזהיר: ה-AI עלול להפוך לחזק מכדי לשלוט בו
וולקר טורק קורא לקבוע כללי בטיחות מחייבים ולבסס פיקוח עצמאי, ומזהיר כי ריכוז הכוח בתחום ה-AI מעלה סיכונים שחורגים הרבה מעבר לטכנולוגיה עצמה
Volker Türk. Photo: UNHCR/Jean Marc Ferré
בינה מלאכותית עלולה להפוך לבלתי ניתנת לשליטה מצד המפתחים שלה אם ממשלות לא יקבעו כללי בטיחות מחייבים, פיקוח עצמאי וגבולות ברורים, הזהיר השבוע וולקר טורק, הנציב העליון של האו״ם לזכויות אדם.
בנאומו בפני מועצת זכויות האדם בז׳נבה, העלה טורק את האפשרות שמערכות AI יהפכו לחזקות כל כך, עד שיפעלו בניגוד לאינטרסים של האנשים שפיתחו אותן.
"AI שיוצא מסביבת הבדיקות שלו, או שסוחט מפתחים כדי למנוע את כיבויו, הוא AI שחזק מדי", אמר טורק, וקרא ל"מאמץ כולל" ליצירת מנגנוני הגנה משמעותיים סביב הבטיחות והאבטחה של מערכות AI – לפני שיהיה מאוחר מדי.
טורק קרא לממשלות, לחברות טכנולוגיה ולמדינות המעורבות בשרשראות האספקה של טכנולוגיות AI לשתף פעולה בקביעת גבולות ברורים וביצירת מנגנוני אימות ופיקוח עצמאיים. עם זאת, הוא הדגיש כי הסיכונים אינם מסתכמים בשאלה אם מערכות בודדות בטוחות מבחינה טכנית.
"למספר קטן מאוד של אנשים יש כמעט כוח בלתי מוגבל על ה-AI", אמר טורק, בהתייחסו לריכוז ההולך וגובר של כוח טכנולוגי ולכמויות העצומות של מידע שנאספות ומעובדות.
לדבריו, ריכוז הכוח הזה מעלה שאלות יסוד לגבי מי שולט ב-AI ולמי היא משרתת. הטכנולוגיה צריכה "לשרת את האנושות ולא להפך", אמר, והצביע על השפעתה האפשרית על שוק העבודה, הדמוקרטיה והסביבה.
טורק התייחס גם לשימוש הצבאי ב-AI, והביע דאגה מיוחדת מפני מערכות נשק אוטונומיות המסוגלות לקבל החלטות קטלניות ללא התערבות אנושית. הוא אמר כי הוא "מזועזע" מהדיווחים על רחפנים אוטונומיים לחלוטין ששימשו לכאורה את רוסיה באוקראינה, והצטרף לקריאות לאסור בדחיפות כלי נשק שיכולים ליטול חיי אדם ללא מעורבות אנושית.
האזהרה משקפת חשש רחב יותר: ככל שמערכות AI הופכות ליכולות ומתוחכמות יותר, השליטה בטכנולוגיה עשויה להפוך לחשובה לא פחות מפיתוחה.