בין אתיקה לאוטונומיה: המרוץ לריסון הבינה המלאכותית בעידן של קבלת החלטות אלגוריתמית

הבינה המלאכותית הפכה בשנים האחרונות מחזון טכנולוגי עתידני לליבת הפעילות העסקית, הביטחונית והציבורית של המאה ה-21. עם זאת, לצד הקפיצה המטאורית ביכולות המחשוב, צפות ועולות שאלות כבדות משקל באשר לגבולות האחריות והשליטה האנושית על המערכות האוטונומיות. 

המעבר ממערכות תומכות החלטה לסוכנים עצמאיים המבצעים פעולות בשטח, מחייב בחינה מחודשת של הסיכונים המובנים באלגוריתמים, החל מהטיות חברתיות ועד להכרעות גורליות בשדה הקרב המודרני.

בפסגת Efficient & Responsible AI R&D, בהובלת Intel, HIT ו IAHLT, הפגיש נציגים מ Google, Rafael, Bright Data וחברות נוספות, עסקו בדור הבא של מערכות AI מודלי שפה גדולים, סוכנים אוטונומיים וארכיטקטורות חישוב מתקדמות ובעיקר בשאלה כיצד מנהלים סיכונים כשהאלגוריתמים מתחילים לקבל החלטות בפועל.

ד"ר שרה בסון מגוגל העולמית הזהירה כי קיימת תפיסה מוטעית של ה-AI כטכנולוגיה ניטרלית, בעוד שבפועל מדובר במערכות המשקפות ומעצימות הטיות אנושיות קיימות. לדבריה, הכלים הללו נבנים על ידי בני אדם ועל בסיס נתונים שאינם חפים מסטריאוטיפים, מה שעלול להוביל להדרה של אוכלוסיות עם מוגבלויות ולהטיות מסוכנות בתהליכי גיוס ושירותים ציבוריים.

הזווית הביטחונית שעלתה בכנס חידדה את עוצמת השינוי התפיסתי שעובר עולם הלחימה. אלעד שטרית מרפאל תיאר מציאות שבה המפעיל האנושי אינו שולט עוד באופן ישיר ברחפן בודד, אלא מתקשר עם "אייג'נטים" המנהלים נחילים שלמים באופן אוטונומי. למרות שהמערכות כבר נבחנות על חומרים מבצעיים אמיתיים ומסוגלות לתמצת מידע מורכב במהירות אדירה, השאלה המרכזית נותרה שאלת האמון: עד כמה ניתן להפקיד הכרעות מבצעיות בידי מכונה. 

במקביל, סוגיית הדאטה והציות הפכה לזירת קרב משפטית ואתית, כפי שציין רוני שליט מ-Bright Data, שהדגיש כי איסוף מידע שאינו חוקי יוצר "זיהום" במודלים שקשה מאוד לנקות בדיעבד.

הדיון לא נעצר בשאלות תפעוליות, אלא התרחב לצורך בבניית תשתית אקדמית ורגולטורית שתלווה את המהפכה. פרופ' אדוארד יעקובוב, נשיא HIT, הכריז על הקמת מרכז למחקר יישומי בבינה מלאכותית אחראית, מתוך הבנה שרק שילוב כוחות בין המחקר לתעשייה יאפשר להבין את המגבלות העתידיות של הטכנולוגיה. 

לצד זאת, עלה החשש מפני "בהלת ה-AI" בקרב דור העתיד של המתכנתים, מה שמחייב מענה אסטרטגי המשלב חשיבה אתית לצד הצטיינות טכנולוגית. הפסגה סימנה קו פרשת מים ברור: המרוץ הנוכחי אינו רק על מהירות החישוב, אלא על היכולת לנהל את הבינה המלאכותית באופן שישרת את הציבור מבלי לסכן את יציבותו.