פרשנות | כשהאלגוריתם הוא גם המפקד בשטח

העימות האחרון במזרח התיכון מחזיר את הטכנולוגיה לקדמת הבמה, והפעם לא מדובר בעוד דור של טילים, מערכות הגנה או מטוסים. מאחורי חלק מהתקיפות עומדות מערכות בינה מלאכותית שמסוגלות לנתח כמויות עצומות של מידע מודיעיני: צילומי לוויין, נתוני רחפנים, אותות אלקטרוניים וארכיוני תצפיות. בתוך דקות הן מציעות למפקדים מטרות לתקיפה, תהליך שבעבר נמשך שעות ואף ימים. התוצאה היא קיצור משמעותי בזמן שבין איתור המטרה לבין הפגיעה בה.

אלא שלצד היתרון הזה מגיעות גם שאלות מטרידות. כשאלגוריתם מסמן יעד כחשוד, מי נושא באחריות אם מסתבר שמדובר בטעות? למרות שבאופן רשמי המפקדים עדיין נמצאים "בלולאת ההחלטה", ברור שההשפעה של המערכות הטכנולוגיות על שיקול הדעת האנושי הולכת ומתרחבת. האלגוריתם מהיר בהרבה מכל צוות אנושי, אך הוא תלוי לחלוטין באיכות המידע שהוא מקבל. תמונה לא מדויקת, נתון שגוי או מידע שאינו עדכני עלולים להוביל לטעויות חמורות, ובשדה הקרב המשמעות עלולה להיות קטלנית.

המלחמה הנוכחית מדגישה שבינה מלאכותית איננה עוד כלי עזר טכנולוגי, אלא חלק מהותי מתשתית הלחימה העכשווית. מדינות משקיעות מיליארדים בפיתוח מערכות שמזהות מטרות, חוזות תנועות אויב ומנהלות לחימה חצי אוטונומית. מדובר במרוץ חימוש חדש, הפעם סביב אלגוריתמים וקוד. חברות טכנולוגיה, סטארט־אפים ביטחוניים ומעבדות מחקר מצטרפים למירוץ בקצב מהיר, והגבולות בין עולם ההייטק לעולם הביטחון ממשיכים להיטשטש.

להשפעה הכלכלית יש משמעות משלה. תעשיית ה־AI הביטחונית הולכת ומתבססת כאחד ממנועי הצמיחה המרכזיים של העשור הקרוב. בדיוק כפי שהאינטרנט, ה־GPS והרחפנים יצאו ממערכות צבאיות והפכו לטכנולוגיות אזרחיות, גם פיתוחי AI מודיעיניים עשויים לזרום לתחומים אזרחיים כמו ניהול תשתיות, תחבורה ובריאות. מה שמתחיל בזיהוי מטרות עשוי להסתיים בניהול עיר חכמה באופן אוטומטי.

אך לצד כל ההתקדמות הזו, מתעוררת שאלה רגולטורית עמוקה. בניגוד לנשק גרעיני או כימי, אין כיום אמנה בינלאומית שמגדירה באופן חד וברור את הכללים לשימוש בבינה מלאכותית בלחימה. מדינות מסוימות קוראות להגביל מערכות נשק אוטונומיות, ומנגד אחרות חוששות שאם יגבילו את עצמן, הן יאבדו יתרון אסטרטגי. במציאות גיאופוליטית מתוחה, יתרון טכנולוגי הוא נכס — וכשמדובר בנכסים כאלה, הוויתור אינו פשוט.

הסיכון ברור. ככל שהמערכות משתכללות, כך גובר הפיתוי להסתמך עליהן באופן כמעט אוטומטי. האלגוריתמים מגיבים במהירות עצומה, אך קצב ההחלטות הזה עלול להוביל להסלמה צבאית מהירה מכפי שהיכולת האנושית מסוגלת לעכל. מלחמה שמתקדמת בקצב של מכונה היא מלחמה שקשה מאוד לעצור.

ייתכן שבעתיד הקרוב יתקיימו ניסיונות להגיע להסכמה בינלאומית על סטנדרטים לשימוש ב־AI צבאי, בדומה לדיונים סביב רגולציה של בינה מלאכותית אזרחית. ובכל זאת, גם אם תקנות ייקבעו, לא ברור עד כמה מדינות יסכימו לאמץ אותן. במציאות שבה טכנולוגיה היא כוח, נשמרת נטייה ברורה לשמור את היתרון קרוב לחזה.

דבר אחד כבר ברור: הבינה המלאכותית משנה את כללי המשחק בשדה הקרב. האלגוריתם, כך נראה, תפס לעצמו מקום קבוע בחדר הפיקוד, והוא לא מתכוון לוותר עליו.

ד"ר מייק ארליכסון, מומחה מוביל לבינה מלאכותית, יוצר תוכן ומרצה