פרשנות | צה״ל מסתבך בתבשיל הכולל בינה מלאכותית, זכויות אדם ומלחמה בעזה
באתר פוליטיקו מעלים שאלות לגבי השימוש של צה״ל במערכת ממוחשבת לבחירת מטרות בעזה - ״צריך שארה״ב תשלוט בטכנולוגיה של בעלות בריתה בחו"ל״, טוענים בכתבה
עמי רוחקס דומבה
| 04/03/2024
צילום: דובר צה״ל | חיל האוויר
בינה מלאכותית ומלחמה מהווים שילוב שמצית את הדימיון למליונים מסביב לעולם. מכונה ממוחשבת שלוקחת החלטות בשבריר שנייה, ללא אדם בלופ, ועושה את התקיפות יעילות באלפי מונים יותר מהחלטה אנושית - נחשבת לגביע הקדוש בעיני רבים.
יכולת כזו יכולה להפוך בין לילה צבא בינוני לצבא מעולה, כאשר כל המשתנים האחרים נשארים קבועים (סד״כ, סוגי אמל״ח וגיאוגרפיה). בסך הכל משפרים את תהליך קבלת ההחלטות והקסם מתרחש.
ובכן, פרסום עדכני של אתר politico שואל שאלות לגבי מערכת בינה מלאכותית שצה״ל לכאורה משתמש בה במלחמה בעזה. המערכת ״הבשורה״ או The Gospel system, היא מערכת בינה מלאכותית שפיתח צה״ל שלכאורה, מתכננת תקיפות. כך לפי הפרסום.
הפרסום של פוליטיקו מבוסס על כתבה באתר ״שיחה מקומית״ שלכאורה רומזת על החלטות מבצעיות בצה״ל שהביאו לגידול בהרג בלתי מעורבים בלחימה בעזה. את ההחלטות מייחסים בכתבה למערכת ״הבשורה״.
״לפי התחקיר, סיבה נוספת לפגיעה באזרחים וריבוי המטרות בסבב הנוכחי הוא שימוש נרחב במערכת "הבשורה", הבנויה במידה רבה על בינה מלאכותית, ויכולה "לייצר" מטרות באופן כמעט אוטומטי בקצב העולה בהרבה על מה שהתאפשר בעבר בצבא באמצעות בני אדם בלבד״, כותבים בשיחה מקומית.
בכתבה נטען כי לפי הודעה של דובר צה"ל מ-2 בנובמבר, "מפעל המטרות" שהצבא מפעיל במלחמה הנוכחית מבוסס על מערכת "הבשורה", ה"מאפשרת שימוש בכלים אוטומטיים לייצר מטרות בקצב מהיר, ופועלת באמצעות שיפור חומר מודיעיני מדויק ואיכותי בהתאם לדרישה". על פי הפרסום, המערכת ממליצה בזמן אמת היכן כדאי להפציץ.
צה״ל פרסם תגובה לכתבה וטען כי הכתבה ״רצופה באי-דיוקים ובטענות בלתי- מבוססות ביחס לתהליכים המודיעיניים והמבצעיים הנוגעים לתקיפת מטרות ברצועת עזה, ובכלל זה אופן הפעולה של מערכת "הבשורה".
באופן כללי, הכתבה מציגה דברים באופן מגמתי ומטעה. ניתן לשער כי הכתבה מתבססת על תדרוכים ומקורות בלתי-מוסמכים, שניכר שלא היו מעורבים בחודשים האחרונים בתהליכים המבצעיים המתוארים בכתבה״, נכתב בפרסום רשמי של צה״ל.
״בשנים האחרונות, צה"ל פיתח מערכת לניתוח ומיצוי מודיעין המכונה "הבשורה", המשלבת טכנולוגיה בסיסית של בינה מלאכותית. כפי שפורסם בעבר, המערכת הוכנסה לשימוש בשנת 2021 במהלך סבבי לחימה נגד ארגוני הטרור ברצועת עזה.
״המערכת מצליבה שכבות שונות של מידע מודיעיני, ועל בסיס זה מספקת לחוקרי מודיעין המלצות ביחס לנכסים החשודים כמטרות צבאיות פוטנציאליות. מטרתה היא לסייע לחוקר באמצעות קיצור לוחות הזמנים הנדרשים לאיסוף החומר ולהצלבתו, בהשוואה לעבודה שהיה עושה חוקר המודיעין לבדו.
״ביחס לכל המלצה פרטנית, המערכת מספקת לחוקר את המידע עליו היא מתבססת, באופן המאפשר לחוקר לאסוף ולהבין בקלות את המידע שעליו נשענה, ואז לערוך בחינה עצמאית אנושית של החומר המודיעיני.
״רק לאחר בחינת ההמלצה של המערכת, לרבות בדיקה עצמאית של המידע שבבסיס ההמלצה, ותוך התחשבות במידע רלוונטי נוסף, אם קיים, ימליץ החוקר האם לאשר את המטרה בהתאם לתו"ל הפללת המטרות של אמ"ן, הקובע את אמות המידה והתנאים להפללת מטרות צבאיות וחל גם על הפללות המתבצעות בסיוע מערכת "הבשורה".״
התשובה של צה״ל לא הרשימה כנראה את פוליטיקו. בכתבה באתר מעלים תהיות לגבי מה צה״ל מסתיר.
״לתשובות נוספות על לוחמת הבינה המלאכותית של ישראל יש פוטנציאל להדהד בארה"ב, ליצור דרישות מארה"ב לשלוט בטכנולוגיה של בעלות בריתה בחו"ל וליצור תחום מדיניות מסובך עבור מחוקקים בארה"ב המעוניינים להשתמש בבינה מלאכותית בשדות הקרב העתידיים״, כותבים בפרסום.
״כאלו שעוקבים אחר מדיניות לוחמת AI בארה"ב, טוענים שישראל מעוותת את מטרת הטכנולוגיה - משתמשת בה כדי להרחיב את רשימות המטרות במקום להגן על אזרחים. ולדבריהם, ארה"ב צריכה להזהיר את צה"ל בגין הפרת האתיקה הזו.״
על פי הכתבה, ארגוני זכויות אדם פחות מתעניינים כרגע באיזו טכנולוגיה משתמש צה״ל, אלא שמים דגש על תוצאות הלחימה.
"הייתי במספר פגישות עם אנשים מתחום זכויות אדם, בפגישות עם הממשל, ולא שמעתי שבינה מלאכותית עלתה באופן מיוחד", אמר חאלד אלגינדי, מנהל התוכנית לענייני פלסטין ופלסטינים-ישראל במכון המזרח התיכון.
כשנשאלה על היקף השימוש של ישראל בבינה מלאכותית במלחמה, סגנית היועצת לביטחון לאומי של הבית הלבן לסייבר וטכנולוגיה מתפתחת, אן נויברגר, מיהרה להתייחס לסכנות של הטכנולוגיה בלוחמה.
"אנחנו באמת מודאגים ממערכות AI", אמרה נויברגר בראיון. "זו הסיבה שהנשיא עבד כל כך מהר כדי להוציא את הוראת הביצוע שלו בנושא AI.״
ההוראה הביצועית שאליה התייחסה - שפורסמה באוקטובר - מספקת קווים מנחים לשימוש בבינה מלאכותית על ידי צבא ארה"ב וסוכנויות ביון.
סיבה נוספת שאולי הטכנולוגיה לא זוכה לתשומת לב רבה בוושינגטון: "לאף אחד אין תובנה, כולל, הייתי אומרת לקובעי מדיניות בארה"ב, כיצד ישראל מנהלת את המלחמה הזו", אמרה שרה יגר, מנהלת ב-Human Rights Watch.
"אנחנו רואים את התוצאה בנפגעים האזרחיים ובבניינים ההרוסים, אבל מבחינת הטכנולוגיה וחשבון המידתיות פשוט אין לנו מושג. זה כמו קופסה שחורה."
באתר פוליטיקו מעלים שאלות לגבי השימוש של צה״ל במערכת ממוחשבת לבחירת מטרות בעזה - ״צריך שארה״ב תשלוט בטכנולוגיה של בעלות בריתה בחו"ל״, טוענים בכתבה
צילום: דובר צה״ל | חיל האוויר
בינה מלאכותית ומלחמה מהווים שילוב שמצית את הדימיון למליונים מסביב לעולם. מכונה ממוחשבת שלוקחת החלטות בשבריר שנייה, ללא אדם בלופ, ועושה את התקיפות יעילות באלפי מונים יותר מהחלטה אנושית - נחשבת לגביע הקדוש בעיני רבים.
יכולת כזו יכולה להפוך בין לילה צבא בינוני לצבא מעולה, כאשר כל המשתנים האחרים נשארים קבועים (סד״כ, סוגי אמל״ח וגיאוגרפיה). בסך הכל משפרים את תהליך קבלת ההחלטות והקסם מתרחש.
ובכן, פרסום עדכני של אתר politico שואל שאלות לגבי מערכת בינה מלאכותית שצה״ל לכאורה משתמש בה במלחמה בעזה. המערכת ״הבשורה״ או The Gospel system, היא מערכת בינה מלאכותית שפיתח צה״ל שלכאורה, מתכננת תקיפות. כך לפי הפרסום.
הפרסום של פוליטיקו מבוסס על כתבה באתר ״שיחה מקומית״ שלכאורה רומזת על החלטות מבצעיות בצה״ל שהביאו לגידול בהרג בלתי מעורבים בלחימה בעזה. את ההחלטות מייחסים בכתבה למערכת ״הבשורה״.
״לפי התחקיר, סיבה נוספת לפגיעה באזרחים וריבוי המטרות בסבב הנוכחי הוא שימוש נרחב במערכת "הבשורה", הבנויה במידה רבה על בינה מלאכותית, ויכולה "לייצר" מטרות באופן כמעט אוטומטי בקצב העולה בהרבה על מה שהתאפשר בעבר בצבא באמצעות בני אדם בלבד״, כותבים בשיחה מקומית.
בכתבה נטען כי לפי הודעה של דובר צה"ל מ-2 בנובמבר, "מפעל המטרות" שהצבא מפעיל במלחמה הנוכחית מבוסס על מערכת "הבשורה", ה"מאפשרת שימוש בכלים אוטומטיים לייצר מטרות בקצב מהיר, ופועלת באמצעות שיפור חומר מודיעיני מדויק ואיכותי בהתאם לדרישה". על פי הפרסום, המערכת ממליצה בזמן אמת היכן כדאי להפציץ.
צה״ל פרסם תגובה לכתבה וטען כי הכתבה ״רצופה באי-דיוקים ובטענות בלתי- מבוססות ביחס לתהליכים המודיעיניים והמבצעיים הנוגעים לתקיפת מטרות ברצועת עזה, ובכלל זה אופן הפעולה של מערכת "הבשורה".
באופן כללי, הכתבה מציגה דברים באופן מגמתי ומטעה. ניתן לשער כי הכתבה מתבססת על תדרוכים ומקורות בלתי-מוסמכים, שניכר שלא היו מעורבים בחודשים האחרונים בתהליכים המבצעיים המתוארים בכתבה״, נכתב בפרסום רשמי של צה״ל.
״בשנים האחרונות, צה"ל פיתח מערכת לניתוח ומיצוי מודיעין המכונה "הבשורה", המשלבת טכנולוגיה בסיסית של בינה מלאכותית. כפי שפורסם בעבר, המערכת הוכנסה לשימוש בשנת 2021 במהלך סבבי לחימה נגד ארגוני הטרור ברצועת עזה.
״המערכת מצליבה שכבות שונות של מידע מודיעיני, ועל בסיס זה מספקת לחוקרי מודיעין המלצות ביחס לנכסים החשודים כמטרות צבאיות פוטנציאליות. מטרתה היא לסייע לחוקר באמצעות קיצור לוחות הזמנים הנדרשים לאיסוף החומר ולהצלבתו, בהשוואה לעבודה שהיה עושה חוקר המודיעין לבדו.
״ביחס לכל המלצה פרטנית, המערכת מספקת לחוקר את המידע עליו היא מתבססת, באופן המאפשר לחוקר לאסוף ולהבין בקלות את המידע שעליו נשענה, ואז לערוך בחינה עצמאית אנושית של החומר המודיעיני.
״רק לאחר בחינת ההמלצה של המערכת, לרבות בדיקה עצמאית של המידע שבבסיס ההמלצה, ותוך התחשבות במידע רלוונטי נוסף, אם קיים, ימליץ החוקר האם לאשר את המטרה בהתאם לתו"ל הפללת המטרות של אמ"ן, הקובע את אמות המידה והתנאים להפללת מטרות צבאיות וחל גם על הפללות המתבצעות בסיוע מערכת "הבשורה".״
התשובה של צה״ל לא הרשימה כנראה את פוליטיקו. בכתבה באתר מעלים תהיות לגבי מה צה״ל מסתיר.
״לתשובות נוספות על לוחמת הבינה המלאכותית של ישראל יש פוטנציאל להדהד בארה"ב, ליצור דרישות מארה"ב לשלוט בטכנולוגיה של בעלות בריתה בחו"ל וליצור תחום מדיניות מסובך עבור מחוקקים בארה"ב המעוניינים להשתמש בבינה מלאכותית בשדות הקרב העתידיים״, כותבים בפרסום.
״כאלו שעוקבים אחר מדיניות לוחמת AI בארה"ב, טוענים שישראל מעוותת את מטרת הטכנולוגיה - משתמשת בה כדי להרחיב את רשימות המטרות במקום להגן על אזרחים. ולדבריהם, ארה"ב צריכה להזהיר את צה"ל בגין הפרת האתיקה הזו.״
על פי הכתבה, ארגוני זכויות אדם פחות מתעניינים כרגע באיזו טכנולוגיה משתמש צה״ל, אלא שמים דגש על תוצאות הלחימה.
"הייתי במספר פגישות עם אנשים מתחום זכויות אדם, בפגישות עם הממשל, ולא שמעתי שבינה מלאכותית עלתה באופן מיוחד", אמר חאלד אלגינדי, מנהל התוכנית לענייני פלסטין ופלסטינים-ישראל במכון המזרח התיכון.
כשנשאלה על היקף השימוש של ישראל בבינה מלאכותית במלחמה, סגנית היועצת לביטחון לאומי של הבית הלבן לסייבר וטכנולוגיה מתפתחת, אן נויברגר, מיהרה להתייחס לסכנות של הטכנולוגיה בלוחמה.
"אנחנו באמת מודאגים ממערכות AI", אמרה נויברגר בראיון. "זו הסיבה שהנשיא עבד כל כך מהר כדי להוציא את הוראת הביצוע שלו בנושא AI.״
ההוראה הביצועית שאליה התייחסה - שפורסמה באוקטובר - מספקת קווים מנחים לשימוש בבינה מלאכותית על ידי צבא ארה"ב וסוכנויות ביון.
סיבה נוספת שאולי הטכנולוגיה לא זוכה לתשומת לב רבה בוושינגטון: "לאף אחד אין תובנה, כולל, הייתי אומרת לקובעי מדיניות בארה"ב, כיצד ישראל מנהלת את המלחמה הזו", אמרה שרה יגר, מנהלת ב-Human Rights Watch.
"אנחנו רואים את התוצאה בנפגעים האזרחיים ובבניינים ההרוסים, אבל מבחינת הטכנולוגיה וחשבון המידתיות פשוט אין לנו מושג. זה כמו קופסה שחורה."
