כנס בתחום בינה מלאכותית: אלגוריתמים עוזרים, אך אינם מחליפים מקבלי החלטות. ובחלקם אפשר להתל

כנס שערכה חברת BASIS בתחום בינה מלאכותית לקהל ביטחוני דן בשאלות עדכניות כמו יעילות האלגוריתמים, האפשרות להתל בהם ואפילו נושאי אתיקה

קרדיט: יחצ

חברת BASIS ערכה לאחרונה כנס בתל אביב לקהילת הביטחון הישראלית בו נדונו נושאים סביב בינה מלאכותית. החברה עוסקת מזה שנים בתחום ניתוח טקסטים על בסיס אלגוריתמים ופונה לקהל ביטחוני ומסחרי. לכנס הגיעו כמה שמות ידועים. ביניהם הCTO לשעבר של הCIA - בוב פלורס, עמית בוהנסקי - יזם ישראלי בתחום פתרונות מודיעין שמכר כמה חברות לורינט בעבר, עמית מלצר - לשעבר טכנולוג בכיר במשרד רוה"מ וסטפאן טרוב - מחברת recorded future המשתמשת באלגוריתמים לאיסוף מודיעין סייבר. הרצאה מרתקת נתן ד"ר כפיר בר - המדען הראשי של BASIS.

אחת השאלות המרכזיות שנידונו בכנס הייתה בהקשר היעילות של אלגוריתמים מתחום הבינה המלאכותית (לימוד מכונה או לימוד עמוק). המסקנה הייתה שבעת זו מדובר עדיין בטכנולוגיה תומכת אנליסטים ולא כזו שמחליפה אותם. מלצר דיבר בפאנל על היבט נוסף והוא היכולת להתל במערכות כאלו, כולל במערכות אימות ביומטריות. הסיבה לכך טען מלצר, טמונה בציפייה של האלגוריתם לקבל מידע מסוג מסוים ובצורה מסוימת. זאת, בשונה מהצורה בה המוח האנושי מנתח את הסביבה שלו. ולכן, מומחים יכולים להתל באלגוריתם מהרגע שמבינים איך הוא עובד.

פלורס נתן את הזווית של הCIA ואמר שאם בעבר הארגון היה ממוקד ברוסיה (תקופת המלחמה הקרה) , בעיקר בגלל שנדרשו משאבי מחשוב גדולים לביצוע מחקר מבוסס אלגוריתמים, כיום הארגון אוסף מידע על כל העולם. ועל כל דבר שהוא יכול. וכדי להפיק מזה תובנות, יש צורך באלגוריתמים. כמו גם, אלגוריתמים מסוגלים להפיק תובנות מקישורים שבני אדם לא מסוגלים לעשות.

בדיונים בכנס עלה גם הצורך באלגוריתמים, כולל כאלו שפתיים, לצורך העשרת המודיעין על מטרות. בשני העשורים האחרונים רשת האינטרנט והרשתות החברתיות גרמו להיצף של מידע גלוי. מציאות זו מאפשרת לשירותי מודיעין לאסוף כמויות גדולות של מידע לצורך העשרת הידע על מטרות עניין. גם מהפכת הטלפונים הסלולריים והרשתות האלחוטיות הפכו את מלאכת איסוף המודיעין הגלוי ליעילה יותר, בתנאי שניתן להפיק תובנות מהמידע בזמן רלוונטי.

היכולת של ארגון מודיעיני לאסוף מודיעין בכל העולם , על פני מאות מדינות במקביל, מציב את הצורך בכלי ניתוח שפה אוטומטיים בראש סדר העדיפויות. טענה זו מקבלת משנה לאור החסך התמידי כמעט בדוברי שפות רלוונטיות בקהילת המודיעין של כל מדינה.

כלי ניתוח שפה חשובים גם לתחום איסוף הנשען על אווטרים - דמויות פיקטיביות ברשתות חברתיות.  בחלק מהמקרים, בתחום הסייבר ובתחומים נוספים, חלק מהמידע נמצא בקבוצות ופורומים סגורים. על מנת להיכנס לקבוצות כאלו, יש צורך בשפה מתאימה לצורך ניהול שיח מתמשך על מנת לספק לאווטר אמינות.

כלים כאלו נדרשים גם במגזר העסקי. פלוני יכול לחשוב על מרכזי שירות טלפוניים המספקים שירותי שירות או תמיכה במיקור חוץ למגוון ארגונים בעשרות מדינות. במתווה כזה, מערכות ניתוח טקסט אוטומטיות יכולות לייעל משמעותית את מתן השירות. במידה ומדובר בהליך מכירה, מערכות כאלו יכולות להיות כלי עזר משמעותי לאיש המכירות באמצעות שליחת התראות לפי מילות מפתח או ניתוח סנטימנט של השיחה.

לצד ההיבטים הטכניים והמודיעינים שעלו בכנס, עלה גם נושא האתיקה בשימוש באלגוריתמים. ככל שהתחום מתקדם , אלגוריתמים צפויים להיכנס יותר עמוק להליך קבלת ההחלטות בארגונים (עסקיים או ביטחוניים) ואחד החששות הוא זיהוי ניתוח שיוביל לתובנות שגויות. חשש נוסף הוא הטייה מובנית באלגוריתם שמכניס המתכנת, או רחמנא ליצלן, הטייה סינטטית שנוצרת באלגוריתם לומד.