IBM משיקה כלים להבנת החלטות של אלגוריתמים

חברת IBM מכריזה על AI Explainability 360, ערכת כלים מקיפה בעלת קוד פתוח של אלגוריתמים מתוחכמים התומכים ביכולת לפרש ולהסביר מודלי למידה של מחשבים. "אנו מזמינים אתכם להשתמש בערכה ולתרום לה כדי להמשיך ולקדם את התיאוריה והשימוש המעשי בבינה מלאכותית אחראית ואמינה", נכתב בפרסום של החברה. 

מודלים של למידת מכונה מדגימים רמת דיוק מרשימה במטלות שונות וזוכים לאימוץ נרחב. עם זאת, רבים מהמודלים האלה אינם מובנים לאנשים שעובדים עימם. ההבנה הזאת, המכונה "היכולת להסביר" (explainability) מאפשרת למשתמשים להבין את תהליך קבלת ההחלטות של המחשב. הבנת אופן הפעולה של דברים חיונית ליכולתם של בני אדם למצוא את דרכם בעולם וגם לטיפוח האמון והביטחון במערכות בינה מלאכותית.

בנוסף, היכולת להסביר את אופן הפעולה של בינה מלאכותית חשובה למנהיגים עסקיים וקובעי מדיניות. למעשה, ששים ושמונה אחוזים מהמנהיגים סבורים שבשלוש השנים הבאות הלקוחות יתחילו לדרוש יותר "יכולת להסביר" ממערכות הבינה המלאכותית, קבע סקר שנערך על-ידי IBM Institute for Business Value.

כשאנו מנסים להסביר דברים המתרחשים בחיי היומיום שלנו, עומד לרשותנו אוצר מלים עשיר: אנו משתמשים בדוגמאות ובניגודים, מנסחים כללים ואבות טיפוס ומדגישים מאפיינים חשובים שניכרים או חסרים בתופעה שאנו מסבירים. זו הסיבה שמשתמשים הניצבים מול החלטות אלגוריתמיות מצפים ודורשים מהבינה המלאכותית את אותו כושר ביטוי. 

למשל, רופאים המאבחנים מטופלים יפיקו תועלת מבדיקת מקרים דומים מאוד או שונים מאוד. אנשים שבקשת ההלוואה שלהם נדחתה ירצו להבין את הסיבות העיקריות לדחייה ומה הם יכולים לעשות כדי לשנות את ההחלטה. רגולטורים, לעומת זאת, לא יתמקדו בנקודות נתונים או בהחלטה אחת אלא ישאפו להבין התנהגות מערכתית כדי לוודא שהיא אכן תואמת את הרגולציה. ומפתחים ירצו להבין באיזה היבט המודל הינו בטוח כדי להמשיך ולשפר את ביצועים.

לכן, כאשר מדובר במתן הסברים להחלטות שהתקבלו על-ידי אלגוריתמים, אין גישה אחת שמתאימה לכל התחומים. יש הרבה דרכים להסביר. בחירת הדרך המתאימה תלויה באישיות צרכן ההחלטה ובדרישות מלמידת המכונה. "מגוון הדרכים למתן הסבר הוא בדיוק המטרה שלשמה יצרנו את AI Explainability 360  המציעה אלגוריתמים להיקשים לפי מקרה, כללים הניתנים לפירוש באופן ישיר, הסברים מקומיים והסברים גלובליים  להחלטות שכבר התקבלו, ועוד. מאחר ויש כל כך הרבה אפשרויות שונות למתן הסבר, יצרנו מאגר של משאבי סיוע במקור אחד", אומרים בחברה. 

ערכת הכלים נבנתה עם ממשק  אחד עבור כל הדרכים השונות הקיימות למתן הסבר והיא ניתנת להרחבה כאשר רוצים לשפר עוד את יכולת ההסבר של הבינה המלאכותית. ערכת הכלים בנויה בקוד פתוח על מנת לעודד יצירת קהילת משתמשים המקיפה גם מדעני נתונים ומקבלי החלטות וגם את הציבור הרחב וכל מי שצריך להבין כיצד קבלת החלטות אלגוריתמית המשפיעה על חייו. 

AI Explainability 360 שונה מפתרונות קוד פתוח אחרים למתן הסברים1 בגלל גיוון השיטות שהיא מציעה, ההתמקדות שלה בחינוך בעלי עניין ממגוון תחומים, ויכולת ההרחבה שלה באמצעות מסגרת משותפת. זאת ועוד, AI Explainability 360 יכולה לעבוד בשילוב עם AI Fairness 360  ו-Adversarial Robustness 360, שתי ערכות כלים אחרות המבוססות של קוד פתוח אשר IBM Research השיקה ב-2018 ובכך לתמוך  בפיתוח קו מוצרי למידה מכונה אמינה.

השחרור המקורי מכיל שמונה אלגוריתמים שפותחו לאחרונה על ידי IBM Research וכן מדדים שסיפקה הקהילה ומשמשים כ"מיופי כוח" (proxies)  כמותיים לבחינת איכות ההסברים. נדגיש במיוחד שני אלגוריתמים. הראשון כולל כללי מיון בוליאניים באמצעות Column Generation. זוהי שיטה מדויקת וסקלבילית לפרשנות ישירה של למידת מכונה, אשר זכתה בתחרות FICO  הראשונה ללמידת מכונה הניתנת להסבר. האלגוריתם השני, הקרוי  Contrastive Explanations Method, הוא שיטה מקומית "לאחר מעשה" (post hoc) המתמודדת עם השיקול החשוב ביותר של בינה מלאכותית אשר לא טופל  על-ידי חוקרים ומשתמשים: מתן הסבר להתרחשותו של אירוע שכבר קרה, אך לא באופן מבודד אלא מדוע הוא, ולא אירוע אחר, התרחש בפועל.

 AI Explainability 360 משלימה את האלגוריתם שפיתחה IBM Research ושולב ב- Watson OpenScale. האלגוריתם, ששוחרר בשנה שעברה, מסייע ללקוחות לנהל בינה מלאכותית באופן שקוף לאורך מחזור החיים השלם של הבינה המלאכותית ומבלי להתחשב במיקום הפיתוח המקורי של יישומי ה-AI או בסביבה שבה הם רצים. OpenScale גם מזהה ומתמודדת עם הטיות בקשת שלמה של יישומי AI בשעה שיישומים אלה רצים.

המאמר נכתב במקור על ידי אלכסנדרה מויסילוביץ', IBM Research. 

אולי יעניין אותך גם

By Spc. Micah E. Clare, U.S. Army - This image was released by the United States Army with the ID 070930-A-2013C-254 (next). Public Domain, https://commons.wikimedia.org/w/index.php?curid=4556991

דיווח: רק"מי M1117 ראשונים הגיעו לאוקראינה מארה"ב

רק"מים אלו הינם חלק מחבילת הסיוע הצבאי האמריקאית בשווי של 400 מיליון דולרים שהוכרז עליה בחודש נובמבר 2022