״אנחנו מייצרים דאטה חדש לגמרי, שעוזר לעיר להפוך לחכמה״
איך רותמים בינה מלאכותית לתיקון מדרכה שבורה או לזיהוי אלימות במרחב, וכיצד מתמודדים במקביל עם אתגרי הגנת הפרטיות? אורי קז, ממייסדי חברת Urban AI, בשיחה עם ישראל דיפנס
מנדי קוגוסובסקי
| 06/12/2021
עיבוד גרפי: Urban AI
בישראל האורבנית והצפופה, אפשר כנראה לספור על אצבעות כף יד אחת את מספר האנשים שמעולם לא מעדו על אבן שפה שבורה, או סיננו קללה חרישית בעודם מחפשים את המפתח שנפל מהכיס בשעת לילה מאוחרת, בדיוק בפינה בה התקלקל פנס הרחוב. פעמים רבות, התושבים הם גם אלו שמתריעים על המפגעים השונים למוקד העירוני – ששולח צוות תיקון, מתישהו.
סיטואציות מתסכלות כאלה הן בדיוק מה שחברת Urban AI מבקשת למנוע, ולשם כך היא רותמת את הבינה המלאכותית. החברה, שהוקמה לפני כשנתיים על ידי אורי קז, ארז דאמוך ושמעון שבס וממוקמת בתל אביב, מפתחת אלגוריתמים שמנתחים את שפע המידע הוויזואלי שנאסף על ידי רשויות מקומיות בכל רגע נתון, על מנת לחלץ ממנו תובנות שונות. לאחרונה הציגה החברה בוועידת החדשנות של הרשויות המקומיות שנערך במסגרת Muni Expo בתל אביב, וכן בכנס ערים חכמות שנערך בברצלונה.
״לרשויות המקומיות יש בעיה: יש להן המון דאטה, וגם יש להן תקציבים – אבל בסופו של דבר, הן מתקשות לעשות חדשנות״, מספר קז, אחד משלושת המייסדים, בשיחה עם ישראל דיפנס. קז, מדען נתונים העוסק גם במחקר, מספר שכבר לפני מספר שנים זיהה את הצורך של הרשויות המקומיות בישראל להשתלט על אינסוף המידע הוויזואלי המתקבל על ידי המצלמות המרשתות את המרחב הציבורי – סטטיות, ניידות (על רכבי עירייה למשל), צילומים מרחפנים, ועוד.
עיבוד גרפי של Urban AI
״יש רשויות עם מאות מצלמות במרחב הציבורי, שיכול להיות מנותח ברמה האנושית על ידי איזשהו מוקד, אבל אין בו בינה מלאכותית. כלומר, יש המון דאטה לא מנותח, ובעזרת בינה מלאכותית שיכולה לחלץ ממנו תובנות, קשרים, התנהגויות – אנחנו מייצרים פה למעשה דאטה חדש לגמרי שאפשר להשתמש בו, אלמנט אחד במכלול שעוזר לעיר להפוך לחכמה״, מסביר קז.
איך זה בא לידי ביטוי בפועל, בחיי היומיום?
״יש המון שימושים כאלה. רשות מסוימת יכולה להציב שאלות, למשל: איפה נמצאים כל המפגעים במדרכות ברחבי העיר, איפה כל הרמזורים המקולקלים, התמרורים השבורים, הפנסים שלא עובדים, וכו׳. אנחנו יכולים למפות ולספק תשובות בצורה מהירה, על מנת שיגיעו לתקן״, מסביר קז.
״בנוסף, אנחנו מתעדכנים כל הזמן באופן דינמי לגבי הסטטוס. למשל, אם היה מפגע במדרכה, בפעם הבאה שיעבור שם רכב עירייה עם מצלמה, נקבל את הדאטה הזה ונבין שאכן תוקן. עם הבינה המלאכותית אפשר ממש בקלות לשפר את איכות חיי התושבים ברמה היומיומית״.
קז מספר על פרויקט נוסף של החברה, שעובדת עם רשות מקומית גדולה על זיהוי של אלימות במרחב הציבורי בזמן אמת, על ידי שימוש במצלמות סטטיות הפרושות בעיר (״אני חושב שהם מאוד ירצו לפרסם את זה בעצמם ברגע שיצא לפועל״, הוא מסביר את בקשתו לא לחשוף את שם הרשות). ״קיים שם שרת מאוד חזק – לא כזה שיש לרוב ברשות מקומית, אלא בחברות הייטק ובינה מלאכותית, ועליו אנחנו בעצם מרכיבים את האלגוריתמים, שיכולים לזהות אם התנהגות היא אכן אלימה״.
אבל בסופו של דבר, מדובר במחשב, והחברה מודעת לבעיות הפוטנציאליות. ״תחשבי על שני אנשים שמתחבקים במרחב הציבורי. בהרבה מובנים, על פי הנראות, זה עלול להיות דומה לאלימות״, מסביר קז. ״כך שחייבים אלגוריתמיקה מאוד מתקדמת ומדויקת כדי לא לתייג כאלימים דברים שהם לא כאלה – ומנגד, גם לא רוצים לפספס את האלימות, אלא להגיע לאחוזי דיוק כמה שיותר גבוהים״.
לקוחות החברה (שכן מותר לגלות את שמם) כוללים את עיריית תל אביב ורשויות נוספות כמו יקנעם, ראשל״צ וחולון. קז מספר שהם עובדים בצורה מצומצמת עם ארה״ב ומדינות באירופה, אבל החליטו באופן מודע לצמוח כאן בישראל. ״אין הרבה סטארטאפים שמצליחים לעבוד עם הרשויות כאן בארץ, כי זה נוגד את הגישה רווחת שאומרת שהכול צריך להיות גדול, בארה״ב, לגייס המון כסף. אבל ישראל היא בטא סייט מצוין. אנחנו עובדים עם הרשויות הגדולות, ומאוד מרוצים ממה שאנחנו רואים״.
מה לגבי הגנה על פרטיות האזרח, שמצולם ללא הרף וללא ידיעתו – צילומים שאח״כ גם עוברים במערכות כמו שלכם?
״המטרה שלנו כחברה היא לא לשמור את המידע״, מסביר קז. ״אפשר לדמות את זה לצינור, או פריזמה, שהדאטה כל הזמן עובר בו ואנחנו מסתכלים על מה שקורה דרך חור. רק מסתכלים, בלי לשמור את המידע, ואם האלגוריתם מזהה שקורה משהו, הוא מתריע״. קז מדגיש, שהאלגוריתמים של החברה מתלבשים למעשה על מערכות זיהוי קיימות, ומהוויים מנגנון ניטור בלבד.
אורי קז. צילום: באדיבות החברה
״תחשבי אפילו על המוקד העירוני הכי פשוט שיש – סביר שהוא שומר מידע רב על אנשים בצורה של וידיאו, למשל. אנחנו לא עושים את זה, לא שומרים כלום בשרתים שלנו. כשהאלגוריתם מזהה משהו הוא יכול להתריע לעירייה, או למשטרה, ואז יש לה הפנייה באמצעותה היא יכולה להסתכל בהקלטות שלה, או למשל להקפיץ ניידת למקום שבו זוהתה אלימות. אנחנו בחברה מכניסים בינה מלאכותית למשהו קיים, לא מוסיפים לפגיעה בפרטיות״.
עד כמה אתם מודעים לנושא של אפליה אלגוריתמית בעבודה שלכם?
״מודעים מאוד. זה נושא מאוד חם ומאוד נחקר בשנים האחרונות, בעיקר בארה״ב, שם בשנים האחרונות גוברת המודעות להטיה גזעית של אלגוריתמים״, אומר קז. ״צריך להבין שהבסיס של למידת המכונה לא שונה מלימוד של ילד קטן. אם, למשל, הוא רק יראה אנשים מסוימים עושים דברים מסוימים, הוא לא יידע שאפשר אחרת. הבחירה עצמה של המידע שאנחנו נותנים לאלגוריתם ללמוד, היא מה שיקבע אם יהיו בהמשך הטיות כאלה.
״בשביל לטפל בנושא, צריך לספק דאטה מגוון, או לשקלל נתונים באופן אחר. כמדעני נתונים יש הרבה שיטות להתמודד עם המצב, אבל הרבה מדענים לא חושבים על הדברים האלה או מתעמקים בהם, מה שמוביל להטיות. בסוף, עם כל הבינה המלאכותית הזאת – תראי איך התערבות פשוטה של האדם מאחורי האלגוריתם משנה פלאים את התוצאות.
״ב-Urban AI אנחנו מאוד מודעים לכך ומקפידים על בנייה נכונה של נתונים. אם סתם נקפיץ התרעת שווא על אדם שעבר במצלמה כי הוא אולי מתאים לפרופיל מסוים, לא נתקדם לשום מקום. צריך להיות מספיק רגישים לנושא, כי בסוף אנחנו עובדים על מידע אמיתי של אנשים אמיתיים״.
איך רותמים בינה מלאכותית לתיקון מדרכה שבורה או לזיהוי אלימות במרחב, וכיצד מתמודדים במקביל עם אתגרי הגנת הפרטיות? אורי קז, ממייסדי חברת Urban AI, בשיחה עם ישראל דיפנס
עיבוד גרפי: Urban AI
בישראל האורבנית והצפופה, אפשר כנראה לספור על אצבעות כף יד אחת את מספר האנשים שמעולם לא מעדו על אבן שפה שבורה, או סיננו קללה חרישית בעודם מחפשים את המפתח שנפל מהכיס בשעת לילה מאוחרת, בדיוק בפינה בה התקלקל פנס הרחוב. פעמים רבות, התושבים הם גם אלו שמתריעים על המפגעים השונים למוקד העירוני – ששולח צוות תיקון, מתישהו.
סיטואציות מתסכלות כאלה הן בדיוק מה שחברת Urban AI מבקשת למנוע, ולשם כך היא רותמת את הבינה המלאכותית. החברה, שהוקמה לפני כשנתיים על ידי אורי קז, ארז דאמוך ושמעון שבס וממוקמת בתל אביב, מפתחת אלגוריתמים שמנתחים את שפע המידע הוויזואלי שנאסף על ידי רשויות מקומיות בכל רגע נתון, על מנת לחלץ ממנו תובנות שונות. לאחרונה הציגה החברה בוועידת החדשנות של הרשויות המקומיות שנערך במסגרת Muni Expo בתל אביב, וכן בכנס ערים חכמות שנערך בברצלונה.
״לרשויות המקומיות יש בעיה: יש להן המון דאטה, וגם יש להן תקציבים – אבל בסופו של דבר, הן מתקשות לעשות חדשנות״, מספר קז, אחד משלושת המייסדים, בשיחה עם ישראל דיפנס. קז, מדען נתונים העוסק גם במחקר, מספר שכבר לפני מספר שנים זיהה את הצורך של הרשויות המקומיות בישראל להשתלט על אינסוף המידע הוויזואלי המתקבל על ידי המצלמות המרשתות את המרחב הציבורי – סטטיות, ניידות (על רכבי עירייה למשל), צילומים מרחפנים, ועוד.
עיבוד גרפי של Urban AI
״יש רשויות עם מאות מצלמות במרחב הציבורי, שיכול להיות מנותח ברמה האנושית על ידי איזשהו מוקד, אבל אין בו בינה מלאכותית. כלומר, יש המון דאטה לא מנותח, ובעזרת בינה מלאכותית שיכולה לחלץ ממנו תובנות, קשרים, התנהגויות – אנחנו מייצרים פה למעשה דאטה חדש לגמרי שאפשר להשתמש בו, אלמנט אחד במכלול שעוזר לעיר להפוך לחכמה״, מסביר קז.
איך זה בא לידי ביטוי בפועל, בחיי היומיום?
״יש המון שימושים כאלה. רשות מסוימת יכולה להציב שאלות, למשל: איפה נמצאים כל המפגעים במדרכות ברחבי העיר, איפה כל הרמזורים המקולקלים, התמרורים השבורים, הפנסים שלא עובדים, וכו׳. אנחנו יכולים למפות ולספק תשובות בצורה מהירה, על מנת שיגיעו לתקן״, מסביר קז.
״בנוסף, אנחנו מתעדכנים כל הזמן באופן דינמי לגבי הסטטוס. למשל, אם היה מפגע במדרכה, בפעם הבאה שיעבור שם רכב עירייה עם מצלמה, נקבל את הדאטה הזה ונבין שאכן תוקן. עם הבינה המלאכותית אפשר ממש בקלות לשפר את איכות חיי התושבים ברמה היומיומית״.
קז מספר על פרויקט נוסף של החברה, שעובדת עם רשות מקומית גדולה על זיהוי של אלימות במרחב הציבורי בזמן אמת, על ידי שימוש במצלמות סטטיות הפרושות בעיר (״אני חושב שהם מאוד ירצו לפרסם את זה בעצמם ברגע שיצא לפועל״, הוא מסביר את בקשתו לא לחשוף את שם הרשות). ״קיים שם שרת מאוד חזק – לא כזה שיש לרוב ברשות מקומית, אלא בחברות הייטק ובינה מלאכותית, ועליו אנחנו בעצם מרכיבים את האלגוריתמים, שיכולים לזהות אם התנהגות היא אכן אלימה״.
אבל בסופו של דבר, מדובר במחשב, והחברה מודעת לבעיות הפוטנציאליות. ״תחשבי על שני אנשים שמתחבקים במרחב הציבורי. בהרבה מובנים, על פי הנראות, זה עלול להיות דומה לאלימות״, מסביר קז. ״כך שחייבים אלגוריתמיקה מאוד מתקדמת ומדויקת כדי לא לתייג כאלימים דברים שהם לא כאלה – ומנגד, גם לא רוצים לפספס את האלימות, אלא להגיע לאחוזי דיוק כמה שיותר גבוהים״.
לקוחות החברה (שכן מותר לגלות את שמם) כוללים את עיריית תל אביב ורשויות נוספות כמו יקנעם, ראשל״צ וחולון. קז מספר שהם עובדים בצורה מצומצמת עם ארה״ב ומדינות באירופה, אבל החליטו באופן מודע לצמוח כאן בישראל. ״אין הרבה סטארטאפים שמצליחים לעבוד עם הרשויות כאן בארץ, כי זה נוגד את הגישה רווחת שאומרת שהכול צריך להיות גדול, בארה״ב, לגייס המון כסף. אבל ישראל היא בטא סייט מצוין. אנחנו עובדים עם הרשויות הגדולות, ומאוד מרוצים ממה שאנחנו רואים״.
מה לגבי הגנה על פרטיות האזרח, שמצולם ללא הרף וללא ידיעתו – צילומים שאח״כ גם עוברים במערכות כמו שלכם?
״המטרה שלנו כחברה היא לא לשמור את המידע״, מסביר קז. ״אפשר לדמות את זה לצינור, או פריזמה, שהדאטה כל הזמן עובר בו ואנחנו מסתכלים על מה שקורה דרך חור. רק מסתכלים, בלי לשמור את המידע, ואם האלגוריתם מזהה שקורה משהו, הוא מתריע״. קז מדגיש, שהאלגוריתמים של החברה מתלבשים למעשה על מערכות זיהוי קיימות, ומהוויים מנגנון ניטור בלבד.
אורי קז. צילום: באדיבות החברה
״תחשבי אפילו על המוקד העירוני הכי פשוט שיש – סביר שהוא שומר מידע רב על אנשים בצורה של וידיאו, למשל. אנחנו לא עושים את זה, לא שומרים כלום בשרתים שלנו. כשהאלגוריתם מזהה משהו הוא יכול להתריע לעירייה, או למשטרה, ואז יש לה הפנייה באמצעותה היא יכולה להסתכל בהקלטות שלה, או למשל להקפיץ ניידת למקום שבו זוהתה אלימות. אנחנו בחברה מכניסים בינה מלאכותית למשהו קיים, לא מוסיפים לפגיעה בפרטיות״.
עד כמה אתם מודעים לנושא של אפליה אלגוריתמית בעבודה שלכם?
״מודעים מאוד. זה נושא מאוד חם ומאוד נחקר בשנים האחרונות, בעיקר בארה״ב, שם בשנים האחרונות גוברת המודעות להטיה גזעית של אלגוריתמים״, אומר קז. ״צריך להבין שהבסיס של למידת המכונה לא שונה מלימוד של ילד קטן. אם, למשל, הוא רק יראה אנשים מסוימים עושים דברים מסוימים, הוא לא יידע שאפשר אחרת. הבחירה עצמה של המידע שאנחנו נותנים לאלגוריתם ללמוד, היא מה שיקבע אם יהיו בהמשך הטיות כאלה.
״בשביל לטפל בנושא, צריך לספק דאטה מגוון, או לשקלל נתונים באופן אחר. כמדעני נתונים יש הרבה שיטות להתמודד עם המצב, אבל הרבה מדענים לא חושבים על הדברים האלה או מתעמקים בהם, מה שמוביל להטיות. בסוף, עם כל הבינה המלאכותית הזאת – תראי איך התערבות פשוטה של האדם מאחורי האלגוריתם משנה פלאים את התוצאות.
״ב-Urban AI אנחנו מאוד מודעים לכך ומקפידים על בנייה נכונה של נתונים. אם סתם נקפיץ התרעת שווא על אדם שעבר במצלמה כי הוא אולי מתאים לפרופיל מסוים, לא נתקדם לשום מקום. צריך להיות מספיק רגישים לנושא, כי בסוף אנחנו עובדים על מידע אמיתי של אנשים אמיתיים״.
