עוד כדור בדולח: חברת הזנק ישראלית רוצה לחזות אם תבצעו פשע בעתיד
חברת Voyager, טוענת שהיא יכולה לחזות ביצוע פשע או תמיכה ברעיונות קיצוניים באמצעות מידע מרשתות חברתיות. מסמכים חושפים חשד לטקטיקות בעייתיות עם אפשרות לפגיעה בפרטיות הגולשים. החברה מסרבת להסביר כיצד המנוע שלה מסווג תמיכה ברעיונות קיצוניים
עמי רוחקס דומבה
| 21/11/2021
אילוסטרציה. bigstock
חברת Voyager, שמוכרת את הטכנולוגיה שלה לגופי שיטור, הציעה אינדיקטורים כמו שמות משתמש באינסטגרם המראים כי אלו יכולים לאותת על נטייה לקיצוניות. כך לפי פרסום של אתר theguardian.
״מה אומרים עליך הפוסטים שלך בפייסבוק, אחרי מי אתה עוקב באינסטגרם ועם מי אתה מתקשר הכי הרבה ברשתות החברתיות? לפי הסטארט-אפ הטכנולוגי Voyager Labs, המידע הזה יכול לעזור למשטרה להבין אם ביצעת או אתה מתכנן לבצע פשע״, כותבים בפרסום.
החברה שואבת מידע מפרופילי משתמש במדיה החברתית ועוזרת למשטרה לחקור ולפקח על אנשים על ידי שחזור חייהם הדיגיטליים. ה״קסם״ טמון במנוע בינה מלאכותית שהחברה טוענת שיכול לפענח את המשמעות של התנהגות אנושית מקוונת. שאלת המחקר היא: האם הנבדקים כבר ביצעו פשע, עשויים לבצע פשע או צפויים לדבוק באידיאולוגיות מסוימות.
הבטחות שיווקיות ומציאות לחוד. מסמכים חדשים, שהושגו באמצעות בקשות מידע ציבורי על ידי מרכז ברנן, ארגון ללא מטרות רווח, ושותפו עם הגרדיאן, מראים שההנחות שהתוכנה מסתמכת עליהן כדי להסיק את המסקנות הללו עשויות להיתקל בתקנות או חקיקה בנוגע להגנת פרטיות במדינות שונות.
באחד המקרים, Voyager ציינה כי שקלה שימוש בשם משתמש באינסטגרם שמצביע על גאווה ערבית או ציוץ על האיסלאם כסימנים לנטייה אפשרית לקיצוניות. המסמכים גם חושפים כי החברה מקדמת מגוון אסטרטגיות מפוקפקות מבחינה אתית לגישה למידע משתמש, כולל מתן אפשרות למשטרה להשתמש בפרופילים מזויפיים כדי לקבל גישה לקבוצות או לפרופילים פרטיים במדיה חברתית.
Voyager, סטארטאפ בן תשע הרשום בתור Bionic 8 Analytics עם משרדים בישראל, וושינגטון, ניו יורק ובמקומות אחרים, הוא דג בבריכה גדולה הכוללת חברות כמו Palantir, Media Sonar, PredPol, Geofeedia. משטרת לוס אנג'לס ניסתה את תוכנת Voyager ב-2019, כך עולה ממסמכי ברנן סנטר, ועסקה בהתנהלות ארוכה הלוך ושוב עם החברה על חוזה קבוע.
דוברת Voyager, ליטל קרטר רוזן, אמרה בתגובה לכתבה כי התוכנה של החברה שימשה מגוון רחב של לקוחות כדי לאפשר חיפושים באמצעות מסדי נתונים, אך אמרה שהחברה לא בנתה את מסדי הנתונים הללו בעצמה.
"האחריות וההחלטות הם של הלקוחות שלנו, שבהן אין לחברה מעורבות כלל", אמרה רוזן בהודעת דוא״ל. "כחברה, אנו פועלים לפי החוקים של כל המדינות שבהן אנו עושים עסקים. יש לנו גם ביטחון שמי שאנחנו עושים איתם עסקים הם ארגונים ציבוריים ופרטיים שומרי חוק".
החברה לא הגיבה לשאלות עם מי יש לה חוזים או איך התוכנה שלה מסיקה מסקנות על תמיכתו של אדם באידאולוגיות ספציפיות.
חברת Voyager, טוענת שהיא יכולה לחזות ביצוע פשע או תמיכה ברעיונות קיצוניים באמצעות מידע מרשתות חברתיות. מסמכים חושפים חשד לטקטיקות בעייתיות עם אפשרות לפגיעה בפרטיות הגולשים. החברה מסרבת להסביר כיצד המנוע שלה מסווג תמיכה ברעיונות קיצוניים
אילוסטרציה. bigstock
חברת Voyager, שמוכרת את הטכנולוגיה שלה לגופי שיטור, הציעה אינדיקטורים כמו שמות משתמש באינסטגרם המראים כי אלו יכולים לאותת על נטייה לקיצוניות. כך לפי פרסום של אתר theguardian.
״מה אומרים עליך הפוסטים שלך בפייסבוק, אחרי מי אתה עוקב באינסטגרם ועם מי אתה מתקשר הכי הרבה ברשתות החברתיות? לפי הסטארט-אפ הטכנולוגי Voyager Labs, המידע הזה יכול לעזור למשטרה להבין אם ביצעת או אתה מתכנן לבצע פשע״, כותבים בפרסום.
החברה שואבת מידע מפרופילי משתמש במדיה החברתית ועוזרת למשטרה לחקור ולפקח על אנשים על ידי שחזור חייהם הדיגיטליים. ה״קסם״ טמון במנוע בינה מלאכותית שהחברה טוענת שיכול לפענח את המשמעות של התנהגות אנושית מקוונת. שאלת המחקר היא: האם הנבדקים כבר ביצעו פשע, עשויים לבצע פשע או צפויים לדבוק באידיאולוגיות מסוימות.
הבטחות שיווקיות ומציאות לחוד. מסמכים חדשים, שהושגו באמצעות בקשות מידע ציבורי על ידי מרכז ברנן, ארגון ללא מטרות רווח, ושותפו עם הגרדיאן, מראים שההנחות שהתוכנה מסתמכת עליהן כדי להסיק את המסקנות הללו עשויות להיתקל בתקנות או חקיקה בנוגע להגנת פרטיות במדינות שונות.
באחד המקרים, Voyager ציינה כי שקלה שימוש בשם משתמש באינסטגרם שמצביע על גאווה ערבית או ציוץ על האיסלאם כסימנים לנטייה אפשרית לקיצוניות. המסמכים גם חושפים כי החברה מקדמת מגוון אסטרטגיות מפוקפקות מבחינה אתית לגישה למידע משתמש, כולל מתן אפשרות למשטרה להשתמש בפרופילים מזויפיים כדי לקבל גישה לקבוצות או לפרופילים פרטיים במדיה חברתית.
Voyager, סטארטאפ בן תשע הרשום בתור Bionic 8 Analytics עם משרדים בישראל, וושינגטון, ניו יורק ובמקומות אחרים, הוא דג בבריכה גדולה הכוללת חברות כמו Palantir, Media Sonar, PredPol, Geofeedia. משטרת לוס אנג'לס ניסתה את תוכנת Voyager ב-2019, כך עולה ממסמכי ברנן סנטר, ועסקה בהתנהלות ארוכה הלוך ושוב עם החברה על חוזה קבוע.
דוברת Voyager, ליטל קרטר רוזן, אמרה בתגובה לכתבה כי התוכנה של החברה שימשה מגוון רחב של לקוחות כדי לאפשר חיפושים באמצעות מסדי נתונים, אך אמרה שהחברה לא בנתה את מסדי הנתונים הללו בעצמה.
"האחריות וההחלטות הם של הלקוחות שלנו, שבהן אין לחברה מעורבות כלל", אמרה רוזן בהודעת דוא״ל. "כחברה, אנו פועלים לפי החוקים של כל המדינות שבהן אנו עושים עסקים. יש לנו גם ביטחון שמי שאנחנו עושים איתם עסקים הם ארגונים ציבוריים ופרטיים שומרי חוק".
החברה לא הגיבה לשאלות עם מי יש לה חוזים או איך התוכנה שלה מסיקה מסקנות על תמיכתו של אדם באידאולוגיות ספציפיות.
