יבמ מצהירה שתפסיק לפתח תוכנת זיהוי פנים הפוגעת בשוויון

אילוסרטציה לטכנולוגיות זיהוי פנים (צילום: iStock/ metamorworks)
iStock/ metamorworks
אילוסרטציה לטכנולוגיות זיהוי פנים

מאז ה-26 במאי, ארצות הברית סוערת בעקבות הרצח של ג'ורג' פלויד, בגל מחאה אדיר נגד אלימות משטרתית ופרופיילינג גזעי נגד שחורים. המחאה מקיפה את כל שכבות האוכלוסיה, ומשלבת גם חברות מסחריות הרואות אחריות בהבעת עמדה נגד גזענות ובהזדהות עם תנועת Black Lives Matter.

בתוך זה, מנכ"ל חברת יבמ העולמית, ארווינד קרישנה, פרסם באתר החברה מכתב ששלח למספר חברי קונגרס ובו הוא מצהיר, בין היתר, כי יבמ תפסיק למכור טכנולוגיות זיהוי פנים.

במסגרת המחאה נגד האלימות המשטרתית והפרופיילינג נגד שחורים, הצהיר מנכ"ל יבמ העולמית, ארווינד קרישנה, כי יבמ תפסיק למכור טכנולוגיות זיהוי פנים

טכנולוגיית זיהוי פנים יכולה לסרוק במהירות גבוהה כמות גדולה מאוד של תמונות או סרטונים, כולל בזמן אמת, ולזהות אנשים מסוכנים, למשל כאלו שלמשטרה יש מידע מקדים לגבי זהותם וכוונתם לבצע פשע. דוח של מכון המחקר האמריקאי PEW בספטמבר 2019 הראה שמרבית הציבור האמריקאי רואה בחיוב את השימוש בטכנולוגיות כאלו על-ידי כוחות ביטחון.

אולם ישנה התנגדות הולכת וגוברת לכך בקרב פעילי זכויות ומומחים העוסקים בנושאי פרטיות. המדרון החלקלק מדאיג רבים, בין היתר על רקע השימוש בטכנולוגיות אלו על ידי המשטר בהונג-קונג במסגרת דיכוי ההפגנות במדינה.

קרישנה קורא לפעול ב-3 תחומים:

  1. רפורמה במשטרה למניעת התנהגות בלתי הולמת
  2. הכשרה וחינוך למיומנויות מבוקשות כמפתח להרחבת הזדמנויות כלכליות
  3. מדיניות טכנולוגית אחראית שתגביר שקיפות מבלי לקדם אפליה או אי צדק גזעי. בהקשר זה הוא כותב:

"יבמ לא מציעה יותר תוכנת זיהוי או ניתוח פנים למטרות כלליות. יבמ מתנגדת בתוקף ולא תעודד שימוש בטכנולוגיה כלשהי, כולל טכנולוגיית זיהוי פנים המוצעת על ידי ספקים אחרים, לצורך פיקוח המוני, פרופילינג גזעי, הפרות זכויות אדם וחירויות בסיסיות, או כל מטרה שאינה עולה בקנה אחד עם ערכינו ועם עקרונות של אמון ושקיפות".

חשוב לציין שטכנולוגיות זיהוי פנים, למרות השימוש הנרחב בהן על-ידי גורמי ביטחון וגורמים מסחריים כאחד, אינן מתקדמות במיוחד וסובלות מבעיות קשות של אמינות, פעמים רבות בהקשרים של גזע ומגדר.

ישנם מקרים מפורסמים של כשלים, כגון תוכנת זיהוי פנים של גוגל שתייגה בטעות נשים שחורות בתור גורילות, או מקרים מסכני חיים כמו תוכנת זיהוי פנים המוטמעת ברכבים אוטונומיים והציגה אחוז גבוה של טעויות בזיהוי פנים של אנשים כהי עור. מחקר של מכון NIST האמריקאי שבחן את ההשפעה של מגדר, גזע וגיל על תוכנות זיהוי פנים, מצא שבקרב כ-200 אלגוריתמים שנבדקו, ישנה סבירות גבוהה יותר לטעויות אצל אנשים שאינם לבנים. הסבירות הגבוהה ביותר לטעות היתה אצל נשים שחורות.

ישנם כשלים: תוכנת זיהוי פנים של גוגל שתייגה בטעות נשים שחורות בגורילות, או מקרים מסכני חיים כתוכנת זיהוי פנים ברכבים אוטונומיים, שהציגה אחוז טעויות גבוה בזיהוי פני אנשים כהי עור

יש לציין כי אמאזון, שתוכנת זיהוי הפנים שלה נמצאת בשימוש המשטרה האמריקאית, סירבה לכלול את האלגוריתם שלה במחקר הזה. אמאזון גם ספגה ביקורת בעבר בעקבות מוצר שלה שהציע שילוב של זיהוי פנים עם טכנולוגיות מעקב נוספות,  ככלי שישמש את המשטרה לזיהוי גורמים "חשודים".

לא כולם מתרשמים מההצהרה של יבמ. חוקרים ופעילים בתחום ציינו בראיון לגרדיאן שהחברה אחראית במידה רבה לפיתוח וקידום תשתיות ששימשו למעקב אחר אנשים במקומות שונים בעולם. כמו כן, גורמים בעולם הטכנולוגי מציינים שמוצרי זיהוי הפנים של יבמ התקשו להתמודד עם מוצרים מתחרים והחברה תכננה להפסיק את השיווק שלהן ממילא.

בין אם מדובר בנקיטת עמדה אתית משמעותית או בניצול ציני של הזדמנות, ההצהרה של יבמ אינה מתרחשת בחלל ריק. במקביל לבעיות שארצות הברית מתמודדת איתן, מתקיים בשנים האחרונות דיון גלובלי העוסק בשאלת האתיקה בפיתוח טכנולוגיות בינה מלאכותית ולמידת מכונה. מדינות רבות, כולל האיחוד האירופי וישראל, עובדות לקבוע קווים מנחים לפיתוח ושימוש בטכנולוגיות מהסוג הזה, אשר יבטיחו שימוש הוגן אחראי בטכנולוגיות כאלה.

אדוה לוטן היא יועצת עסקית-טכנולוגית במקצועה, מתמחה באדפטציה של ארגונים לעידן הדיגיטלי, מרצה ומנחה. מנהלת את עמותת מדעת – למען בריאות מושכלת, העוסקת בקידום בריאות הציבור. בלוגרית וותיקה עם חוש מפותח לצדק ומעט מדי שעות שינה.

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.
עוד 540 מילים
כל הזמן // יום שישי, 29 במרץ 2024
מה שחשוב ומעניין עכשיו
היום ה־175 ללחימה ● 134 חטופים עדיין בעזה

דיווחים: לפחות 36 הרוגים בתקיפה ישראלית באזור נמל התעופה בחלב שבסוריה

לפי הפרסומים, התקיפה כוונה למחסן נשק של חזבאללה, שחמישה מאנשיו נהרגו בהפצצה ● פיקוד המרכז של ארצות הברית יירט ארבעה כלי טיס לא מאוישים, שהמיליציה החות'ית שיגרה לכיוון הים האדום ● סער: "אם הייתי מתחייב לתמוך בחוק הגיוס – אז היום הייתי חבר בקבינט המלחמה"

עוד 5 עדכונים

נתניהו חשב שיעשה קסם. זה לא עבד על בג"ץ והיועמ"שית

ההתנהלות נתניהו סביב חוק הגיוס מלמדת כי חשב שהוא יכול לרבע את המעגל ולגרד עוד זמן מבג"ץ ● אבל נתניהו לא קרא נכון את המפה ● בג"ץ לא טרח לתת ולו גרם של משקל לעמדתו ביחס לעתירות, וגם לא לבקשתו לקבל ארכה של 30 ימים לצורך השלמת חוק חדש ● יחד עם היועמ"שית, בית המשפט שלח מסר ברור: לא תתאפשר כל מניפולציה של המשך אי גיוס החרדים או תשלומי התמיכות ללא הסמכה מפורשת בחוק ● פרשנות

עוד 1,138 מילים
אמיר בן-דוד

הצלחנו: הסכנה שהאזרחים הערבים יזדהו עם המדינה נמנעה

זה לא פשוט להיות מיעוט. במיוחד מיעוט לאומי במדינה שנמצאת במלחמה עם העם שלך. למשל מי שנקראים "אזרחי ישראל הערבים". מצד אחד יש שאלה של זהות. האם הם "יותר ישראלים" או "יותר ערבים"? והאם השיוך הכללי ל"ערבים" הוא נכון בכלל, או שהם בעצם פלסטינים? מצד שני יש את שאלת הנאמנות. כשזה מגיע לכדי התנגשות, וזה מגיע, הם יותר נאמנים למדינה שהם חיים בה או לעם שהם שייכים אליו? אלה שאלות ששואלים עליהם, וגם שהם שואלים בעצמם.

המכון הישראלי לדמוקרטיה מקיים סקר שנתי שנקרא "מדד הדמוקרטיה הישראלית", שמסתכל בין היתר גם על סוגיות טעונות כמו אלה. הסקר הזה מתבצע בחודש יוני בכל שנה. אחת השאלות הבסיסיות ביותר היא השאלה "באיזו מידה אתה מרגיש את עצמך חלק ממדינת ישראל ובעיותיה?". השאלה נשאלת את כל משתתפי בסקר, יהודים וערבים, אבל ניתוח התשובות כולל גם פילוח לפי מגזר.

דרור פייטלסון הוא פרופסור למדעי המחשב באוניברסיטה העברית. אספן של כל מיני דברים, ובפרט של נתונים, מספרים, ופסלוני צבים. שואף להקשות על מי שמנסה לרדד ולהטות את השיח הציבורי על ידי טענות בלתי מבוססות והפצת פייק ניוז. מאמין גדול בכך שיכול להיות כאן הרבה יותר טוב.

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.
עוד 964 מילים

מלחמת עזה – עוד כתבות

אפליית נשים בתחב"צ עולה מדרגה: במודיעין עילית מצמידים לחלק מהאוטובוסים סימן צהוב ומגדירים אותם כמיועדים לגברים בלבד ● בחברת "קווים" טוענים שמדובר בפעולה של עבריין בודד ושהחברה פועלת להסרת המדבקות, אבל בשטח כבר נרשמו מקרים שבהם נשים הושארו בתחנה ● ציפי לביא, פמיניסטית חרדית: "האחריות היא על הנהג, החברה ומשרד התחבורה ואני מצפה מהם לאכוף את החוק"

עוד 1,173 מילים

"חוות משה" - הנדסת תודעה, תעמולה והיתממות משפטית

תחת הכותרת סוחטת הרגשות: "בנק הפועלים הורה לבטל סליקת תרומות להנצחת לוחם" – פורסמה השבוע כתבה (Ynet, 24/03/2024) המתארת תביעה נגד מסכת התעללות לכאורה של הבנק ושל חברת סליקה – בעמותה, המנהלת קמפיין תרומות להנצחת זכרו של לוחם שנהרג בצפון הרצועה.

התביעה קובלת על התערבות הממשל האמריקאי בפרויקט הנצחה תמים לכאורה, שמקושש תרומות למפעל חייו של הנופל. למעשה, מדובר בטענות מניפולטיביות, המצניעות את העובדה ש"מפעל החיים" המדובר הוא מאחז בלתי חוקי, שספג סנקציות אמריקאיות בשל אלימות כלפי פלסטינים. המוסדות הפיננסיים הישראליים נענים לדרישת הממשל בסירובם להעביר דרכם תרומות, שבפועל עוקפות את אותן סנקציות.

ארנון הראל הוא פעיל חברתי, קהילתי ופוליטי. גמלאי מחינוך והוראה בתיכון. לימודי תואר שני למשפטים, למערכות מידע; לימודי תואר ראשון לגיאוגרפיה ומדע המדינה, לימודי ארץ ישראל. 25 שנות אפיון, עיצוב פיתוח וניהול פרויקטים של מערכות מידע גדולות, 20 שנות קבע ועוד 15 שנות מילואים בחיל האוויר בתפקידי פיקוד בשדה, מודיעין ומטה.

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.
עוד 565 מילים

למקרה שפיספסת

"האומנם הפקירו אותנו?"

בעלה ובנה נרצחו, בן נוסף נפל בקרב כמעט מול עיניה – והיא הייתה אחת מ־30 אנשי משמר הירדן שלחמו בעוז במאות חיילים סורים בלי לקבל סיוע עד שנשבתה ● סיפור הגבורה המדהים של רבקה (פיינשטיין) גרבובסקי – שמזכיר את גבורת הלוחמים והלוחמות ב־7 באוקטובר – נעדר כמעט לחלוטין מהאתוס המוכר, ויש לזה כנראה סיבה פוליטית

עוד 2,388 מילים
זירת הבלוגים
הזמן שלך לומר את דעתך
הצטרפות

תגובות אחרונות

בכפוף להחלטת הקבינט, צה"ל נערך למלחמה קצרה וקטלנית בלבנון

אתמול סיימו כל מפקדי הגדודים בסדיר ובמילואים סדנה לקראת מהלך אפשרי בלבנון ● "מלחמת לבנון הבאה, מתי שלא תפרוץ, תהיה קצרה יותר ממה שאנחנו חושבים, במיוחד בגלל היבט הלגיטימציה הבינלאומית", אומר לזמן ישראל גורם במערכת הביטחון ● המשמעות היא שישראל חייבת להכין תוכנית פעולה קטלנית, שתביא את ההישג הנדרש בזמן קצר מאוד ● פרשנות

עוד 779 מילים ו-2 תגובות

עקורים

היום ה־174 ללחימה ● 134 חטופים עדיין בעזה

מפקד הכוחות המזוינים של ארה"ב: לא סיפקנו לישראל את כל הנשק שהיא ביקשה מאיתנו

יושב ראש המטות המשולבים אמר שחלק מזה נובע מכך שישראל ביקשה דברים שאין לארצו יכולת לספק או שהיא לא מעוניינת לספק כרגע ● בג"ץ קבע שמיום שני תופסק התמיכה הכלכלית במוסדות תורניים שתלמידיהם נדרשים להתגייס לצבא ● לפיד ניצח בבחירות לראשות יש עתיד עם 52.5% מהקולות ● כוחות הביטחון הרגו את אחד מעשרת הפעילים הבכירים בזרוע הצבאית של חמאס

עוד 52 עדכונים

חל שיפור בהכנסת הסיוע, אך ישראל מציבה מכשולים

המתאם ההומניטרי של האו"ם בעזה ובגדה המערבית טוען כי ישראל עדיין מגבילה את הסיוע - אם כי חל שיפור מתון ● הוא מצביע על עיכובים משמעותיים בצד הישראלי, בהם בדיקות חוזרות של הסיוע על ידי צה"ל וסגירת מעבר הסחורות בכרם שלום בגלל השבת ● בשיחה עם זמן ישראל הוא מזהיר מפני ההשלכות של פלישה אפשרית לרפיח

עוד 1,608 מילים

פרויקט "ממספרים לשמות" משתמש בבינה מלאכותית כדי לזהות מצולמים אלמונים בתמונות שצולמו לפני, במהלך או אחרי השואה ● בריאיון לזמן ישראל, מייסד הפרויקט דניאל פאט מספר כי בעזרתו הצליחו לזהות מאות מצולמים בתמונות שאחרת היו נשכחות מהעולם ● "יש מיליוני פנים שעוד לא עברו אנליזה"

עוד 1,147 מילים

תחזית הבלהות של האוצר

בתחילת המלחמה היה נדמה שהמוני צעירים חרדים יתגייסו וכתוצאה מכך ישתלבו בעבודה ● אלא שבעסקה הנכרכת מעל ראשיהם הם ימשיכו להיות כבולים בישיבות עד גיל מאוחר ● לפי האזהרה חסרת התקדים של האוצר מדובר בהפסד של 104 מיליארד שקל בעשור הקרוב ● באוצר ממליצים לבטל את גיל הפטור, לתחום את מספר הלומדים בישיבות ולגייס את השאר

עוד 1,568 מילים

תלמידי העוטף חזרו ללימודים באזור הגבול בלי מיגון מתאים

מאות ילדים ובני נוער מהעוטף חזרו ללמוד סמוך לגבול בבית ספר מחודש, אך לטענת הנהגת ההורים ללא מיגון מתאים ● לזמן ישראל נודע כי משרד החינוך מאפשר לתלמידים להיכנס לכיתות לימוד מחודשות עם ממ"דים שגודלם כמחצית מהתקן ● חלק מההורים כבר הודיעו כי לא ישלחו את הילדים ● משרד החינוך מתחמק ממענה ● המועצה האזורית: קיבלנו אישור מפיקוד העורף

עוד 758 מילים ו-1 תגובות

נשף המסכות של החרדים

שעות ארוכות ישבו אתמול השרים החרדים עם נתניהו, והביעו את התנגדותם לחוק הגיוס המתגבש ● הם נגד מכסות, יעדי גיוס והסנקציות שמוצעים בחוק, למרות שהם יודעים היטב כי מדובר בדרישות פיקטיביות ● היום המדינה צריכה למסור את תשובתה לבג"ץ - שכבר הבהיר כי בכוונתו להכריע עוד השבוע בעניין כספי התמיכה לתלמידי ישיבות שאינם מגויסים ● פרשנות

תגובות עכשיו הזמן לומר את דעתך

comments icon-01
1
אני רוצה לדעת מי בא עם הרעיון המתועב של ״מכסות״ גיוס. הגיוס הוא חובה פרסונלית של האזרח, לא של אירגונים. או שיש או שאין הצדקה לגיוס של האזרח - מה פתאום להעביר את הסלקציה לישיבות או גופים... המשך קריאה

אני רוצה לדעת מי בא עם הרעיון המתועב של "מכסות" גיוס. הגיוס הוא חובה פרסונלית של האזרח, לא של אירגונים. או שיש או שאין הצדקה לגיוס של האזרח – מה פתאום להעביר את הסלקציה לישיבות או גופים סקטוריאליים אחרים שיחליטו על פי שיקוליהם את מי לשלוח לגיוס? האזרחים אינם ליטרת בשר שרב כלשהו יחליט האם ישלח אל הצבא. מכסות גיוס מנרמלות את היחס של מנהיגי הציבור החרדי אל הציבור שלהם כצאן חסר בינה שיעשה מה שיגידו לו – את זה בדיוק יש לפרק ולהפוך את הציבור החרדי מעדר לאנשים.
רוצים מכסות? בבקשה. 400 עילויים בתורה שיקבלו מעמד מקביל לספורטאי מצטיין. כל אחד יכול להגיש מועמדות, הרבנים יכולים להגיש המלצות, ומערכת הביטחון תאשר פרטנית את האנשים.
כל השאר – מלש"בים.

עוד 521 מילים ו-1 תגובות
היום ה־173 ללחימה ● 134 חטופים עדיין בעזה

היועמ"שית נגד מזכיר הממשלה: "ההצעה שגיבשת לא נשענת על תשתית מקצועית מינימלית"

חייל בחטיבת גבעתי, סמל ראשון ניסים כחלון, נהרג בקרב בחאן יונס; כחלון, תושב חדרה, היה בן 21 במותו ● חמאס פרסם הקלטה, שבה, לטענת הארגון, נשמע מוחמד דף, והוא קורא לעולם הערבי ולעולם המוסלמי "לצעוד לכיוון פלסטין למען שחרור מסגד אל־אקצא" ● עובדת נוספת בממשל ביידן, שלישית במספר, התפטרה מתפקידה במחאה על יחסה של ארצות הברית למלחמה בעזה

עוד 50 עדכונים

בזמן שמערכת המשפט עדיין נמצאת תחת מתקפה ולוין מונע מינוי נציב חדש בשיטה הקיימת, נציב תלונות הציבור על שופטים מגיש את הדוח השנתי האחרון שלו ● שהם פעל בזהירות המתבקשת בפרשת השופט כבוב, אך גם יצר בדוח כלל משפטי מעורפל ובעייתי, שמרחיב יתר על המידה את היקף סמכויותיו של הנציב ● פרשנות

עוד 1,159 מילים

המשטרה עדיין לא פינתה את הריסות תחנת שדרות

חודשיים אחרי חשיפת זמן ישראל וכחצי שנה אחרי שבת הדמים – ההריסות של בניין משטרת שדרות, שנכבש ב־7 באוקטובר, עדיין מושלכות בלב אזור טבע מוגן בין שדרות לקיבוץ אור הנר ● במשטרה טוענים שעבודות הפינוי יתחילו בשבועיים הקרובים, ובינתיים מקפיצים סיור משטרתי כדי לתשאל כל אדם המסתובב בקרבת ההריסות

עוד 752 מילים
סגירה
בחזרה לכתבה