יבמ מצהירה שתפסיק לפתח תוכנת זיהוי פנים הפוגעת בשוויון

אילוסרטציה לטכנולוגיות זיהוי פנים (צילום: iStock/ metamorworks)
iStock/ metamorworks
אילוסרטציה לטכנולוגיות זיהוי פנים

מאז ה-26 במאי, ארצות הברית סוערת בעקבות הרצח של ג'ורג' פלויד, בגל מחאה אדיר נגד אלימות משטרתית ופרופיילינג גזעי נגד שחורים. המחאה מקיפה את כל שכבות האוכלוסיה, ומשלבת גם חברות מסחריות הרואות אחריות בהבעת עמדה נגד גזענות ובהזדהות עם תנועת Black Lives Matter.

בתוך זה, מנכ"ל חברת יבמ העולמית, ארווינד קרישנה, פרסם באתר החברה מכתב ששלח למספר חברי קונגרס ובו הוא מצהיר, בין היתר, כי יבמ תפסיק למכור טכנולוגיות זיהוי פנים.

במסגרת המחאה נגד האלימות המשטרתית והפרופיילינג נגד שחורים, הצהיר מנכ"ל יבמ העולמית, ארווינד קרישנה, כי יבמ תפסיק למכור טכנולוגיות זיהוי פנים

טכנולוגיית זיהוי פנים יכולה לסרוק במהירות גבוהה כמות גדולה מאוד של תמונות או סרטונים, כולל בזמן אמת, ולזהות אנשים מסוכנים, למשל כאלו שלמשטרה יש מידע מקדים לגבי זהותם וכוונתם לבצע פשע. דוח של מכון המחקר האמריקאי PEW בספטמבר 2019 הראה שמרבית הציבור האמריקאי רואה בחיוב את השימוש בטכנולוגיות כאלו על-ידי כוחות ביטחון.

אולם ישנה התנגדות הולכת וגוברת לכך בקרב פעילי זכויות ומומחים העוסקים בנושאי פרטיות. המדרון החלקלק מדאיג רבים, בין היתר על רקע השימוש בטכנולוגיות אלו על ידי המשטר בהונג-קונג במסגרת דיכוי ההפגנות במדינה.

קרישנה קורא לפעול ב-3 תחומים:

  1. רפורמה במשטרה למניעת התנהגות בלתי הולמת
  2. הכשרה וחינוך למיומנויות מבוקשות כמפתח להרחבת הזדמנויות כלכליות
  3. מדיניות טכנולוגית אחראית שתגביר שקיפות מבלי לקדם אפליה או אי צדק גזעי. בהקשר זה הוא כותב:

"יבמ לא מציעה יותר תוכנת זיהוי או ניתוח פנים למטרות כלליות. יבמ מתנגדת בתוקף ולא תעודד שימוש בטכנולוגיה כלשהי, כולל טכנולוגיית זיהוי פנים המוצעת על ידי ספקים אחרים, לצורך פיקוח המוני, פרופילינג גזעי, הפרות זכויות אדם וחירויות בסיסיות, או כל מטרה שאינה עולה בקנה אחד עם ערכינו ועם עקרונות של אמון ושקיפות".

חשוב לציין שטכנולוגיות זיהוי פנים, למרות השימוש הנרחב בהן על-ידי גורמי ביטחון וגורמים מסחריים כאחד, אינן מתקדמות במיוחד וסובלות מבעיות קשות של אמינות, פעמים רבות בהקשרים של גזע ומגדר.

ישנם מקרים מפורסמים של כשלים, כגון תוכנת זיהוי פנים של גוגל שתייגה בטעות נשים שחורות בתור גורילות, או מקרים מסכני חיים כמו תוכנת זיהוי פנים המוטמעת ברכבים אוטונומיים והציגה אחוז גבוה של טעויות בזיהוי פנים של אנשים כהי עור. מחקר של מכון NIST האמריקאי שבחן את ההשפעה של מגדר, גזע וגיל על תוכנות זיהוי פנים, מצא שבקרב כ-200 אלגוריתמים שנבדקו, ישנה סבירות גבוהה יותר לטעויות אצל אנשים שאינם לבנים. הסבירות הגבוהה ביותר לטעות היתה אצל נשים שחורות.

ישנם כשלים: תוכנת זיהוי פנים של גוגל שתייגה בטעות נשים שחורות בגורילות, או מקרים מסכני חיים כתוכנת זיהוי פנים ברכבים אוטונומיים, שהציגה אחוז טעויות גבוה בזיהוי פני אנשים כהי עור

יש לציין כי אמאזון, שתוכנת זיהוי הפנים שלה נמצאת בשימוש המשטרה האמריקאית, סירבה לכלול את האלגוריתם שלה במחקר הזה. אמאזון גם ספגה ביקורת בעבר בעקבות מוצר שלה שהציע שילוב של זיהוי פנים עם טכנולוגיות מעקב נוספות,  ככלי שישמש את המשטרה לזיהוי גורמים "חשודים".

לא כולם מתרשמים מההצהרה של יבמ. חוקרים ופעילים בתחום ציינו בראיון לגרדיאן שהחברה אחראית במידה רבה לפיתוח וקידום תשתיות ששימשו למעקב אחר אנשים במקומות שונים בעולם. כמו כן, גורמים בעולם הטכנולוגי מציינים שמוצרי זיהוי הפנים של יבמ התקשו להתמודד עם מוצרים מתחרים והחברה תכננה להפסיק את השיווק שלהן ממילא.

בין אם מדובר בנקיטת עמדה אתית משמעותית או בניצול ציני של הזדמנות, ההצהרה של יבמ אינה מתרחשת בחלל ריק. במקביל לבעיות שארצות הברית מתמודדת איתן, מתקיים בשנים האחרונות דיון גלובלי העוסק בשאלת האתיקה בפיתוח טכנולוגיות בינה מלאכותית ולמידת מכונה. מדינות רבות, כולל האיחוד האירופי וישראל, עובדות לקבוע קווים מנחים לפיתוח ושימוש בטכנולוגיות מהסוג הזה, אשר יבטיחו שימוש הוגן אחראי בטכנולוגיות כאלה.

אדוה לוטן היא יועצת עסקית-טכנולוגית במקצועה, מתמחה באדפטציה של ארגונים לעידן הדיגיטלי, מרצה ומנחה. מנהלת את עמותת מדעת – למען בריאות מושכלת, העוסקת בקידום בריאות הציבור. בלוגרית וותיקה עם חוש מפותח לצדק ומעט מדי שעות שינה.

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.
עוד 540 מילים
כל הזמן // יום רביעי, 12 ביוני 2024
מה שחשוב ומעניין עכשיו
היום ה־250 ללחימה ● 120 חטופים עדיין בעזה

חיזבאללה מאיים בעוד תקיפות, נתניהו קיים הערכת מצב

אלירן מזרחי ז"ל יוכר כחלל צה"ל וייטמן בחלקה צבאית ● מהבוקר שוגרו לגליל, לגולן, לטבריה, ולעמק הירדן כ-200 רקטות בעקבות חיסולו של בכיר חיזבאללה ליד צור ● כוחות הכיבוי השיגו שליטה על כל מוקדי השרפות שהשתוללו בין השאר ביער ביריה, צפת, קרית שמונה ומירון ● בלינקן: "חמאס הכניס שינויים בתשובתו להצעה לעסקה" ● בכיר חמאס: "דורשים ערבויות להפסקת הלחימה"

עוד 18 עדכונים

למרות ההסלמה, ספק אם תפרוץ מלחמה כוללת בצפון

הלחימה בין חזבאללה וישראל מתגברת, אבל אף אחד מהצדדים לא מעוניין לבחון את יכולת העמידה שלו במלחמה כוללת ● בכיר בכוח קודס האיראני טוען שחזבאללה מחזיק כיום ביותר ממיליון רקטות מסוגים שונים, כולל טילים מונחים מדויקים ורקטות קטיושות מותאמות לדיוק מוגבר, כמו גם טילי נ"ט ● לישראל יש ארסנל גדול בהרבה של טילי אוויר-קרקע ● מערכה מלאה בין הצדדים עלולה להשאיר את לבנון וישראל הרוסות לחלוטין ● פרשנות

עוד 1,302 מילים
אמיר בן-דוד

אין שקר גדול מ"נתניהו יצטרך להכריע"

והנה שוב מדינה כולה ממתינה בציפייה דרוכה להחלטתו של בנימין נתניהו. מרוטי עצבים וטרוטי עיניים, אנחנו מחכים לשמוע האם ראש הממשלה יאמץ או יידחה את עסקת החטופים שעל הפרק. כוססים ציפורניים מרוב מתח האם נתניהו ייבחר הפעם בקול ההיגיון והחיים או שייכנע שוב לאיתמר בן גביר ולבצלאל סמוטריץ' ולהזיות ה"נצחון המוחלט".

וכמו בכל סיבוב, גם הפעם מלאו האולפנים ועמודי העיתונים בניתוחים ובפרשנויות: נתניהו במלכוד, אין לו ברירה, ג'ו ביידן עשה לו תרגיל. כך, כמו בסרט "לקום אתמול בבוקר", אנחנו קמים – שוב ושוב – לאותו לופ בלתי נגמר.

עמירם גיל הוא משפטן, יועץ ומרצה. עומד בראש המיזם מוסדות, הפועל לחיזוק המוסדות הדמוקרטיים בישראל. לשעבר מנהל תכנית קלינית ומרצה למשפטים באוניברסיטת רייכמן, עורך דין בפירמות בישראל ובארצות הברית, וחבר ועד מנהל ואחראי על מדיניות בארגוני חברה אזרחית.

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.

תגובות עכשיו הזמן לומר את דעתך

comments icon-01
1
טועה הכותב, נתניהו לא בחר בבן גביר וסמוטריץ׳ - הוא בחר בעצמו. בכל צומת הוא ילך עם ההחלטה שתאריך את שלטונו. אם אחמד טיבי יבטיח זאת, הוא ילך עם אחמד טיבי. אין שום אידיאולוגיה או עקרונות מ... המשך קריאה

טועה הכותב, נתניהו לא בחר בבן גביר וסמוטריץ' – הוא בחר בעצמו. בכל צומת הוא ילך עם ההחלטה שתאריך את שלטונו. אם אחמד טיבי יבטיח זאת, הוא ילך עם אחמד טיבי. אין שום אידיאולוגיה או עקרונות מאחורי החלטות נתניהו למעט העיקרון העליון של שימור שלטונו, ואופורטוניזם רגעי.

דחיית ההחלטה משמרת את שלטונו בודאות עד רגע ההחלטה. לכן הוא דוחה כל החלטה עד הרגע האחרון בהחלט, בתקווה שאולי גם יקרה משהו והוא לא יצטרך להסתכן בהחלטה כלל.

זה כל מה שצריך לדעת על נתניהו כדי להסביר את כל החלטותיו מאז 2015.

עוד 628 מילים ו-1 תגובות

מעט מאוד ישראלים יוצאים למצרים השכנה בשל החשש הביטחוני מאז טבח אוקטובר, אבל מי שיעז להגיע ככל הנראה יחווה את סיני של פעם ● לי־שי כץ, שהייתה הישראלית היחידה שחצתה את הגבול כשבועיים לאחר מתקפת חמאס, אומרת: "נמאס לי להסביר לאנשים שמצרים בצד שלנו נגד חמאס"

עוד 1,718 מילים

למקרה שפיספסת

הצהרות כמו של נשיא אינדונזיה הנבחר לא נשמעו זמן רב מפי מנהיג מוסלמי

הנשיא הנבחר של אינדונזיה פרובואו סוביאנטו, המכהן כיום כשר הביטחון, נשא השבוע נאום אסטרטגי בכנס בסינגפור בנושאי מדיניות חוץ (IISS Shangri-La Dialogue June 2024: Indonesia President-elect), בו התווה את המדיניות של אינדונזיה ביחס לסכסוך הישראלי-פלסטיני והמלחמה בעזה.

בנאומו, התייחס פרובואו למשבר בין ישראל לפלסטינים וסיפק מספר עוגנים למדיניות החוץ של אינדונזיה, ונכונותה למתן סיוע לקידום פתרון צודק ובר-קיימא למלחמה בחמאס ולסכסוך הישראלי-פלסטיני על בסיס עקרונות ניהול הסכסוכים והדיפלומטיה הנהוג באינדונזיה.

גל רונן הוא יועץ אסטרטגי בעל ניסיון של 24 שנים בתחומי מחקר ביטחוני. בעל תואר שני בממשל מאוניברסיטת רייכמן, התמחות בטרור וביטחון, חוקר את הזירה האינדונזית ופועל לפיתוח חיבורים עסקיים בין חברות מישראל לחברות באינדונזיה.

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.

תגובות עכשיו הזמן לומר את דעתך

comments icon-01
3
עוד 672 מילים ו-3 תגובות

לייסד מולדת יהודית ביונאן

בניסיון לפתור את מצוקת היהודים, המדען אלברט איינשטיין, רופא שיניים מברוקלין ומנהיגי סין מלפני מלחמת העולם השנייה ניסו לייסד מולדת יהודית ביונאן ● בסופו של דבר, המתקפה על פרל הארבור שינתה את כיוון ההיסטוריה

עוד 2,080 מילים

תגובות אחרונות

זירת הבלוגים
הזמן שלך לומר את דעתך
הצטרפות

עקורים

מעולם לא היה טוב יותר להיות אישה בתעשיית המוזיקה

2024 מצטיירת כשנה היסטורית בתולדות המוזיקה הפופולרית ● אמיר בן-דוד כבר קרוב להכריז על אלבומי השנה וההופעות הטובות ביותר שראה בפסטיבל פרימוורה - ושלא במפתיע, כל הבחירות הן של נשים ● מבילי אייליש ועד בת' גיבונס - אחרי שנים של מאבקים לא פשוטים, נשים הן סוף-סוף הכוח הדומיננטי והחשוב ביותר בעולם המוזיקה

עוד 2,089 מילים

הרבש"ץ לוטם נגר, מ' המסתערב שנקלע למקום בכפכפי קרוקס והשוטר רפ"ק אבי צידון מתחנת אופקים, ניהלו לבדם במשך שעה וחצי לחימה ב־10 מחבלים ביישוב פרי גן – והצילו את תושביו ● באותה השעה כיתת חיילים מסיירת נח"ל "המתינה לפקודות בצומת" ונקלעה להלם ● כשמ' נפצע ברגלו, צידון הדף את המחבלים לבדו עד שהגיעה כיתת הכוננות מהיישוב שלומית – ונהרג ● סיפור הגבורה של האזרחים והשוטרים שנשארו ללא צבא, אך סירבו להיכנע

עוד 2,569 מילים ו-2 תגובות

השפע שמתחת לבית

עצי הפרי נחשבו בעבר למטרד שמלכלך את הסביבה העירונית ● היום הליקוט הפך לטרנד לוהט וגם סיור בתוך הערים חושף מה התחדש בעונה ואיזה עלים, פירות ופרחים אפשר לאכול, לחלוט, למלא, להתסיס או לקשט בהם סלט ● יש להם סגולות מוכרות (סוכרת, ויסות לחץ דם) או מפתיעות (מניעת היריון) וסתם כחטיף טעים ומזין ● העצים הם של כולם ובזמנים כאלה מומלץ להכיר אותם מחדש

עוד 1,146 מילים ו-1 תגובות

גם ח"כים שהודיעו כי הם מתנגדים לחוק הגיוס הצביעו בעד קידומו

מזה חודשים שצה"ל מתחנן לתיקון בסד"כ ומבהיר שבמצב הנוכחי אין לו אפשרות לספק הגנה על אזרחי ישראל בכל הגזרות הרבות ● זה לא הפריע ל-63 חברי הקואליציה להצביע הלילה בעד קידום החוק שיעניק פטור מגיוס לתלמידי ישיבות - כולל ח"כים מהליכוד שהצהירו במפורש כי הם מתנגדים לחוק ● רק גלנט עמד במילתו והצביע נגד ● ובינתיים ביש עתיד: מפגש עם המציאות של משפחות החטופים ● פרשנות

עוד 834 מילים ו-1 תגובות

הבחירות הקרובות באיראן לא צפויות לשנות דבר

בקרוב דגלי האבל על מותו של הנשיא ראיסי יוחלפו בשלטי תעמולה לקראת בחירות הבזק להחלפתו, אך המומחים מאמינים שדבר לא צפוי להשתנות בשלטון האיראני ● בינתיים, נחשפים הסדקים במדינה המפולגת ● כך למשל, בשעה שמיליוני אזרחים התאבלו על מותו של ראיסי, אחרים ניצלו את ימי האבל הלאומיים לחופשה ספונטנית

עוד 1,147 מילים
היום ה־249 ללחימה ● 120 חטופים עדיין בעזה

גורם מדיני ישראלי: "החלטת מועצת הביטחון תאפשר לישראל לממש את מטרותיה"

בלינקן הצהיר כי נתניהו עדיין מחויב להצעה לסיום המלחמה ● חמאס: "מקבלים את החלטת האו"ם" ● ארבעה לוחמים נהרגו ושישה נפצעו ברפיח ● אזעקות ושרפות בצפון ● נועה ארגמני השתחררה מבי"ח ● משרד הבריאות בעזה: 40 הרוגים ביממה האחרונה, 37 אלף מפרוץ המלחמה ● בלינקן, גוטרש ומנהיגי הרש"פ, מצרים וירדן ישתתפו היום בוועידה בירדן לגיוס סיוע לעזה

עוד 38 עדכונים

בעוד העיניים מופנות בדאגה אל השרפות בצפון, שרפות מסוג אחר - של פסולת פיראטית - מפיצות עשן רעיל לאורך קו התפר המזרחי של ישראל, וגם בתחום הזה התושבים מרגישים מופקרים ● עמותת "אזרחים למען אוויר נקי" נכנסה לתוך הוואקום שהותירה הממשלה וחנכה מוקד תלונות בווטסאפ ● בתוך חודש נרשמו מעל אלף דיווחים וקריאות מצוקה ● במקום הראשון: מודיעין

עוד 886 מילים

על הגדר, לבד

קריית שמונה נראית בימים אלה כמו עיירת רפאים ● התושבים הוותיקים ולמודי ההסכמים טוענים שבלי מלחמה עם חזבאללה, שמעלה לאט־לאט הילוך, אף אחד לא יחזור ● בינתיים הם נאבקים בציפורניים כדי לשרוד ולהתפרנס: "בדיוק כמו לפני 2006, אנחנו מוצאים את עצמנו על הגדר לבד"

עוד 1,600 מילים

היועמ"שית חייבת לטפל בהשתוללות המשטרתית

הברוטליות המשטרתית לא מתמצה רק בשימוש במכת"זית בניגוד לנהלים אלא בהפעלת אלימות קשה כלפי מפגינים, שהתחילה לפני כהונת בן גביר ● הפיכת המשטרה לזרוע אלימה בשירות אינטרסים פוליטיים היא אחת הסכנות החמורות העומדות בפני מדינת ישראל היום ● זהו תפקידה של היועמ"שית להציב גבולות ברורים למשטרה ● פרשנות

עוד 760 מילים

גלנט לא ילך בעקבותיו של גנץ

מה שנכון, לפי גנץ, הוא פרישה של גלנט מהליכוד כדי שיפיל מבחוץ את הממשלה ● זה לא יקרה ● גלנט חושב על נתניהו בדיוק את מה שגנץ חושב עליו, אבל הוא לא יערוק מהליכוד - גם אם הח"כ הידוע אושר שקלים דורש לסלק אותו מהמפלגה ● פרשנות

עוד 607 מילים ו-3 תגובות
סגירה
בחזרה לכתבה