Acusan a Uber de discriminación por reconocimiento facial

Como parte de un sistema de verificación de conductores que, según los informes, ha provocado la revocación de la licencia por parte de Transport for London. (TfL) con coincidencias biométricas falsas negativas de un número desconocido de controladores de la compañía con piel más oscura.

Uber ha estado bajo una presión constante desde el lanzamiento de su Verificación de identificación en tiempo real en el Reino Unido en 2020, ya que los sindicatos han abierto brechas en el sistema diciendo que ha causado la pérdida de puestos de trabajo a siete conductores, quienes en un momento u otro, se malinterpretaron. por la función biométrica de la aplicación Uber, poniendo en duda su identidad.

La capacidad biométrica facial es proporcionada por su servicio B2B Face API. La compañía dice que está comprometida a mejorar la API y su precisión en todos los grupos demográficos, y que brinda a los clientes una guía detallada y herramientas para evaluar la equidad del sistema.

Según TechCrunch, ADCU y los demás organismos interesados han estado dando seguimiento a los casos de trabajadores de Uber que han sido victimizados de una forma u otra, y los sindicatos acusan a la empresa estadounidense de apresurarse con el sistema de identificación biométrica porque quería cumplir con los requisitos. para recuperar el permiso para operar en Londres.

A Uber se le había suspendido su licencia de operación por cuestiones regulatorias, pero ganó una apelación contra TfL que llevó a la renovación de su licencia, por solo 18 meses en lugar de los habituales cinco años.

El medio, sin embargo, citó a un portavoz de TfL diciendo que no le pidió a Uber que implementara el ahora disputado sistema de reconocimiento facial como requisito para la renovación de su licencia.

Sin embargo, Uber ha tratado de negar los reclamos de discriminación automatizada para sus trabajadores, diciendo que las decisiones automatizadas basadas en biometría en disputa a menudo se envían a un panel humano de tres personas para su revisión adicional, e incluso a un segundo panel de revisión, en el caso de que el primero no pueda. encontrar un área comun.

“Nuestra verificación de identificación en tiempo real está diseñada para proteger la seguridad de todos los que usan la aplicación al garantizar que el conductor o mensajero correcto esté usando su cuenta … Si bien ninguna tecnología o proceso es perfecto y siempre hay margen de mejora, creemos la tecnología, combinada con el proceso minucioso implementado para garantizar un mínimo de dos revisiones humanas manuales antes de cualquier decisión de eliminar a un conductor, es justa e importante para la seguridad de nuestra plataforma … ”, dijo Uber al medio en un comunicado en respuesta a dos casos citados por ADCU.

A pesar de las justificaciones de Uber, el fundador de WIE, James Farrer, dijo que tenía reservas sobre los controles humanos promocionados por la compañía. Alegó parcialidad en el juicio humano sobre las decisiones señaladas por su sistema de reconocimiento facial, y agregó que “… se necesita un ser humano valiente para anular la máquina”. WIE planea presentar un reclamo por discriminación en nombre de un conductor cuya licencia ha sido revocada y posteriormente restablecida.