2020 Caso DELIVEROO – Sistema Frank
Sentencia del 31 de diciembre de 2020, Tribunal Ordinario de Bolonia, Italia.
Deliveroo, es nombre y marca de una plataforma de pedidos gastronómicos, que aplicaba un sistema de IA denominado “Frank” para la asignación de los trabajos de entrega. Se cuestionó como discriminatorio por el Sindicato el uso de este algoritmo para la selección de los “riders” a los cuales asignarles un trabajo.
El algoritmo asignaba puntos a los “riders” u operadores de distribución, sobre la base de dos índices: fiabilidad y disponibilidad. El primero, tenía en cuenta las ocasiones en las cuales no cumplía con un trabajo ya reservado, no lo tomaba. El segundo, consideraba la disponibilidad del rider en los horarios de mayor demanda (universalmente, en este giro, tal horario es 20 a 22 hs, viernes, sábado y domingo). Aplicando el resultado de la IA se asignaban más trabajos a quienes eran mejores cumplidores. No se consideraban las causas por las cuales podía no tomarse pedidos o había menos disponibilidad, circunstancialmente, en algunos casos. Es decir: se castigaba con mala calificación aún en el caso que la no disponibilidad obedeciera a enfermedad grave, emergencia o hasta un accidente en su propio trabajo. Ello llevó al sindicato a plantear un reclamo por discriminación – la existencia de un sesgo en este caso.
El Tribunal consideró que hubo discriminación indirecta, dado que la empresa titular de la operativa por plataforma se decidió por una “inconsciencia y ceguera” deliberada, por tratarse de un caso en el cual se trataba de situaciones iguales que merecen un tratamiento distinto según la Ley (Derecho Laboral), variante no introducida en la apreciación de la situación al momento de tomar las decisiones correspondientes.
En cuanto a la responsabilidad, el Tribunal entendió que aún cuando la discriminación del algoritmo fuera involuntaria, la empresa debía ser considerada responsable y pagar daños, los que fueron valorados en cincuenta mil euros (Є 50.000).
LINKS
Caso Frank:
http://www.bollettinoadapt.it/wp-content/uploads/2021/01/Ordinanza-Bologna.pdf, 24/6/2021
Mendoza, Fernando, “Sentencia del Tribunal Ordinario de Bolonia de 31 de diciembre de 2020 (Caso Deliveroo) ¿Discriminación algorítmica o discriminación a través de un algoritmo?”
Oliva León, Ricardo, “¿Es discrminatorio el algoritmo de Deliveroo que “rankea” a sus riders?”
Castillo, José Antonio, “La discriminación a través del algoritmo...”
https://www.uv.es/catedra-pagoda/es/novedades-1286053802801/Novetat.html?id=1286182093538
Tovar Reyes, Sandra, “Discriminación en plataformas digitales: Un pronunciamiento judicial italiano basado en la experiencia de los riders de Deliveroo”
Imagen: “Watercolor cactus and flower illustrations from Familie der Cacteen”
en Domain Public Review https://publicdomainreview.org/
No hay comentarios:
Publicar un comentario