Caso Syri - La Haya, Holanda, 2020

2020 Caso Syri - System Risk Indication

Sentencia del 5 de febrero de 2020, Rechtbank Den Haag, Tribunal de Distrito de La Haya, Holanda.

Se trata de una aplicación de IA que prevé la posibilidad de fraude a la seguridad social, utilizando el conjunto de datos disponibles por el Estado en relación con los contribuyentes.

Se presentó ante el Tribunal de Distrito de La Haya un cuestionamiento sobre la regularidad jurídica del algoritmo aplicado en el caso de SyRI desde la perspectiva del régimen legal europeo de derechos humanos.

El Tribunal en su sentencia entendió que una aplicación como esa de la IA se justificaba para el objetivo de interés público en impedir los fraudes. No obstante, entendió que en el caso de SyRI su implementación no presentaba garantías suficientes en cuanto a la proporcionalidad debida para evitar ingerencia en la privacidad, tal como lo establece el artículo 8 del Convenio Europeo de Derechos Humanos (CEDH).

Si bien el Ministerio competente adujo que en cuanto a datos, todos los manejados ya existían en poder de la Administración, no se trataba de requerir o ingresar datos nuevos, los jueces entendieron que no pudieron comprobar dicha afirmación, porque el Estado holandés mantuvo en secreto la manera en la cual calculaban la tendencia al fraude de los ciudadanos.

LINKS

Syri, link al resumen inglés de la web oficial: https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878 , vto. 3/7/2021.

VERVLOESEM, Koen, “How Dutch activists got an invasive fraud detection algorithm banned”, by Koen , 6 de abril 2020,

https://algorithmwatch.org/en/syri-netherlands-algorithm/, vto. 3/7/2021

“Países Bajos veta un algoritmo acusado de estigmatizar a los más desfavorecidos”,

https://elpais.com/tecnologia/2020/02/12/actualidad/1581512850_757564.html

“Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI”

https://redib.org/Record/oai_articulo2728594-valoraci%C3%B3n-algor%C3%ADtmica-ante-los-derechos-humanos-y-el-reglamento-general-de-protecci%C3%B3n-de-datos-el-caso-syri

“L’algoritmo dei sussidi sociali discrimina e fa cadere il governo: il caso olandese”

https://www.agendadigitale.eu/cultura-digitale/algoritmi-troppo-invasivi-contro-le-frodi-fiscali-la-lezione-delle-dimissioni-del-governo-olandese/

Imagen: “Watercolor cactus and flower illustrations from Familie der Cacteen”

en Domain Public Review https://publicdomainreview.org/