Guía Justicia Digital
Tabla 16. Evaluación de las herramientas tecnológicas en aten- ción al respeto de la prohibición de decisiones individuales au- tomatizadas con efectos jurídicos significativos (art. 22 RGPD)
Actividad
Razones
La utilización de IA para actividades como la señalada resulta peligrosa no solo en términos del art. 22 RGPD, sino por favorecer o consolidar criterios discriminatorios, tal como señaló el relator especial de la ONU Philip Alston en su informe anual de 2019 en relación con el algoritmo SyRI del Gobierno holandés para la preselección de población más proclive a cometer fraude a la Seguri - dad Social. Se trata de una actividad que produce evidentes efectos jurídicos que afectan significativamente al sujeto, por lo que su funcionamiento no debe estar plenamente automatizado de acuerdo con el art. 22.1 RGPD. Su funcionamiento debe incorporar la presencia humana en la toma de la última decisión, con independencia suficiente respecto del criterio del algoritmo. La argumentación jurídica de una sentencia produce efectos jurídicos significativos evidentes en el titular de los datos, por lo que de acuerdo con el art. 22.1 RGPD su funcionamiento debe incorporar la presencia humana en la toma de la última decisión, con independencia suficiente respecto del criterio del algoritmo.
Asistencia al juez en la valora- ción de la prueba. Credibilidad a priori de testigos
Asistencia en fase de ejecu- ción. Algoritmo para compilar inembargabilidades
Transformación del objeto de los recursos judiciales. Sustitu- ción del juez en la argumenta- ción de la sentencia
Con todo, hace falta advertir que la garantía de una intervención humana a la que obliga el artículo 22 RGPD no resulta aplicable tampoco si la decisión, aun siendo plenamente automa- tizada y comportando efectos significativos, 1) es necesaria para la celebración o la ejecución de un contrato entre el interesado y el respon- sable del tratamiento, 2) está autorizada por el Derecho de la UE o de alguno de los Estados miembros, o 3) se basa en el consentimien- to explícito del interesado (art. 22.2 RGPD), siempre que en cualquiera de los casos la normativa o el responsable del tratamiento en su caso contemplen medidas adecuadas de salvaguarda de los derechos, libertades e intereses legítimos del interesado. La autoriza- ción por una norma de la UE o de los Estados miembros es, por tanto, título para la admisi- bilidad de las decisiones automatizadas. En los Estados miembros de la Unión Europea se detectan posturas diferentes: — Estonia anunció proyectos para la crea - ción de un juez-robot. No obstante, esta opción ha sido propuesta en Estonia para un tribunal que se encargaría de resolver li-
tigios de escasa cuantía de hasta 7000 €, 177 del que sin embargo no se tiene por ahora ulterior noticia. — En Francia, en cambio, aunque no en el ámbito judicial, en la resolución alternativa de litigios se ha establecido por ley de 2019 que las empresas que proporcionan ser- vicios en línea de mediación o de arbitraje tienen prohibido que la decisión final sea dejada por completo en manos de los al- goritmos de las máquinas, debiendo existir siempre una fase última que garantice la presencia humana. 178 En España, el actual artículo 42 de la LUTICAJ contempla la «actuación judicial automatiza- da». A pesar del tenor de la disposición, que se refiere a actos de trámite, actos de comunica - ción y actos resolutorios de procedimientos, cabe inferir que la disposición no se refiere a sentencias, no solo porque por su importancia debería ser objeto de mención explícita, sino porque la producción de sentencias automati- zadas podría contravenir los artículos 117.3 y 120.3 en relación con los artículos 18.4 y 24 de
177. Véase E. Niiler, «Can AI be a fair judge in court? Estonia thinks so», op. cit . 178. Véase el art. 4.3 LOI n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice .
86
Made with FlippingBook - Online Brochure Maker