Guía Justicia Digital
La intensidad y la libertad de la presencia humana conectan con la diferencia entre una decisión y una sugerencia automatizadas. El criterio distintivo entre una y otra es la noción de «intervención humana significativa» o de la capacidad de la persona para influir realmente en la decisión que finalmente llegue al sujeto, porque tiene autoridad y competencia para in- fluir y no se verá expuesta a represalia alguna (por ejemplo, mayor grado de responsabilidad en caso de fallos) por apartarse del criterio automatizado. 181 La Guía considera estas conclusiones como extrapolables con carácter general a toda la UE en la medida en que ofrecen una interpretación del art. 22 en el ámbito de la Administración de Justicia. Respecto de la implementación de procesos automatizados, la Guía formula las siguientes recomendaciones: — Debe garantizarse la intervención huma- na en el ámbito de la Administración de Jus- ticia con carácter general, lo cual no impide la automatización progresiva del sector, siempre que se respete el núcleo esencial del derecho a la tutela judicial efectiva. — Es recomendable el fomento de la au - tomatización de actuaciones procesales, respetando las siguientes pautas: - La intervención humana debe ser más intensa y libre cuanto mayor sea la trascendencia del acto procesal y, con- siguientemente, sus efectos en el ciuda- dano. - Los actos de mero trámite, comunica- ción y, en general, no definitivos pueden ser sometidos a una mera supervisión humana pasiva general.
- Los actos de calificación o resolutorios y, en general, aquellos que en las normas de procedimiento no necesiten de un proceso deliberativo y argumentativo pueden ser sometidos a una mera super- visión humana individualizada. - Los actos resolutorios que necesiten de un proceso deliberativo y argumenta- tivo en el marco del derecho a la tutela judicial efectiva deben contar con una «intervención humana significativa» individualizada, lo que no excluye que se vean asistidos por programas automati- zados como, por ejemplo, aquellos que proveen de elaboración automatizada de argumentaciones frecuentes. - Los jueces y tribunales y, en general, ti- tulares de órganos encargados de dictar resoluciones (incluido el ámbito admi- nistrativo) deben gozar de libertad para apartarse de las sugerencias automati- zadas, en cumplimiento de los criterios del WP29 en esta materia, que resultan plenamente aplicables al sector de la Administración de Justicia.
4.6.4. La gobernanza de la IA en el ámbito judicial
La Carta Ética Europea sobre el uso de la inteligencia artificial en sistemas judiciales y su entorno, aprobada el 3-4 de diciembre de 2018 por la Comisión Europea para la Eficiencia de la Justicia (CEPEJ) del Consejo de Europa, 182 describe los riesgos inherentes al uso de la IA. Los sistemas de IA ponen en juego el principio de primacía del derecho y pueden incentivar una nueva forma de normatividad que signifi - que límites a la discrecionalidad soberana del juez y conducir, a largo plazo, a una estandari- zación de las decisiones judiciales que podrían llegar a basarse en un cálculo puramente es-
181. Sobre este particular, véase «WP29 Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679», 6 de febrero de 2018, p. 21. Accesible en https://ec.europa.eu/newsroom/article29/items/612053; y, aplicado a un caso concreto, G. Lazcoz Moratinos, «Automated decision- making under Amsterdam’s District Court Judgements: Drivers v. Uber and Ola», en Time to reshape the digital society. 40th anniversary of the CRIDS, Éditions Larcier, pp. 263-264. 182. https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c .
88
Made with FlippingBook - Online Brochure Maker