Guía Justicia Digital
deben entenderse comprendidos los juicios o evaluaciones sobre una persona, sean estos verdaderos o erróneos, o fruto de un prejuicio personal o de un análisis masivo de datos. 174 Por lo tanto, a los perfiles personales les resulta plenamente aplicable el RGPD, con todos sus requisitos y consecuencias. La Guía considera conveniente excluir de la materia del análisis predictivo la trayectoria de jueces y magistrados concretos, tanto en lo que se refiere a datos en bruto como a finalidades del tratamiento de análisis, ya que, además de afectar al derecho fundamental a la protección de datos personales, pueden crear presiones y afectar a la independencia judicial. Esta infor - mación puede sustituirse por otra equivalente y menos invasiva, como una distribución de resultados (favorables o desfavorables, por ejemplo, a ciertas pretensiones) del órgano judicial (juzgados X a Z; Sección X de la Au - diencia Provincial Y).
to de utilidad dirigido a permitir la conversión de las predicciones en determinaciones sin necesidad de que vengan avaladas por una motivación. Este último tipo de algoritmos es el que, en la actualidad, genera mayores pro- blemas para el derecho y el que ha despertado el interés de una parte de la doctrina jurídica por los riesgos que entraña para los valores y principios sobre los que se asientan los Esta - dos democráticos y los derechos fundamenta- les de la ciudadanía. El principio de control humano goza de arraigo en Europa. 176 El principio quinto de la Carta Ética del Consejo de Europa lleva por título «bajo control del usuario» con el propósito de excluir un enfoque prescriptivo y garantizar que los usuarios sean actores informados. En cambio, algunas declaraciones recientes no son tan categóricas respecto de la exclusión de las decisiones automáticas. El apartado 20 de las Directrices del Comité de Ministros del Consejo de Europa de 16 de junio de 2021 deja la cuestión en manos de los Estados del Consejo de Europa. A su parecer, si el derecho nacional permite las decisiones automáticas, tales decisiones deberían quedar sometidas a revisión ante un juez. Para los países miembros de la UE la obliga - ción de garantizar la intervención humana se encuentra en el artículo 22 RGPD. De acuerdo con este precepto, «todo interesado tendrá de- recho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado (…) que produzca efectos jurídicos en él o le afecte significativamente de modo similar» (art. 22.1 RGPD). Esta prohibición no resulta aplicable
4.6.3. Las decisiones automati- zadas
El juez-robot proyectado en Estonia plantea el debate sobre la admisibilidad de una máquina que pueda dictar decisiones con la fuerza y au- toridad de una sentencia, pero sin contar con la motivación que caracteriza a estas decisiones. Desde la doctrina se han ofrecido argumentos a favor de esta posibilidad. 175 El hecho de que pueda haber predicciones que, una vez conoci- do el resultado de la decisión judicial, lleguen a arrojar un porcentaje de acierto superior al 95% y de que existan países donde se acumulan retrasos judiciales de más de cien millones de casos, como en Brasil, alimenta un argumen-
174. Véase el Grupo de Trabajo del Artículo 29, Dictamen 4/2007 sobre «el concepto de datos personales», WP136, de 20 de junio de 2007, p. 6. Disponible en https://ec.europa.eu/justice/article-29/documentation/opinion-recommendation/files/2007/wp136_es.pdf. También sobre el concepto de dato personal y su amplitud, C. M. Romeo Casabona, «Datos personales (Comentario al artículo 4.1 RGPD)», en A. Troncoso Reigada, Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos Personales y Garantía de los Derechos Digitales, tomo I, pp. 573-589. 175. Véase R. Susskind, Tribunales online y la justicia del futuro, op. cit ., p. 329. 176. Véase el apartado 4.3 del Dictamen del Comité Económico y Social Europeo sobre «La revolución digital teniendo en cuenta las necesidades y los derechos de los ciudadanos» Doc 2019/C 190/03; la Resolución del Parlamento Europeo 2019-2024 TEXTOS APROBADOS P9_TA (2020)0275 Marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas, Resolución del Parlamento Europeo, de 20 de octubre de 2020; apartado 1.4 del Dictamen del Comité Económico y Social Europeo. TEN/679. La revolución digital teniendo en cuenta las necesidades y los derechos de los ciudadanos: El CESE tiene una opinión clara sobre la cuestión relativa al grado en que es éticamente aceptable delegar las decisiones (con implicaciones morales) a sistemas basados en la IA: los sistemas automatizados, independientemente de su complejidad, tienen que funcionar de acuerdo con el principio de control humano. Solo los seres humanos toman la decisión final y asumen la responsabilidad por ella. Entre las exigencias de la propuesta de reglamento en materia de inteligencia artificial se incluye como requisito obligatorio la supervisión o vigilancia humana, que figura como uno de los siete requisitos para el desarrollo de una IA fiable, en consonancia con las recomendaciones sobre aplicaciones de alto riesgo en el Libro Blanco sobre IA. Véase G. Lazcoz Moratinos, «Análisis de la propuesta de reglamento sobre los principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas», Ius et Scientia, vol. 6, n.º 2 (2020), pp. 32-35.
83
Made with FlippingBook - Online Brochure Maker