Guía Justicia Digital
Tabla 18. Clasificación de los sistemas de IA propuesta por el regla- mento en función del grado de riesgo que implican
Herramientas consideradas de alto riesgo Búsqueda de información legal y jurispru- dencia con uso de IA cuando está enfocada a ayudar al juez en la argumentación de la sentencia (y al servicio de los profesionales y de la ciudadanía) Herramientas que proporcionan informa- ción legal a través de chatbots Herramientas que ofrecen información so- bre las probabilidades de éxito de un litigio (herramientas de predicción) Herramientas de apoyo en el diseño unifor- me de baremos para ciertos litigios en el ámbito civil Herramientas de apoyo en la valoración de la prueba
Herramientas no consideradas de alto riesgo
Herramientas de análisis para la mejora de la eficiencia en la inversión en recursos huma - nos y materiales en la Administración de Justicia mediante el uso de la ciencia de datos y de técnicas de IA que permiten realizar evaluaciones y proyecciones
Herramientas de reconocimiento y de transcripción de la voz
Herramientas de anonimización o seudoanonimización de las resoluciones judiciales, docu- mentos o datos
Herramientas de IA para la realización de tareas administrativas
La propuesta de reglamento establece los re- quisitos que han de cumplir los sistemas de IA de alto riesgo. Entre estos requisitos se com - prenden exigencias de los siguientes tipos:
Por lo que se refiere a los estándares técnicos a los que deberá someterse la IA aplicada a la actividad judicial, en Europa este trabajo de estandarización armonizada lo llevan a cabo los siguientes organismos: el Comité Europeo de Normalización (CEN), el Comité Europeo de Normalización Electrónica (CENELEC) y el Instituto Europeo de Normas de Telecomu - nicaciones (ETSI). 187 CEN-CENELEC y ETSI elaborarán los estándares armonizados que serán publicados en el Diario Oficial de la UE (en la serie C) 188 y posteriormente incorporados al derecho interno, en el caso de España, por AENOR, nuestro organismo de normalización y certificación. Los estándares armonizados re - feridos a las tecnologías que se usen en el ám- bito judicial deberán respetar los principios de cumplimiento legal, no discriminación, trans-
— respeto a los valores y normas europeas para datos de entrenamiento;
— documentación y trazabilidad de datos para garantizar la intervención regulatoria;
— transparencia y suministro de informa- ción; 186
— solidez y precisión para una intervención ex ante adecuada;
— supervisión humana para una IA centrada en el ser humano.
186. Sobre la exigencia de transparencia, Solar Cayón indica cómo su planteamiento inicial resultó imposible y estéril para proporcionar una explicación suficiente y comprensible de los sistemas de IA, por lo que parece que estamos evolucionando hacia estrategias de control más efectivas basadas en la utilidad y en la explicación de los algoritmos. Véase J. I. Solar Cayón, «Inteligencia artificial en la justicia penal: los sistemas algorítmicos de evaluación de riesgos», en J. I. Solar (ed.): Dimensiones éticas y jurídicas de la inteligencia artificial en el marco del Estado de derecho , Madrid, Universidad de Alcalá de Henares, 2020, pp. 125-172. 187. Para un estudio de estos tres organismos europeos, véase V. J. Álvarez, La normalización industrial, Valencia, Tirant lo Blanch, 1999. 188. Ahora bien, como indica Álvarez (en «La confirmación por parte de la jurisprudencia del Tribunal de Justicia de la Unión Europea de la capacidad normativa de los sujetos privados y sus lagunas jurídicas: el asunto “James Elliott Construction Limited contra Irish Asphalt Limited”», Revista General de Derecho Administrativo, n.º 46, pp. 1-44), solo se publican las referencias de la norma técnica, que serán accesibles de manera gratuita, mientras que el texto íntegro de la norma armonizada está protegido por los derechos de propiedad intelectual y, para tener acceso a ellas, es necesaria su adquisición onerosa a los organismos de normalización, que es además una de sus formas de financiación.
92
Made with FlippingBook - Online Brochure Maker