Guía Justicia Digital
de una evaluación de impacto relativa a la protección de datos. En las operaciones de seudonimización de resoluciones judiciales con miras a su publicación llevadas a cabo por algoritmos de IA, el sistema debe ser orientado hacia el logro de la mayor dificul - tad para la identificación de las personas dentro del contexto de relevancia social de cada caso. 9. El uso de la IA y de las decisiones auto - máticas posee un campo importante de desarrollo en materia de anonimización de datos relativos a sentencias, transcripción de declaraciones o utilización de traduccio- nes, así como en tareas rutinarias, como la programación de audiencias o la generación automática de documentos. Muchas de estas actividades pueden suponer una gran contribución a la eficiencia de la Adminis - tración de Justicia y entrañan un riesgo bajo o nulo para los derechos y libertades. Sin embargo, otras pueden comportar un riesgo mayor, por lo que debe atenderse a la clasificación semafórica que establecerá el futuro Reglamento europeo sobre la gober- nanza de la IA, de cuyo proyecto se ha servi- do esta Guía, para, en su caso, acometer las tareas necesarias en materia de prevención de riesgos para los derechos y libertades. 10. El uso de IA en materia de decisiones automatizadas debe tener muy presentes los límites marcados por el artículo 22 del RGPD, que fundamentalmente exigen que se garantice una intervención humana libre que supervise las sugerencias automatiza- das proporcionadas por la IA cuando estas puedan producir efectos jurídicos o signifi - cativos en la persona. Por otra parte, debe evitarse el riesgo de estigmatización que puede producir una excesiva confianza en decisiones o preselecciones automatizadas, por mucho que estas sean posteriormente revisadas por un humano.
97
Made with FlippingBook - Online Brochure Maker