Guía Justicia Digital
tadístico vinculado, por ejemplo, a la media de las indemnizaciones concedidas anteriormente por otros tribunales. Al mismo tiempo se pone en duda la compatibilidad de soluciones basa- das en IA con derechos individuales consagra- dos en el CEDH, como el derecho a un juicio justo, el derecho al juez natural establecido por la ley, el derecho a un tribunal independiente e imparcial, así como a la igualdad de armas en los procedimientos judiciales. Junto a ello se duda sobre la posibilidad de conceder una protección adecuada a los datos y, como consecuencia, a la vida privada y familiar. Por estas razones el informe que acompaña a la Carta Ética sugiere el gran potencial de la IA para ayudar a los profesionales del derecho en su trabajo, así como la ayuda que el sistema ju- dicial podrá encontrar en la IA con aplicaciones destinadas a mejorar la investigación jurídica. La Carta Ética establece los principios a los que deberían sujetarse las herramientas ba- sadas en IA. 183 Con arreglo a tales criterios la Carta Ética divide los usos de la IA en atención a si deben o no deben ser promovidos, como se recoge en la Tabla 17. En verde aparecen las funciones que deben ser promovidas. En amarillo, los usos que deberían ser sometidos a precauciones metodológicas. En rojo han sido coloreados los usos que solo podrían ser considerados tras la realización de estudios científicos adicionales (con las reservas más extremas en el último caso).
183. Entre ellos se encuentran los de respeto de los derechos fundamentales (el diseño y la implementación de herramientas de inteligencia artificial son compatibles con los derechos fundamentales); el principio de no discriminación (para evitar el desarrollo o intensificación de individuos o grupos de individuos); el principio de calidad y de seguridad (con respecto al procesamiento de decisiones judiciales y datos, uso de fuentes certificadas y datos intangibles con modelos elaborados de un modo multidisciplinar, en un medio tecnológicamente seguro); principio de transparencia, imparcialidad y equidad (que hagan los métodos de procesamiento accesibles y entendibles, autorizando auditorías externas); y el principio bajo control del usuario (que impide una aproximación prescriptiva y garantiza que los usuarios son actores informados y en situación de controlar las decisiones que hacen).
89
Made with FlippingBook - Online Brochure Maker