Uso responsable de la IA generativa
7.6. Transparencia y trazabilidad
La transparencia proporciona visibilidad y com - prensión sobre lo que está sucediendo, mientras que la trazabilidad ofrece la capacidad de seguir y verificar cómo y por qué ocurrieron ciertos eventos o decisiones.
Desconocimiento, por parte de los usuarios o personas que accedan a los resultados (output) de la herramienta, del origen de los mismos, es decir, que estos han sido creados a través de una herramienta de IAG. Falta de explicabilidad, que, en el contexto de la IA, se refiere a la incapa - cidad de comprender o explicar de manera clara y comprensible cómo un modelo de aprendizaje automático toma decisiones o genera resultados específicos. Cuando un modelo carece de explicabilidad, se vuelve opaco, dificultando la comprensión de las razones detrás de sus predicciones. Esto puede plantear desafíos significativos en términos de confianza, ética y rendición de cuentas, ya que los usuarios y partes interesadas pueden no entender completamente las implicaciones y el razonamiento detrás de las acciones del modelo, lo que limita su aceptación y aplica - ción en diversas áreas.
¿Cuáles son los riesgos que la falta de transpa- rencia y traza- bilidad puede generar?
Un algoritmo es explicable cuando se puede interpretar y entender cómo ha obtenido sus predicciones o resultados. Es una de las características que se demandan a los desarrollos de IAG, ya que la propia implementación lo dificulta.
43
Made with FlippingBook - Online Brochure Maker