Uso responsable de la IA generativa
Sesgos/privacidad Los sesgos en cualquier desarrollo de IAG pueden verse ampliados y reflejar estereotipos, por ello es necesario implementar políticas y normas de equidad y no discriminación, como la revisión y limpieza de datos de entrena - miento sesgados, así como la monitorización constante. Además, es relevante evitar la utilización de datos personales como entrada del modelo. Por ello, los sistemas deben ser diseñados de manera que minimicen la recopilación y el uso de datos personales. La propiedad intelectual debe protegerse tanto en la entrada como en las salidas. Respeto a las personas, sociedad y medioam- biente En cada uno de los desarrollos donde imple - mentemos soluciones de IAG deberemos considerar las repercusiones éticas y sociales de esta tecnología, siendo conscientes de que preservar la privacidad o la seguridad de los datos que usemos es fundamental antes de la adopción de una solución con estas caracte - rísticas por la especial relevancia y consecuen - cias sobre la sociedad, los derechos humanos, que pudieran tener estas soluciones. Debemos asegurarnos de que los sistemas de IAG que adoptemos seas responsables en su uso, asegurando no solo que no se promue - va la discriminación o la desigualdad, sino también la degradación del medio ambiente, puesto que estos sistemas son intensivos en el uso de recursos.
Principios responsables que afectan a la IAG
Transparencia Saber cómo funcionan estos modelos resulta fundamental para construir una gobernanza sólida. Solo si conocemos cómo se compor - tan, qué datos están usando y por qué han tomados determinadas decisiones, podremos establecer los mitigadores adecuados. La transparencia es muy relevante si queremos que los desarrollos que vayamos a imple - mentar sean confiables para los usuarios. En sectores como el financiero o el farmacéutico es un principio irrenunciable para el desarrollo de determinadas tareas que pudieran afectar a la vida de las personas. La transparencia no solo está referida a las ca - pacidades que se pueden desarrollar, sino que es importante que se refiera a las limitaciones que los sistemas puedan sufrir. Explicabilidad/interpretabilidad En la mayoría de los contextos ambos concep - tos son intercambiables, sin diferencias entre ellos. En este caso lo importante no es tanto su definición, sino lo que transciende detrás de los mismos. Se deben evitar en la medida de lo po - sible las cajas negras que subyacen detrás de muchos algoritmos de IA. Siempre que sepa - mos explicar o interpretar cómo se comportan, tendremos mayor certeza y confianza en los desarrollos que vayamos a llevar a cabo. Auditabilidad La trazabilidad sobre los algoritmos un pilar imprescindible para garantizar la mencionada transparencia y poder establecer responsabili - dades entre el proveedor y el usuario. Esto im - plica que los sistemas deben llevar un registro de las entradas, los datos de entrenamiento, los algoritmos utilizados y los pasos que con - ducen a la generación de contenido.
61
Made with FlippingBook - Online Brochure Maker