Anuario 2024 de Cotec

Innovación y democracia

Soluciones y perspectivas futuras

Detección automática de la desinformación mediante técnicas de IA . Los algoritmos de IA se pueden utilizar para detectar y combatir la desinformación —tanto la generada por IA como por humanos— a través del análisis automático de patrones de texto y de contenido audiovisual para identificar noticias falsas o engañosas. De hecho, las plataformas de redes sociales están invirtiendo en tecnologías de verificación de hechos impulsadas por IA para etiquetar infor- mación falsa. Además, los sistemas de generación de contenido con técnicas de IA tendrán que indicar de manera clara —a través de marcas de agua o algún otro distintivo— que dicho contenido ha sido creado sintéticamente y, por tanto, no se corresponde necesa- riamente con una realidad subyacente, para que haya transparencia en relación a la naturaleza del contenido digital. Gobernanza . Es necesario establecer regulaciones y marcos lega- les sólidos que garanticen el alineamiento de los algoritmos de IA con los derechos fundamentales y los valores sobre los que se sustenta la sociedad en la que se despliegan dichos algoritmos de IA. Estas regulaciones deberían aplicarse de manera efectiva en todas las industrias donde se utilice la IA, exigiendo transparencia y la preservación de la privacidad. Deberían fomentar la diversi- dad y la sostenibilidad; ofrecer garantías de fiabilidad, seguridad, y reproducibilidad; y prohibir la manipulación subliminal del com- portamiento humano y la discriminación algorítmica, tanto la discri- minación directa como la indirecta. Además, es esencial garantizar que las personas tengan acceso a mecanismos de apelación y recursos legales en caso de discriminación por parte de sistemas de IA. En Europa, dos regulaciones recientemente aprobadas son de especial relevancia: el Reglamento de Servicios Digitales ( Digital Services Act o DSA) y el Reglamento de Inteligencia Artificial (AI Act). Ambos representan un paso notable en esta dirección. Según el AI Act, los sistemas de manipulación del comportamiento humano de manera subliminal estarán prohibidos en la Unión Europea, y habrá exigencias ex ante de transparencia, preserva- ción de privacidad, no discriminación y protección de los derechos de autor en los sistemas de IA considerados de alto riesgo, entre los que se encuentran las aplicaciones para el apoyo de la toma de

C ombatir los desafíos que plantea la IA respecto a la democracia y la formación de la opinión pública requiere una combinación de esfuerzos, que incluyen la diversidad, la detección automática de contenido falso, la gobernanza para prevenir el abuso de la IA en este contexto y una ambiciosa inversión en educación para ayu- darnos a identificar la información errónea, desarrollar el espíritu crítico y protegernos contra la manipulación. Diversidad . Desde un punto de vista técnico, la diversidad en los algoritmos se refiere a la capacidad de que ofrezcan sugerencias variadas y amplias, evitando la hiperpersonalización y, por tanto, reduciendo la probabilidad de la creación de burbujas de filtro y cámaras de resonancia. Las técnicas de diversificación algo- rítmica incluyen la introducción de elementos aleatorios en las recomendaciones, la utilización de algoritmos que optimicen la variedad en lugar de la similitud, o la combinación de diferentes fuentes de información para generar sugerencias más variadas. Evidentemente, es crucial encontrar un equilibrio adecuado entre la personalización —para mejorar la relevancia de las recomendacio- nes— y la diversidad —para ampliar los horizontes de las personas—. Además de los aspectos técnicos, también existen con- sideraciones éticas y de recursos humanos relacionadas con la diversidad en los algoritmos de recomendación. Desde un punto de vista ético, es fundamental garantizar que las recomendaciones no perpetúen sesgos y patrones de discriminación, y promuevan la equidad en la exposición a diferentes contenidos o productos. Desde un punto de vista de los recursos humanos, es importante que los equipos que desarrollan los algoritmos de inteligencia arti- ficial sean multidisciplinares y diversos, para contribuir así a que los algoritmos desarrollados sean inclusivos, no perpetúen estereoti- pos y consideren todas las posibles implicaciones derivadas de su uso. No podemos olvidar que tan solo un 20 % de los expertos en inteligencia artificial somos mujeres, y esta cifra es un 12 % en el contexto de la investigación en inteligencia artificial. Es por tanto prioritario invertir en programas de atracción del talento femenino a esta estratégica disciplina de inmenso valor económico e impacto social.

Made with FlippingBook - Online Brochure Maker