Anuario 2024 de Cotec
Innovación y democracia
De la generación automática a los deep fakes
L a veracidad, es decir, la cualidad de ser verdadero o exacto, es un pilar fundamental en cualquier sociedad democrática. La dispo- nibilidad de información veraz es esencial para que la ciudadanía pueda tomar decisiones informadas, participe en el proceso polí- tico y adquiera una visión precisa del mundo que nos rodea. Sin embargo, los avances recientes en inteligencia artificial generativa plantean desafíos significativos en lo que respecta a la veracidad de la información. La inteligencia artificial generativa es un área dentro de la IA que existe desde hace décadas, pero que ha progresado de manera exponencial en los últimos dos años. Tiene como objetivo el desarrollo de algoritmos de IA capaces de generar contenido de diversa naturaleza —texto, imágenes, videos, audio, código o incluso moléculas— de manera autónoma. Estos sistemas utilizan redes neuronales profundas generativas para producir contenido novedoso con un nivel de competencia similar o superior al de un humano. Vivimos, sin duda, una revolución de estas técnicas de inteligencia artificial que están en el corazón de aplicaciones utilizadas por cientos de millones de personas cada día, como ChatGPT, MidJourney, Anthropic, Stability AI o Bard, y que ya repre- sentan un mercado de más de 10.000 millones de dólares con un crecimiento compuesto anual anticipado de más de un 27 %. Estas técnicas de IA generativa pueden inventar texto, imá- genes, audio y vídeo sintéticos que carecen de una corresponden- cia con una realidad subyacente, pero que son indistinguibles del contenido que sí tiene dicha correspondencia, impactando de forma directa en la desinformación y la proliferación de las llamadas noti- cias falsas o fake news . Cada vez más, la IA generativa se utiliza para crear y difundir contenido falso y engañoso, en forma de noticias ficticias que parecen legítimas, o de imágenes/audio/vídeo mani- pulados o sintéticos que, de manera muy convincente, nos hacen creer que personas reales están diciendo o haciendo cosas que nunca hicieron o dijeron, o reflejan eventos que nunca sucedieron. Estos contenidos sintéticos no veraces pueden además ser publicados de manera masiva, sistemática y automática en las
redes sociales utilizando bots de inteligencia artificial que pueden programarse para parecer humanos y actuar como usuarios regu- lares o como figuras públicas, políticos o líderes de opinión. En este caso, la desinformación tendría aún más credibilidad, al ser compartida por personas influyentes y reputadas cuya identidad se ha suplantado. La prevalencia en el consumo de información no veraz depende de la temática y el país. En Estados Unidos, un 42 % de l@s usuari@s consumieron noticias falsas relativas a la política y el covid-19, y un 35 % referentes al cambio climático. ¹ Se estima que, en promedio, un 40 % del contenido compartido en las plataformas sociales es falso, y según un estudio de 2019 del Centro de Cultura Cívica de la Universidad de Loughborough, un 43 % de las personas admitieron compartir noticias falsas o impre- cisas en las redes sociales. En el contexto de España, un 82 % de los españoles considera que las noticias falsas representan un problema para la democracia. ² Además, los algoritmos de moderación de contenido de las redes sociales, que deciden qué contenido vemos cada uno de nosotros, cuál se promociona y cuál se desprioriza o censura, tienden a dar prioridad al contenido sorprendente, negativo y extre- mista, ya que tiene más probabilidad de suscitar una reacción por parte de los usuarios (genera más engagement , en la terminología de las plataformas) que el contenido de otra naturaleza, con las devastadoras consecuencias que eso conlleva a nivel social. Cada vez va a ser más difícil —si no imposible— discernir la verdad de la falsedad en el mundo digital.
22
Made with FlippingBook - Online Brochure Maker