Uso responsable de la IA generativa
USO RES PONSABLE DE LA IA GENERATI VA
SU UTILIDAD EMPRESARIAL Y SU ENFOQUE EN MODELOS DE LENGUAJE DE GRAN ESCALA (LLM)
1
Uso responsable de la IA generativa
Presentación
La Inteligencia Artificial Generativa (IAG) y en particular los Modelos de Lenguaje de Gran Escala (LLM Large Language Models) han experimentado un crecimiento exponencial en los últimos años, convirtiéndose en revoluciones tecnológicas capaces de transformar nuestra sociedad y nuestra interacción con la información. Si bien estas tecnologías ofrecen oportunidades significativas para las empresas, también plantean una serie de dudas regulatorias, de sesgos, de explicabilidad y legales que requieren atención y una reflexión cuidadosa. Esto motivó la creación de un grupo de trabajo con el objetivo de reunir a expertos en seguridad de la información, IA, legal compliance , RRHH, IT, operaciones, negocios, etc. En el seno del grupo se ha analizado y debatido sobre el valor y el riesgo del uso de estas tecnologías en el día a día de las empresas y de sus trabajadores, a fin de desarrollar recomendaciones concretas y prácticas para su implementación responsable en el ámbito empresarial teniendo en cuenta las buenas prácticas y el estado del arte tecnológico. El grupo de trabajo ha sido liderado por Repsol y Tecnatom y ha contado con la participación de más de cuarenta entidades miembros de Cotec, tanto del sector público como del privado, que han aportado su conocimiento y experiencia en estas cuestiones. El documento que se presenta es el resultado del trabajo de este grupo.
Cotec, febrero de 2024
2
Uso responsable de la IA generativa
Ín DI CE
presentación
1. Hablando de inteligencia artificial 5
2. Descifrando la inteligen- cia artificial: posibilidades y desafíos 8
3. Las realidades de la IAG 12
Los grandes proveedores de IAG Cuándo utilizar software open source o productos comerciales
4. Aspectos clave en la im- plantación de la IAG 20 5. Perfiles de las organiza- ciones frente a la IAG 27 6.Logros y beneficios de la IAG: casos de uso y casos de éxito 30
3
Uso responsable de la IA generativa
7. Recomendaciones y obli- gaciones para el uso res- ponsable de la IAG 38
Precisión en los resultados Seguridad en la herramienta Privacidad y confidencialidad Protección de datos Equidad e imparcialidad Transparencia y trazabilidad Propiedad intelectual e industrial Responsabilidad Sostenibilidad Tecnología Gestión de talento Finanzas Seguridad jurídica Talento Gestión del dato
8. Gobierno
59
Visión general de la gobernanza GIA El Centro de Competencia de IAG de Repsol
9. De aquí al infinito y más allá
71
10. Miembros del grupo
73
11. Webgrafía
78
4
Uso responsable de la IA generativa
Hablando de inteligen cia artifi cial
01.
5
Uso responsable de la IA generativa
Uno de los ejemplos más avanzados y populares de la IAG son los modelos de lenguaje de gran escala (MLG o LLM, de su denominación en inglés large language models ), que pueden producir textos coherentes y relevantes a partir de un contexto dado, simulando el lenguaje humano. Los modelos de visión a gran escala (MVG o LVM, de su denominación en inglés large vision models ) se usan para la generación sintética de imágenes. De forma similar, existen herramientas de IAG que son capaces de generar audio sintético, ya sea música de estilos diferentes con una gran calidad, o habla con una sorprendente fidelidad.
En la era de la información, la inteligencia artifi - cial (IA) se ha convertido en una herramienta in - dispensable para procesar, analizar y compren - der los datos que generamos y consumimos. Sin embargo, la IA no es una sola cosa, sino un conjunto de técnicas y métodos que se pueden aplicar a diferentes dominios y problemas. En este documento nos vamos a centrar en lA generativa (IAG) que es una rama que se ocu - pa de generar contenidos nuevos y originales a partir de los datos existentes. Esta forma de IA es capaz de crear textos, imágenes, sonidos, vídeos y otros tipos de contenido que pueden ser útiles, divertidos, sorprendentes o incluso inquietantes. Uno de los ejemplos más avan - zados y populares de la IAG son los modelos de lenguaje de gran escala (MLG o LLM, de su denominación en inglés large language mo - dels ), que pueden producir textos coherentes y relevantes a partir de un contexto dado, simu - lando el lenguaje humano.
6
Uso responsable de la IA generativa
En paralelo a los MLG se están desarrollado mo - delos de visión a gran escala (MVG o LVM, de su denominación en inglés large vision models ), que se usan para la generación sintética de imá - genes. De forma similar, existen herramientas
de IAG que son capaces de generar audio sin - tético, ya sea música de estilos diferentes con una gran calidad, o habla con una sorprendente fidelidad. Para ello, en el documento se elaboran los siguientes contenidos:
Qué es la IA y qué diferencia a los MLG de otras formas de IA.
Cómo funciona la IAG y qué ventajas tiene sobre otros sistemas de conversación basados en MLG.
Cómo usar la IAG y qué precauciones hay que tener.
Qué resultados se han obtenido con la IAG y qué limitaciones tiene.
Qué impacto tienen la IAG y los MLG en general en la sociedad y la cultura.
Qué retos y oportunidades plantea y los MLG para el futuro.
7
Uso responsable de la IA generativa
Descifran do la inteli gencia arti ficial: posi bilidades y desa fíos
02.
8
Uso responsable de la IA generativa
La inteligencia artificial (IA) consiste
en la capacidad de las máquinas y los
La inteligencia artificial generativa (IAG) utiliza técnicas avanzadas de aprendizaje automático, especialmente las redes neuronales artificiales, para aprender de los datos y producir contenidos que sean realistas, coherentes y variados. Tiene múltiples aplicaciones en diversos campos, como la síntesis de voz, la creación de música, el diseño gráfico, la escritura de textos o el retoque fotográfico. sistemas informáticos de realizar tareas que normalmente requieren inteligencia humana, como el razonamiento, el aprendizaje o la creatividad.
La inteligencia artificial (IA) es una de las áreas más apasionantes y revolucionarias de la ciencia y la tecnología. La IA persigue dotar a las máquinas y a los sistemas informáticos de la capacidad de realizar tareas que normal - mente requieren inteligencia humana, como el razonamiento, el aprendizaje o la creatividad. La IA se apoya en disciplinas como la matemá - tica, la lógica, la estadística, la informática y la lingüística, entre otras, para crear algoritmos y modelos que imiten o mejoren algunas funcio - nes cognitivas humanas.
9
Uso responsable de la IA generativa
Una de las ramas más novedosas y prome - tedoras de la IA es la IA generativa (IAG), que se encarga de generar contenidos nuevos y originales a partir de datos existentes, como imágenes, textos, sonidos o vídeos. La IAG utiliza técnicas avanzadas de aprendizaje au - tomático, especialmente las redes neuronales artificiales, para aprender de los datos y produ - cir contenidos que sean realistas, coherentes
y variados. La IAG tiene múltiples aplicaciones en diversos campos, como la síntesis de voz, la creación de música, el diseño gráfico, la escritura de textos o el retoque fotográfico. Las capacidades de la IAG son impresionantes y cada vez más sofisticadas, y pueden resultar beneficiosas para diversos sectores y ámbitos de la sociedad. Algunas de las capacidades de la IAG son:
Crear contenidos de alta calidad y diversidad, que pueden ser utilizados para fines creativos, educativos o informativos. Por ejemplo, la IAG puede crear imágenes, textos o sonidos que no existen en la realidad, pero que son verosímiles y atractivos, o que pueden servir para ilustrar o explicar conceptos o ideas. Generar datos sintéticos tabulares, lo que permite crear nueva información como datos de ventas, datos de clientes, datos de producción, etc., que se asemejan estadísticamente a los datos con los que ha sido entrenada. Gracias a ello, es posible ampliar las muestras disponi - bles, generar escenarios extremos o incluso salvar limitaciones asociadas a la privacidad a través de la producción de información no identificable. Complementar o sustituir la labor humana en tareas que requieren una gran cantidad de da - tos, tiempo o recursos, como la traducción, el resumen, la clasificación o la generación de in - formes. Por ejemplo, la IAG puede traducir textos de un idioma a otro, resumir el contenido de un documento, clasificar imágenes según su temática o generar informes a partir de datos. Mejorar la experiencia de usuario y la satisfacción de los clientes, al ofrecer servicios más personalizados, interactivos y adaptados a las necesidades y preferencias de cada usuario. Por ejemplo, la IAG puede generar respuestas adecuadas y relevantes a las consultas o demandas de los usuarios, o crear contenidos que se ajusten a sus gustos, intereses o emociones. Facilitar el acceso y la democratización de la información, el conocimiento y la cultura, al per - mitir crear y compartir contenidos en diversos idiomas, formatos y estilos. Por ejemplo, la IAG puede generar contenidos en idiomas minoritarios o en diferentes géneros o estilos artísticos, o adaptarlos a diferentes niveles de comprensión. Fomentar la innovación y la investigación, al abrir nuevas posibilidades y desafíos para el desarrollo científico, tecnológico y artístico. Por ejemplo, la IAG puede generar contenidos que inspiren nuevas ideas, soluciones o creaciones, o que planteen nuevos problemas, preguntas o hipótesis.
10
Uso responsable de la IA generativa
La IAG también plantea riesgos y desafíos que deben ser abordados con responsabilidad y ética, tanto por los desarrolladores como por los usuarios y la sociedad en general. Hay que tener en cuenta, por tanto, los peligros de las siguientes posibilidades:
Generar contenidos falsos, engañosos o manipulados, que pueden afectar a la veracidad, la credibilidad y la confianza de la información, así como a la reputación, la privacidad y la segu - ridad de las personas y las organizaciones. Por ejemplo, la IAG puede crear imágenes, textos o sonidos que muestren o digan cosas que no son ciertas, que distorsionen la realidad o que intenten influir en la opinión o el comportamiento de las personas. Crear o amplificar sesgos, discriminaciones o desigualdades, que pueden perjudicar a los grupos o individuos más vulnerables o marginados, o que pueden favorecer intereses parti - culares o ideológicos. Por ejemplo, la IAG puede generar contenidos que reflejen o reproduz - can estereotipos, prejuicios o injusticias, que excluyan o dañen a ciertas personas o colecti - vos, o que promuevan o justifiquen ciertas agendas o visiones del mundo. Reducir o limitar la creatividad, la originalidad o la diversidad humana, al sustituir o imitar el trabajo de los creadores, o al generar contenidos homogéneos o estandarizados. Por ejemplo, la IAG puede generar contenidos que copien o plagien el trabajo de otros, que no aporten nada nuevo o diferente, o que sigan patrones o fórmulas repetitivas o predecibles. Provocar o exacerbar conflictos, dilemas o problemas éticos, legales o sociales, al generar contenidos que puedan ser ofensivos, inapropiados, ilegales o dañinos para las personas o el medio ambiente. Por ejemplo, la IAG puede generar contenidos que violen derechos, normas o valores, que causen malestar, disgusto o indignación, o que generen riesgos, amenazas o daños. Dificultar o impedir el control, la supervisión o la regulación de la IAG, al generar contenidos que puedan ser difíciles de detectar, atribuir, verificar o corregir. Por ejemplo, la IAG puede ge - nerar contenidos que se confundan con los reales, que no se sepa quién los ha creado o con qué fin, que no se puedan comprobar o contrastar, o que no se puedan modificar o eliminar.
El futuro de la IAG es incierto y apasionante, y dependerá en gran medida de cómo se utilice y se regule esta tecnología. Puede tener un impacto positivo o negativo en la sociedad, dependiendo de los fines, los valores y los principios que la guíen. Por ello, es necesario un debate ético, social y legal sobre la IAG,
que involucre a todos los actores implicados: desarrolladores, usuarios, reguladores, educa - dores, investigadores, creadores y ciudadanos. Solo así se podrá aprovechar el potencial de la IAG para el bien común, y evitar o minimizar sus posibles riesgos o consecuencias no deseadas.
11
Uso responsable de la IA generativa
Las realida des de la IAG
03.
12
Uso responsable de la IA generativa
ChatGPT es una aplicación de los MLG que permite tener conversaciones naturales con un agente inteligente. Genera respuestas a las preguntas y comentarios de los usuarios, y puede adaptarse a diferentes temas, estilos y tonos, además de mantener una conversación fluida y consistente.
El proyecto que más titulares protagoniza es ChatGPT, aunque no es el único. ChatGPT es una aplicación de los MLG que permite tener conversaciones naturales con un agente inte - ligente. ChatGPT utiliza el modelo GPT-3.5 y GPT-4, uno de los MLG más potentes y versáti - les que existen, para generar respuestas a las preguntas y comentarios de los usuarios. El sistema puede adaptarse a diferentes temas, estilos y tonos, y mantener una conversación fluida y consistente. El objetivo del proyecto es demostrar las posibilidades y los desafíos de los MLG, así como explorar sus implicaciones éticas, sociales y culturales. En este apartado, se ofrece una visión general de la oferta de los grandes proveedores de IAG, comparando sus principales caracterís - ticas, ventajas y desventajas. Asimismo, se analizarán algunos casos de uso prácticos que ilustran el potencial y los riesgos de esta tecnología. Finalmente, se discutirá cuándo es adecuado utilizar software open source o comercial para desarrollar e implementar solu - ciones de IAG.
13
Uso responsable de la IA generativa
3.1. Los grandes proveedores de IAG
Los principales actores del mercado de la IAG son empresas que han desarrollado modelos de aprendizaje profundo capaces de generar contenido de alta calidad y diversidad. Estos modelos se basan en redes neuronales artifi - ciales que aprenden de grandes cantidades de datos y pueden producir resultados novedosos y realistas. Si bien la evolución y dinamismo de la IAG implica la aparición constante de nue - vos actores, en el momento de redacción del presente documento, estos son algunos de los proveedores más destacados:
Amazon
Es una de las empresas más grandes y exitosas del mundo, con una pre - sencia dominante en el comercio electrónico, el cloud computing (o servi - cios en la nube) y los servicios digitales. Su plataforma de IAG es Amazon Web Services (AWS), que proporciona una amplia gama de herramientas y servicios para crear, implementar y gestionar aplicaciones de IA en la nube. Entre sus productos de IAG se encuentran: Amazon Comprehend, que puede analizar y extraer información de textos; Amazon Recognition, que puede reconocer y etiquetar objetos, rostros y emociones en imágenes y vídeos; Amazon Polly, que puede convertir textos en voz natural; o Amazon Lex, que puede crear interfaces de voz y texto para chatbots. Amazon se diferencia por su liderazgo y escala en el mercado de la nube, así como por su capacidad de ofrecer soluciones de IA asequibles y eficientes para todo tipo de clientes y sectores. Es una de las empresas líderes en el desarrollo de la IA, tanto por su capacidad de investigación como por su infraestructura de computación. Entre sus productos de IAG se encuentran TensorFlow, una plataforma de código abierto para crear y desplegar modelos de aprendizaje automáti - co, y Magenta, un proyecto que explora el uso de la IA para generar arte y música. Además, Google ha creado varios modelos de lenguaje natural, como BERT, que puede entender el contexto y la intención de las consultas de los usuarios, o T5, que puede realizar diversas tareas de procesamiento de texto, como traducción, resumen o generación. Google se caracteriza por su innovación constante y su oferta diversa y versátil de soluciones de IA, así como por su contribución al avance del conocimiento y la educación en este campo.
14
Uso responsable de la IA generativa
IBM
Es otra de las empresas pioneras en la investigación y aplicación de la IA, con una larga trayectoria de innovación. Su plataforma de IAG es IBM Wat - sonx.ai, que ofrece soluciones para diversos sectores y funciones, como la salud, la educación, el comercio o la atención al cliente. Watsonx.ai puede generar contenido personalizado y adaptado a las necesidades y preferen - cias de los usuarios, utilizando modelos de lenguaje natural, visión artificial, comprensión de la voz o análisis de datos. Algunos ejemplos de sus produc - tos son: Watsonx Assistant, que puede crear chatbots inteligentes y conver - sacionales, Watsonx Discovery, que puede extraer y sintetizar información relevante de múltiples fuentes, o Watsonx Studio, que permite construir y entrenar modelos de aprendizaje automático. IBM se destaca por su expe - riencia y fiabilidad en el ámbito de la IA, así como por su enfoque orientado al negocio y al valor añadido para sus clientes. IBM también promueve el uso ético y responsable de la IA, mediante la definición de principios y prácticas de confianza, la creación de estándares y normas, y la colaboración con organizaciones y entidades públicas y privadas. Es una de las empresas más reconocidas y prestigiosas en el ámbito de la tecnología, con una amplia trayectoria de innovación y liderazgo. Es uno de los principales accionistas de OpenAI. Su plataforma de IAG es Microsoft Azure (Azure OpenAI Service), que ofrece una variedad de servicios y solucio - nes para crear, implementar y gestionar aplicaciones de IA en la nube. Entre sus productos de IAG se encuentran: Microsoft Cognitive Services, que ofre - ce una colección de API y SDK para integrar capacidades de IA en las aplica - ciones, como visión, lenguaje, voz o decisión; Microsoft Power BI, que per - mite crear y compartir informes y paneles de datos interactivos; o Microsoft Bot Framework, que facilita la creación de chatbots inteligentes y conversa - cionales. También ha implementado las funciones de GPT en su buscador BING. Microsoft se diferencia por su calidad y seguridad en el ámbito de la IA, así como por su enfoque orientado al usuario y a la productividad.
Microsoft
Un chatbot es un programa informático que utiliza IA y procesamiento del lenguaje natural (NLP) para comprender las preguntas de los clientes y automatizar las respuestas a dichas preguntas, simulando la conversación humana.
15
Uso responsable de la IA generativa
NVIDIA
Es principalmente un fabricante de hardware que se ha convertido en imprescindible en la IAG. Con una fuerte presencia en la industria de los vi - deojuegos, NVIDIA es muy reconocida por sus unidades de procesamiento gráfico (GPU) alto rendimiento. Por ello, ha desempeñado un papel signifi - cativo en el avance de la IA y el aprendizaje profundo. Sus GPU, especial - mente las de la serie NVIDIA Tesla y NVIDIA A100, son opciones populares para entrenar redes neuronales profundas debido a sus capacidades de procesamiento paralelo. Sin estas GPU los procesos llevarían más tiempo y consumirían muchos más recursos. La plataforma de programación CUDA desarrollada por NVIDIA es ampliamente utilizada en la comunidad de IA. Varias supercomputadoras en todo el mundo utilizan GPU de NVIDIA para tareas de computación de alto rendimiento, incluida la investigación en IAG o la modelización climática. La tecnología de NVIDIA también se utiliza en la industria de la automoción para desarrollar sistemas de conducción autónoma, a través de su plataforma NVIDIA Drive. NVIDIA ofrece también soluciones para centros de datos ( GPU cloud ). NVIDIA destaca por poner al servicio de las empresas soluciones sectoriales preentrenadas. Es una organización sin ánimo de lucro que busca crear y difundir una IA beneficiosa para la humanidad. Su principal producto es GPT (en este momento, GPT-4), un modelo de lenguaje natural que puede generar textos coherentes y relevantes sobre cualquier tema a partir de una palabra, una frase o una pregunta. GPT-4 es el modelo más grande y avanzado de su tipo, con 175 mil millones de parámetros y entrenado con un corpus de unos 45 terabytes de texto. OpenAI ofrece una API que permite acceder a GPT-4 y a otros modelos de IAG, como DALL-E, que puede generar imá - genes a partir de descripciones textuales, o Jukebox, que puede crear canciones originales con letra y música. OpenAI se diferencia por su visión altruista y social de la IA, así como por su apuesta por el código abierto y la transparencia en sus investigaciones y desarrollos. Es una compañía líder en analítica avanzada e IA que está incorporando tecnologías de IAG en sus soluciones de negocio. La plataforma SAS Viya permite la generación de datos sintéticos como técnica de preservación de la privacidad y ampliación de datos que permite cubrir innumerables casos de uso en sectores como banca, salud o Administración pública. SAS está trabajando con Microsoft para la integración de Azure Open AI en sus soluciones y plataforma analítica, incorporando así modelos de LLM. En el centro de su enfoque se encuentra un compromiso firme basado en la aplicación ética de la IA, la privacidad, la transparencia, la explicabilidad, la gobernanza y la seguridad.
OpenAI
SAS
16
Uso responsable de la IA generativa
3.2. Cuándo utilizar software open source o productos comerciales A la hora de desarrollar e implementar solucio - nes de IAG, se puede optar por utilizar sof - tware open source o productos comerciales, dependiendo de las necesidades, los recursos y los objetivos de cada caso. El software open source es aquel que tiene el código fuente disponible para que cualquiera pueda acceder al mismo, modificarlo y distribuirlo bajo las condiciones impuestas por la licencia corres - pondiente. El software privativo (usualmente, todo software comercial) es aquel que tiene el código fuente protegido y que se vende o se licencia a los usuarios. Ambas opciones tienen ventajas y desventajas que se deben valorar antes de tomar una decisión sobre cuál es la mejor estrategia de licenciamiento en cada caso. Un repositorio de referencia en la IA de código abierto es Hugging Face, una librería abierta de modelos y conjuntos de datos. A continuación, se presentan algunos criterios y factores que pueden ayudar a elegir entre software open source o comercial:
El software open source es aquel que tiene el código fuente disponible para que cualquiera pueda acceder al mismo, modificarlo y distribuirlo bajo las condiciones impuestas
por la licencia correspondiente.
El software open source suele ser gratuito o tener un coste muy bajo, lo que lo hace más accesible y asequible para los usuarios. El software comercial suele tener un coste más alto, que puede variar según el tipo, la calidad y la funcionalidad del producto. Sin embargo, el coste de licen - ciamiento no es el único factor que considerar, ya que también hay que tener en cuenta el coste de la infraestructura, el mantenimiento, el soporte, la formación o la integración. En algunos casos, el software open source puede requerir más inversión en estos aspectos que el software comercial, que puede ofrecer más garantías y servicios asociados. El software open source puede tener una calidad variable, dependiendo de la comunidad de desarrolladores, la documentación, las pruebas y las ac - tualizaciones que tenga. El software comercial suele tener una calidad más constante y controlada, ya que está sometido a estándares y procesos de calidad más rigurosos. Sin embargo, la calidad del software no depende solo del código, sino también de la adaptación a las necesidades y expec - tativas de los usuarios. En algunos casos, el software open source puede ofrecer más flexibilidad y personalización que el software comercial, que puede ser más estándar y limitado.
Coste
Calidad
17
Uso responsable de la IA generativa
El software open source puede tener más vulnerabilidades y riesgos de seguridad, ya que al ser público puede ser más fácil de atacar o explotar. El software comercial suele tener más medidas y protocolos de seguridad, ya que al ser privado puede ser más difícil de acceder o manipular. Sin embar - go, la seguridad del software no depende solo del código, sino también de la gestión y el uso que se haga del mismo. En algunos casos, el software open source puede ofrecer más transparencia y confianza que el comer - cial, que puede tener más secretismo y opacidad. El software open source suele tener menos soporte y asistencia, ya que depende de la colaboración y la contribución voluntaria de la comunidad de usuarios y desarrolladores. El software comercial suele tener más soporte y asistencia, ya que cuenta con un equipo profesional y dedicado que ofrece atención y soluciones a los usuarios. Sin embargo, el soporte del software no depende solo del código, sino también de la demanda y la disponibilidad que tenga. En algunos casos, el software open source puede ofrecer más rapidez y eficacia que el comercial, que puede tener más de - mora y burocracia. El software open source suele tener más innovación y creatividad, ya que al ser abierto puede incorporar más ideas, sugerencias y mejoras de la comunidad de usuarios y desarrolladores. El software comercial suele tener más estabilidad y continuidad, ya que al ser cerrado puede mantener más coherencia, compatibilidad y funcionalidad del producto. Sin embargo, la innovación del software no depende solo del código, sino también de la visión y la estrategia que tenga. En algunos casos, el software open source puede ofrecer más diversidad y versatilidad que el comercial, que puede tener más uniformidad y rigidez. Algunas licencias de software open source , en concreto las de tipología copyleft (también llamadas licencias no permisivas), pueden imponer limitaciones en el modo en que los programas desarrollados a partir de ese software son distribuidos o explotados. La limitación más frecuente (licencias GNU GPL) es la imposición de uso de la misma licencia copyleft (efecto contagio) al software que pueda desarrollarse con base en el software open source originario, de tal manera que si quisiéramos mone - tizar el esfuerzo realizado en esa adaptación sustancial del software que hemos realizado, ello nos estaría vedado. Es por ello por lo que en algunos proyectos empresariales se establecen prohibiciones de uso de software que incorpore este tipo de licencias. Por el contrario, si somos nosotros quienes decidimos abrir el código de ese nuevo software , estas licencias pueden ser favorecedoras, puesto que impedirán que quienes accedan a él y lo modifiquen puedan comercializarlo como software privativo y aprove - charse de nuestro esfuerzo sin devolver el resultado de las modificaciones hechas sobre este a la comunidad.
Seguridad
Soporte
Innovación
Aspectos jurídi- cos/propiedad intelectual
18
Uso responsable de la IA generativa
A menudo el software open source tiene muchas ventajas en un inicio, pero a la hora de coordinar una demanda creciente en ocasiones solucio - nes propietarias modulares permiten mayor escalabilidad en los proyectos y procesos.
Escalabilidad
19
Uso responsable de la IA generativa
Aspectos clave en la implanta ción de la IAG
04.
20
Uso responsable de la IA generativa
A la hora de implantar la IAG en cualquier entorno empresarial y sector, e independiente - mente del tamaño de la organización o empre - sa, es necesario tener en cuenta los siguientes seis aspectos:
1.
Identificar qué casos de uso de IAG son susceptibles de ser implantados.
2.
Evaluar si la compañía está preparada para el uso de la IAG.
3.
Crear un ecosistema de socios y proveedores.
4.
Gestionar la exposición al riesgo desde el primer día.
5.
Comprender los modelos financieros de facturación vinculados a la IAG.
6.
Saber cómo escalar y mantener casos de uso de IAG.
21
Uso responsable de la IA generativa
Sin ánimo de ser exhaustivos, a continuación, para cada uno de los aspectos clave se sugie - ren a modo de pregunta un conjunto de re - flexiones previas que la organización o institu - ción que considere comenzar a utilizar la IAG debería tener en cuenta.
1. Identificar qué casos de uso de IAG son susceptibles de ser implantados Al igual que ante cualquier otro proceso de transformación en una compañía o introducción de una nueva tecnología, la primera y principal reflexión a realizar es «¿Para qué?». Es imprescindible identificar los objetivos perseguidos y cómo contribuyen a estos los casos de uso que se propo - nen implantar a través de la IAG.
¿Están claramente definidos los casos de uso propuestos y el impacto esperado en la organización? Los casos de uso susceptibles de ser rea - lizados mediante IAG han de ser descritos de forma exhaustiva, incluyendo el impacto esperado a medio y largo plazo que justi - fica su abordaje. Idealmente, los casos de uso deberán ir acompañados de un análisis de costes y beneficios (business case) que incorpore todos los criterios relevantes para la organización a la hora de tomar una decisión.
¿Es la IAG la tecnología adecuada para los casos de uso propuestos? Antes de decidir la implantación de la IAG, la compañía debe «retar» la idoneidad de esta tecnología como la mejor aproxima - ción para resolver los casos de uso identifi - cados. En este sentido, y siempre que sea posible, es aconsejable evaluar la aproxi - mación tecnológica y funcional alternativa a la IAG y comparar las ventajas y desven - tajas de ambos modelos.
22
Uso responsable de la IA generativa
2. Evaluar si la compañía está preparada para el uso de la IAG Frente al desarrollo de implantación de la IA tradicional, de la que se han referido algunos ejem - plos en este documento, la naturaleza de la IAG requiere por parte de la organización o institución que decide su uso ser plenamente consciente de las diferencias respecto a la IA tradicional y su complejidad añadida desde diferentes ángulos:
¿Dispone la organización de la madurez digital suficiente para el uso de la IAG? La IAG es un paso más en el proceso de modernización y digitalización de una compañía, y por tanto su abordaje deber resultar «natural» y coherente con la estra - tegia digital de la compañía, evitando for - zar su implantación o priorizándola sobre pilares digitales de mayor importancia o impacto. Por tanto, su adaptación requiere un análisis interno en profundidad para detectar y valorar necesidades y opcio - nes, un conocimiento detallado de las necesidades y expectativas de los grupos de interés y una visión prospectiva de la dirección de la compañía dirigida hacia el medio y largo plazo. ¿Existen en la organización perfiles ade - cuados para la implantación o el uso de la IAG? La IAG, dependiendo de la ambición de los casos de uso planteados, puede requerir un alto grado de especialización de las personas que trabajan con ella o un plan de capacitación específico. Aun en el caso de optar por un modelo de externalización completa de la implantación y soporte de la IAG, la comprensión y el manejo de los principios y mecanismos básicos debe permanecer en perfiles propios.
¿Hay previsto un plan de gestión del cambio? Según la índole de los casos de uso y el grado de madurez tecnológica de las per - sonas y de la propia entidad, la implanta - ción de la IAG en los procesos corporativos requerirá más o menos tiempo y esfuerzo en términos humanos, organizativos y económicos. En este plan del cambio, es importante considerar también al consu - midor o cliente, dado que, dependiendo de los casos de uso, la predisposición de los usuarios finales a utilizar la IAG puede variar y por tanto es un elemento más a la hora de ser gestionada su implantación.
23
Uso responsable de la IA generativa
3. Crear un ecosistema de socios y proveedores En la actualidad, la mayoría de los procesos de adopción de nuevas tecnologías en una organi - zación requieren la búsqueda de socios tecnológicos especializados dichas tecnologías cuando no son directamente los creadores de las soluciones. Si bien la necesidad de colaborar con uno o varios socios especializados dependerá en gran medida de la complejidad de los casos de uso, la IAG no es una excepción a esta necesidad.
¿Se han evaluado y seleccionado las op- ciones tecnológicas disponibles? Tal y como se ha descrito en este docu - mento, hay varias opciones disponibles de cara a la implantación de la IAG, más o menos idóneas en función de la tipología de los casos de uso y su complejidad. Las organizaciones deberán analizar cuál se adapta mejor a sus características y objeti - vos, incorporando a los criterios de deci - sión, entre otros, el coste de licenciamiento, implantación y uso.
¿Es necesaria la colaboración de un socio tecnológico? Tras la selección de la plataforma tecnoló - gica, o de forma paralela a ella, la organiza - ción deberá decidir si requiere la ayuda de un socio tecnológico en alguna o todas las fases de implantación de la IAG.
4. Gestionar la exposición al riesgo desde el primer día Asimismo, es necesario llevar a cabo una evaluación de los riesgos que implican estos cambios para la compañía, teniendo en cuenta que la transformación será mayor cuanto menor sea el punto de partida desde la perspectiva de la digitalización.
¿Se han contemplado las implicaciones legales y marco regulatorio de la implan- tación? De acuerdo a lo mencionado en este documento, es importante conocer las implicaciones (obligaciones) que emanan de la legislación vigente, así como las particularidades que pudieran existir en la implantación de la IAG en determinados sectores. En este sentido, la organización deberá haber definido cómo se cubrirán los requisitos legales e identificar si es nece - sario modificar algún proceso o tecnología preexistente antes de la implantación de los casos de uso de la IAG.
¿Se ha definido y aprobado un plan de mitigación de riesgos? Más allá del marco regulatorio y legal, la organización deberá realizar y aprobar un plan de mitigación de riesgos ante cual - quier imprevisto que pudiera surgir una vez puestos en marcha los casos de uso de la IAG. ¿Hay procesos alternativos a la IAG en caso de mal funcionamiento? ¿Hay perfiles de mantenimiento clave que puedan ser sustituidos ante cualquier eventualidad?…
24
Uso responsable de la IA generativa
5. Comprender los modelos financieros de facturación vin- culados a la IAG Uno de los aspectos clave a la hora de evaluar la implantación de casos de uso de IAG es enten - der y prever los posibles escenarios de costes de licenciamiento y mantenimiento vinculados a la plataforma de IAG que se seleccione. En un entorno tan dinámico como este, es importante conocer cuáles son las variables que impactan en los costes mensuales.
¿Cuáles son las variables a partir de las cuáles se paga por el uso de la plataforma de IAG? Al igual que en otros ámbitos de una orga - nización se conoce y comprende desde el primer momento la unidad de medida que impacta en el coste (por ejemplo, consu - mo de KW/hora en la factura eléctrica), es crítico identificar la unidad o unidades de medida clave que el proveedor de la plata - forma de IAG utilizará para facturar.
¿Se ha modelado un plan financiero? A partir de las variables de facturación, se aconseja realizar un plan financiero que modele los costes previstos al menos para dos escenarios: conservador y optimista. Es especialmente relevante modelar el escenario optimista, dada que algunas variables pueden estar sujetas a modelos de facturación no lineales y que pueden crecer o decrecer en función de tramos predefinidos.
6. Saber cómo escalar y mantener casos de uso de IAG ¿Y si es un éxito? Sin ser inherente a la IAG, uno de los principales impedimentos para extender soluciones digitales exitosas es precisamente no haber previsto este «mejor escenario», circuns - tancia que se traduce en la imposibilidad de escalar los casos de uso por limitaciones financie - ras, tecnológicas, u organizativas.
¿Qué capacidad de reacción existe a la hora de escalar los casos de uso? Ante la necesidad de escalar los casos de uso de IAG implantados (más usuarios, más ubicaciones, más velocidad…), los mecanismos y costes para poder extender de acuerdo a los nuevos requisitos deben estar previstos y dimensionados. Este as - pecto cobra especial relevancia para evitar que los casos de uso se desarrollen o im - planten utilizando recursos a su «máximo de capacidad».
¿Es posible mantener los casos de uso en un escenario de máximos? Asimismo, es importante haber previsto y fijado las condiciones de mantenimiento de los casos de uso ante la eventualidad de necesidad escalar, tanto a nivel inter - no como externo. Este aspecto es espe - cialmente relevante cuando los costes y dimensionamientos utilizados en fases previas se enmarcan en un contexto de «pruebas de concepto» que llevan asocia - dos descuentos y ofertas no sostenibles en el tiempo.
25
Uso responsable de la IA generativa
¿Qué impactos sobre el consumo de recursos de computación y energéticos puede tener? Es importante valorar el crecimiento del uso para evaluar el impacto que podría tener en el consumo de recursos y su consecuente impacto en costes que pueda derivar del incremento inesperado de usua - rios o inferencias de los modelos.
26
Uso responsable de la IA generativa
Perfiles de las organi zaciones frente a la IAG
05.
27
Uso responsable de la IA generativa
En el planteamiento de la implementación de la IAG se pueden encontrar diferentes perfiles de organización o empresa en función del caso de uso que se plantea. De hecho, esto hace que una misma organización pueda tener dife - rentes perfiles en función de cada uno de los casos que está implementando: 1. Adoptador • Hace uso de software de IAG existentes. Casos de uso comunes no diferenciadores o primeras versiones MPV (mínimo produc - to viable), con una oferta SaaS ( software as a service ) estándar bien probada. • Construye aplicaciones o capas sobre mo - delos de terceros para incluirlos en los flu - jos de trabajo de la empresa. En el caso de que la solución estándar no esté disponible o esta no sea la adecuada, se implementan integraciones en el flujo de trabajo. En este caso el coste es OPEX basado en el coste por uso (en función de las llamadas a las licencias de terceros). El valor obtenido no es diferenciador para la organización
2. Adaptador • Realiza un ajuste fino mediante API de terceros, que aplica solo con un modelo de código cerrado. Para obtener la calidad ne - cesaria se requiere un etiquetado del dato que lo mejore a las necesidades. • Si el ajuste fino se está realizando sobre modelos open source , como en el caso anterior se requiere un etiquetado de los datos, pero el ajuste vía API no es suficien - temente flexible o transparente para las necesidades. • Se obtiene un modelo más compacto y especializado a partir de uno más extenso, siempre y cuando los modelos convencio - nales sean apropiados, pero los criterios de velocidad o costo no resulten adecuados. El coste es una combinación de CAPEX (para las actividades de construcción y ajustes) y OPEX (en los modelos fundacionales utilizados como servicio). El valor obtenido se encuentra entre moderado y alto en función del ajuste de los modelos con el etiquetado ad hoc de las organizaciones y las indicaciones, consignas o prompts implementados para la interacción con los modelos.
.
28
Uso responsable de la IA generativa
3. desarrollador • Entrena un nuevo modelo fundacional des - de el inicio, en el caso de que los modelos existentes no proporcionen las necesida - des del negocio y se justifique la inversión. El coste tiene un CAPEX muy alto, en el que se mueven cifras de millones de euros. El valor para la empresa es muy alto por la diferencia - ción que supone acceder a un modelo único.
Indicaciones, consignas o prompts son el conjunto de indicaciones en lenguaje natural que se le da a una IAG para lograr que realice una determinada acción. Estas indicaciones pueden ser complejas e incluso se pueden ir refinando en función de las respuestas de la propia IAG, de ahí que sea un diálogo.
29
Uso responsable de la IA generativa
Logros y beneficios de la IAG: casos de uso y casos de éxito
06.
30
Uso responsable de la IA generativa
En la actualidad, ya existen numerosos ejem - plos de casos de uso y casos de éxito de la IAG en diferentes sectores. En este aparta - do se muestran algunos de ellos, sin que en ningún caso se pretenda realizar un inventario exhaustivo de los posibles usos de la IAG. Los sectores a los que hacen referencia los casos de uso o los casos de éxito descritos son los siguientes:
Entretenimiento
Formación e investigación
Salud
Marketing y comunicaciones
Atención al cliente
Fabricación
Tecnologías de la información (desarrollo de software )
Legal
31
Uso responsable de la IA generativa
Asimismo, tanto los casos de uso como los casos de éxito identificados se pueden agrupar en funcionalidades o arquetipos comunes se - gún la funcionalidad que ofrezcan. Así, pode - mos hacer uso de la IAG para:
Clasificación Sintetización Creación
Se obtiene información de la fuente a la que se hace referencia.
Se obtiene un resumen de la información. Se generan contenidos, ya sean fotos, documentos o cualquier otro tipo.
Combinación de las anteriores Cooperación en chatbots genera- tivos:
Se utilizan las capacidades de la IA para proponer las mejores respuestas.
La situación más común.
Casos de uso A continuación, se describen brevemente a título ilustrativo algunos ejemplos de aplicación de la IAG en los sectores mencionados ante - riormente: Entretenimiento La IAG puede crear contenido audiovisual, que puede ser utilizado para el ocio, la educa - ción o la información. Por ejemplo, se pueden generar películas, series, videojuegos, voces, pódcast o libros que sean atractivos, creativos y personalizados para los usuarios, así como crear contenidos interactivos que permitan a los usuarios participar y modificar el resultado. Entre las aplicaciones de la IAG en este ámbito se encuentran Deepfake, que puede cambiar el rostro y la voz de una persona en un vídeo; DeepMind, que puede generar música y soni - dos a partir de imágenes; StoryAI, que puede crear historias y guiones a partir de persona - jes, escenarios y temas; o Novel Effect, que interpreta un texto mientras está siendo leído y hace sonidos de efectos especiales para con - textualizar el texto.
Formación e investigación La IAG puede crear contenido educativo útil para el aprendizaje, la formación o la evalua - ción. Por ejemplo, se pueden generar cursos, lecciones, ejercicios, exámenes o tutoriales que sean adaptados al nivel, los intereses y el ritmo de cada estudiante. También se pueden crear contenidos que faciliten la comprensión, la memorización y la aplicación de los conoci - mientos. Asimismo, puede crear un profesor virtual que «tome» la lección al estudiante, le haga preguntas para evaluar su nivel conoci - miento y le recomiende, en caso necesario, qué tiene que aprender mejor o dónde tiene que profundizar más para sacar con buena nota en su examen. Algunas aplicaciones de la IAG en la educación son: Quizlet, que puede generar tarjetas de estudio y juegos de memoria; Duo - lingo, que puede generar ejercicios de idiomas y feedback personalizado; Mathpix, que puede resolver problemas matemáticos a partir de
32
Uso responsable de la IA generativa
imágenes; oTeach FX, que da consejos al pro - fesor para mejorar sus clases.
clientes y ciudadanos, tanto de forma escrita o mediante voz, respondiendo a cualquier tipo de solicitud o pregunta de los clientes y resolvien - do la gestión de cualquier tipo de trámite. Fabricación La IAG aplicada al sector industrial y la fabrica - ción permite la creación de modelos que dan soporte desde el diseño hasta la distribución y logística, incluyendo la gestión de averías y planificación. Tiene especial relevancia la IAG en la creación de modelos que simulan el comportamiento de procesos productivos a partir de información histórica, posibilitando la creación de escenarios de producción a partir de hipótesis. Tecnologías de la informa- ción (desarrollo de softwa- re ) Asociados al sector de las tecnologías de infor - mación podemos encontrar numerosos ejem - plos, destacando la limpieza de código ( clean code ), que ofrece la capacidad de modificar el código existente para cumplir con los requisi - tos establecidos en las mejores prácticas de desarrollo. Este enfoque garantiza que el códi - go sea legible, eficiente y fácilmente manteni - ble, mejorando así la calidad del software . Otro ejemplo destacable es la generación de código para el desarrollo de soluciones tecnológicas, utilizando diversos lenguajes de programación. Se enfrenta a desafíos como la elección del lenguaje de programación, la complejidad del código solicitado y la integración con código preexistente. Este aspecto facilita la creación eficiente de soluciones tecnológicas avanza - das. Legal El sector legal supone un escenario idóneo para el aprovechamiento de la IAG, al ofrecer la posibilidad de analizar, interpretar y crear textos jurídicos de forma autónoma.
Salud La IAG puede generar contenido a partir de la información clínica disponible (imágenes, sonidos o texto) que pueda ser utilizado como ayuda al diagnóstico, el tratamiento o la pre - vención de enfermedades, ayudando a mejorar la calidad de vida, el bienestar y la salud mental de las personas. En este contexto, algunas aplicaciones de la IAG en la salud son Woebot, que ofrece terapia psicológica a través de chat, o DeepScribe, que puede generar notas médi - cas a partir de conversaciones. En cualquier caso, es importante resaltar que, más allá de la legislación específica vinculada al uso de la IA, en el sector salud la normativa de aplicación a soluciones digitales requiere en muchas oca - siones certificaciones y validaciones adiciona - les que salvaguardan la seguridad y eficacia de la solución. Marketing y comunicaciones La IAG puede crear contenido publicitario útil para el marketing, la venta o la fidelización de clientes. Por ejemplo, se pueden generar anuncios, eslóganes, logos, diseños o cam - pañas que sean originales, atractivos y per - sonalizados para los consumidores. También se pueden crear contenidos que aumenten el engagement o compromiso, la conversión y la retención de los clientes. Algunas aplicaciones de la IAG en el marketing son Phrasee, que puede generar textos persuasivos para emai - ls, redes sociales o webs; Logojoy, que puede generar logos profesionales a partir de prefe - rencias; o Lumen5, que puede generar vídeos a partir de textos.
Atención al cliente La IAG es capaz de dar soporte o incluso de gestionar de forma autónoma la relación con
33
Page 1 Page 2 Page 3 Page 4 Page 5 Page 6 Page 7 Page 8 Page 9 Page 10 Page 11 Page 12 Page 13 Page 14 Page 15 Page 16 Page 17 Page 18 Page 19 Page 20 Page 21 Page 22 Page 23 Page 24 Page 25 Page 26 Page 27 Page 28 Page 29 Page 30 Page 31 Page 32 Page 33 Page 34 Page 35 Page 36 Page 37 Page 38 Page 39 Page 40 Page 41 Page 42 Page 43 Page 44 Page 45 Page 46 Page 47 Page 48 Page 49 Page 50 Page 51 Page 52 Page 53 Page 54 Page 55 Page 56 Page 57 Page 58 Page 59 Page 60 Page 61 Page 62 Page 63 Page 64 Page 65 Page 66 Page 67 Page 68 Page 69 Page 70 Page 71 Page 72 Page 73 Page 74 Page 75 Page 76 Page 77 Page 78 Page 79 Page 80Made with FlippingBook - Online Brochure Maker