Uso responsable de la IA generativa
Desarrollo Durante esta fase es importante establecer las salvaguardas técnicas para que los modelos no «alucinen» utilizando un lenguaje ofensivo o tóxico. Adicionalmente, deben establecerse las infraestructuras para no permitir el uso de datos protegidos por propiedad intelectual o privacidad. Por último, en esta fase se deben incluir salvaguardas para evitar que los modelo acentúen cualquier tipo de sesgos o realizar ejercicio de red teaming para proteger a los sistemas de cualquier ataque. Validación Que un equipo que no haya participado en el ajuste o implementación del modelo lo revise y le haga desafío o challenge resulta imprescin - dible para fortalecer el gobierno. Puesta en producción Los modelos deben ser lo suficientemente robustos para evitar que puedan sufrir ataques. Es esencial estar preparado para adaptarse a medida que surgen retos y cambios en el entor - no de producción. Seguimiento – Uso de la solución Se deben diseñar métricas de seguimiento ade - cuadas para detectar «alucinaciones» de estos modelos o comportamientos indeseados, como la generación de sesgos o contenido erróneo o falso. Es fundamental la preparación de aquellas personas que van a hacer un uso de estos modelos para que dispongan del sufi - ciente conocimiento para hacer las preguntas adecuadas. Estructuras organizativas Para el establecimiento de un sólido gobier - no sobre IAG es necesario que en cualquier organización se cree un marco de trabajo que permita difundir la visión e impacto de esta tecnología, así como su uso, garantizando en todo momento que su implantación dentro de la organización se realiza de una forma segura.
Esto es, evaluando y mitigando cualquiera de los riesgos mencionados anteriormente. Dos equipos se consideran fundamentales en la coordinación de la operativización de IAG: Comité de IAG Su propósito principal es identificar opor - tunidades de eficiencia y nuevos negocios, establecer el conjunto de requerimientos que permita garantizar el correcto funcionamiento de los modelos de IA dentro de la compañía, promover las iniciativas de IA e IAG de carácter transversal, supervisar la consecución de los objetivos de las iniciativas e impulsar el cambio cultural y capacitación de las personas de la organización.
63
Made with FlippingBook - Online Brochure Maker