Compromisos para la Privacidad y Ética Digital
datos dentro del procesamiento de cualquier desarrollo tecnológico. El objetivo es preser- var su privacidad como objetivo del diseño del producto , desde el momento inicial, hasta su desarrollo evolutivo y la puesta en funciona- miento del servicio. En este sentido, es conveniente desarrollar herramientas que permitan la gestión a los usuarios y sean transparentes en el uso de sus datos. De forma que se posibilite e impulse el conocer, de forma sencilla, las implicaciones de cada uno de sus consentimientos, así como la posibilidad de modificarlos cuando consideren conveniente. En este sentido, otorgar al usuario la gestión in- tegral de los datos consideramos que permitirá aumentar la confianza y mejorar la relación con el usuario. Permitiendo, en función de las necesidades del usuario, un control y gestión a mayor o menor nivel. 2. Sesgos: conseguir que la discriminación resulte paritaria. Mediante el uso de los algoritmos, aplicados a una gran cantidad de datos, las organiza- ciones arrojan distintas categorizaciones sobre las que se toman decisiones. Dichas categorizaciones -automatizadas y, en oca- siones, bajo supervisión e intervención hu- mana- pueden reflejar, ampliar o perpetuar sesgos: desviaciones indeseadas en los resul- tados del tratamiento de datos, que derivan en conclusiones inadecuadas en el proceso de inferencia, en que se produzcan correlaciones falsas, errores, o en una subestimación de las repercusiones éticas, sociales y legales. La complejidad para distinguir qué sesgos producen estas desviaciones supone que las organizaciones deben comprometerse a pres- tar especial atención e interés en analizar la información y los datos que forman parte de las muestras. En este sentido, se debe procurar que las muestras resulten lo más homogéneas posibles, y que la configuración de los criterios algorítmicos con los que se toman estas decisiones respeten los derechos y libertades reconocidos por el ordenamien- to jurídico, teniendo en cuenta así mismo el momento histórico vinculado al componente
social que exista en cada momento. Todo ello con el objetivo de poder adaptarse de forma rápida, actualizándose ante cualquier variable que pudiera afectarles, producir efectos perju- diciales o que puedan vulnerar las caracterís- ticas propias de cada individuo, evitando así discriminaciones colectivas. Asimismo, se ha de ofrecer al individuo opcio- nes para que pueda intervenir y exigir la apli- cación de intervención humana. El esfuerzo en este sentido, que se debe invertir en la fase inicial de los distintos desarrollos tecnológicos, conseguirá minimizar el impacto del riesgo de utilización de los datos con fines discriminato - rios o fraudulentos, y la posible exclusión del papel de los individuos en estos procesos. De no ser así, el uso discriminatorio podría tradu- cirse en procedimientos deficientes en la toma de decisiones, con repercusiones negativas en las vidas y oportunidades de los individuos, en particular de los grupos excluidos, así como generar un impacto negativo en las organiza- ciones. 3. Transparencia de los datos. Huella digital Una vez el usuario facilita sus datos a una organización, se genera una identidad dentro de la misma. Esta identidad está basada en el rastro o trazabilidad que se obtiene de sus datos y la información inferida al cruzarlo con otros datos de su relación o interacción con la entidad (que puede coincidir o no con la que se tenga en otra organización). Las organizaciones deben dirigir, por tanto, grandes esfuerzos en poner en conocimiento de las personas los distintos tratamientos y destinatarios de sus datos. En este sentido, los titulares de los datos tienden a considerar que los únicos datos que las empresas mane- jan en su nombre son aquellos que se facilita- ron en un primer formulario, y las finalidades se limitan a las del servicio que se va a obtener. Es por esto por lo que, de forma general, desconocen el valor de sus datos, haciendo ne- cesario que las empresas y servicios públicos transmitan, no solo los terceros a los que se cederán sus datos, sino también las finalida - des más avanzadas o indirectas (que incluiría, por ejemplo, los análisis comportamentales o predicciones sobre hábitos de consumo) de
17
Made with FlippingBook - Online Brochure Maker