assistita. Se da un lato tali strumenti agevolano numerose funzioni, dall’altro sono in grado di classificare le persone, prevederne i comportamenti e persino influenzarne le scelte mediante sofisticati schemi di autoapprendimento. processi reputazionali, meccanismi di ranking o scoring orientano così l’agire umano in modo spesso silenzioso e difficilmente percepibile, inaugurando una nuova “società digitale di classi”, nella quale i soggetti considerati economicamente poco rilevanti finiscono per essere trattati come veri e propri “scarti”, mentre i consumatori ad alto valore si ritrovano nel gruppo delle “stelle nascenti”, ossia tra i profili maggiormente appetibili dal punto di vista commerciale. Le informazioni acquisite, dunque, non sono utilizzate esclusivamente per migliorare i servizi, ma anche e soprattutto per ricomporre rappresentazioni individuali o collettive. Suggerimenti personalizzati, È qui che il passaggio dalla connessione alla profilazione diviene evidente, configurandosi quest’ultima come una forma particolarmente insidiosa di
governo delle condotte, fondata sulla capacità predittiva degli algoritmi e sulla permanente concatenazione dei dati, con cui soggetti pubblici e privati valutano affidabilità, preferenze e propensioni delle persone, non di rado prescindendo dalla loro concreta volontà. E il pericolo è quello di essere giudicati o incentivati nelle proprie possibilità unicamente sulla base delle caratteristiche attribuite da un apprezzamento automatizzato o dell’appartenenza a un determinato gruppo, con inevitabili effetti di esclusione o discriminazione che non consentono certo di confidare nella sola autodifesa individuale. Il diritto è allora chiamato a svolgere una funzione essenziale di garanzia, definendo le condizioni necessarie affinché la connessione non si traduca in controllo autoritativo o in nuove stratificazioni sociali alimentate da logiche di mercato che ricercano nella tecnologia un’ulteriore forma di legittimazione. Perché proprio la tecnologia deve restare al servizio dell’uomo e della sua dignità, quale limite al di sotto del quale la convivenza non può regredire, nemmeno in un’epoca in cui le macchine mettono incessantemente alla prova il senso stesso del nostro vivere.
8
Made with FlippingBook interactive PDF creator