I Big Data e le prospettive etiche – di Fiorello Casi

I Big Data, fin dalla loro prima utilizzazione, si pongono come uno strumento inedito per osservare e studiare la realtà; aumentano la scala dimensionale dei dati su cui è possibile lavorare e consentono di fare cose che non erano possibili con minori quantità come quando, col metodo scientifico, le decisioni venivano prese sulla base di informazioni limitate, esatte e di natura causale.

La caratteristica principale dei Big Data, desideriamo ribadirlo, riguarda il fatto che hanno esclusivamente a che fare con le previsioni. Niente a che vedere con l’intelligenza artificiale. L’utilizzo dei Big Data consiste nell’applicazione della matematica a enormi quantità di dati per dedurne e ricavarne delle probabilità. Si pongono a lato del metodo scientifico, tramite essi è possibile computare enormi quantità di dati in tempi rapidissimi e ritenere accettabile un margine di inesattezza; inoltre considerata la grande mole di dati in gioco, è prevedibile che in molti casi le decisioni derivanti da questo tipo di processo verranno prese direttamente dalle macchine stesse, attraverso algoritmi di autoapprendimento denominati “machine learning”.

È questa l’opzione che i Big Data aggiungono all’attività scientifica in campo sociale; anche una condizione inedita che sta diventando una fonte di potere economico. La loro adozione come strumento di studio sarà in grado di influenzare e condizionare sempre più le attività economiche, fornendo modelli predittivi in tempo reale sugli effetti di politiche monetarie; nelle scienze, consentendo la ricerca di modelli all’interno di masse di dati, altrimenti impossibili da individuare dalla sola analisi umana; nell’assistenza sanitaria, nella valutazione delle ricadute delle politiche sanitarie adottate, infine nel governo, per la sicurezza dell’ordine pubblico e, nell’istruzione, con le valutazioni del rendimento effettivo di insegnanti e studenti, negli studi umanistici e in tutti gli aspetti della società.

È possibile che questo balzo tecnologico nella capacità di raccolta e analisi dei dati, determinerà alcune modificazioni riguardo diverse idee tradizionali, soprattutto quelle sul management, sui processi decisionali, sulla gestione delle risorse umane e sull’educazione. Disporre di analisi predittive puntuali potrà portare benefici anche in scenari più ampi, quali le politiche economiche, quelle sanitarie ed energetiche.

Alla luce di tutto ciò è lecito iniziare a interrogarsi su come questo cambiamento in atto possa influire sulle dinamiche sociali e modificare i valori che a esse presiedono. La storia umana ha sviluppato per quasi tre millenni il pensiero critico sul comportamento umano e le dinamiche sociali; nel caso dei Big Data ci troviamo a interrogarci, ancora una volta, su cosa accadrà in un fase storica che si preannuncia come quella in cui saranno gli algoritmi ad assumere un ruolo centrale nell’esistenza degli uomini.

Dalla metà del secolo scorso, quando l’informatica e la tecnologia iniziarono ad assumere una centralità e una portata mai conosciute in epoche precedenti, la società ed i governi hanno preso coscienza che la violazione di diversi diritti degli individui, tra cui la loro privacy, erano fatalmente minacciate. Le norme e le leggi in materia di privacy e di garanzie di riservatezza e tutele di dati sensibili, si sono succedute per anni e sono tuttora in continuo sviluppo.

Nel caso degli algoritmi, gli operatori logici che lavorano all’interno dei Big Data, tutte le tutele messe in opera fino a oggi risultano sostanzialmente inutili. Le persone, tramite i social network, condividono volentieri le informazioni tra loro; infatti lo sviluppo esponenziale di piattaforme di vario orientamento quali, salute, letteratura, cuori solitari, medicine alternative, filosofia, politica, fino ai blog eversivi e terroristici, sono una fonte inesauribile di dati che vengono condivisi e la condivisione è la caratteristica fondamentale di questi strumenti e certo non una minaccia da prevenire.

Su questo scenario un fatto sul quale è opportuno riflettere, riguarda il rischio che si corre a livello personale. Le principali minacce provenienti dal mondo digitale, se fino a pochi anni fa riguardavano la privacy, ora si stanno spostando anche alla probabilità. Il drenaggio gigantesco di tutti i dati unito ad algoritmi sempre più affinati potranno (già lo fanno) predire con altissima probabilità il rischio di poter contrarre una malattia, avere un attacco di cuore o ammalarsi di altre gravi patologie. Tutto ciò potrà costringerci a pagare premi assicurativi più alti, vederci negato il credito o il finanziamento da una banca e addirittura venire fermati perché indiziati di commettere un crimine imminente.

È necessaria quindi una riflessione etica sul ruolo della libera volontà in rapporto alla condizione esistenziale che la tecnologia sta determinando. Bisogna interrogarsi se sia lecito che la volontà individuale debba ancora prevalere sul sistema altamente affidabile (probabilistico) dei Big Data oppure cedere a questa forma di neo utilitarismo giustificato dai dati e dalla tecnologia.

L’utilitarismo si presenta già dall’iniziatore di questo filone di pensiero, l’inglese Jeremy Bentham (Spitalfields, 1748 – Londra, 1832), come una teoria morale radicalmente riformatrice rispetto alla tradizione; qui l’importanza della critica ha pari valore di quello dato all’attività propositiva. Con l’utilitarismo si assiste a un salto tra le etiche antiche o classiche rispetto a quelle moderne; si opera uno spostamento del punto di vista morale dalle convinzioni e intenzioni, che fanno agire il soggetto, alle conseguenze prodotte dall’azione. L’utilitarismo esclude l’esistenza di assoluti morali, quindi le azioni umane non hanno qualità morali intrinseche, ma vengono conferite in base alle conseguenze che causano. Per gli utilitaristi non esistono atti sempre malvagi o sempre buoni, ma a seconda degli effetti prodotti questi assumono gradazioni morali diverse. Nel 1789 Bentham pubblica la sua opera principale, “Introduzione ai princìpi della morale e della legislazione”, dove riformula il principio della «massima felicità per il massimo numero di persone» degli illuministi (Cesare Beccaria, Helvétius, Hutcheson). Se la morale vuole diventare una scienza deve basarsi sui fatti (come nel positivismo) e non su valori astratti, infatti la felicità, secondo l’Autore, non è altro che il piacere. Piacere e dolore sono fatti quantificabili così da poter essere assunti come criterio dell’agire. Abbiamo richiamato questi brevi cenni all’utilitarismo perché nell’economia di questo lavoro è utile sottolineare come fu proprio Bentham a formulare un’algebra morale cioè il calcolo quantitativo che permette di conoscere le conseguenze dell’agire, quantificando la felicità prodotta indirizzandoci verso azioni che massimizzino il piacere e minimizzino il dolore. Le buone azioni sono quindi le azioni che promuovono la felicità non solo per il singolo ma anche per la collettività, viceversa le cattive azioni ostacolano la felicità. Oggi con la disponibilità di quantificare innumerevoli aspetti dell’agire e del sentimento sociale, questo concetto potrebbe riproporsi in forme nuove, col rischio di prendere una deriva estremista. Infatti secondo tale pensiero, alla base dello Stato non vi è alcun contratto sociale ma una necessità utilitaria di promuovere collettivamente la felicità, il piacere di tutti. Le leggi avranno così il compito di incoraggiare le azioni buone (cioè che promuovono l’utile) e di impedire e sanzionare quelle che ostacolano il bene comune. Se il fine, oggi come allora, è nobile, non lo sono altrettanto i rischi che un uso troppo algebrico di tanti aspetti dell’agire umano possa recare più danni che benefici. Di buone intenzioni è lastricata la strada che porta all’inferno.

Le modalità con cui vengono drenati e gestiti i dati dovrà senza dubbio cambiare, perché il mondo nel quale siamo ormai calati imposta un numero sempre crescente di attività su previsioni basate su quantità acquisite massicciamente e processate da algoritmi potenti, dei cui risultati non saremo neppure più in grado di stabilire precisamente le ragioni o i criteri che stanno dietro al loro operare.

Un settore che può riassumere in modo emblematico queste circostanze è la sanità. Infatti, come abbiamo già accennato, i dati viaggiano velocissimi e sempre più numerosi, fluiscono in modo pressoché sconosciuto ai più, in data base giganteschi, ammucchiandosi, incrociandosi e subendo manipolazioni logiche di cui non sospettiamo quasi del tutto l’esistenza. Succede con tutti i tipi di dati e ora anche – e sempre di più – con quelli medici e della «medicina di precisione».

È l’effetto della Big Data Science, cioè la ricerca scientifica su scala globale e basata sulle tecnologie Big Data, un sistema di ricerca gigantesco, che coinvolge enti, consorzi, fondazioni, corporation internazionali; e i suoi effetti sono di portata enorme a livello globale, tale da collocare le strutture di ricerca precedenti, che si possono definire “piccola scienza” a un ruolo residuale. La Big Data Science è ormai così interconnessa e con così tanti attori in gioco, dai team di specialisti ai consorzi internazionali  e alle multinazionali dei farmaci, da essere stata in grado di generare una nuova realtà come la bioeconomia. E, mentre la Big Data Science promette di migliorare la salute, studiando malattie storiche e altre emergenti, la bioeconomia pone nuove questioni che urgono di una risposta. In primo luogo che fine fa la privacy legata a temi sensibili come la salute e le malattie di ciascun individuo e in secondo luogo, quanto sono adeguate le leggi nazionali per regolamentare questo immenso e continuo scambio di informazioni che toccano milioni di individui, svelandone i problemi più intimi.

La situazione è molto confusa e frammentaria; mentre oggi la scienza sta vivendo un ulteriore e per certi versi imprevisto impulso di sviluppo, l’etica segue un percorso più articolato, che da un lato,  segue le ramificazioni che la ricerca imbocca nella sua rapida attività e dall’altro tende, in particolari contesti, ad assumere posizioni centriste, che garantiscano una omeostasi tra le istanze della ricerca scientifica e quelle di liceità delle realizzazioni di quest’ultima; posizione che lascia aperta la porta a diverse perplessità circa il suo legittimo ruolo di coscienza morale. Questo fatto determina una rinnovata problematicità intorno allo stato della scienza e della tecnologia; si percepisce l’esigenza, probabilmente causata da una mancanza normativa, di costituire un nuovo paradigma, sia etico, che legale, in grado di  conciliare esigenze spesso in conflitto. Tutelare e favorire il lavoro globale degli studiosi delle diverse discipline, migliorando le probabilità di guarigione dei malati, e allo stesso tempo tutelare le esigenze, a volte anche contraddittorie, dei pazienti stessi; infatti, per esempio, se c’è chi vuole collaborare alle ricerche, condividendo il proprio DNA con quello di altri volontari,  c’è chi invece preferisce mantenere il più rigido anonimato.

Che dinamiche si metteranno in opera quando un medico dovrà giustificare un trattamento sanitario (o un trapianto) e dovrà chiedere ai pazienti di interrogare preventivamente un oracolo informatico oppure, che poi è lo stesso, dovrà a sua volta emettere una diagnosi o decidere su un trapianto, basandosi sui Big Data?

Vale la pena accennare anche al concetto di “causa probabile”, sulla quale poggia il sistema giudiziario, che potrebbe, in determinati casi, essere sostituita da quello di “causa probabilistica”.

Tutto ciò porta a interrogarsi su quali e quante siano le implicazioni di questa nuova era che si profila dinanzi alle nostre esistenze e quali siano le implicazioni di tutto ciò, per la libertà e la dignità degli esseri umani.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.