SOCIETY | 11 Apr

Etica digitale, trasparenza e fiducia per il Data Driven

Come i valori alla base dell'Open Source si possono applicare al contesto big data e analytics?

“The pure and simple truth is rarely pure and never simple.”
(Oscar Wilde)

Ho accettato l’invito ad un briefing di Gartner dal titolo “How to use Data & Analytics to drive Strategic Business Value”. Il tema principale era il ruolo del Chief Data Officer nelle organizzazioni. Interessato e anche un po’ incuriosito ho partecipato al seminario e, con mia sorpresa, al termine di due ore di un’interessante esposizione ho sentito parlare di open source!  O almeno, questa è stata la mia percezione – non certo quella dell’analista da me interpellato al termine dell’incontro!

A questo punto è opportuno chiedersi perché sono giunto a questa conclusione e quali sono stati gli spunti di riflessione conseguenti.

Una degli interventi era titolato “come instaurare una cultura data-driven” e qui ho convenuto con il relatore quando ha affermato che il compito di chi opera nel contesto big data e analytics è, oggi,  quello di aiutare le organizzazioni a ripensare diversi  aspetti con un approccio radicalmente diverso da quello tradizionale: da quello organizzativo, a come si affronta il business, ci si pongono gli obiettivi e se ne valuta il raggiungimento e a come si realizzano gli sviluppi.

Si tratta di diffondere una nuova cultura che nasce ed è guidata dall’informazione

L’analista dati – ormai comunemente denominato data  scientist – è colui che a fronte di un’occasione di business, in possesso dei “dati idonei”, sa porre le giuste domande, prima ancora di saper trovare le risposte.  In questo ruolo deve essere un “agente del cambiamento”, nel saper prendere l’iniziativa, nel proporre precise azioni, nell’operare con agilità, nel saper evidenziare, giustificare  e quantificare i risultati, evitando sempre di esprimersi in puri termini qualitativi. Deve soprattutto saper diffondere questa cultura intorno a sé, tra i clienti, nei team di sviluppo, tra i suoi stessi collaboratori.

Nel corso dell’esposizione sono comparsi alcuni temi ben noti a chi opera nell’open source: ecosistema, collaborazione, sviluppo distribuito, ma anche valori ed etica. È stato interessante ascoltare un relatore scozzese parlare in latino quando ha trattato il tema dell’ethos (qui declinato come reputazione – altro valore chiave dell’open source) e di pathos: “ciò che il cuore dice è più importante di quanto la mente indica”. In contrasto alla triade “on-time, on-scope, on-budget”,  è stata davvero una bella sorpresa, ad un briefing Gartner!

Opportuna la conclusione: “l’approccio data-driven richiede di cambiare il modo di pensare e il comportamento: dalla proprietà (ownership) all’accompagnamento e supporto (stewardship); dal controllo alla facilitazione; dalla messa in sicurezza alla condivisione; dalla governance al “farsi cura di”; dagli aspetti legali, all’etica.

Quello dell’etica digitale è un tema emergente

Si tratta di instaurare un sistema di valori e principi morali per la gestione delle interazioni digitali tra persone, attività ed oggetti. Qui gli  elementi importanti sono la trasparenza ed il controllo, inteso  come  aperto e pubblico. Pensiamo agli algoritmi automatici che tramite lo sviluppo  delle tecniche di intelligenza artificiale condizionano la nostra vita, e sono destinati a farlo sempre di più, e che in genere sono disponibili in modalità “black box”.  Varie ricerche hanno evidenziato come alcuni algoritmi che, ad esempio, vengono utilizzati per concedere un mutuo immobiliare o per interpretare il sentiment estratto dai testi postati in rete, riproducono gli stessi stereotipi tipici di comportamenti umani discriminatori (verso gruppi etnici, non residenti, ecc.). L’aggravante, in questo caso, è data dal fatto che l’automatismo si riproduce ed è privo delle possibili correzioni indotte dalla riflessione umana e dall’empatia.  Il rischio che stiamo correndo è che con tecniche di machine o deep learning stiamo creando sistemi che rischiamo di non conoscere fino in fondo  e di non controllare!

Un altro tema è quello della fiducia

Questo è sempre stato un aspetto cruciale e particolarmente approfondito nel contesto open source. Oggi è chiaro che senza fiducia  non ci può essere progresso. Nel mondo digitale i dati hanno più valore se vengono condivisi e la condivisione significa dare accesso anche a persone dentro e fuori l’organizzazione, senza attivare i tradizionali metodi di controllo. E questo richiede fiducia. Fiducia che non riguarda l’emozione, ma è un fattore economico e di progresso; è alla base di solide relazioni di business. Senza la fiducia non vi è condivisione e l’unico modello possibile è il controllo, non applicabile in un contesto  di relazioni che si attivano in modo diffuso e si espandono in modo esponenziale.

Il futuro ci chiederà di prendere posizione su quale sia il livello di fiducia che riteniamo accettabile – in presenza di dati aperti o pubblici che possono condizionare le nostre scelte – e sulla necessità di chiedere trasparenza su come operano gli algoritmi che guidano le scelte che impattano le nostre vite.

Nel libro di George Dyson, Turing’s Cathedral , è scritto: “Facebook definisce chi siamo, Amazon definisce cosa vogliamo, Google definisce cosa pensiamo. Si può estendere questa affermazione per includere la finanza che definisce cosa abbiamo (almeno materialmente) e la  reputazione, che sempre di più definisce le opportunità cui possiamo accedere. In ogni settore i leader ambiscono a prendere le loro decisioni in assenza di regole, di necessità di richieste o spiegazioni. Se otterranno i loro risultati, le nostre libertà fondamentali e le nostre opportunità saranno delegate a sistemi guidati da valori che andranno poco oltre l’arricchimento di top manager ed azionisti”.

Questa visione può sicuramente essere considerata “apocalittica”, ma sollecita l’urgenza di una richiesta non solo di trasparenza, ma anche di “intellegibilità”.

Da open software a open algorithms, quindi lunga vita ai valori dell’open source nell’era della digital economy!


Gabriele Ruffatti