Cosa sta accadendo con l’implementazione di nuove forme di Intelligenza Artificiale e con la loro sempre più ampia diffusione? Quali sono le riflessioni da fare e i rischi da valutare?
Il libro “Le macchine sapienti” di Paolo Benanti, specializzato in bioingegneria e neuroscienze, accompagna chi lo legge in un viaggio attraverso la consapevolezza di ciò che è già realtà e di quello che avverrà in un futuro prossimo, con due intermezzi sulla questione etica e su come la macchina dovrà interagire con l’uomo.
Quali le 5 cose che restano del libro girata pagina 156?
1. Siamo circondati (dalle intelligenze artificiali)
Con una lunga serie di esempi pratici, divisi per ambito tematico, le prime pagine del libro fanno capire quanto “le intelligenze artificiali siano pervasive e si stiano insinuando in ogni ambito della nostra esistenza. Tanto nei sistemi di produzione, incarnandosi in robot, quanto nei sistemi di gestione sostituendo i server e gli analisti”. Ma anche e soprattutto nella vita quotidiana, dove il nostro smartphone finisce per diventare “un vero e proprio partner che interagisce in maniera cognitiva con l’utente”.
2. Gli algoritmi rischiano di dare luogo a ingiustizie sociali o discriminazioni
Una delle riflessioni che emerge con forza dalle pagine è riferita alla possibilità che “gli algoritmi possono portare con sé dei “pregiudizi” – di calcolo, non morali – che applicati su larga scala rischiano di dare luogo a ingiustizie sociali o discriminazioni”. Ecco, allora, la necessità di riflettere sulla gestione dell’innovazione. Perché “solo un’innovazione che diventi autentico sviluppo umano saprà realizzare un futuro migliore evitando incubi distopici”.
3. Per la prima volta attori della trasformazione non sono uomini ma macchine
Se è vero che l’Intelligenza Artificiale è già così pervasiva, dovremo essere consapevoli del fatto che per la prima volta nella storia a guidare una trasformazione profonda non sarà una élite umana. E questo aspetto “va indagato in tutta la sua complessità. Per comprendere le sfide e le potenzialità delle intelligenze artificiali bisogna innanzitutto comprendere il lato umano della relazione uomo macchina. Bisogna partire dal fondamento, la specificità della cognizione umana, per capire qual è il contributo proprio e quale quello delle intelligenze artificiali, e in che modo esse gestiscono ciò che è di loro competenza”.
4. Non potranno essere solo i dati a guidare le nostre scelte
Sappiamo che le macchine “sapienti” agiscono attraverso l’analisi di dati, sulla base dei quali “crescono” e prendono decisioni autonome. Ma sono soltanto i dati a guidare le decisioni delle persone? Per rispondere a questa domanda nel libro viene fatta una similitudine: “I dati sono comprensibili come una mappa della realtà. Un dato è una descrizione elementare, spesso codificata, di un’entità, di un fenomeno, di una transazione, di un avvenimento o altro. In quanto codifica, il dato è una riduzione della realtà analoga a quello che fa una mappa geografica”. Detto questo, può una mappa di dati essere considerata una copia della realtà? La risposta è no, e poiché “le macchine prendono decisioni sulla base di mappe che sono riduzioni di realtà e mediante dati provenienti da sensori che compiono un’analoga riduzione, hanno un fattore di fallibilità”. L’etica, pertanto, deve garantire un sistema fail safe o quanto meno un grado di fallibilità che non nuoccia ai valori ritenuti chiave e fondamentali.
5. Una governance delle intelligenze artificiali è urgente
Un capitolo intero è dedicato al problema della governance dell’AI, considerata “lo strumento con cui garantire che questa cognizione sintetica, resa possibile dall’innovazione tecnologica, non arrivi ad assumere forme disumanizzanti. La governance è lo spazio ove le considerazioni antropologiche ed etiche devono divenire forze efficaci e cultura organizzativa per plasmare e guidare l’innovazione tecnologica, rendendola autentica fonte di sviluppo umano”.
Sonia Montegiove
