È stato presentato online lo scorso 29 ottobre il nuovo libro di Michele Mezza “Il Contagio dell’Algoritmo. Le Idi di marzo della pandemia”, che, prendendo le mosse dal precedente volume “Algoritmi di libertà“, lancia un allarme e propone una riflessione critica sull’urgenza, secondo l’autore sempre più evidente ai tempi della pandemia, di “riconsegnare il potere al pubblico, di affidare la gestione dei nostri dati alle istituzioni, e parallelamente di accrescere le nostre competenze digitali”.

Il dialogo, moderato da Francesco Samorè, Segretario Generale di Fondazione Bassetti, ha visto la partecipazione dell’autore, Michele Mezza, e di un nutrito panel di discussant: Federica Lucivero – Senior Researcher in Ethics and Data, Ethox Centre and Wellcome Centre for Ethics and Humanities, Nuffield Department of Population Health, University of Oxford, Manuela Pizzagalli – Chief Operating Officer di Fondazione Politecnico di Milano, già membro della task force nazionale sull’intelligenza artificiale – Agid, Aldo Bonomi – Fondatore e coordinatore di Consorzio AASTER e Piero Bassetti – Presidente di Fondazione Giannino Bassetti.

A seguire i video dell’incontro, che si è svolto su una piattaforma online; la sintesi a cura di Anna Pellizzone; i link agli episodi nel nostro podcast; le fotografie dell’evento.

Come ha spiegato Francesco Samorè, introducendo la serata, il libro di Mezza è un libro sul potere (e sul sapere), e in particolare su quella nuova forma di potere che ormai da diversi anni – e in misura sempre maggiore – spossessa i detentori di un potere legittimo della possibilità di usare i dati, consegnandoli alle scatole nere delle compagnie tecnologiche, che oggi hanno assunto dimensioni monopolistiche che non sono paragonabili a quelle di epoche precedenti. Il potere è orfano di potenza e noi siamo bulimici nei mezzi e atrofici nei fini. Che cosa significa rispondere in modo responsabile a questo cambio d’epoca? Di quali strumenti dobbiamo dotarci, in qualità di innovatori, di decisori, di cittadini?

La riflessione di Mezza parte dalla considerazione che oggi sono due le forme di potere che hanno un ruolo nel ridisegnare equilibri sociali e istituzionali: da una parte il virus e dall’altra il sistema di calcolo, perché, come scrisse il premio Nobel Ronald Ross, a partire dall’esperienza dell’influenza spagnola all’inizio del XIX secolo, le epidemie sono emergenze matematiche, più che sanitarie. Il virus può essere combattuto solo se riusciamo a desumere le tecnicalità matematiche in grado di individuarne una dinamica che corrisponde esattamente alla dinamica delle particelle. Nel libro presentato, il saggio di Andrea Cristanti – “ospite” di Mezza insieme a Enrica Amaturo e Roberta Pelachin, che scrive dell’ultima lezione di Giulio Giorello – evidenzia come oggi gli unici titolari di dati indispensabili per costruire una strategia predittiva per far fronte alla pandemia siano le piattaforme tecnologiche, che oggi “confiscano” queste risorse straordinarie (i dati dei cittadini di tutto il mondo), trasformandole in vere e proprie offerte geo-referenziate, accompagnate da prezziari in grado di dare informazioni sull’andamento della pandemia sui singoli territori. “Quello che sta accadendo – commenta Mezza – è che i centri di calcolo sono diventati degli “Iperstati”, in grado di fare previsioni e di indurre comportamenti, a partire dai consumi, ritagliandosi a maggior ragione un ruolo cruciale in un contesto di emergenza sanitaria.

Due sono secondo l’autore le strade che possiamo prendere per reagire a questa inedita concentrazione di potere: da un lato normare il potere di calcolo, come per esempio è avvenuto nelle settimane precedenti al momento in cui si scrive in Italia con l’istruttoria dell’Antitrust su Google; dall’altro, ed è questa che Mezza ritiene la via più efficace, dal momento che il potere delle piattaforme tecnologiche interferisce soprattutto sul piano psicologico, costituirci in comunità sociali in grado di rivendicare la trasparenza, la condivisibilità e la negoziabilità permanente di questi sistemi di calcolo.

Federica Lucivero, Senior Researcher in Ethics and Data, Ethox Centre and Wellcome Centre for Ethics and Humanities, Nuffield Department of Population Health, University of Oxford – già ospite di Fondazione Bassetti nel 2018 in occasione di un dialogo sulle difficoltà di governance connesse alle app per la salute, ha sottolineato come la pandemia ci stia costringendo a riesaminare comportamenti e strutture sociali che prima erano accettabili e date per scontate. Siamo di fronte a un evento che ci richiede di interrogarci su cosa è giusto e cosa è sbagliato e che quindi ci spinge a una riflessione etica, che riguarda tutti, non solo gli studiosi di filosofia o di etica. Lucivero ci dà un po’ di spunti a partire dal progetto Solidarietà e Pandemia, diretto dall’Università di Vienna, che comprende una serie di studi in parallelo che hanno raccolto dati di 9 Paesi europei, tra cui l’Italia, i cui lavori sono coordinati dalla ricercatrice dell’Università Oxford. I ricercatori hanno intervistato i partecipanti allo studio fin dai primi giorni della pandemia, nelle fasi iniziali dell’emergenza a marzo 2020, su situazioni molto pratiche, come per esempio, “prendo o no l’ascensore”, “mi avvicino alla collega per vedere con lei a schermo dei documenti di lavoro”, “come mi sento indossando la mascherina”. Spiega Lucivero: “in quella situazione ci siamo dati delle nuove regole per orientarci, rivisitando norme legate alla percezione del rischio e alla responsabilità verso gli altri, creando in questo modo delle nuove regole che funzionavano per noi in quel preciso momento. In queste decisioni c’è il parere degli esperti, il calcolo del rischio che viene interpretato e attualizzato in linea con la propria sensibilità e con i propri valori etici”. Come già hanno spiegato diversi studiosi in passato, l’etica è la parte emergente e visibile di un iceberg, quello che c’è sotto è una montagna di regole che accettiamo senza interrogarci.
“Alcuni degli eventi scatenati dall’innovazione tecnologica, oppure eventi dirompenti, come in questo caso la pandemia, mettono in discussione alcune di queste norme, che sono sommerse, e le portano a galla e, scoprendole, le rendono visibili”, spiega Lucivero. Questa perturbazione genera un’incertezza etica che si risolve in parte discutendo ciò che è giusto o sbagliato, e attraverso decisioni non prettamente etiche (Scarico la app di tracciamento? Metto la mascherina?).
Secondo la ricercatrice, la pandemia può essere un momento per riflettere e per rivisitare e rinegoziare alcune strutture e alcuni contratti sociali, come per esempio il ruolo delle grandi multinazionali che raccolgono, custodiscono e analizzano le grandi quantità di dati che produciamo nella nostra vita quotidiana. E in particolare quale ruolo queste multinazionali debbano avere nella gestione della pandemia.
Come dice Mezza nel suo libro, il potere computazionale deve essere di supporto alle decisioni politiche e sanitarie, che spettano alle istituzioni pubbliche. E questa rinegoziazione deve prevedere il coinvolgimento dei cittadini, in una democrazia che sia deliberativa più che diretta. Quindi la riflessione etica che si è aperta con la pandemia, parte da come salutare un amico, se scaricare o no la app Immuni, ma continua con domande su che ruolo devono avere le GAFA nelle scelte politiche, secondo quello che la ricercatrice identifica come un unico filo conduttore..

Un punto centrale nel libro di Mezza affrontato anche dalla riflessione di Lucivero è sulle app di tracciamento. Il fatto che alcune funzioni un tempo tipicamente nelle mani dello Stato siano state delegate implica la perdita di un’autorità e legittimità da parte dello Stato stesso. Da uno studio condotto dalla ricercatrice insieme ad altri colleghi sulla app di tracciamento utilizzata in Inghilterra è emerso che le principali posizioni che i cittadini hanno su tale app vanno oltre l’opposizione tra favorevoli/contrari e privacy/salute pubblica e sono classificabili in cinque categorie che hanno sfumature diverse. Tra queste, c’è quella degli scettici, che non credono nella realizzabilità e nell’efficacia dell’app, soprattutto per via di una scarsa fiducia nella capacità organizzativa delle istituzioni pubbliche di gestirla. Non si tratta di sfiducia solo nel governo, ma sull’affidabilità della struttura di governance, nella preparazione e nella digitalizzazione della società.

“Obbligatorietà e geolocalizzazione“, spiega Lucivero, “avrebbero reso l’app più forte e da parte delle istituzioni sarebbe stato un segnale importante del ruolo centrale che le autorità davano a questo mezzo, prendendosene la responsabilità, e avrebbe implicato anche l’onere di affrontare seriamente temi come il digital divide. Invece, lo Stato ha devoluto parte delle proprie responsabilità di protezione e sicurezza dei cittadini ai cittadini stessi, vantando di farlo per rispettare la libertà di scelta, ma in realtà abdicando ai propri doveri, concentrando i propri sforzi in una subdola campagna di responsabilizzazione dei cittadini“. E il discorso si potrebbe estendere alla geolocalizzazione e alla centralizzazione di dati in server pubblici, che avrebbe richiesto la necessità di sistemi e governance sicuri. Secondo la ricercatrice, è dunque vero, come dice Mezza nel suo libro, che lo Stato ha avuto ruolo secondario nella gestione dei dati della pandemia, ma è anche vero che questo è stato determinato da scelte compiute dallo Stato stesso. Fare un altro tipo di scelta avrebbe significato affrontare temi ancora più complesse forse della pandemia stessa, come la governance dei dati, la giustizia sociale, le pari opportunità, che richiedono un lavoro politico poderoso. Per concludere, dunque, la discussione sulle app di tracciamento è la punta di un iceberg: è un dibattito visibile che riguarda questioni molto più complesse sul presente e sul futuro della democrazie, questioni emerse nel contesto emergenziale, ma che hanno origine e strutture pre-esistenti e un forte impatto sul futuro.

Secondo Manuela Pizzagalli, Chief Operating Officer di Fondazione Politecnico di Milano, già membro della task force nazionale sull’intelligenza artificiale – Agid, il libro di Mezza ha un peso specifico molto alto. “Sono un ingegnere biomedico“, si racconta, “con una grande fiducia nella tecnologia. La tecnologia per me è di per sé neutrale, è un’opportunità per fare meglio, ma nella sua applicazione non lo è, ancora meno per chi si trova a decidere cosa sia giusto o sbagliato, quale sia il bene migliore o quale sia il male minore“. Nel caso della pandemia, la tecnologia che utilizza una grande mole di dati è un’opportunità per aiutarci a prendere decisioni utili, ma se mal gestita può contribuire allo sviluppo di una società che alimenta per esempio le diseguaglianze.
“Essere consapevoli di rischi“, spiega Pizzagalli, “ci può aiutare a minimizzarli“. Ed è proprio nella direzione di questa consapevolezza che Fondazione Politecnico lavora in una serie di progetti. Per esempio, “Nestore”, un progetto H2020 finanziato dalla Commissione Europea, che si concentra su un avatar per migliorare l’invecchiamento attivo. Una sorta di personal trainer, che consiglia l’anziano nei percorsi di training fisico e mentale, nell’alimentazione, nello stile di vita. Chiaramente, spiega Pizzagalli “il successo di questa tecnologia dipende dal livello di accessibilità, ma dalla trasparenza nell’uso dei dati“. Altra iniziativa citata dalla ricercatrice, che conferma l’importanza dei temi tracciati da Mezza nel suo libro, è il Libro bianco sull’intelligenza artificiale, curato dalla Task force sull’AI dell’Agenzia per l’Italia Digitale, di cui Pizzagalli ha fatto parte, che contiene una serie di raccomandazioni per un uso responsabile di questa tecnologia nella pubblica amministrazione, così da tracciare un perimetro condiviso all’interno del quale affrontare tutte le sfide che queste innovazioni pongono.
“Oltre al tema tecnologico e di infrastruttura tecnologica“, aggiunge Pizzagalli, “c’è un tassello importante della democrazia che è quello dell’educazione. Nel senso che è fondamentale consolidare e trasmettere ai cittadini una consapevolezza anche di tipo etico rispetto all’uso dei dati e delle tecnologie ad essi connesse. Per dare risposte, serve anche aggiornare il nostro sistema scolastico, favorire la formazione permanente e partire anche dai docenti, non solo dagli studenti“. Ed è proprio sull’educazione che si concentra il progetto “Scuola Impresa Famiglia”. E conclude: “il tema dell’educazione alla cittadinanza digitale è fondamentale nella negoziazione di cui parlava Mezza nella sua introduzione“.

Secondo Aldo Bonomi, Fondatore e coordinatore di Consorzio AASTER, il libro di Mezza è cruciale per capire i flussi e che ci indica un nuovo paradigma: che ci sono coloro che vengono contati e coloro che contano. Per Bonomi, questo nuovo flusso emerso con il Covid-19 impatta sui luoghi e li cambia antropologicamente, culturalmente, socialmente ed economicamente. Citando Ernesto De Martino, “non è la fine del mondo, ma certamente è la fine di un mondo“. È il salto d’epoca. Un’epoca in cui i luoghi necessitano di un controllo dal basso, dal territorio, dalle comunità.
Come evidenza lo studioso, il libro di Mezza sottotitola “Le Idi di marzo”, proponendo dunque la metafora storica dell’uccisione di Cesare, il tiranno, che corrisponderebbe al virus, che poi ha però prodotto l’impero di Augusto. Secondo Bonomi, quello che Mezza vuole dirci è: “non basterà sconfiggere il virus con il vaccino, perché siamo entrati nell’impero dei big data e dell’algoritmo. E nell’introduzione l’autore ci fa prendere paura con i suoi scenari“. E ancora: “La tesi del libro è chiara: siccome oggi le nostre tracce vengono catturate, allora bisogna costruire una capacità delle istituzioni di avere il controllo di questi dati“.
Ma dove lasciamo queste tracce? “Le lasciamo sul territorio, che gioca un ruolo fondamentale, per esempio in termini di reti di prossimità, di medicina territoriale, di modelli orizzontali, laddove i verticali hanno fallito anche rispetto alla cura. Abbiamo perso quegli input e quella capacità reticolare di avere una produzione di input territoriali”.
Bonomi sottolinea come in questi mesi di cambiamento repentino dell’organizzazione della società, per esempio del lavoro, sia emerso in modo evidente il ruolo delle comunità: “comunità di cura, comunità di rancore, comunità operose, comunità di destino esistenziale, che devono incorporare il processo di cambiamento”. Siamo di fronte a grandi temi, “certo servono le competenze, certo servono capacità di decodificare e mitigare i flussi, ma il vero problema deriva dal bisogno di filosofia e politica adeguate, perché, per capirci, citando il pensiero weberiano secondo cui la proprietà obbliga, oggi siamo nell’epoca in cui l’innovazione obbliga […] e c’è bisogno di civilizzare i grandi processi di cambiamento e lavorare affinché la società nel suo complesso prenda voce“. E conclude evidenziando due risposte che ritiene essenziali: lavorare alla ricostruzione di un intelletto collettivo sociale per produrre innovazione che obblighi alla civilizzazione e lavorare per distretti sociali evoluti (non economici), in cui la comunità riprenda voce, perché “siamo stufi di essere contati e vogliamo contare un po’ di più“.

Piero Bassetti parte dalla “sofferenza” di Mezza, che emerge chiaramente dal sottotitolo. “C’è una componente fortissima di dramma, non tanto legata alle norme, ma perché stiamo acquisendo consapevolezza che la svolta d’epoca è fonte di enormi sofferenze. Ma dobbiamo avere il coraggio etico di non aver paura, e di risalire a monte alla fonte del dramma“. Il presidente della nostra Fondazione sottolinea la ragione per cui questa pandemia sarà sicuramente descritta dagli storici in modo diverso dalle altre pandemie: “è la prima in cui noi non possiamo prendercela col padre eterno o col diavolo, ma dobbiamo applicare la nostra convinzione, che perché un potere sia potente, deve sapere. […] Noi non possiamo ignorare l’oltre, cioè quello che non sappiamo, perché siamo convinti che il virus lo si sconfigge sapendo e non solo potendo, come quando si rispondeva all’epidemia chiudendo le persone nel lazzaretto. Dobbiamo gestire l’epidemia alla luce di quello che a mano a mano sappiamo e sappiamo che la pandemia si esprime in numeri“, numeri che stanno cambiando radicalmente “natura e ruolo”.
Secondo Bassetti, infatti, se “una volta i numeri servivano per misurare la quantità, oggi i numeri – in quantità rilevanti e organizzati in algoritmi – non sono più strumento di conteggio, ma sono strumento di conoscenza della forma. Questa è la vera novità“. E questo diventa un dramma politico: come mail il potere lo diamo a chi aggrega numeri? “È successo che è cambiata l’ontologia del numero quando ne è cambiato l’ordine di grandezza della quantità: pochi numeri inventati dagli arabi servivano a contare le cose, ogg il big data non conta più soltanto, ma descrive. Ecco perché i congiurati alla Zuckerberg hanno preso il potere, non col pugnale, ma con la comprensione che la quantità ha fatto la qualità. Hanno capito che tanti numeri hanno un potere che il Presidente degli Stati Uniti non ha. È la prima volta che viene varcato il confine tra quantità e qualità”.
La sfida è come l’emergenza di un del potere nuovo ribalti l’organizzazione politica del mondo, sottraendo “l’oltre” al mistero. “Perché per noi fino a ieri l’oltre era il regno del mistero. Per i laici del non saputo e del non sapibile. Per i religiosi era il regno di dio. In questo senso abbiamo deificato Zuckerberg, siamo degli eretici. Ma dobbiamo averne consapevolezza. Dobbiamo imparare a capire che miliardi di dati creano un sapere“.

La mission di Fondazione Giannino Bassetti ben si ricollega al concetto citato dell’innovazione “che obbliga”, poiché nasce dall’idea di responsabilizzare l’innovazione. Ma se l’innovazione è la realizzazione dell’improbabile, come posso essere responsabilizzato di una cosa che non so? Bruto e Cassio non sapevano di preparare il terreno ad Augusto. Credevano, uccidendo il tiranno, di uccidere la tirannia. “Noi dobbiamo conoscere quello che c’è aldilà dallo specchio. Quando è stata inventata la computazione, nessuno ha pensato che ci sarebbe stata una soglia quantitativa che avrebbe creato problemi nuovi“.
Oggi il problema è sapere di più: “Cosa rimproveriamo al governo? Che si capisce che non sa un tubo di quello che gli servirebbe per governare. La politica deve spostarsi dal controllo della violenza legittima al controllo della sapienza legittima“.
Secondo Bassetti siamo di fronte a “una svolta d’epoca che ha similitudini solo nella scoperta dalla stampa”. L’uso dell’informazione è cambiato politicamente radicalmente da quando il numero è diventato infinito, il potere è cambiato radicalmente“. E aggiunge: “Dobbiamo avere il coraggio di porre intellettualmente a quel poco che c’è di intellettuale nella politica. Dobbiamo avere il coraggio di capire com’è che le forme espresse da una quantità elevatissima di numeri concettualizzano e consentono alla conoscenza di andare oltre. E lì ce n’è per tutti“.

In risposta agli stimoli raccolti nel corso della discussione, Mezza riprende il tema della “negoziabilità permanente dei sistemi computazionali“, citando alcune esperienze riconducibili proprio agli ultimi anni: “il sindaco di Londra a febbraio di quest’anno, pochi giorni prima dell’esplosione della pandemia, ha aperto un contenzioso durissimo con Uber chiedendo la condivisione dei dati, perché quella condivisione era di fatto il piano regolatore della città, e la stessa cosa è accaduta a Copenaghen nei confronti di Airbnb, ed entrambi hanno vinto la partita.” E conclude: “il tema è come si aprono dei varchi nel totalitarismo dei dati computazionali. Quanti morti ci vogliono per pretendere l’accesso non solo ai dati, ma ai sistemi che li organizzano e li catalogano? Quando una comunità civile dice basta?“. Secondo Mezza “una città come Milano, con il corredo di competenze e saperi che mette in rete e a fattor comune“, può aiutare a trovare una risposta.

—————————————————–