Benanti: «Non possiamo permettere a macchine e robot di decidere le nostre vite»

Francescano professore di etica delle tecnologie ha coniato il termine algoretica. Una parola sempre più attuale, ne parla oggi con Daniele Francesconi a Forum Eventi 

È illuminante parlare con Paolo Benanti di nuove tecnologie, di algoritmi e di etica. O, meglio, di algoretica, un neologismo coniato dallo stesso francescano romano. Già, in realtà stiamo parlando di padre Paolo, un sacerdote francescano del terzo ordine regolare, un teologo che insegna alla Pontificia Università Gregoriana, l’istituto Teologico di Assisi e il Pontificio collegio Leoniano ad Anagni, che si occupa di anime, certo, ma anche di etica delle tecnologie. Padre Paolo ha una formazione scientifica e ha studiato bioetica a Washington alla Georgetown University. Recentemente papa Francesco lo ha voluto consultore del Pontificio consiglio per la Cultura. Ha molto da dire (e molto ha scritto) su temi come il rapporto tra l’uomo e la macchina, su come gli algoritmi incidono in profondità nella vita di ciascuno. Spesso senza che ce ne accorgiamo.

Padre Paolo, come mai un francescano si occupa di etica delle tecnologie?


«Ho studiato ingegneria, poi ho fatto un’altra scelta di vita, ma ho voluto recuperare il grande mondo della tecnologia attraverso l’etica, l’etica della tecnologia appunto. Del resto proprio un francescano, il maiorchino Raimondo Lullo nel ‘400, è il padre della logica da cui nasce l’informatica. E del resto appartiene ai frati vivere in dialogo con la piazza. I benedettini vivono nei conventi, i francescani nelle città, si interessano e vivono le questioni che le attraversano».

Quando si pensa alle scelte delle macchine vengono in mente fumetti o film di fantascienza in cui sono i robot a essere programmati per nuocere o meno all’uomo. Stiamo parlando di questo?

«In realtà no. Quello che succede con l’avvio dell’industrializzazione è che abbiamo sempre più processi automatizzati. Una volta c’era l’artigiano che realizzava un manufatto, poi l’operaio che rappresentava un pezzetto del processo, oggi ci sono macchine informatiche o robotiche che possono surrogare alcuni compiti dell’uomo. Questo vuol dire che un algoritmo decide cosa fa una macchina che magari fa una diagnosi medica a partire da una radiografia o decide se concedere o meno un prestito in banca. Ma cosa succede se l’algoritmo sbaglia, se ha dei pregiudizi? Da qui il nuovo termine che ho coniato di algoretica che non ha a che fare con i robot che uccidono l’uomo dei film di fantascienza, ma con la quotidianità. Ad esempio a come selezioniamo candidati per un posto di lavoro, in che maniera gestiamo i farmaci, come vengono attribuiti i codici Rt a una regione… Si tratta di rendere computabile una parte del discorso etico».

E questo è possibile? E in che modo?

«È parte di quello che stiamo cercando di fare. La giustizia di una torta da dividere in quattro parti è facile, quella di erogare un prestito è più difficile. Quando non si vogliono dare norme prescrittive, l’algoretica si preoccupa che i criteri di giudizio siano trasparenti e visibili. Non posso andare in banca per il famoso prestito e ricevere come risposta solo un sì o un no. Devo spiegare perché ti dico no e che ti direi di sì al cambiare di determinate caratteristiche (ad esempio, ti faccio un prestito se sul tuo conto corrente c’è una certa cifra depositata). Oppure posso verificare se c’è un errore nei dati (visto che ho questa cifra sul conto evidentemente la macchina ha sbagliato il calcolo). Oppure, infine, capisco il pregiudizio (non vengono erogati prestiti a chi abita in una certa zona della città). L’algoretica fa sì che una persona possa rendersi conto delle scelte fatte dall’algoritmo».

Chi si occupa di algoretica?

«Si tratta di una sisciplina molto molto recente, in questo momento se ne occupa chiunque mette le mani su questi algoritmi: l’eticista e il filosofo, l’ingegnere, il giurista, il politico. Si tratta di un tema multidiscplinare. Ad esempio, come dicevo, scegliere quale algoritmo analizza l’indice Rt delle regioni è una scelta politica».

Papa Francesco parla spesso degli scarti della società, che sono persone. Anche questo, a ben vedere, ha a che fare con l’algoretica.

«La macchina è un prolungamento del decidere umano, ogni volta che la programmiamo c’è una catena logica che risponde al criterio ‘se c’è questo fai quello’. L’algoritmo è il più fine ed efficace strumento per mettere in atto la logica dello scarto, o in alternativa per mettere in atto una vera giustizia sociale».

Quali sono le categorie di persone più interessate a questa disciplina? E come far capire a tutti che dovrebbero esserlo?

«Trovo tantissimo interesse negli universitari, nelle industrie e nei grandi manager che non vogliono creare apparecchi che creano ingiustizie, e poi un poco anche nel mondo della politica. Questo è il vero tema in cui si gioca la politica oggi. Pensate a fenomeni come l’ascesa di Trump, la Brexit…, hanno a che fare con gli algoritmi. E’ vero che è difficile coinvolgere la casalinga o il pensionato, ma quando le persone capiscono che anche la loro salute dipende sempre più anche da questo è più facile».

Si riferisce anche al recente caso delle ambulanze della California che portano in ospedale solo chi ha una certa speranza di vita?

«È così, chi decide questo è esattamente un algoritmo. Dobbiamo acquisire la presa di coscienza che la macchina non può decidere su un uomo. Torniamo ai robot nocivi per l’uomo del film: non si tratta di Terminator ma di una App…. E’ per questo che la macchina, ripeto, non può decidere sulla vita di un uomo».

Da ultimo, quanto incidono le fake news, la cattiva informazione, la bolla in cui ci troviamo quando accediamo ai nostri profili social?!

«Viviamo in un sistema che funziona sempre di più in questo modo, soprattutto quando accettiamo una linea di prodotto. Se accettiamo di essere solo il login e la password di un sistema, siamo tutti individui. La forza dei nostri territori, in particolare di quello emiliano, è che oltre a esserci l’io c’è anche un noi. Bisogna tornare a essere meno individui e più comunità». —

© RIPRODUZIONE RISERVATA