Alessio Pecorario, New Tech expert presso la Santa Sede e moderatore della tavola rotonda dedicata all’Intelligenza sostenibile di giovedì 19 settembre, anticipa diversi dei temi che saranno trattati in un’intervista ricca di spunti e riflessioni. «Gli esperti ci dicono che, accelerando in maniera inedita la legge di Moore, l’IA raddoppia le sue performance ogni 4-6 mesi. Le aziende devono comprendere e adattarsi a questi cambiamenti per rimanere competitive e contribuire al progresso della società».
«La riscoperta sobria, ragionevole ma appassionata delle antiche tradizioni di pensiero e di fede che hanno anticipato non solo il mondo tecnocratico di oggi, ma anche quello positivista delle prime rivoluzioni scientifiche e industriali, può condurre l’umanità verso concetti più inclusivi di sicurezza, sviluppo e pace, oltre che a contribuire al dibattito sempre più urgente sulle strutture di regolamentazione globale del dominio digitale». Vola altissimo Alessio Pecorario, nel riflettere su come scienza e tecnologia a servizio dello sviluppo umano integrale. Lo fa citando Eco, Orwell, Huxley, Hegel e non solo. E lo fa a buon diritto: è il responsabile delle tematiche inerenti le nuove tecnologie presso il Dicastero Vaticano per il Servizio dello Sviluppo Umano Integrale, è stato Coordinatore della Task Force di Sicurezza internazionale presso la Commissione Vaticana per il COVID-19, e consigliere giuridico dell’Autorità di Informazione Finanziaria della Santa Sede, della Commissione Europea per la Democrazia attraverso il Diritto del Consiglio d’Europa e della Rappresentanza Permanente dell’Italia presso l’Organizzazione per la Cooperazione e la Sicurezza in Europa. Non solo: è esperto in cybersecurity e nuove tecnologie, e dottore di ricerca in diritto costituzionale comparato, con oltre 15 anni di esperienza presso la Santa Sede e le organizzazioni internazionali multilaterali. Ha operato in molteplici contesti internazionali, incluse diverse zone di guerra. E, giovedì 19 settembre, avrà il compito di moderare la tavola rotonda dedicata al tema dell’Intelligenza sostenibile, nella parte pubblica dell’Assemblea annuale di Confapi Padova. In questa intervista anticipa alcuni dei temi che saranno trattati.
Dal suo osservatorio privilegiato di New Tech expert presso la Santa Sede ha l’impressione che la direzione presa a livello europeo con l’adozione dell’AI Act sia quella più indicata? E ritiene che il dibattito pubblico sulla questione stia assumendo il rilievo che il tema merita?
«A monte della sua puntuale domanda, mi permetta una premessa che, nel caso dell’intelligenza artificiale (IA) non va data per scontata, ovverosia se convenga a meno regolare un settore industriale o il mercato in senso lato. Senza rimandare a categorie filosofico-politiche generalissime (liberismo, statalismo, etc.), vorrei premettere che, a mio parere, la regolamentazione è sempre una fase opportuna della vita sociale. E tuttavia, per gli imprenditori, gli sviluppatori, i tecnici e tutte le figure esposte sul versante produttivo che potrebbero percepire un intervento del Regolatore come un limite nello svolgimento delle dinamiche industriali, ritengo sia sempre più utile ragionare sugli incentivi che una governance adeguata può apportare. Mi permetta due esempi.
Anche prima dell’introduzione o dell’inasprimento delle varie normative antiriciclaggio a livello internazionale e nazionale (pensiamo, in Italia, alla cornice legislativa provveduta dal D Lgs 231/2007), non è che le banche non avessero contezza dei principi che regolavano una condotta lecita delle loro attività (trasparenza, obblighi di segnalazione, etc.) o persino una vera e propria conoscenza di illeciti economico-finanziari. Tuttavia, in assenza di una normativa generale e di un’associata ed equa attività di law enforcement, gli svantaggi competitivi che un operatore finanziario subiva rispetto a un concorrente sleale potevano generare un significativo costo d’impresa. La chiave, dunque, l’incentivo rispetto al mio punto di partenza, risiede nel fatto che la regolamentazione può tradurre la generalità dei principi in indicazioni pratiche e trasversali, generando uniformità nelle condizioni di partenza nella competizione aziendale. Un secondo esempio, molto importante anche nel caso dell’IA Act dell’Unione Europea che stiamo discutendo, lo troviamo nel campo della cybersecurity, anch’esso in grande fermento per ovvi motivi legati all’epocale trasformazione digitale in corso nel nostro tempo. Di nuovo, sia per gli Stati che a livello internazionale, si avverte una profonda esigenza di normare adeguatamente la materia: gli esperti calcolano che il costo globale della criminalità informatica raggiungerà i 10.5 trilioni di dollari entro il 2025. E, mentre una visione di breve periodo del profitto in economia potrebbe far pensare che la cybersecurity sia un costo secco per l’imprenditore, nel lungo periodo essa garantisce trasparenza ed uniformità ai mercati, forgia un’expertise sin qui pressoché sconosciuta, genera virtuose dinamiche pubblico-private e diviene essa stessa un proficuo mercato e fonte di ricchezza. Di nuovo, dunque, quali sono gli incentivi per l’impresa?
Venendo alla sua domanda, l’AI Act dell’Unione europea rappresenta uno dei primi provvedimenti normativi al mondo che mirano a tutelare i diritti della persona, imponendo un approccio umano-centrico a chi sviluppa o a chi utilizza sistemi di intelligenza artificiale. In particolare, l’AI Act si pone l’obiettivo di assicurare un’adeguata regolamentazione per quanto riguarda l’introduzione, la messa in funzione e l’impiego dei sistemi di IA mediante un approccio basato sul rischio, valutando il possibile impatto per la sicurezza e i diritti fondamentali delle persone. Anche nel panorama statunitense si trovano alcuni interventi di carattere normativo che si sono susseguiti nell’ultimo periodo. Tra questi, può senz’altro menzionarsi l’Executive Order del Presidente Biden “Safe, Secure and Trustworthy Development and Use of Artificiale Intelligence” del 30 ottobre 2023, che tra i propri principi ispiratori prevede quello per cui “Artificial Intelligence must be safe and secure”. Non mancano poi interventi a livello federale ancora in corso di discussione: tra tutti, l’Algorithmic Accountability Act, volto ad introdurre l’impact assessment di varie tecnologie digitali (inclusa l’intelligenza artificiale), per misurarne eventuali effetti negativi e porvi rimedio.
Dire che gli Stati Uniti sarebbero interessati ad innovare, laddove l’Europa unicamente a regolamentare, per molti è una semplificazione. Confesso di essere fra quelli. Pur conscio delle profonde differenze far i due sistemi e le due culture giuridiche delle due sponde dell’Atlantico, penso che i modelli proposti si muovano in un ambiente, come quello dell’IA, che è praticamente un sinonimo della globalizzazione, una tecnologia potente e velocissima che investe ogni paese ed ogni settore economico. Nessuno può ragionare isolatamente e, oltre ad una oggettiva convergenza dei modelli su diversi punti, vi sono già dei tentativi importanti di armonizzazione. Il 1° aprile 2024, ad esempio, gli Stati Uniti e il Regno Unito hanno firmato un memorandum of understanding sull’intelligenza artificiale che costituisce il primo accordo bilaterale al mondo relativo alla valutazione e allo studio dei rischi connessi all’intelligenza artificiale.
Ovvio poi che non esiste solo l’Occidente, siamo di fronte a preoccupazioni che riguardano tutta la comunità internazionale. Infatti, per venire alla seconda parte della sua domanda credo che no, non ci sia abbastanza consapevolezza di quanto l’IA stia incidendo, nel bene e nel male, nello sviluppo della nostra società e trovo straordinario l’impegno di Papa Francesco che quest’anno ha voluto dedicare proprio all’Intelligenza Artificiale il suo messaggio annuale per la pace dello scorso gennaio e, nel corso della sua storica partecipazione al G7 in giugno, ha poi definito questa tecnologia emergente “uno strumento affascinante e tremendo”. Il Pontefice, com’è tipico della natura della Chiesa e della diplomazia della Santa Sede, non a caso invoca un approccio inclusivo, aperto a tutte le voci della società, soprattutto di quelle escluse ai tavoli delle decisioni internazionali, i poveri, gli ultimi, gli emarginati perché ciò che avviene riguarda tutti. È lo stesso stile che abbiamo visto specialmente in questo Pontificato all’opera in materie come la tutela dell’ambiente, il disarmo o le migrazioni. In un’epoca dilaniata da crisi trasversali e profonde, c’è più che mai bisogno di voci profetiche, il Papa è instancabile nei suoi appelli e nella sua azione in favore dello sviluppo e della pace, questo è un motivo di concreta speranza per tutti noi».
L’incontro che la coinvolgerà nelle vesti di moderatore giovedì 19 settembre verterà sulle riflessioni sul nuovo paradigma industriale e su come scienza e tecnologia debbano andare a servizio dello sviluppo economico e sociale. Perché è un tema cruciale per le imprese?
«Il panorama industriale è in repentina e costante evoluzione, costruire un nuovo paradigma che sappia muoversi all’intersezione tra scienza, tecnologia e sviluppo economico è cruciale per le imprese. In particolare, con l’Intelligenza Artificiale (IA) che avanza a un ritmo senza precedenti e si espande in complessi domini scientifici significa che le aziende devono rimanere agili e aggiornare costantemente le proprie strategie e capacità per rimanere rilevanti. Gli esperti ci dicono che, accelerando in maniera inedita la legge di Moore, l’IA raddoppia le sue performance ogni 4-6 mesi. Le aziende devono, dunque, comprendere e adattarsi a questi cambiamenti per rimanere competitive e contribuire al progresso della società. Un nuovo paradigma industriale, guidato dall’intelligenza artificiale e dalla sua integrazione con le cosiddette “hard sciences”, ha implicazioni di vasta portata per le imprese di tutti i settori.
Dal punto di vista economico, ad esempio, l’ottimizzazione dei processi di produzione, la scoperta e la creazione di nuovi prodotti e servizi, così come ormai ogni fase del processo industriale guidata dall’IA può portare a notevoli risparmi sui costi, a nuovi flussi di entrate, alla creazione vera e propria di nuovi mercati. Ma sul piano sociale, le aziende devono considerare in che modo questi progressi avranno un impatto sull’occupazione, sui requisiti di competenze e sulle aspettative umane. Per le imprese, si avverte una crescente necessità di bilanciare il progresso tecnologico con la responsabilità sociale, assicurando che le loro innovazioni contribuiscano positivamente allo sviluppo economico e sociale.
Sommessamente, penso che nella costruzione di un nuovo paradigma industriale, sarebbe opportuno includere nei dibattiti anche quelle fonti di una sapienza antica ma sempre valida nella ricerca delle risposte alle questioni umane, sociali o naturali quali la filosofia e la teologia che, nel corso dei millenni e ad ogni angolo del mondo, hanno preceduto, accompagnato ed arricchito la riflessione scientifica e l’innovazione tecnologica. Nella prospettiva della cosiddetta Dottrina sociale cattolica, ad esempio, perché sia autentico, lo sviluppo umano è di tipo olistico e non limitato alla crescita economica. Papa Francesco lo spiega attraverso la nozione di ecologia integrale, vista come un paradigma in grado di articolare le relazioni fondamentali della persona con “Dio”, con “se stessi”, con “gli altri esseri umani” e con il “creato”. Detto sviluppo, inoltre, investe l’intera persona (non solo della sua dimensione materiale) e, attraverso il dialogo tra fede e ragione, è il cammino verso il bene dell’intera famiglia umana. Pertanto, nell’ambito della ricerca e nella ricerca del progresso dobbiamo affrontare tutte le dimensioni relazionali della persona, che oggi includono quella digitale.
Per tale via, i potenziali benefici di un approccio olistico ed etico alla scienza e alla tecnologia, verso cui le religioni e le filosofie sono naturalmente inclini, non si limitano alla speculazione teorica, ma possono investire le dinamiche politiche ed economico-sociali. Quanto detto è particolarmente opportuno in periodi di crescenti tensioni internazionali. Da parte sua, con il magistero di Papa Francesco, la Chiesa cattolica ha riaffermato i suoi principi sociali dottrinali (tra cui la promozione della giustizia sociale, la cura dell'ambiente, la difesa della dignità umana, etc.). Questa consapevolezza è più che mai cruciale, quando gli interessi finanziari dominano in modo trasparente la politica a vantaggio di pochi, a scapito del bene comune.
In modo ancora più specifico, la Chiesa arricchisce il dibattito internazionale promuovendo l’ambiente digitale, o cyberspazio – la somma di tutti i moderni progressi tecnologici e di quelli ancora da venire – come un bene comune che dobbiamo imparare a gestire in modo che serva all’umanità, piuttosto che a pochi potenti. Alla stregua di quanto avviene nel diretto internazionale per alcuni beni fisici (l’ambiente naturale, gli oceani, lo spazio extraatmosferico, etc.) o beni sociali e giuridici (come i patrimoni culturali), i beni digitali sono un tributo e una prova della creatività degli esseri umani e della nobiltà della loro vocazione a partecipare responsabilmente all’azione creativa di Dio».
Con lei sul palco dell’Assemblea un parterre di ospiti di assoluto rilievo internazionale. Uno è Mark Baciak, nella ristrettissima cerchia di persone che realmente conoscono l’IA generativa, i modelli fondativi dell’IA ed i dilemmi della cosiddetta singolarità tecnologica che, sino a qualche anno fa, sembrava essere confinato alla sola fantascienza. Che prospettive si spalancano per il prossimo futuro?
«Come dicevo nella risposta precedente, è assai significativo che oggi le religioni e le filosofie contribuiscano a un dibattito che, necessariamente, deve essere inclusivo ed aperto a tutti i saperi sociali. Io stesso, oltre che a conoscere per ovvie ragioni la dottrina sociale della Chiesa, approccio il tema delle nuove tecnologie da un punto di vista sostanzialmente giuridico e ovviamente attento alle ricadute sociali e diplomatiche che riguardano la nostra “era digitale”. E tuttavia, rimane evidente che i veri conoscitori delle tecnologie in senso stresso siano pochissimi, persino nelle maggiori corporations mondiali. Baciak è uno di questi, uno dei migliori al mondo, arricchirà enormemente il valore del vostro autorevole consesso. Parlando di strutture aziendali, aggiungo che, secondo un rapporto della società di ricerca Arize AI, il numero di aziende Fortune 500 che hanno citato l’IA come “rischio” ha raggiunto 281, il 56,2% del totale e un aumento del 473,5% rispetto all’anno precedente, quando solo 49 aziende avevano segnalato i rischi dell’IA. Se i rapporti annuali delle Fortune 500 chiariscono una cosa, è che l’impatto dell’Intelligenza Artificiale generativa si fa sentire in molti settori, anche in quelli che non hanno ancora abbracciato la tecnologia, afferma il rapporto. Come dicevamo, l’IA è in rapidissima, incessante variazione, la voce dei pochi grandi esperti globali è preziosissima, specie quando, come è il caso di specie, costoro hanno una più ampia attenzione alle dinamiche sociali. Da quanto so e come magari racconterà lui stesso, ad esempio, Baciak interverrà a diverse riunioni plenarie e parallele della prossima Assemblea Generale delle Nazioni Unite che, come noto, si riunisce ogni anno in una sessione ordinaria che comincia il terzo giovedì di settembre. Grande attenzione verterà sul tema dei rischi ma anche delle opportunità dell’IA per i cosiddetti Obiettivi di sviluppo sostenibile e in cui anche la voce società civile trova un ruolo di orientamento e deliberativo molto ampio».
A discutere con voi anche Mons. Renzo Pegoraro, Cancelliere della Pontificia Accademia per la Vita, con cui sarà interessante sviluppare il tema delle implicazioni etiche che comportano lo sviluppo dell’intelligenza artificiale e delle nuove tecnologie per il loro impatto sulla vita umana.
«Per evitare che la tecnica diventi un idolo è indispensabile dialogare e, soprattutto, lavorare con tutti coloro che sono coinvolti nello sviluppo e nella produzione dei prodotti della tecnica al fine di individuare quali principi etici seguire per tutelare ogni essere umano. Sotto questo profilo la Pontificia Accademia per la Vita (PAV), rappresentata nella vostra riunione annuale nella persona del Cancelliere don Renzo Pegoraro, offre una prospettiva preziosissima, unica da diversi punti di vista. Nel 2020 la PAV ha presentato la “Rome Call for AI Ethics”, un documento firmato da importanti aziende (Microsoft e Ibm), dai rappresentanti di diverse religioni e da decine di enti, università, istituzioni, nonché sostenuto da Papa Francesco in diverse occasioni, come da ultimo nel corso della sua straordinaria partecipazione al G7 in Puglia dello scorso giugno. Puntando a una nuova algoretica, i firmatari si sono impegnati a richiedere lo sviluppo di un’intelligenza artificiale che serva ogni persona e l’umanità nel suo insieme; che rispetti la dignità della persona umana, in modo che ogni individuo possa beneficiare dei progressi della tecnologia; e che non abbia come unico obiettivo un profitto maggiore o la sostituzione graduale delle persone sul posto di lavoro. La Rome Call for AI Ethics comprende 3 aree di impatto (etica, educazione e diritti) e 6 principi (trasparenza, inclusione, accountability, imparzialità, affidabilità e sicurezza & privacy). Per usare le parole del Santo Padre Francesco, “in un contesto plurale e globale, in cui si mostrano anche sensibilità diverse e gerarchie plurali nelle scale dei valori, sembrerebbe difficile trovare un’unica gerarchia di valori. Ma nell’analisi etica possiamo ricorrere anche ad altri tipi di strumenti: se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere”. Affrontare dunque la relazione “principi-valori” e la loro auspicabile traduzione in norme e comportamenti condivisi è dunque una parte che penso sarà molto stimolante affrontare il prossimo 19 settembre».
E quindi, fatto salvo tutto ciò… dove andremo a finire?
«Sono convinto che nessuno in buona fede su questa terra potrebbe avere una risposta a questa domanda.
Anche nel caso dell’IA, come per tutte le grandi invenzioni ed innovazioni che hanno prodotto un cambiamento radicale nella vita umana e nella nostra società, abbiamo analisi che formano le due schiere che Umberto Eco individuava nel campo della cultura di massa e dei mezzi di comunicazione di massa, “Apocalittici e Integrati”, dal titolo del suo famoso saggio del 1964. In questo caso, sul primo versante troviamo coloro temono che l’intelligenza generativa applicata alle macchine prenderà perfino il sopravvento sulla specie umana in uno “scenario Terminator” che, finora, restava confinato al campo della “techno fiction”. Dall’altro abbiamo chi, in una visione ingenuamente ottimistica direbbe Eco, magnifica acriticamente la portata di questa nuova Rivoluzione industriale.
Nella ricerca di un approccio orientato al reale, apprezzo molto la posizione di chi, come Luciano Floridi, per citare un nome autorevole, mette innanzi tutto il dubbio se l’IA sia effettivamente un’intelligenza o, piuttosto, una macchina solamente capace di “agere sine intelligere”. In tal senso, si fa notare, l’intelligenza umana è comprensione e si basa sulla logica e comprende l’empatia, la saggezza e così via, laddove l’IA è azione, per quanto potentissima, basata sulla statistica, sull’associazione di enormi quantità di dati, etc. Per l’illustre filosofo, esperto ed autore, confinare l’IA nel regno dell’azione non significa ridurre l’importanza che questa tecnologia ha e avrà per l’umanità, nel bene e nel male. Preoccupazioni legate al copyright, alla formazione e all’istruzione, alla guerra, all’occupazione, ovunque guardiamo il mondo è scosso dall’IA. Ma forse, ci dice Floridi, le aziende, la politica e i media dovrebbero astenersi dal presentare la relazione tra “comprensione” e “azione” nell’IA come un matrimonio, dove, al di fuori della scienza techno fiction, essa appare piuttosto come un divorzio e, come umanità, dovremmo piuttosto impiegare la nostra “vera” intelligenza nel capire come regolare il fenomeno che stiamo vivendo per metterne a frutto il potenziale sociale.
Non essendo la filosofia il mio campo, non posso far altro che rispettare analisi così profonde che, inevitabilmente, trascendono il mio sapere. E, tuttavia, parlando di filosofi, quando penso a sistemi come GPT, mi viene a mente una delle leggi fondamentali della dialettica hegeliana, secondo cui i cambiamenti puramente quantitativi possono risolversi a un certo punto in distinzioni qualitative. La potenza sconfinata di calcolo diventerà a un certo punto una vera e propria intelligenza? Associando ad esempio lo schema hegeliano ad ambiti sensibili, sarà magari interessante sottoporre alcune domande ai relatori che incontrerò il 19 settembre, come il potenziale dell’IA nell’assistere nella creazione di nuovi organismi attraverso tecniche di modificazione genetica avanzate. Siamo già in grado di generare cellule a partire da geni sintetici ottenendo materiale viventi, anche grazie a modelli “non intelligenti” come ChatGPT? Questo richiederà una riconsiderazione del modo in cui definiamo la vita stessa? Nello scenario della creazione di organismi guidata dall’IA, quale sarebbe la linea di divisione tra vita naturale e artificiale? Quali sarebbero i potenziali danni all’ecosistema terrestre? L’introduzione di nuovi organismi potrebbe sconvolgere le catene alimentari e gli ecosistemi esistenti in modi imprevedibili? Gli organismi progettati dall’IA potrebbero diventare invasivi, soppiantando le specie autoctone e causando la perdita di biodiversità? Esiste il potenziale per la creazione di nuovi patogeni che i sistemi immunitari naturali non sono in grado di gestire? In casi estremi, l’introduzione di organismi artificiali altamente efficienti potrebbe portare al collasso di interi ecosistemi? E così via…
Concludo citando una lettura che spesso richiamo in occasioni di conferenze pubbliche o nel dialogo con le persone. Confrontando “1984” di George Orwell e “Brave New Word” di Aldous Huxley, Neil Postman afferma: Orwell era spaventato da coloro che volevano vietare i libri, Huxley dice che non ci sarebbe stato più nessuno interessato a leggerli. Orwell ci metteva in guardia contro coloro che ci avrebbero privato delle informazioni, Huxley sosteneva, piuttosto, che ne avremmo avute talmente tante da ridurci alla passività e all’egoismo. Orwell sospettava che la verità ci venisse nascosta, Huxley che questa restasse annegata in un mare di irrilevanza. Orwell descriveva una società prigioniera, Huxley ne denunciava la trivialità. In breve, Orwell temeva le nostre paure, Huxley proclama invece che sarebbero stati i nostri desideri a condurci alla rovina. La realtà si sarebbe presto incaricata di dimostrare la veridicità delle previsioni di Huxley, e un’autentica valutazione del futuro persino della prosecuzione della nostra coesistenza sulla terra richiede una profonda riflessione sul potere che la tecnologia stessa ha dispiegato nel percorso sin qui rappresentato.
In un mondo tanto caotico, dove l’irrefrenabile progresso della tecnologia sembra scuotere o precludere qualsivoglia considerazione etica o morale, i sempiterni insegnamenti delle tradizioni religiose e filosofiche sono sempre più invocati da molti esponenti del mondo tecnologico, finanziario e politico, per riportare (addirittura) una sorta di ordine, o (quantomeno) una più profonda comprensione della gravità della trasformazione delle dinamiche della contemporaneità. Per quanto siamo tutti consapevoli delle numerose e potenti contraddizioni, delle ipocrisie e degli abusi che si sono verificati e che si verificano nell’inscindibile “dicotomia sacro-profano”, sul piano puramente ipotetico, le religioni e le filosofie hanno un vantaggio doppio rispetto agli Stati-nazione, sia in termini di tempo perché esistono da molto prima che questi costrutti moderni venissero istituiti, sia in termini di spazio siccome trascendono le frontiere nazionali e, per vocazione, guardano ai dilemmi socio-economici che tutta l’umanità deve affrontare.
La riscoperta sobria, ragionevole ma appassionata delle antiche tradizioni di pensiero e di fede che hanno anticipato non solo il mondo tecnocratico di oggi, ma anche quello positivista delle prime rivoluzioni scientifiche e industriali, può condurre l’umanità verso concetti più inclusivi di sicurezza, sviluppo e pace, oltre che a contribuire al dibattito sempre più urgente sulle strutture di regolamentazione globale del dominio digitale».
Diego Zilio
Ufficio Stampa Confapi Padova
stampa@confapi.padova.it
