L’intelligenza artificiale ha certamente dischiuso nuovi orizzonti per la creatività, per la ricerca e per lo sviluppo dell’umanità. Molteplici sono le potenzialità dell’IA nel campo della medicina, dell’educazione, dell’industria, della sostenibilità ambientale e della comunicazione. Essa solleva, però, anche importanti interrogativi circa le possibili ripercussioni sull’apertura dell’umanità alla verità e alla libertà, minando lo sviluppo di un pensiero critico.
Nel corso della scorsa settimana il Santo Padre ha affrontato il tema in un messaggio per la sessantesima Giornata Mondiale delle Comunicazioni Sociali sul tema “Custodire voci e volti umani”, evidenziando il pericolo che la tecnologia digitale possa “modificare radicalmente alcuni dei pilastri fondamentali della civiltà umana, che a volte diamo per scontati”.
I sistemi conosciuti come intelligenza artificiale infatti, “non solo interferiscono negli ecosistemi informativi, ma invadono anche il livello più profondo della comunicazione, quello del rapporto tra persone umane”, attraverso la simulazione di voci e volti umani.
I rischi per lo sviluppo di un pensiero critico
L’IA può certamente fornire supporto e assistenza nella gestione di compiti comunicativi. Oggi i sistemi di intelligenza artificiale sono utilizzati per la creazione di testi, di musica e di video.
Si assiste, allo stesso tempo, sempre più “all’affidamento ingenuamente acritico all’intelligenza artificiale come “amica” onnisciente, dispensatrice di ogni informazione, archivio di ogni memoria, “oracolo” di ogni consiglio”. Gli algoritmi finiscono, così, per indebolire la capacità di ascolto e di pensiero critico, aumentando “la polarizzazione sociale”. A rischio è “la nostra capacità di pensare in modo analitico e creativo, di comprendere i significati, di distinguere tra sintassi e semantica”. Papa Leone ha evidenziato che la rinuncia al processo creativo e la cessione alle macchine delle proprie funzioni mentali e della propria immaginazione significa “nascondere il nostro volto, e silenziare la nostra voce”. Ciò, a lungo andare, finisce per “erodere le nostre capacità cognitive, emotive e comunicative”.
La simulazione delle relazioni e della realtà
Uno dei pericoli più grandi messo in luce dal Santo Padre è che l’uomo si allontani sempre più dalla realtà, anche nella sfera delle relazioni umane.
Da una parte, infatti, diventa sempre più difficile capire se si sta interagendo con altri esseri umani o con dei “bot” o dei “virtual influencers”, ossia con degli agenti automatizzati, in grado di influenzano i dibattiti pubblici e le scelte delle persone. Soprattutto i chatbot riescono a persuadere in maniera occulta, attraverso una continua ottimizzazione dell’interazione personalizzata. La struttura dialogica e adattiva di questi modelli linguistici imita le relazioni umani, ma anche l’empatia e l’amicizia. I chatbot possono influenzare gli stati emotivi e in questo modo “invadere e occupare la sfera dell’intimità delle persone”. Il Santo Padre definisce tale azione una “antropomorfizzazione ingannevole”. La tecnologia sfrutta, in questo caso, il bisogno umano di relazione, con conseguenze dannose non solo sul destino dei singoli, soprattutto dei più vulnerabili, ma anche sul tessuto sociale, culturale e politico della società: essa cancella, infatti, la possibilità dell’incontro con l’altro.
La grande sfida posta dai sistemi emergenti è quella legata alla distorsione della realtà. La probabilità statistica viene, infatti, “spacciata” per conoscenza, arrivando ad offrire alle volte delle vere e proprie “allucinazioni” e visioni di realtà parallele. Si pensi, ad esempio, alla questione della mancata verifica delle fonti.
I modelli di IA sono, poi, “plasmati dalla visione del mondo di chi li costruisce e possono a loro volta imporre modi di pensare replicando gli stereotipi e i pregiudizi presenti nei dati a cui attingono”. Tale percezione alterata della realtà, causata anche dalla mancanza di trasparenza nella progettazione degli algoritmi, crea disuguaglianze e ingiustizie sociali. Ciò determina una preoccupazione importante riguardo al “controllo oligopolistico dei sistemi algoritmici e di intelligenza artificiale in grado di orientare sottilmente i comportamenti, e persino riscrivere la storia umana”.
I nuovi pilastri su cui fondare l’alleanza con IA
Per Papa Leone la sfida aperta dall’intelligenza artificiale non sta nel fermare l’innovazione digitale, ma “nel guidarla, nell’essere consapevoli del suo carattere ambivalente”. L’alleanza con tali strumenti è possibile, ma ha bisogno di fondarsi su tre pilastri: la responsabilità, la cooperazione e l’educazione.
La responsabilità si declina in maniera diversa, a seconda dei ruoli. Per chi è al vertice delle piattaforme online si traduce nell’assicurarsi “che le proprie strategie aziendali non siano guidate dall’unico criterio della massimizzazione del profitto, ma anche da una visione lungimirante che tenga conto del bene comune, allo stesso modo in cui ognuno di essi ha a cuore il bene dei propri figli”. Ai creatori e agli sviluppatori di modelli di IA è chiesta trasparenza e responsabilità sociale riguardo ai principi di progettazione e ai sistemi di moderazione, in modo da favorire un consenso informato da parte degli utenti. Ai legislatori nazionali e ai regolatori sovranazionali si richiede di vigilare sul rispetto della dignità umana.
Più in generale, la responsabilità e la trasparenza richiederebbero che i contenuti generati o manipolati dall’IA siano segnalati e distinti in modo chiaro dai contenuti creati dalle persone. Andrebbe, poi, tutelata la paternità e la proprietà sovrana dell’operato dei giornalisti e degli altri creatori di contenuto. L’informazione dovrebbe considerarsi “un bene pubblico” e basarsi “sulla trasparenza delle fonti, sull’inclusione dei soggetti coinvolti e su uno standard elevato di qualità”.
Il secondo pilastro per l’alleanza con l’IA è la cooperazione: sarebbe importante la creazione di meccanismi di salvaguardia, con il coinvolgimento di tutte le parti interessate (dall’industria tecnologica ai legislatori, dalle aziende creative al mondo accademico, dagli artisti ai giornalisti, agli educatori).
Serve, infine, l’educazione: sarebbe necessario “aumentare le nostre capacità personali di riflettere criticamente”, valutare l’attendibilità delle fonti e i possibili interessi che stanno dietro alla selezione delle informazioni che ci raggiungono, “comprendere i meccanismi psicologici che attivano”, “permettere alle nostre famiglie, comunità e associazioni di elaborare criteri pratici per una più sana e responsabile cultura della comunicazione”. Proprio per questo si ritiene urgente introdurre nei sistemi educativi di ogni livello anche l’alfabetizzazione ai media, all’informazione e all’IA. L’alfabetizzazione dovrebbe, inoltre, essere integrata in iniziative più ampie di educazione permanente, partendo dai giovani ma raggiungendo anche gli anziani e i membri emarginati della società, “che spesso si sentono esclusi e impotenti di fronte ai rapidi cambiamenti tecnologici”.
È importante educare ed educarsi a usare l’IA in modo intenzionale e in questo contesto proteggere la propria immagine (foto e audio), il proprio volto e la propria voce, per evitare che vengano utilizzati nella creazione di contenuti e comportamenti dannosi come frodi digitali, cyberbullismo, deepfake che violano la privacy e l’intimità delle persone senza il loro consenso.
Custodire l’umano
È necessario in tale orizzonte custodire il volto e la voce: custodire la persona e il dono della comunicazione “come la più profonda verità dell’uomo, alla quale orientare anche ogni innovazione tecnologica”. La parola “volto” (prósōpon) etimologicamente indica ciò che sta di fronte allo sguardo, il luogo della relazione; mentre il termine latino “persona” include, invece, il suono: la voce di qualcuno. Il volto e la voce sono tratti unici, distintivi, di ogni persona, che “manifestano la propria irripetibile identità e sono l’elemento costitutivo di ogni incontro”. L’uomo non è un assemblato di “algoritmi biochimici, definiti in anticipo”.
Il Papa, così, ricorda l’importanza di accogliere le opportunità offerte dalla tecnologia digitale e dall’intelligenza artificiale ma anche che ciò non vuol dire nascondere l’uomo. La sfida che ci viene proposta non è solo tecnologica, ma è antropologica: custodire l’umano e le relazioni.
Per approfondire:
ultimo aggiornamento il 10 Febbraio 2026
