La coscienza non si può delegare (neanche al tempo dell’IA)
Che ne è della coscienza quando l’intelligenza artificiale può suggerirci che cosa scegliere?
Foto di Vicki Hamilton da Pixabay.
Che ne è della coscienza quando l’intelligenza artificiale può suggerirci che cosa scegliere?
L’enciclica di papa Leone XIV Magnifica humanitas descrive l’IA per «sottrazione»: questi sistemi non hanno coscienza morale, perché «non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze» (n. 99). Rovesciate, le tre negazioni disegnano tre atti propri della coscienza – giudicare, comprendere, rispondere –, e indicano ciò che nessuna delega le può sottrarre.
Giudicare: il discernimento non è un calcolo
Davanti all’ipotesi di «agenti morali artificiali», l’enciclica dichiara che «il giudizio morale non è riducibile a un calcolo» (n. 198): esso chiama in causa la coscienza, la responsabilità personale, il riconoscimento dell’altro come persona. Un algoritmo applica criteri a casi, la coscienza discerne una persona dentro una storia e una trama di relazioni.
Per questo l’enciclica teme decisioni affidate a sistemi che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona» (n. 102). Il ruolo della coscienza – nel discernimento e in una corretta ermeneutica della situazione – è essenziale per scegliere il bene possibile, come ricorda Amoris laetitia (cf. nn. 303-308); un bene che non è astratto, ma non è neanche appannaggio solo di alcuni, magari dei potenti che governano le IA.
La riflessione etica, con una corretta teologia della coscienza, può contribuire a evitare che i sistemi di IA propongano forme ancora più esacerbate di oggettivismo o di piena sostituzione della coscienza. Ci siamo congedati a fatica dai manuali casistici, sarebbe ironico vederli tornare, perfezionati, negli algoritmi.
Comprendere la situazione: il senso e il tempo
La coscienza non elabora dati, ma legge la situazione alla luce del suo significato ultimo, per comprendere l’azione dello Spirito che la abita. Questa comprensione, però, richiede tempo.
L’enciclica pone tra i criteri di discernimento proprio «il tempo del giudizio morale»: l’IA tende a comprimere i tempi decisionali, ma le decisioni irreversibili non possono sottostare ai criteri di rapidità ed efficienza (cf. n. 199).
Il discernimento ha una «lentezza» che non è inefficienza, ma è il tempo in cui la persona ascolta, soppesa, si lascia interpellare dal bene. Non a caso il documento, mentre ribadisce la dignità di ogni persona, parla di «rispetto dovuto al cammino della coscienza» (n. 51). Si tratta di un cammino, appunto, non di un’elaborazione istantanea.
Rispondere: il peso della decisione
L’intera vita morale è risposta alla chiamata ad amare (cf. Gaudium et spes, n. 16); una macchina, invece, non risponde a nessuno, e chi le affida le scelte rischia di smettere di rispondere a sua volta.
L’abitudine alle risposte pronte, che questi sistemi alimentano, indebolisce il giudizio personale (n. 100). Ad esempio, quando si affida a un algoritmo il potere di selezionare chi merita cure e chi no, «senza che nessuno si assuma più il peso della decisione», «l’ingiustizia si fa silenziosa» (n. 103).
Ciò che viene meno, osserva il papa, è la responsabilità politica. Di qui l’insistenza sull’accountability: deve restare possibile identificare chi deve «rendere conto» delle decisioni (n. 105). La delega a un sistema IA, infatti, non elimina la decisione, ma la rende anonima, e di una decisione senza volto nessuno risponde.
La tecnologia può aiutare a prevedere e organizzare, ma «senza esautorare la libertà e il giudizio dell’essere umano, soggetto delle relazioni e responsabile delle decisioni» (n. 114).
Il pericolo della manipolazione delle coscienze
L’enciclica mette in guardia anche da un livello più insidioso: la coscienza non rischia soltanto di essere sostituita, ma di essere orientata da altri, almeno in due forme. La prima è «il dominio delle coscienze» (n. 171), che agisce dall’esterno.
Chi può profilare e prevedere i comportamenti può anche indirizzarli: il controllo non passa da divieti espliciti, ma da ciò che viene reso visibile o invisibile, premiato o penalizzato, fino a generare conformismo e autocensura.
La seconda è la manipolazione, ovvero l’atto di «influenzare intenzionalmente ed efficacemente qualcuno, utilizzando metodi che minano la scelta».[1] Piattaforme progettate per catturare l’attenzione sfruttano le fragilità e trattano la persona «come mezzo e non come fine» (n. 170); chi dispone dei mezzi può convincere molti sul senso dell’uomo, del mondo e dell’esistenza, persino di Dio, ma si tratta di «puro potere privo di verità» (n. 133).
Oggi tale manipolazione non si presenta più nella forma della coercizione, ma al servizio della libertà della persona: non impone, suggerisce, non vieta, seleziona. Agisce prima del giudizio, su ciò con cui la coscienza giudica: informazioni, desideri, attenzione. Ci si può sentire liberi proprio mentre si sceglie dentro un perimetro tracciato da altri.
Custodire la coscienza
Il rischio vero non è che la macchina decida al posto nostro, ma che noi smettiamo di decidere. Eppure la Magnifica humanitas immagina sistemi capaci di contribuire a «un ecosistema morale in cui gli esseri umani siano meglio posti in grado di ascoltare la propria coscienza» (n. 198).
Ma «nessun sistema di calcolo» genera «una coscienza che discerne il bene» (n. 233): custodirla è il primo modo per custodire l’umano.
Giorgio Nacci è docente incaricato di Teologia morale fondamentale presso la Facoltà teologica pugliese (Bari).
[1] C.R. Sunstein, Manipolazione. Cos’è, perché è un problema e come difendersi, Raffaello Cortina, Milano 2026, 33.