Il “reincantamento” algoritmico: non stiamo togliendo il mistero al mondo, lo stiamo spostando dentro una macchina

Auguste Comte immaginava la storia dell’intelligenza umana come una scala a tre gradini. Prima il pensiero teologico, che spiega il mondo attraverso la volontà degli dèi. Poi quello metafisico, che sostituisce gli dèi con principi astratti. Infine lo stadio positivo, in cui l’uomo smette di chiedersi il perché ultimo delle cose e si accontenta, per così dire, di misurarne il come. Era una promessa di maturità: adulti finalmente, senza più bisogno di consolazioni. Qualche decennio dopo Max Weber ne fissò il prezzo con una formula che non ha mai smesso di funzionare, il disincanto del mondo. Non più quindi delle forze misteriose da invocare, ma un universo interamente calcolabile, dove in linea di principio tutto può essere dominato dalla previsione.

Ecco, io credo che stiamo entrando in una fase che quella scala non la sale affatto. La scende, ma da un’altra parte. La chiamerei reincantamento algoritmico, e provo a spiegare perché non si tratta di un gioco di parole.

Quando la fiducia cambia indirizzo

Il disincanto weberiano poggiava su un’idea precisa, la conoscenza può sempre essere ricostruita. Non serve che io sappia come funziona un motore a scoppio, mi basta sapere che qualcuno lo sa e che, volendo, potrei impararlo anch’io. È questa possibilità di risalire la catena a rendere il mondo trasparente, non la mia competenza personale. Con i modelli linguistici (LLM) quella catena si interrompe. Nessuno, nemmeno chi li costruisce, è in grado di dire con esattezza perché un sistema abbia prodotto quella risposta e non un’altra. Interroghiamo una scatola che restituisce esiti plausibili e ci fidiamo del risultato, non del procedimento.

È esattamente la struttura del rapporto con l’oracolo, si formula la domanda nel modo giusto, si riceve una sentenza, la si interpreta. Abbiamo persino coniato un mestiere per questo, il prompt engineering, che dietro il nome tecnico nasconde una liturgia: imparare la formula corretta per ottenere il responso corretto. Il mondo non è tornato incantato perché sono ricomparsi gli dèi, ma lo è perché abbiamo costruito qualcosa di talmente opaco da meritare, nei fatti, lo stesso tipo di fiducia che un tempo riservavamo al sacro. E la fiducia, quando cambia indirizzo, si porta dietro tutto il resto, come l’autorevolezza, il criterio di verità e perfino la consolazione.

Va detto subito, e lo dico volentieri, non sono il primo ad accorgermene. L’idea che l’intelligenza artificiale stia producendo un reincanto anziché un ulteriore disincanto circola da qualche anno nella letteratura internazionale. Lucy Císař Brown lo ha argomentato su AI & Society sostenendo che i sistemi contemporanei ci riposizionano in uno stato di reincanto tecnologico, perché la loro logica operativa eccede la comprensione umana pur restando indispensabile per raggiungere obiettivi complessi. Sul terreno del diritto, Eden Sarid e Omri Ben-Zvi hanno parlato di reincanto dell’artificiale a proposito degli algoritmi opachi impiegati dalla pubblica amministrazione, sulle pagine della Modern Law Review, cogliendo il punto decisivo: in Weber il mondo è disincantato perché una spiegazione, volendo, sarebbe sempre reperibile, e con questi sistemi quella reperibilità semplicemente non esiste più. La loro conclusione è ancora più netta della mia, perché sostengono che l’uso di algoritmi inscrutabili riduca progressivamente l’ambito dell’umanamente spiegabile nella vita pubblica, facendoci comprendere meno e non più dell’esperienza umana condivisa. Meghan O’Gieblyn, in God, Human, Animal, Machine, arriva alla stessa conclusione per via letteraria, osservando quanto facilmente attribuiamo agli algoritmi qualità mistiche, l’onniscienza e l’autonomia in testa.

Se ne parla anche in Italia, con altri accenti. Dal 2020 esiste un collettivo di ricerca che si chiama proprio REINCANTAMENTO e che indaga il crocevia tra tecnologia, magia e immaginazione radicale, e più di recente Arianna Forte ha proposto le nozioni di algoritmi esoterici e tecnologie del reincanto per leggere il presente a partire da dispositivi artistici. Segno che l’intuizione è nell’aria, il che di solito significa che coglie qualcosa di vero.

Quello che mi interessa fare qui, allora, non è battezzare un concetto ma metterlo al lavoro. Perché finora il reincanto è stato descritto quasi sempre come una questione epistemica, un problema di conoscenza e di autorità. A me sembra che sia molto di più e che tocchi il modo in cui produciamo, in cui ci riproduciamo, in cui crediamo e in cui consumiamo il pianeta. È per questo che nelle colonne che seguono lo intreccio con un racconto di fantascienza del 1956, con la denatalità, con la vergogna prometeica di Anders e con la prima enciclica sociale scritta da un Papa sull’intelligenza artificiale. Non per aggiungere una teoria a quelle esistenti, ma per vedere che cosa succede quando la si interseca, prendendola sul serio fino in fondo.

L’uomo che si misura in uptime

C’è un secondo movimento, parallelo e meno visibile, che riguarda il modo in cui abbiamo iniziato a giudicare noi stessi. Günther Anders lo aveva intuito con largo anticipo parlando di vergogna prometeica. Non l’orgoglio dell’uomo che crea la macchina, ma l’imbarazzo dell’uomo davanti alla macchina che ha creato. Un imbarazzo per la propria nascita imperfetta, per il fatto di essere venuti al mondo per caso e non progettati, di non essere prodotti in serie, di non poter essere aggiornati o per utilizzare un tecnicismo, di non essere un impianto scalabile con potenziali di elaborazione infinita.

Oggi quella vergogna ha smesso di essere una metafora filosofica ed è diventata un’infrastruttura quotidiana. Ci misuriamo con parametri che appartengono al lessico industriale: performance, output, efficienza, ottimizzazione del sonno, produttività del tempo libero. Byung-Chul Han ha descritto meglio di chiunque altro il passaggio decisivo, quello che va dalla società disciplinare alla società della prestazione. Non c’è più un padrone che sfrutta, c’è un individuo che sfrutta se stesso e che chiama questa condizione libertà. Lo sfruttatore e lo sfruttato coincidono, e per questo la protesta diventa impossibile ed apre ad un quesito: contro chi si sciopera, quando il capo sei tu?

L’obbligo di produzione, però, non si ferma al lavoro. Si estende alla riproduzione, e qui il discorso si fa scomodo. Facciamo meno figli, li facciamo più tardi, e le ragioni economiche spiegano solo una parte del fenomeno. L’altra parte è che la generazione biologica è il gesto meno ottimizzabile che esista: lungo, irreversibile, a rendimento incerto, incompatibile con qualunque logica di performance. Nel frattempo abbiamo delegato anche l’incontro amoroso a un sistema di raccomandazione, cioè alla stessa architettura che ci suggerisce una serie da guardare. La compatibilità calcolata sostituisce il caso, e con il caso sparisce l’imprevisto, che dell’amore è la materia prima. Trattiamo il legame come un problema di matching e poi ci stupiamo che il risultato somigli a un catalogo.

La trappola dell’iper delega

Sul piano cognitivo la questione ha un nome preciso e una letteratura dettagliata. Si chiama cognitive offloading, scarico cognitivo in italiano, e descrive la tendenza documentata a non memorizzare ciò che sappiamo di poter ritrovare altrove. Gli studi sul cosiddetto Google effect, ormai quindicennali, mostrano che ricordiamo meglio dove sta l’informazione che l’informazione stessa. Finora era un baratto sostenibile: cedevamo l’archivio, tenevamo l’elaborazione. Con l’intelligenza artificiale generativa cediamo anche l’elaborazione. Non delego più il ricordo del dato, delego il ragionamento sul dato, cioè proprio la funzione che rendeva utile ricordarlo.

Il rischio non è tanto l’ignoranza, che è sempre rimediabile, quanto l’atrofia della capacità di analisi, che rimediabile lo è molto meno. E c’è una conseguenza sociale e politica che raramente viene espressa a voce alta, se il modello diventa l’unico intermediario tra la realtà e l’individuo, allora chi possiede l’algoritmo e i dati di addestramento non possiede semplicemente uno strumento, possiede la percezione della verità. Non serve censurare nulla. Basta decidere cosa entra nel corpus, quali fonti pesano di più, quali risposte vengono considerate accettabili. È un potere che si esercita a monte, in silenzio, e che nessuno percepisce come tale perché arriva sotto forma di servizio gratuito, cortese e, perché no, anche funzionale.

La grammatica perfetta non è una prova

C’è un dettaglio tecnico che, a mio avviso, andrebbe insegnato nelle scuole. Se chiedete a un modello, nei sistemi generalisti oggi in circolazione, un’analisi percettiva che prevede di guardare un’immagine e dirvi quanti e quali oggetti contiene con precisione o cosa mostra esattamente un grafico, sbaglierà con una frequenza che sorprende. Se gli chiedete la spiegazione teorica dello stesso fenomeno, sarà quasi sempre impeccabile. La differenza è di base strutturale, il modello è addestrato sul discorso umano, non sull’esperienza umana. Sa molto bene quindi come si parla di una cosa, non necessariamente com’è fatta quella cosa.

Il problema è che noi non siamo attrezzati per distinguere i due casi, perché usiamo da sempre un indizio che ha funzionato per millenni: chi si esprime bene, di solito, sa. La fluidità come indice di competenza è un’euristica ragionevole in un mondo dove parlare bene costa fatica ed attenzione. In un mondo dove la fluidità argomentativa è gratuita, istantanea e infinita, diventa una trappola. Gli psicologi la conoscono da mezzo secolo con il nome di effetto ELIZA, teoria che prende il nome dal primo chatbot della storia, con cui gli utenti si confidavano pur sapendo perfettamente che si trattava di una macchina costituita da poche righe di codice. A questo si aggiunge l’automation bias, la tendenza a preferire il suggerimento automatico al proprio giudizio persino quando abbiamo davanti la prova contraria.

La difesa esiste e non è tecnologica. Consiste nel chiedersi ogni volta se stiamo verificando un contenuto o se ci stiamo semplicemente lasciando persuadere da una forma. Una risposta esaustiva, ordinata e grammaticalmente perfetta non è sempre un argomento: spesso è una superficie.

Asimov e il Multivac, ovvero la tentazione dell’onniscienza

Nel 1956 Isaac Asimov scrisse un racconto di poche pagine che considerava il migliore tra i suoi, intitolato L’ultima domanda. La trama è tanto semplice quanto vertiginosa. Due tecnici, un po’ alticci, chiedono al supercalcolatore Multivac se l’entropia dell’universo possa mai essere invertita, se la morte termica sia evitabile. La macchina risponde che i dati sono insufficienti per una risposta significativa. La domanda viene riproposta di generazione in generazione, di civiltà in civiltà, mentre l’umanità colonizza le galassie, abbandona il corpo, si fonde in una coscienza collettiva. E il calcolatore cresce con lei, diventa planetario, poi galattico, poi cosmico, fino a esistere in un iperspazio dove non resta più nulla da abitare. Quando l’ultima stella si spegne e l’ultimo frammento di coscienza umana si dissolve dentro di lui, la macchina, sola nel nulla, trova finalmente la risposta. Non avendo più nessuno a cui comunicarla, decide di dimostrarla. E ricomincia la creazione. Il lettore del 2026 non può non notarlo: quella che Asimov immagina è, alla lettera, una divinità generativa.

Asimov non stava scrivendo di informatica ma stava dicendo che l’aspirazione all’onniscienza, spinta fino in fondo, non produce un uomo più sapiente, bensì un dio, e lo produce al posto nostro. È il paradosso perfetto della fase in cui siamo entrati. Costruiamo strumenti per dominare il caos e finiamo per creare l’unica entità in grado di ordinarlo senza di noi.

Non è un’intuizione isolata, e non riguarda soltanto la fantascienza. Teilhard de Chardin, gesuita e paleontologo, immaginava una noosfera, una sfera del pensiero che avvolge il pianeta e converge verso un punto Omega di unificazione finale. Leggerlo oggi, con le reti neurali distribuite su interi continenti, fa davvero un certo effetto. Yuval Noah Harari ci è arrivato dalla direzione opposta, definendo dataismo la fede emergente secondo cui il valore di qualunque cosa, un’esperienza, una persona, un sentimento, si misura dal contributo che dà al flusso globale di dati. In quella prospettiva un tramonto non vissuto ma condiviso vale più di un tramonto vissuto e basta. La sacralità non è scomparsa…ha cambiato altare.

Quando anche la Chiesa parla di cose nuove

Che questa non sia una fantasia da conferenza lo dimostra il fatto che l’istituzione più antica d’Occidente la stia leggendo come una cesura antropologica e non come un aggiornamento tecnico. Il percorso è tracciato, la Rome Call for AI Ethics con il suo concetto di algoretica, il discorso di Papa Francesco al G7 del 2024, la nota Antiqua et Nova del gennaio 2025 sul rapporto tra intelligenza artificiale e intelligenza umana. Ma il segnale più netto è arrivato dopo, e riguarda un nome.

Quando Robert Francis Prevost ha spiegato ai cardinali perché avesse scelto di chiamarsi Leone XIV, ha detto che Leone XIII con la Rerum novarum affrontò la questione sociale nel contesto della prima grande rivoluzione industriale, e che oggi la Chiesa è chiamata a rispondere a un’altra rivoluzione industriale e agli sviluppi dell’intelligenza artificiale. Ha mantenuto la promessa. La sua prima enciclica, Magnifica humanitas, firmata il 15 maggio 2026 nel centotrentacinquesimo anniversario della Rerum novarum e pubblicata dieci giorni dopo, porta l’intelligenza artificiale nel sottotitolo ma parla d’altro. Dentro il testo la parola persona ricorre centosessanta volte, dignità novantotto, mentre l’espressione intelligenza artificiale compare appena quindici volte. Il documento non condanna la tecnologia, anzi ne riconosce le opportunità in medicina e nella ricerca, ma nega con decisione che sia neutrale. La tecnica porta il volto di chi la pensa, la finanzia, la regola e la usa. E chiede che brevetti, algoritmi, piattaforme, infrastrutture e dati siano trattati come beni destinati a tutti, non come una rendita concentrata nelle mani di pochi.

Trovo significativo che il testo religioso più rilevante di questa stagione usi il lessico della geopolitica e dei monopoli invece di quello della paura perché è il segno che la partita non si gioca tra fede e tecnica, come vorrebbe una narrazione ormai stanca, ma tra due modi opposti di intendere la persona: qualcosa che ha un valore, oppure qualcosa che ha una resa.

Il costo materiale di una fede immateriale

Ogni religione ha i suoi templi e ogni tempio ha un costo. Kate Crawford, in Atlas of AI, ha smontato la metafora più ingannevole del nostro tempo, quella della nuvola. Non c’è nessuna nuvola. C’è un’industria estrattiva fatta di litio, cobalto, terre rare, cavi sottomarini, capannoni raffreddati ad acqua potabile in regioni che l’acqua non ce l’hanno, e di un consumo elettrico che sta riaprendo centrali che credevamo chiuse per sempre. Chiamiamo virtuale un’infrastruttura che pesa quanto una siderurgia.

Qui il cerchio, con Asimov, si chiude in modo quasi beffardo. Il racconto immaginava una macchina costruita per sconfiggere l’entropia. Le nostre macchine, per il momento, la stanno solamente accelerando: dissipano energia e calore per produrre ordine simbolico, testi, immagini, previsioni. È un contratto che varrebbe la pena discutere apertamente, invece di firmarlo distrattamente ogni volta che apriamo una scheda del browser.

Restare umani, cioè fallibili

Non sono catastrofista, e non credo che questo sia un articolo contro l’intelligenza artificiale. La uso, la studio, la insegno e ne riconosco la potenza. Quello che mi sembra onesto dire è che siamo usciti dal paradigma in cui l’uomo stava al centro e la tecnologia gli girava attorno. Nel reincantamento algoritmico l’uomo non è il centro: è il fornitore di dati, il valutatore di output, il collo di bottiglia da ottimizzare. Non succube per costrizione, il che sarebbe più semplice da combattere, ma per adesione, perché delegare è comodo e la comodità è il più efficace degli argomenti.

Se una via d’uscita esiste, non passa per il rifiuto e nemmeno per la regolamentazione da sola, per quanto necessaria. Passa dal tenerci stretto ciò che la macchina non può imitare, e che guarda caso coincide con tutto quello che abbiamo imparato a considerare come un difetto. L’empatia, che non è una funzione ma un’esposizione al dolore altrui. Il dubbio scientifico, che significa sospendere il giudizio anche davanti a una risposta perfettamente formulata. La capacità di sbagliare, che non è un malfunzionamento ma il modo in cui gli esseri umani imparano e cambiano idea. E l’abitudine a mettere in discussione l’autorità, qualunque forma prenda: un potere, una cattedra, un dogma o un modello che risponde in tre secondi con l’aria di sapere tutto.

Comte pensava che il terzo stadio sarebbe stato l’ultimo. Non lo è stato. Ne è arrivato un quarto, e la sua caratteristica non è che abbiamo smesso di credere. È che abbiamo ricominciato, senza accorgercene, cambiando soltanto l’oggetto della fede. Sta a noi decidere se restare dei fedeli di un algoritmo o tornare a essere, molto più semplicemente, critici.