Intelligenza artificiale: perché ci spaventa come il canto delle sirene

Il mito del canto delle sirene accompagna l’umanità da migliaia di anni e recentemente è tornato al centro dell’attenzione grazie al kolossal The Odyssey di Christopher Nolan. Le sirene erano creature soprannaturali il cui canto irresistibile conduceva gli uomini alla rovina. Ancora oggi l’espressione “canto delle sirene” indica qualcosa che sappiamo essere pericoloso, ma a cui non riusciamo a resistere.

Ulisse si fece legare all’albero della nave e ordinò ai suoi compagni di tapparsi le orecchie con la cera. Eppure, appena udì il canto delle sirene, iniziò a urlare perché venisse liberato, implorando l’equipaggio di lasciarlo andare. L’uomo che aveva trascorso dieci anni a ingannare dèi e mostri non si fidava di sé stesso nemmeno per trenta secondi davanti a una tentazione che sapeva lo avrebbe distrutto.

Questa particolare forma di paura – il timore di ciò che potremmo fare se la tentazione fosse davvero davanti a noi – è molto più antica di Internet, dell’intelligenza artificiale e di qualsiasi tecnologia accusata di renderci più deboli. Era già al centro dell’Iliade e dell’Odissea e, nei secoli successivi, divenne uno dei principali temi della filosofia greca, in particolare dello stoicismo.

Secondo Fortune, è la stessa paura che oggi prova un numero crescente di persone ogni volta che apre un chatbot: il timore di non riuscire a resistere alla scorciatoia offerta dall’intelligenza artificiale. È anche una delle ragioni per cui molti diffidano dell’AI ancora prima di utilizzarla e guardano con sospetto ai data center che alimentano quella che viene definita la più grande rivoluzione economica degli ultimi decenni. In fondo, la paura è sempre la stessa: non essere abbastanza intelligenti o abbastanza forti da resistere quando una soluzione semplice – e potenzialmente dannosa – è a portata di mano.

Socrate provava lo stesso timore nei confronti della scrittura, gli amanuensi lo provarono con l’invenzione della stampa di Gutenberg e l’insegnante americano John Saxon lo manifestò negli anni Ottanta nei confronti della calcolatrice. L’intelligenza artificiale, però, concentra tutte queste paure su un livello ancora più profondo: non riguarda più soltanto scrivere, stampare o calcolare, ma il pensare stesso.
Visto da questa prospettiva, il successo miliardario di The Odyssey potrebbe non essere casuale.

La paura nascosta dietro l’AI

Chi utilizza di nascosto l’intelligenza artificiale sul lavoro e descrive questa pratica come una forma di “imbroglio” probabilmente non teme davvero di essere scoperto dal proprio capo. La domanda implicita è un’altra: se domani l’AI sparisse, sarei ancora bravo nel mio lavoro? Sarei ancora intelligente?

È ciò che viene comunemente definito sindrome dell’impostore: la paura costante di essere meno competenti di quanto gli altri credano. Con l’intelligenza artificiale, osserva Fortune, accanto a noi c’è ora uno strumento che sembra misurare continuamente le nostre capacità, evidenziando ogni errore che non siamo in grado di riconoscere.

Esiste poi una seconda paura, che riguarda il carattere più che le competenze. E se non avessi davvero autocontrollo? Se accettassi sempre la prima risposta fornita dal chatbot senza cercare di migliorarla? Se contribuissi anch’io a riempire Internet di contenuti mediocri generati dall’AI?

La psicologia definisce questo fenomeno cognitive offloading, ovvero la tendenza a delegare a strumenti esterni parte dello sforzo mentale necessario per svolgere un compito.

Gli esseri umani lo fanno da millenni. Socrate fu tra i primi a temere che la scrittura avrebbe ridotto l’impegno intellettuale delle persone. L’intelligenza artificiale generativa, però, compie un passo ulteriore: non alleggerisce soltanto memoria o calcolo, ma anche ragionamento, sintesi e creatività, proprio quei processi attraverso i quali si costruisce la vera competenza. Gli psicologi sociali Susan Fiske e Shelley Taylor hanno definito gli esseri umani “risparmiatori cognitivi”: tendiamo naturalmente a evitare lo sforzo mentale e a scegliere scorciatoie quando sono disponibili. Secondo Fortune, potrebbe essere proprio questo il vero nodo del dibattito sull’intelligenza artificiale.

L’AI rende i lavoratori meno preziosi?

Nella newsletter The AI Shift del Financial Times, il giornalista John Burn-Murdoch cita una ricerca degli economisti José Azar, Mireia Giné e Javier Sanz-Espín, secondo cui le professioni più esposte all’AI non stanno necessariamente perdendo posti di lavoro. L’occupazione, almeno nei dati ufficiali, resta stabile. A diminuire sono, invece, i salari rispetto alle professioni meno esposte e cresce il numero di lavoratori che rimangono bloccati nello stesso impiego senza cambiare azienda. In altre parole, osserva Burn-Murdoch, i lavoratori non vengono sostituiti dall’AI, ma rischiano di diventare progressivamente meno preziosi.

La vera linea di separazione non sarebbe quindi tra professioni diverse, ma tra chi esegue i compiti e chi è in grado di valutarli criticamente. Burn-Murdoch definisce questa qualità conscientiousness, cioè coscienziosità. Molti lavoratori, sottolinea, utilizzano l’intelligenza artificiale in segreto proprio perché la percepiscono come una forma di “imbroglio”. Secondo Fortune, però, dietro questo comportamento si nasconde qualcosa di ancora più antico: la paura di non riuscire a resistere al canto delle sirene.

Ogni tecnologia che riduce lo sforzo ha suscitato le stesse paure

Socrate, intorno al 370 a.C., sosteneva che la scrittura avrebbe “impiantato l’oblio” negli esseri umani, creando persone con l’apparenza della sapienza ma incapaci di pensare davvero.

Molti secoli dopo, con l’invenzione della stampa, il monaco benedettino Johannes Trithemius scrisse un trattato intitolato De Laude Scriptorum, sostenendo che i libri stampati non avrebbero mai potuto eguagliare quelli copiati a mano. Negli anni Settanta e Ottanta le stesse paure riemersero con la diffusione delle calcolatrici nelle scuole americane. Nel 1986 l’insegnante John Saxon guidò una protesta contro il loro utilizzo durante il congresso del National Council of Teachers of Mathematics. Ricerche successive mostrarono che un uso precoce e sistematico della calcolatrice poteva effettivamente ridurre la rapidità con cui gli studenti eseguivano i calcoli mentali. Eppure, conclude Fortune, grandi scrittori e grandi matematici impararono comunque a utilizzare queste tecnologie senza rinunciare alle proprie capacità.

I Greci avevano già una parola per tutto questo

I Greci dedicarono un’intera corrente filosofica al problema dell’autocontrollo. Lo chiamavano akrasia, letteralmente “mancanza di dominio su sé stessi”: scegliere deliberatamente la scorciatoia pur sapendo che non è la scelta migliore.

Aristotele distingueva diversi livelli. Al vertice c’era la sophrosyne, la temperanza: il desiderio è già orientato verso ciò che è giusto e quindi non esiste conflitto. Subito sotto l’enkrateia: la tentazione c’è, ma prevale la ragione. Poi l’akrasia, dove prevale il desiderio. Infine l’akolasia, in cui la ricerca della scorciatoia diventa un’abitudine così radicata da non essere più percepita come una tentazione. Per Aristotele nessuna di queste condizioni è permanente. Si cambia attraverso la ripetizione dei comportamenti.

Secondo Fortune, è la stessa differenza osservata negli studenti cinesi che utilizzavano l’intelligenza artificiale come tutor continuando comunque a esercitarsi e quelli che, invece, la sfruttavano semplicemente per evitare lo studio. I primi costruivano gradualmente la temperanza, i secondi scivolavano inconsapevolmente verso l’abitudine alla scorciatoia. Gli stoici portarono questo concetto ancora oltre, facendo del dominio di sé uno dei pilastri della buona vita.

Christopher Nolan, conclude Fortune, ha investito centinaia di milioni di dollari per raccontare proprio questo mito. Il pubblico gli ha dato ragione: The Odyssey ha superato il miliardo di dollari d’incasso mondiale, diventando il film di maggior successo della carriera del regista.

L’autore dell’articolo racconta infine di utilizzare personalmente l’intelligenza artificiale come strumento di ricerca e supporto alla scrittura, ma di considerarla soltanto un mezzo per approfondire le idee, non un sostituto del pensiero. Per lui, il vero timore che accomuna gli esseri umani oggi è lo stesso di Socrate e di Ulisse: la paura, profondamente nascosta, di non essere abbastanza intelligenti e di non avere abbastanza autocontrollo per resistere alla tentazione della scorciatoia.

Questo articolo è stato pubblicato originariamente su Fortune.com.