“I magnati della tecnologia rappresentano una minaccia molto seria”

César Antonio Molina (A Coruña, 1952) ama dire che la scienza è nata dalla finzione letteraria. Per secoli – racconta a El Cultural – ha utilizzato le sue espressioni linguistiche e metaforiche. La letteratura fungeva da scudo protettivo contro i poteri statali e religiosi, che non la consideravano mai con molto affetto. Anche per molti secoli, attraverso le utopie o i racconti di fantascienza, la letteratura è stata in anticipo su ciò che, nel bene o nel male, si sarebbe ottenuto con il suo sviluppo. Questo percorso parallelo durò fino alla metà del XIX secolo, epoca in cui possiamo dire che la scienza stava acquisendo una sua indipendenza e trasformandosi in un soggetto quasi del tutto autonomo e dotato di un proprio linguaggio.

Dopo Quanto è bello vivere senza cultura! l’ex ministro e autore di opere come Dove l’eternità invecchia E La caccia agli intellettuali (tutti in Destino) fa un ulteriore passo avanti nell’analisi di lalla realtà digitale -e la situazione in cui ci pongono tecnologie come l’intelligenza artificiale Cosa facciamo con gli esseri umani? (Deusto), un titolo illuminante che affronta un bivio trascendentale dei nostri giorni: “Perché robot, intelligenza artificiale e algoritmi rappresentano una minaccia alla sopravvivenza degli esseri umani”.

Chiedere. Perché uno scrittore di letteratura come te si è trovato di fronte a questa sfida di studiare aspetti della scienza e delle nuove tecnologie? Che compatibilità vedi tra i due mondi?

Risposta. Italo Calvino, uno dei più grandi scrittori del XX secolo, arrivò ad affermare che Galileo Galilei non fu solo uno dei migliori scrittori italiani, ma anche universale, poiché spacciava la realtà per finzione. Francesco Bacone, tra La nuova Atlantide, Ha scritto uno dei grandi romanzi-racconti utopici. Ha raccontato la presunta storia di Besalém, lo Stato insulare destinato al fallimento perché le buone intenzioni non bastano. Cartesio, anche lui buon scrittore, fu uno dei precursori del moderno gergo scientifico. Dico un gergo senza cattive intenzioni. E il filosofo napoletano Giambattista Vico difese sempre la compatibilità tra scienze e discipline umanistiche.

E già, poeti e narratori contemporanei come i nostri Galdós o Pío Baroja e stranieri come Eliot, Yeats, Orwell e un lungo eccetera, hanno dedicato molte pagine delle loro opere a riflettere sulla compatibilità di entrambi i soggetti. A me succede la stessa cosa, risparmiando la distanza, ed è per questo che ho scritto questo libro, che, fondamentalmente, tratta di rischio esistenziale in cui stiamo vivendo. Alcuni ricercatori parlano addirittura di “genocidio esistenziale”. Perché come scriveva già Adorno, non può esistere l’idea di progresso senza quella di umanità (in Dialettica dell’Illuminismo). Ed Einstein ci metteva in guardia sottolineando che la perversione della scienza è un peccato contro lo spirito.

Q. Pensi che l’essere umano sia in pericolo visto il rilievo che sta acquisendo l’intelligenza artificiale?

R. Completamente. Mark Zuckerberg, fondatore di Facebook, fece una terribile dichiarazione nel 2010. La privacy, per lui, aveva cessato di esistere una norma sociale, un diritto. La privacy è sempre stata sinonimo di libertà. Metteva quindi in discussione questo diritto inalienabile dell’individuo. E così è. Siamo osservati ovunque. Zuckerberg, come i fascisti, i nazisti, i maoisti e i sovietici, difendeva un nuovo totalitarismo, in questo caso tecnologico. Stava mostrando una sorta di diritto di proprietà su ciascun individuo.

Elon Musk ne ha sempre parlato capitalismo umano è morto e siamo già nel capitalismo tecnologico. Anche importanti studiosi come Kaczynski sono arrivati ​​a chiedere la rinuncia alla tecnologia, fermando il progresso per analizzare il futuro e, ora, rinunciando ad alcuni tipi di ricerca che ci stanno portando sulla strada sbagliata. Nel 1971, molto tempo fa, il Congresso degli Stati Uniti creò una Commissione nazionale per la protezione degli esseri umani. E oggi università come Oxford, Cambridge, Berkeley o Boston dispongono di centri di studio dedicati al futuro dell’umanità o al rischio esistenziale. Siamo già consapevoli che il pericolo esiste ed è reale.

Q. Ritieni, come avvertono alcune voci, che più tecnologia ci sarà, più dipenderemo da essa e maggiore sarà l’ignoranza su noi stessi?

R. Ecco com’è. Praticamente dipendiamo già da questo. Ma la tecnologia non è qualcosa di astratto, ha i suoi padroni, le sue aziende, il suo potere, e in questa rete l’essere umano è già catturato. Sarà molto difficile tornare indietro ottenere la libertà. Siamo immersi in diverse rivoluzioni contemporaneamente: genetica, nanotecnologia e robotica. Presto ci porremo le seguenti domande. I robot sono una razza di esseri umani migliorati? Gli esseri umani sono una razza di non umani? Yuval Harari autore di Homo Deus, dice che siamo già all’inizio dell’unione dell’Homo Sapiens con l’intelligenza artificiale, che produrrà una prole superintelligente, forte e immortale. Termina il Homo Sapiens e parla di Homo Deus. E ci ricorda anche che il Homo Erectusì, il Homo Habilis e molti altri. Che ci stiamo allontanando dalla conoscenza di noi stessi a causa di questa resa incondizionata alle macchine. Ovviamente finiranno per controllarci a causa dei nostri difetti e bisogni.

Q. Vedete un pericolo imminente nel nostro modo di convivere?

R. C’è un brutalizzazione digitale che non solo mina l’individuo ma anche la società e le nostre democrazie. I nostri sentimenti, gli affetti, i desideri, l’amore, la felicità, la morte, il destino, il libero arbitrio e le altre basi esistenziali finora, perché verranno sostituiti? Quali altre ragioni si inventeranno per dare senso alla vita? Verranno estirpati e non verranno più Non ci saranno più individui ma soltanto una massa che sarà ancora una volta “manipolata”, “orientata” e “diretta”? Gli esseri umani sono sempre più circondati da oggetti che li governano. Deve già condividere il mondo con esseri non irrazionali (gli animali) ma sempre più simili a noi. Sì, presumibilmente Dio ci ha creato a sua immagine e somiglianza, vogliamo fare lo stesso con i robot. E allora quale categoria generica e giuridica avranno (o avremo)?

Q. Cosa può fare la società nel mezzo di questa rivoluzione?

R. Devi essere molto presente in tutti questi processi e stabilire la necessità o meno di ciascuno di essi. E, soprattutto, proteggere l’individuo. Un codice etico deve coprire tutte le persone coinvolte in questo lavoro di intelligenza artificiale. Ci sono diverse domande importanti a cui rispondere qui: un essere umano modificato dalla tecnologia smette di essere umano? Dove dovrebbe essere tracciata la linea di demarcazione? Stiamo creando nuove specie? Ci sono molte altre questioni che devono essere studiate anche dal punto di vista giuridico.

Q. Gli esseri umani sono sulla via dell’obsolescenza?

R. Sì. Novotny, professore emerita alla Columbia University e autore di un libro molto interessante dal titolo Fede nell’intelligenza artificiale parlare di ‘coevoluzione’. Dobbiamo già imparare a convivere nella nostra vita quotidiana, ad esempio, con i robot. Oppure vivi più vite contemporaneamente attraverso il metaverso o gli avatar. Tutto ciò andrà oltre i nostri confini tangibili, fisici e conosciuti. Sì, prima c’era l’evoluzione darwiniana e ora siamo nella coevoluzione uomo-macchina.

Q. I magnati della tecnologia sono un pericolo per le democrazie?

R. Sì, rappresentano una minaccia molto seria. Le loro aziende sono altrettanto potenti o più potenti di molti Stati. Non pagano le tasse, minacciano, possono interrompere la vita e lavorare quando vogliono. Negli Usa, prima degli eventi delle Torri Gemelle, ce n’erano un grosso conflitto legale tra lo stato nordamericano e queste aziende. Quando si verificavano eventi così terribili, la CIA doveva rivolgersi a loro perché erano loro che disponevano delle migliori informazioni. Così finì la battaglia legale. Le aziende tecnologiche sono passate da criminali a eroi da un giorno all’altro perché stavano contribuendo a salvare l’umanità. Sono nati con questo intento, ma il fatto è che tutti i loro proprietari sono oggi proprietari delle più grandi fortune mondiali. Oggi il pericolo non è nell’ignoranza, che è ancora grande, ma nella conoscenza incontrollata.

Q. Consideri Internet come un territorio senza controllo?

R. In un certo senso sì. Un territorio difficile da specificare mentalmente. Ecco due fantastiche e uniche alternative. O è assolutamente libero e al di fuori di ogni giurisdizione legale oppure è legalizzato e normalizzato secondo il resto della società. Preferisco che i pirati siano perseguiti, così come coloro che divulgano documenti personali o pubblici senza consenso. Per me anche su Internet dovrebbe regnare l’ordine e non l’anarchia.

Q. È cambiato il modo di apprezzare la scienza nel nostro Paese?

R. Sì, oggi ha molto prestigio e grandi ricercatori. Ma manca ancora il necessario sostegno finanziario da parte dello Stato e anche delle fondazioni private. Non ci sono più antiscienziati come Unamuno o pro-scienziati come Galdós e Pío Baroja. Tutti sono consapevoli dell’importanza della scienza. La scienza in Spagna fu fortemente perseguitata dal potere politico e religioso, anche se c’erano discipline come la matematica, la geografia, la botanica o la medicina che avevano un percorso meno tortuoso. Ma non c’erano scienziati come Galileo, Cartesio, Newton o Bacon.

R. Molto vivido. Anche se oggi credo che la presenza letteraria per me più inquietante continui ad essere l’opera di B. F-Skinner, Walden Due. Un romanzo in cui la libertà e l’individuo vengono sacrificati sull’altare della scienza. Coloro che entrano in quel Paradiso ottengono tutto, tranne il libero arbitrio. È noto che Microsoft monitora da anni il comportamento degli utenti per i propri scopi. Skinner, professore di psicologia americano, fu uno dei promotori del comportamentismo: occorreva “asportare” il cervello dell’individuo per salvarlo dal male, dal dolore, da ogni cosa. desideri ed emozioni, e creare felicità addomesticata. La nostra società è sulla strada di questo da diversi decenni. Walden Due (1948) fu pubblicato un anno prima di 1984 di Orwell. Skniner è anche autore di un saggio intitolato Oltre la libertà e la dignità (1971). In questo libro tutto ciò che ha romanzato nel suo romanzo è giustificato. Credeva in tutto ciò che scriveva. Se fosse nato prima del totalitarismo sarebbe stato un buon precedente.

Q. Conclude il suo libro rendendo omaggio al silenzio…

R. Sì, perché di fronte a tutto quanto descritto e meditato in quattrocento pagine, mi è bastato restare un attimo in silenzio. Fondamentalmente è un omaggio a Tanizaki, Handke, Wenders e Ozu. Credo che in Finlandia esista un proverbio che dice che il silenzio equivale ad un lingotto d’oro massiccio, mentre il parlare è d’argento di qualità non molto buona…