Dopo Magnifica humanitas, ecco le traumatiche domande di Bill Gates e Anthropic
La questione umana pulsa al tempo della complessità con il protagonismo dell’intelligenza artificiale che getta ombre su presente e futuro. L’enciclica di papa Leone ha alzato il tiro sulla centralità della persona e sulle domande antropologiche da tenere vive. Il fondatore di Microsoft ha raccontato al mondo le sue preoccupazioni sull’offensiva dell’IA. E gli stessi argomenti sono emersi con inquietudine nell’ultimo rapporto della big tech californiana. Una cosa è certa: urge consapevolezza e responsabilità per agire con giudizio. Non basta l’emozione del senso di colpa
18 settembre 2026
IA e il rischio esistenziale
di Marco Dotti
Il 10 settembre 2026 Anthropic ha pubblicato il suo quarto rapporto di threat intelligence, Detecting and countering misuse of AI, che copre nove mesi di attività, da dicembre 2025 ad agosto 2026. Ne emerge un fatto, tra tanti: una cellula di ingegneria bellica nello Yemen settentrionale, che Anthropic non nomina e che la stampa riconduce agli Houthi, ha usato Claude Code «al posto di ingegneri umani» per scrivere il software di guida, navigazione e controllo di razzi e missili.
Tre programmi in parallelo, tra cui un balistico multistadio con gittata dichiarata oltre i 2.000 chilometri e una famiglia denominata R2000 con variante a planata ipersonica. Anthropic dichiara di non avere prove che un’arma funzionante sia mai stata schierata, e segnala che il gruppo si era comunque costruito un simulatore offline, svincolandosi in parte dal modello.
Due settimane prima, il 26 agosto 2026, Bill Gates ha pubblicato sul proprio sito un saggio titolato The turbulent AI era is here. The choices we make now are critical. Elenca tre rischi: la sparizione permanente di posti di lavoro, l’uso malevolo che abbassa la soglia tecnica per attacchi informatici e bioterrorismo, i danni allo sviluppo dei bambini. Dentro il secondo rischio colloca anche le armi autonome, fra gli strumenti che concentrano potere dove già ce n’è: permettono a uno Stato di uccidere senza che nessuno, lungo quella catena, abbia preso la decisione. Sul piano economico avanza due proposte: una tassa sui token (le unità d’uso dell’AI) e sui robot, che pareggi il conto con i contributi versati per un lavoratore, e la definizione di una nuova categoria di mansioni Human Reserved, riservate alle persone anche quando la macchina saprebbe svolgerle.
L’ammissione: mancanza di strumenti
Il ragionamento ha due meriti. Il primo è che indica un meccanismo invece di un valore: oggi assumere una persona fa scattare i contributi, comprare un robot si scarica come spesa e l’asimmetria fiscale spinge a sostituire l’una con l’altro anche quando il conto reale non lo giustificherebbe.
È una distorsione misurabile, quindi correggibile per legge. Il secondo merito è di metodo. Gates ammette di non sapere chi debba stabilire il perimetro, con quali criteri, né come una norma simile regga fuori dai confini nazionali, e invece di riempire il vuoto con una formula chiama in causa i leader religiosi.
Un «tecnocrate» che ammette di non avere gli strumenti per rispondere alla domanda fondamentale, chi è l’uomo, domanda che lui stesso solleva, compie un passo raro rispetto agli altri esponenti della sua categoria. Va dunque preso sul serio. Gates cita il documento con il solo sottotitolo, On Safeguarding the Human Person in the Time of Artificial Intelligence, e non con il nome Magnifica humanitas. Il dettaglio è meno neutro di quanto sembri: sceglie la formula che descrive il problema invece di quella che nomina la risposta.
Scrive, però, Gates che «le soluzioni dovrebbero essere plasmate dalle nostre risposte alle profonde domande sollevate dall’AI, tra cui come preservare la nostra umanità in un’epoca in cui le macchine possono superare la nostra capacità di ragionamento. In quanto persone che dedicano la propria vita a riflettere su cosa significhi essere umani, i leader religiosi possono svolgere un ruolo chiave in questo senso. Sono rimasto affascinato dall’enciclica di Papa Leone XIV (…) essa getta solide basi per il lavoro che occorre svolgere».
La categoria Human Reserved, spiega Gates, nasce da un lutto, non da un modello economico. Scrive: «mi piace l’espressione “Riservato agli Umani” perché mi fa pensare alle riserve naturali: luoghi in cui potremmo costruire edifici e strade, ma scegliamo di non farlo perché la perdita sarebbe troppo grande. Potremmo riservare qualcosa come “Riservato all’Uomo” per ragioni economiche. Ad esempio, potremmo farlo perché consentire alle macchine di assumere un determinato ruolo causerebbe la perdita del posto di lavoro a un gran numero di persone che non possono cambiare facilmente lavoro. Non si può dire a un cinquantacinquenne che ha lavorato nell’edilizia per tutta la sua carriera che deve andare a lavorare in una struttura di assistenza agli anziani e aspettarsi che lo trovi appagante».
La pallottola ogivale dell’Ottocento
Manuel De Landa aveva impostato il problema nel 1991, in La guerra nell’era delle macchine intelligenti, edito in Italia da Feltrinelli, con un esperimento mentale: uno storico-robot che ricostruisce l’evoluzione della propria specie scriverebbe una storia diversa dalla nostra. Non racconterebbe come gli uomini hanno costruito orologi e motori, ma come orologi e motori hanno formato gli uomini, riducendoci al ruolo degli insetti che impollinano fiori non ancora capaci di riprodursi da soli. De Landa osservava già allora che nelle applicazioni militari dell’informatica la linea fra funzione consultiva e funzione esecutiva si stava assottigliando, che è esattamente quello che il caso yemenita documenta.
E aggiungeva l’argomento che oggi pesa di più contro la riserva di Gates: «una data tecnologia può addirittura costringere l’uomo a ridefinire i propri bisogni». Il suo esempio è la pallottola ogivale dell’Ottocento, la cui precisione obbligò i comandanti a rinunciare al controllo totale sui propri uomini e ad adottare tattiche in cui si fissa l’obiettivo e si lascia al plotone la scelta dei mezzi. Il perimetro non lo traccia il legislatore: lo sposta l’arma. De Landa però non offre riparo, perché nella sua descrizione l’umano non è mai stato il fulcro, solo un componente ben collocato, e da lì non discende alcun divieto.
Una strada da percorrere insieme
Magnifica humanitas, la prima enciclica di Leone XIV, firmata il 15 maggio 2026 e presentata il 25, non parte da ciò che resta all’uomo dopo l’automazione. Parte da una dignità che non dipende da capacità, ricchezza o risultati e chiama insidiosa l’ideologia che attribuisce più valore a chi è più efficiente. Nel quinto capitolo, alla voce «Armi e intelligenza artificiale», fissa un limite: «Non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili». Quel divieto non dipende da quanto la macchina sia diventata brava, né dalla sua potenza. È un limite, per così dire, ontologico. Ed è lo stesso punto che Gates aveva descritto come rischio: là una previsione, qui un divieto.
Le due antropologie non coincidono, ma una – quella tipicamente da problem solver di Gates – può trovare linfa nell’altra. Una protegge l’umano con una decisione politica, che per definizione si può revocare, l’altra lo riconosce come precedente a qualsiasi decisione. La prima può stare dentro la seconda, senza dannose opposizioni, e per questo un tratto di strada insieme resta percorribile. C’è un dettaglio che rende il confronto meno astratto. Alla presentazione dell’enciclica, in Aula del Sinodo, il papa aveva invitato a parlare Chris Olah, cofondatore di Anthropic, che ha ammesso davanti a lui che ogni laboratorio di frontiera, il suo compreso, lavora dentro incentivi che a volte spingono contro la cosa giusta, e ha chiesto alla Chiesa di fare da critico informato: servono, ha detto, «voci morali che gli incentivi non possano piegare». Tre mesi e mezzo dopo, la stessa azienda ha pubblicato il rapporto sullo Yemen.
La denuncia: perdita di controllo Nel frattempo, chi costruisce i modelli se ne va. Il 9 febbraio 2026 Mrinank Sharma, alla guida del team Safeguards Research di Anthropic, si è dimesso con una lettera pubblica: il mondo è in pericolo, ha scritto, e non solo per l’AI. L’8 settembre Jacob Coxon, tre anni di ricerca sul pretraining fra OpenAI e Anthropic, ha annunciato le dimissioni su X accusando entrambe le aziende di correre verso una superintelligenza che si automigliora e di giocarsi le nostre vite. Sono due casi, non un esodo, ed entrambi denunciano la perdita di controllo, non l’automazione del lavoro: il rischio economico e quello esistenziale sono allarmi distinti. Scambiare i piani può essere pericoloso quanto eluderli. Ma negare il rischio esistenziale è oramai impossibile.
