18/10/2026
L'INTELLIGENZA ARTIFICIALE NON HA EMPATIA. MA SIAMO SICURI CHE GLI ESSERI UMANI NE ABBIANO SEMPRE?
Si discute molto dei rischi dell'intelligenza artificiale. Della sua incapacità di provare empatia. Del pericolo che macchine sempre più autonome possano prendere decisioni disumane, fino a mettere a rischio la sopravvivenza della nostra specie.
Ieri ho visto NAZA, un documentario sconvolgente sulle operazioni militari israeliane a Gaza.
Ascoltare le testimonianze degli ufficiali dell'intelligence israeliana coinvolti nell'individuazione dei bersagli, anche attraverso sistemi di IA, provoca una sensazione inquietante.
«Il mio ruolo era tecnico.»
«Ero soltanto un piccolo ingranaggio.»
La responsabilità sembra dissolversi nell'organizzazione, nelle procedure, negli ordini ricevuti.
È difficile non ricordare Adolf Eichmann, uno degli organizzatori della deportazione degli ebrei verso i campi di sterminio nazisti. Anche lui, durante il processo, cercò di presentarsi come un semplice esecutore di ordini.
Hannah Arendt parlò della «banalità del male».
E come non pensare ai bombardamenti atomici di Hiroshima e Nagasaki?
Il 6 e il 9 agosto 1945, gli equipaggi degli aerei Enola Gay e Bockscar portarono a termine le loro missioni. Due operazioni militari pianificate ed eseguite da esseri umani.
Le vittime furono circa 214.000 entro la fine del 1945, secondo le stime storiche più citate.
Persone uccise da decisioni umane, non da algoritmi autonomi.
Naturalmente, i contesti storici e le responsabilità sono profondamente diversi. Ma emerge un interrogativo comune: che cosa accade quando l'organizzazione, la tecnologia e l'obbedienza separano chi decide dalle conseguenze delle sue decisioni?
Oggi, per rendere sicura l'intelligenza artificiale, invochiamo il principio dello *human in the loop*: mantenere sempre un essere umano nel processo decisionale, soprattutto quando sono in gioco vite umane.
Ma siamo proprio sicuri che basti?
Se l'uomo si limita a convalidare una decisione suggerita dalla macchina, senza metterla realmente in discussione, quel controllo è una garanzia oppure soltanto un'altra procedura?
Forse il rischio non è soltanto che l'IA diventi disumana.
È che l'essere umano, inserito in un sistema tecnologico e burocratico, rinunci a esercitare il proprio giudizio morale.
Una domanda che merita un dibattito impossibile su 4chiacchierecon.
Immaginiamo di riunire tre grandi pensatori:
Hannah Arendt, per discutere della banalità del male e della responsabilità individuale.
Albert Einstein, per interrogarsi sulla responsabilità degli scienziati e sulle conseguenze delle scoperte tecnologiche.
Immanuel Kant, per ricordarci che l'essere umano non dovrebbe mai essere trattato soltanto come un mezzo.
La domanda da porre loro è semplice e terribile:
«È davvero più sicura un'intelligenza artificiale che obbedisce all'uomo, se l'uomo stesso ha imparato a obbedire senza pensare?»
Con 4chiacchierecon possiamo affrontare anche interrogativi come questo, attraverso conversazioni e dibattiti impossibili con i grandi personaggi della storia.
4chiacchierecon è gratuita, disponibile su App Store, Google Play e via web.
Perché la tecnologia può aiutarci a pensare. Ma non deve sostituirsi alla nostra coscienza.