Come si rallentano la ricerca scientifica e lo sviluppo tecnologico? E chi controlla e come si evita che le nuove tecnologie legate all’AI finiscano per fare danni drammatici alle persone e all’ambiente? Il dibattito in corso da qualche giorno sui media a proposito dei rischi legati al troppo rapido e impetuoso sviluppo dell’Artificial Intelligence (qualcuno scrive di un vero e proprio “allarme apocalisse” e di una “umanità a rischio”) va preso sul serio. E riporta all’attenzione di tutta l’opinione pubblica, a cominciare dalla politica, dalle imprese e dal mondo della scienza, una questione ricorrente, già evidente nel corso del Novecento e con il passare del tempo di sempre più stretta attualità. Quali sono i limiti per il capitalismo e il mercato? E quali i limiti all’espansione del dominio della tecnica?

Vale la pena ricordare l’allarme di grandi filosofi del Novecento, come Heidegger e Husserl, sui rischi che l’uomo venga dominato dalla tecnica. E le preoccupazioni etiche di scienziati come Niels Bohr sull’impiego dell’energia atomica come strumento terribile di guerra e arma di distruzione di massa (è quanto mai istruttivo rileggere i dialoghi tra Bohr e il suo allievo prediletto, Werner Heisenberg, ricostruiti da Michael Frayn in “Copenhagen”, uno dei drammi teatrali più stimolanti degli ultimi vent’anni: oltre mille repliche solo al Royal National Theatre di Londra). E dedicare l’attenzione che merita a “Magnifica Humanitas”, la recente enciclica di Papa Leone XIV “sulla custodia della persona umana nel tempo dell’intelligenza artificiale”.
Evitando le trappole degli “apocalittici” e degli “integrati”, si tratta infatti di prendere atto delle conseguenze di una capacità creativa di calcolo e di sviluppo autonomo dei sistemi che guidano macchine sofisticate, il cui funzionamento e la cui espansione hanno una velocità molto superiore all’attuale capacità umana di capirne funzionamento ed effetti. E avere la consapevolezza e il conseguente senso di responsabilità sugli effetti di tecnologie così dirompenti sulla vita quotidiana, sul mondo economico e finanziario, sul lavoro, sugli equilibri dell’ambiente (il crescente consumo di acqua e di energia), sulla gestione delle guerre.

L’AI offre infatti convenienze straordinarie, sulla ricerca scientifica e medica, sulla prevenzione e le terapie di malattie sinora imbattibili, sulla produttività industriale, sul controllo dei fenomeni ambientali e atmosferici, sull’organizzazione della vita e del funzionamento dei servizi delle metropoli. Ma più gli algoritmi producono con sempre maggiore velocità pensieri autonomi e altrettanto autonome capacità di scelta delle macchine, più quelle scelte rischiano di essere devastanti. La tecnologia non è neutra. Gli interessi che le sono collegati sono giganteschi.
L’allarme sui rischi, già diffuso da qualche tempo in ambienti scientifici ma anche industriali, da alcuni giorni coinvolge pure i vertici delle Big Tech.
Dopo le dichiarazioni di Jacob Coxon, autorevole ricercatore di Anthropic (“L’AI potrebbe ucciderci tutti entro un decennio”), in tanti (a cominciare proprio da Dario Amodei, il capo di Anthropic, seguito da Sam Altman di OperAI e ChatGpt e da Elon Musk) insistono sulla drammaticità di una situazione che potrebbe presto sfuggire ai fragili controlli e provocare disastri. “Rallentare”, dunque è la loro parola d’ordine. “Gestire i ritmi di sviluppo delle tecnologie di frontiera”, insiste Altman.

La novità è rilevante. Sino ad adesso, infatti, tutte le Big Tech si sono mostrate allergiche alle regole, ai controlli, alle norme di Stati e organizzazioni indipendenti, spingendo al massimo l’acceleratore sullo sviluppo dei sistemi e sulle novità, seguendo anche la visione di clamorosi guadagni da parte degli investitori di Borsa (con tutti i rischi conseguenti di bolle speculative destinate prima o poi a scoppiare, con effetti devastanti su tutti i mercati finanziari del mondo). Hanno trovato ascolto molto sensibile nel governo Usa, a cominciare dalla Casa Bianca di Donald Trump. Hanno accusato i critici dell’opinione pubblica come predicatori di sventure.
Ma se oggi da OpenAI e Anthropic arriva l’allarme (e altri seguiranno) vuol dire che la situazione di rischio si aggrava. E l’ombra di un disastro non è affatto un’ipotesi remota. Per capire ancora meglio, basta riflettere sulle affermazioni di Musk, il capofila delle operazioni high tech più spericolate: “Quelli sui pericoli dell’AI sono discorsi catastrofisti. Ma Dario Amodei ha ragione”. Amodei, cioè il primo a insistere sui pericoli.

C’è ancora un altro tema da tenere in conto. Altman, Amodei e altri grandi gruppi high tech sono alla vigilia di una ulteriore richiesta di denaro al mercato. Un mercato già fin troppo esposto sui titoli tecnologici. La ribalta, per chi cerca denaro, anche in nome degli investimenti in sicurezza, è comunque una dimensione interessante.
Una riflessione acuta arriva da Luciano Floridi, professore a Yale, una delle intelligenze internazionali più acute sul rapporto tra filosofia, tecnologia ed etica: “Sento allarmismi scandalosi, il vero pericolo è l’oligopolio” e cioè un sistema in cui “l’intelligenza artificiale agisce ma non capisce” lasciato in mano solo alle Big Tech, senza alcun controllo della politica, dei governi, dell’opinione pubblica ben informata (La Stampa, 12 settembre). E sulla soglia oltre la quale un sistema AI dovrebbe essere considerato troppo rischioso per essere sviluppato e distribuito, chiarisce che la risposta sta in tre punti: “Chi risponde se il sistema crea danni, chi può verificarlo dall’esterno, chi lo spegne”. Risposte tecniche e soprattutto politiche, dunque. Non aziendali. Come peraltro già facciamo con molto oggetti, dai farmaci agli aerei.

Floridi ha fiducia nell’Europa: “Ha l’impianto giusto per regolamentare la questione. Ha già perso la sfida sui grandi modelli, rispetto a Usa e Cina. E deve puntare su quelli aperti: nascendo sotto regole più severe sarebbero più affidabili”.
Regole, appunto. Controlli. E non burocrazie. Come si rischia di fare con l’AI Act della Ue.
E, naturalmente, intese internazionali: che la Ue regolamenti da sola l’AI mentre altrove nel mondo si va avanti seguendo solo novità e profitti lascia comunque troppo alta la soglia del rischio.
“Il problema dell’AI è la testa dell’uomo”, chiarisce Giuliano Noci, professore al Politecnico di Milano (IlSole24Ore, 12 settembre): “Il problema non è soltanto il motore, è la strada sulla quale lo facciamo correre. Chi tiene il volante. Cosa succede se abbiamo dimenticato il volante”.
Questioni tecniche che rinviano a scelte etiche, culturali, politiche.
Un bene, dunque, che si sia aperto il dibattito. Da non spegnere o far mettere in ombra da interessi di potere, finanziari, di ipoteca sul futuro di tutti noi.

(foto Getty Images)