Considerazioni sui saggi di Amodei: Un’IA perfetta per un mondo ingiusto

Dario Amodei, imprenditore e ricercatore statunitense, può essere annoverato tra i massimi esperti mondiali di intelligenza artificiale. Dopo essere stato vicepresidente del settore ricerca di OpenAI, (Chatgpt) ha fondato Anthropic; un azienda che sviluppa alcuni dei modelli più avanzati di IA (Claude) e di cui è attualmente CEO.

Nel suo saggio L’adolescenza della tecnologia, dopo aver indicato le tante opportunità che potrebbero offrire le diverse IA, l’autore passa in rassegna i rischi connessi al loro impetuoso e dirompente sviluppo. Tra questi la crescente autonomia dei sistemi di IA, gli usi militari e biologici, il rafforzamento dei poteri autoritari, le perturbazioni (già ampiamente in atto) nel mercato dei lavori, la gestione di decisioni strategiche (militari, economiche e produttive), la sorveglianza, la velocità dei progressi tecnici e dei cambiamenti, che rendono arduo ogni umano adeguamento sociale e geopolitico… Argomenti complessi da indagare, ma è sufficiente menzionarli per rendere un’idea delle sfide che dovremo affrontare. Temi centrali che sono ancora troppo marginali, se non assenti, nella politica che ascoltiamo ordinariamente. Una politica accecata dal quotidiano e dalle emergenze, lenta ad apprendere e ancora di più ad agire, e che tuttavia sparla di “IA sovrana”: una contraddizione in termini, se non un’illusione.

Rispetto al suo precedente saggio Macchine della grazia amorevole — dove sembrano prevalere promesse e benefici per l’umanità — in questo secondo testo la trattazione dei rischi tende a divenire preponderante. Tuttavia non si tratta di una rinuncia alle potenzialità dell’IA, ma piuttosto di un’evoluzione del suo pensiero verso la precauzione. Forse anche qualcosa di più; un richiamo a un’attiva cautela che scaturisce dalla valutazione operativa dei sistemi di IA più avanzati e in continuo potenziamento.

In generale i contenuti che più invitano alla riflessione riguardano il “che fare” per contenere i rischi. Amodei propone norme, protocolli di sicurezza, autoregolazione, condivisione, controlli e cooperazione internazionale. Tutto apprezzabile e anche auspicabile. Ma è impossibile non domandarci quanto possano concretamente funzionare i “vincoli” in un contesto globale armato in cui mercato, tecnologia e spietata competizione geopolitica spingono continuamente verso l’accelerazione delle competizioni strategiche. Nodi ancora lontani dall’essere risolvibili.

Se — come ribadisce lo stesso Amodei in Dobbiamo procedere a passo spedito lungo la frontiera — si deve rallentare la corsa verso IA sempre più potenti, altri potrebbero sfruttare l’oggettivo vantaggio derivante dall’ignorare i rischi e rifiutare i vincoli. Questo è il limite più evidente delle contromisure proposte; in particolare i protocolli, gli enti terzi, la cooperazione e autoregolazione possono funzionare solo fin dove si riesca veramente a domare una competizione che è tanto globale quanto selvaggia.

Nel frattempo il governo reale dell’IA si cumula tutto in quei “paesi di geni” che Amodei evoca con un curioso miscuglio di ammirazione e preoccupazione. Definizione metaforica, ma sinonimo di potenze, di visionari soggetti super esperti fin qui sostanzialmente fuori da ogni controllo, con enormi capacità tecnologiche e imprenditoriali, con disponibilità di immense risorse finanziarie e che generano processi potenzialmente destinati ad avere conseguenze per tutti. “Luoghi” dove la politica non progetta più, ma asseconda decisioni e traiettorie determinate dalla stessa tecnologia e da chi la controlla.

Si generano così un’infinità di contraddizioni, nodi della rete della complessità, che richiedono conoscenze, valori e salda condivisione per essere, se non risolti, almeno interpretati. Particolarmente esemplare è l’ipotesi che Amodei avanza sull’uso dell’IA per promuovere una crescita del PIL globale a due cifre. Ma una tale crescita cosa significherebbe in termini di energia, infrastrutture, beni, consumi, distribuzione della ricchezza e soprattutto di pressione ambientale? Il PIL è ancora l’indice di “successo” (o insuccesso) che misura economicamente la crescita; che però non dice nulla sulla sua qualità, sulla distribuzione della ricchezza, sui costi energetici e ambientali né sugli equilibri economici e sociali che lo determinano.

Il passato ha generato benessere per alcuni e macerie per altri. Oggi i fatti ci dicono che ripercorrendo gli stessi percorsi del secolo scorso potrebbe finire anche molto peggio, per i più. I rischi potranno essere affrontati solo se i parametri della loro valutazione saranno altri e altri gli obiettivi: “l’avvento” di un futuro che estende la capabilità delle persone, promuove la socialità e la solidarietà, contrasta le disuguaglianze, evita una concentrazione eccessiva del potere, evita i conflitti e cura la conservazione degli equilibri naturali del pianeta. In sostanza un’altra politica per un’altra geopolitica.

In estrema sintesi, il rischio di fondo potrebbe non essere che il nuovo mix tra liberismo spinto, mercato e avanzatissima tecnologia funzioni male, tendendo forse verso improbabili soluzioni distopiche. Potrebbe essere il contrario: che funzioni molto bene, ma secondo i propri specifici paradigmi. A questo punto la domanda finale non può che essere se funzionerebbe altrettanto bene anche per l’umanità e per il pianeta.

Concludo rilanciando una citazione già ripresa altre volte: «Possiamo dire che l’umanità è oggi una comunità di destino che può salvarsi solo diventando una comunità di coscienza e di volontà». Probabilmente il punto di svolta reale è proprio questo: siamo già una comunità di destino. È molto meno chiaro se saremo capaci di diventare (in tempo utile) una comunità di coscienza e di volontà. Quell’ancora indeterminata comunità senza la quale l’humanitas rischia grosso. Quasi per tutti.