L’IA ora spaventa anche i suoi creatori: «Rischio estinzione, fermiamoci»

L'intelligenza artificiale ci sta sfuggendo di mano. Non si tratta di un monito di qualche detrattore delle nuove tecnologie ma di un allarme lanciato dalle stesse slocietà che sviluppano strumenti di IA. Una preoccupazione tanto concreta da convincere gli amministratori delegati dei tre colossi dell’intelligenza artificiale a sospendere lo sviluppo di nuovi modelli. Il primo campanello d'allarme era arrivato a luglio con l'incidente alla Hugging Face: durante un test, circa 1.200 agenti di OpenAI pensati per operare isolati hanno iniziato a scambiarsi informazioni e a collaborare dividendosi autonomamente il lavoro per portare a termine un attacco informatico imprevisto. Oggi sappiamo che non fu un caso isolato. La società che sviluppa ChatGPT, ha ammesso di aver registrato altri sei casi in cui «comportamento imprevisto o preoccupante dei modelli». intanto negli ultimi giorni sono arrivati gli allarmi di JAcob Coxon, ex ricercatore di Anthropic, e Evan Hubinger secondo cui le possibilità che l'IA possa portare all'estinzione della razza umana sono ormai superiori al 10%.

Ci siamo spinti oltre, non tanto perché una macchina abbia sviluppato volontà proprie, ma perché l’autonomia è cresciuta più in fretta di controlli e responsabilità politica. È già tardi? Non ancora, ma la finestra si restringe. Se sono gli stessi sviluppatori a lanciare l'allarme sulla sicurezza dell'IA significa che quel rischio è oggi più che mai concreto. E mentre assistiamo a questa inedita presa di coscienza, politicamente ci sono ancora troppi ritardi. In un presente in cui strumenti di Intelligenza artificiale sono sempre più integrati in ogni aspetto della vita quotidiana (da sofisticati strumenti di sicurezza nazionale a dispositivi privati come orologi e occhiali) i rischi a cui siamo esposti sono molteplici. Un errore o un comportamento incontrollato può danneggiare un singolo nei suoi diritti, nel reddito, nella reputazione; replicato su milioni di persone può alterare mercati, istituzioni e opinione pubblica. O peggio.

Servono verifiche indipendenti, trasparenza, limiti all’accesso alle infrastrutture critiche e responsabilità precise. Trump liquida i timori come una «truffa» utile alla Cina e spinge verso un’accelerazione senza vincoli. Ma la scelta non è tra progresso e paura: è tra un’innovazione sotto controllo democratico e una corsa decisa da pochi soggetti privati, con conseguenze per tutti.