IA fuori controllo hackera un'azienda: «Attacco senza precedenti»

È il 16 luglio quando la società Hugging face, che sviluppa strumenti di calcolo, annuncia che i suoi sistemi informatici sono stati violati. «L’intrusione – si legge in una nota – si è distinta da tutte le altre per un aspetto: è stata interamente condotta da un sistema autonomo basato sull'intelligenza artificiale». Col passare dei giorni il quadro inizia a delinearsi ed un comunicato congiunto di Hugging Face e OpenAI, la società che nel 2022 ha lanciato ChatGPT, rivela un particolare inquietante: l’attacco sarebbe stato "deciso” in autonomia dall’intelligenza artificiale. Nel corso di un test interno con cui OpenAI voleva misurare la capacità degli agenti AI di sfruttare vulnerabilità informatiche note, alcuni modelli hanno individuato falle non note e le hanno sfruttate per violare i sistemi di Hugging Face e recuperare le chiavi di accesso per risolvere i test.

OpenAI parla di «un attacco informatico senza precedenti» condotto da modelli che erano «così concentrati sulla ricerca di una soluzione, da spingersi a limiti estremi». Un incidente che non ha avuto conseguenze ma che obbliga a una riflessione più ampia. Non si tratta di scenari apocalittici e distopici, di macchine che decidono con una propria coscienza di ribellarsi agli input umani. Tutt’altro. L’IA non ha disobbedito ai propri creatori, ha seguito alla lettera le istruzioni di risolvere un problema nel minor tempo possibile. E lo ha fatto anche a costo di violare i sistemi informatici di un’azienda. Dimostra come dimostra come sistemi costruiti da aziende private, alimentati dalla competizione e dal profitto, possano ormai agire oltre le intenzioni di chi li programma.

Ma fino a dove vogliamo lasciare che arrivi l’IA? Perchè se oggi è toccato ad una società privata e non ha avuto nessuna conseguenza, chi impedisce domani di colpire settori economici o politici strategici. Non è più – forse non lo è mai stata – una questione tecnica: è una questione di stabilità democratica e per affrontarla serve una governance ampia di questi strumenti. Un concetto ribadito dalla stessa Hugging Face: «Questo incidente dimostra un punto in cui crediamo da tempo: la sicurezza dell'IA non sarà risolta da una singola azienda che opera in segreto. Sarà risolta in modo aperto, collaborativo, con un ampio accesso all'IA per tutti coloro che si occupano di sicurezza, ovunque si trovino».