La sicurezza dell’IA necessita di maggiori prove e meno speculazioni fantasiose.

Il fatto che degli strani esperti diffondano storie immaginarie su internet non costituisce la base per un sistema di governo.

di Ryan Cooper [1]

Molte persone ricche e influenti si sono improvvisamente preoccupate del pericolo che i modelli di intelligenza artificiale rappresentano per l’umanità, a causa di diversi episodi recenti in cui vari “agenti” di IA hanno effettuato attacchi informatici a siti web e sistemi altrui. Sam Altman di OpenAI, Dario Amodei di Anthropic ed Elon Musk di xAI sono ora tutti d’accordo sul fatto che il governo debba aiutarli a creare un cartello in violazione delle leggi antitrust, o meglio, a ” spingersi oltre i limiti “.

Eppure, per strane ragioni, il dibattito sulla “sicurezza dell’IA” si è concentrato quasi esclusivamente su scenari futuri alquanto bizzarri. I modelli di intelligenza artificiale scateneranno un cataclisma economico o sociale? O causeranno l’estinzione della razza umana? O distruggeranno tutta la vita sulla Terra? O trasformeranno addirittura tutta la materia del pianeta in graffette? O tutta la materia della galassia? Dell’universo?

Questa attenzione ai rischi futuri, anziché a quelli attuali, riflette la storia politica recente. Un gruppo di sostenitori della sicurezza dell’IA, incentrato sui movimenti “razionalisti” e dell'”altruismo efficace” e con una visione a lungo termine, si è organizzato e ha consolidato il proprio potere a Washington negli ultimi anni. Hanno di fatto preso il controllo del dibattito politico sulla regolamentazione dell’IA e ora, come sottolinea il politologo Henry Farrell , proclamare apertamente l’imminente nascita del “Dio Macchina” in senso letterale è considerato fondato e razionale in questi ambienti.

Sono scettico.

Ho letto diverse pubblicazioni e forum sulla sicurezza dell’IA e, da osservatore esterno, la caratteristica più evidente è la scarsità di prove a supporto. Quasi tutto il dibattito si basa su scenari ipotetici immaginari, in cui i concetti fondamentali hanno definizioni a dir poco vaghe e si prevedono futuri oscuri a cui è impossibile associare probabilità realistiche, o in molti casi, alcuna probabilità. Poi, quando un’IA riesce a compiere un’impresa indubbiamente impressionante, come risolvere un problema matematico vecchio di mille anni, tutte le altre idee fantasiose vengono improvvisamente considerate più plausibili.

Ad esempio, si consideri il concetto di “auto-miglioramento ricorsivo” – oggetto di un recente articolo del New York Times – o l’idea che un giorno l’IA svilupperà la capacità di riscrivere il proprio codice, scegliere immediatamente di riscriverlo, migliorare nella riscrittura del codice e così via fino a diventare un’entità iperintelligente. A quel punto, nello scenario del “decollo”, l’IA in genere usa i suoi poteri quasi divini per prendere il controllo del mondo, o superando l’umanità nella competizione per le risorse, o facendo “L’apprendista stregone” con le graffette, o semplicemente uccidendoci tutti.

Sebbene uno scenario del genere si presti a divertenti avventure fantascientifiche , concettualmente parlando è un castello di sabbia. Come possiamo essere certi che l’IA si concentrerà ossessivamente sull’incremento della propria intelligenza, anziché inventarsi una sorta di parco giochi per divertirsi? (Vale la pena ricordare che gli attuali modelli di IA mostrano spesso una notevole pigrizia e molti degli attacchi informatici menzionati facevano parte di un tentativo di imbrogliare in qualche compito assegnato.)

Perché un’IA superintelligente dovrebbe diventare malvagia? Potremmo, con altrettanta giustificazione – ovvero nessuna – immaginare che si dedichi alla poesia. O supponiamo che l’intelligenza abbia un limite? O supponiamo che il modello diventi incredibilmente intelligente nei compiti tecnici, ma rimanga solo discreto nell’ingannare le persone? (Come osservò una volta Maciej Cegłowski , Stephen Hawking era molto più intelligente del suo gatto, ma non è mai riuscito a costringerlo a entrare nel trasportino). Queste sono solo alcune delle decine di domande estremamente rilevanti alle quali né la comunità che si occupa di sicurezza dell’IA né nessun altro ha risposte rigorose.

Ho scelto questo esempio perché è un argomento importante nella comunità che si occupa di sicurezza dell’IA e perché illustra una tendenza molto significativa a fissarsi irrazionalmente su storie avvincenti ed emotivamente coinvolgenti. Il punto non è che qualsiasi previsione di pericolo futuro possa essere ignorata se sembra assurda al profano ignorante, ma piuttosto che qualsiasi previsione di questo tipo è inutile senza un modo per stimare la probabilità che si verifichi effettivamente.

La scienza climatica, al confronto, si avvale di rigorosi modelli teorici costantemente verificati e convalidati confrontandoli con un’enorme quantità di osservazioni reali, e le sue previsioni si rivelano puntualmente molto accurate . (È curioso che nel 2024 le grandi aziende tecnologiche abbiano in gran parte ignorato questo pericolo evidente e imminente per sostenere Donald Trump , che in seguito ha smantellato la politica climatica del presidente Biden).

Oppure consideriamo un altro scenario fantascientifico: l’impatto di un asteroide. Il rischio a breve termine che ciò accada è piuttosto incerto, ma sappiamo per certo che è già successo in passato, causando danni devastanti, e quindi può succedere di nuovo. (Probabilmente dovremmo dedicare molto più tempo all’osservazione del cielo e allo sviluppo di sistemi di difesa dagli asteroidi!)

Se mettiamo da parte le specifiche argomentazioni interne alla comunità che si occupa di sicurezza dell’IA e ne esaminiamo le caratteristiche come fenomeno sociale, ritroviamo tutti i segni di una tipica setta apocalittica americana. Ci sono i profeti, i lunghi e astrusi testi religiosi – il più influente dei quali è letteralmente una fanfiction di Harry Potter di 660.000 parole – le predizioni di una catastrofe imminente qualora gli avvertimenti del profeta non venissero ascoltati e, naturalmente, un sacco di stranezze a sfondo sessuale . Basterebbe sostituire qualche termine e tutto ciò sarebbe indistinguibile da un centinaio di incantatori di serpenti del XIX secolo nelle zone più remote del Kentucky. Sospetto che le profezie sull’IA abbiano lo stesso morboso fascino dei deliri dei predicatori di strada di un tempo, solo travestiti da persone che si autodefiniscono razionali e con una mentalità tecnica, prive di educazione religiosa e quindi di immunità contro la mania apocalittica.

Ciò non significa, ovviamente, che la tecnologia IA non presenti nuovi rischi. I dettagli dell’attacco informatico a Hugging Face sono davvero allarmanti. Il modo in cui gli agenti sono sfuggiti ai controlli, hanno creato un sistema per comunicare tra loro al di fuori della supervisione del loro superiore e hanno portato a termine un attacco così dannoso è inquietante.

Ma in fin dei conti, si trattava pur sempre di un insieme di programmi informatici sfuggiti al controllo perché OpenAI è talmente negligente in materia di sicurezza informatica che molti si sono chiesti se l’attacco fosse stato orchestrato di proposito per attirare l’attenzione. Come osserva l’economista Daniel Davies , “quasi tutti gli esempi di comportamenti preoccupanti da parte di agenti informatici sembrano essere stati riscontrati in un unico contesto: quello dei laboratori di ricerca all’avanguardia che conducono progetti di sicurezza informatica e non rispettano le precauzioni previste per le sandbox”. Personalmente, sospetto che OpenAI sia così negligente perché i ricercatori sono concentrati sulla motivazione e sul comportamento dei loro modelli, piuttosto che sull’implementazione rigorosa delle normali procedure di sicurezza, e forse rimarrebbero segretamente delusi se si scoprisse che è relativamente facile contenere gli agenti di intelligenza artificiale con controlli più rigorosi.

In ogni caso, possiamo constatare in molti modi come i modelli di intelligenza artificiale rappresentino una minaccia reale, qui e ora. Possono essere estremamente abili nell’hacking; possono produrre imitazioni spaventosamente accurate degli stili di scrittura e delle voci umane; possono analizzare enormi quantità di dati di sorveglianza in modo rapido e preciso; possono persino scatenare episodi di malattia mentale in alcune persone.

Possiamo immaginare un futuro prossimo in cui qualsiasi truffatore, terrorista o gangster internazionale minimamente abile sarà in grado di scaricare una suite di software per crimini informatici, eseguibile sul proprio hardware, che solo cinque anni fa sarebbe stata inaccessibile a chiunque, ad eccezione delle agenzie di intelligence di prim’ordine. Questo è davvero allarmante. Ma la risposta ovvia non è nulla di straordinario in termini di sicurezza informatica. Bug e vulnerabilità dovrebbero essere individuati e corretti il ​​più rapidamente possibile (e va riconosciuto che i laboratori di intelligenza artificiale stanno facendo molto in questo senso), le leggi esistenti contro i crimini informatici dovrebbero essere applicate sia ai laboratori di intelligenza artificiale negligenti che ai criminali e, cosa più importante a mio avviso, le infrastrutture vitali dovrebbero essere disconnesse da Internet ovunque sia possibile.

Isolare dalla rete elettrica ospedali, aeroporti, impianti di trattamento delle acque, la rete elettrica e infrastrutture simili potrebbe risultare scomodo, ma qualsiasi vantaggio derivante dalla connettività internet non ne vale la pena quando un qualsiasi computer, anche il più piccolo, è formidabile come la NSA del 2019. Non accadrà sotto un’amministrazione Trump, ma ciò richiederebbe un grande sforzo federale.

Per quanto riguarda una regolamentazione esplicita, non mi fiderei di nessuna legge firmata da Donald Trump, ma se in futuro ci fosse un’opportunità, il pubblico ha molto più bisogno di essere protetto dai laboratori di intelligenza artificiale – così come i matematici, sommersi da dimostrazioni mal scritte e piene di ” spazzatura matematica ” prodotte da laboratori che tentano di superare le sfide matematiche più difficili per ottenere visibilità – di quanto i laboratori abbiano bisogno di essere protetti dalla propria concorrenza.