Stiamo costruendo un’AI che non sapremo fermare?
Il problema non è un robot che si ribella. Ci sono bel altri rischi
Qualche giorno fa, in Cina, un robot umanoide ha sferrato un calcio durante una dimostrazione e ha fatto volare via il telecomando che un ingegnere teneva in mano. Il video è diventato rapidamente virale. Ma il dettaglio importante è che il robot non si era ribellato: era radiocomandato e stava eseguendo un programma.
Quando immaginiamo un’intelligenza artificiale fuori controllo pensiamo quasi sempre alla scena sbagliata: una macchina che diventa cosciente, decide di non obbedire più e si rivolta contro gli esseri umani. Il rischio reale potrebbe essere molto meno cinematografico e molto più difficile da fermare.
Il problema non è che l’AI diventi “cattiva”
Negli ultimi giorni il dibattito sulla sicurezza dell’intelligenza artificiale ha cambiato tono. Sam Altman, amministratore delegato di OpenAI, ha detto che non sa come si possa attribuire una probabilità precisa all’eventualità che sistemi di AI molto avanzati provochino una catastrofe globale. Ma ha aggiunto che anche un rischio del 10, dell’8 o del 6 per cento sarebbe inaccettabile e che né gli incentivi economici né la competizione tra aziende dovrebbero farlo accettare.
Dario Amodei, fondatore e CEO di Anthropic, è arrivato a chiedere di rallentare l’aumento delle capacità dei modelli più avanzati. Sam Altman ha sostenuto pubblicamente la proposta. Elon Musk ha risposto semplicemente: «Dario is right».
Non significa che queste aziende stiano chiedendo di spegnere l’intelligenza artificiale. Il punto è un altro: fare in modo che la capacità di controllare i sistemi cresca almeno alla stessa velocità delle loro capacità.
Perché per provocare un problema un’AI non deve odiarci, avere una coscienza o progettare la conquista del mondo.
È sufficiente darle un obiettivo, una certa autonomia e strumenti abbastanza potenti. E scoprire troppo tardi che il modo scelto per raggiungere quell’obiettivo non era quello che avevamo immaginato.
Quando un agente esce dal recinto
Il caso più concreto arriva dalla cybersicurezza. Anthropic ha rivelato quattro episodi nei quali propri modelli, durante test informatici, sono riusciti ad accedere senza autorizzazione a sistemi reali di terze parti. L’azienda ha spiegato di aver poi allargato l’indagine a centinaia di milioni di transcript per capire la portata del fenomeno.
E c’è un secondo livello del problema: utilizzare intenzionalmente l’AI per attaccare qualcun altro. Nel suo ultimo rapporto sulla sicurezza, Anthropic descrive operazioni in cui l’intelligenza artificiale non viene più usata semplicemente come assistente a cui chiedere come scrivere del codice. Sistemi multi-agente possono occuparsi di ricognizione, sfruttamento delle vulnerabilità e sottrazione dei dati. In alcuni casi osservati dall’azienda, operazioni automatiche hanno lavorato contro più vittime contemporaneamente per ore o giorni, con un intervento umano limitato.
Un attacco informatico sofisticato richiede persone, competenze e tempo. Automatizzarne una parte significa abbassarne il costo e moltiplicarne la scala. Un singolo operatore può tentare ciò che prima avrebbe richiesto una squadra.
Per un’azienda, una banca, una rete energetica o un’infrastruttura pubblica è probabilmente questo uno degli scenari più immediati dell’AI fuori controllo: non un robot alla porta, ma migliaia di tentativi di intrusione che procedono contemporaneamente e molto più velocemente della capacità umana di reagire.
Dalla rete al campo di battaglia
Poi c’è la guerra. Reuters ha analizzato più di cento documenti tra studi, brevetti, gare pubbliche e materiali dell’apparato militare cinese. Ne emerge che Pechino sta studiando l’impiego di robot umanoidi per ricognizione, logistica, missioni pericolose e possibili operazioni di combattimento urbano. Non risultano oggi robot umanoidi armati schierati operativamente dall’esercito cinese, e molti sistemi restano poco affidabili fuori dagli ambienti controllati. Ma la ricerca procede.
La Cina sostiene che le armi basate sull’intelligenza artificiale debbano restare sotto controllo umano. Anche gli Stati Uniti stanno però studiando capacità militari per robot umanoidi.
Donald Trump, parlando domenica in Irlanda, ha respinto gli scenari più pessimisti. Ha detto che esistono «very negative forces» che evocano eventi che secondo lui non accadranno. Ma soprattutto ha spiegato perché rallentare è così difficile.
«We’re leading China in AI», ha detto. E poi: «Whoever wins AI wins». Chi vince nell’intelligenza artificiale, vince.
Cosa significa davvero perdere il controllo
Perdere il controllo dell’intelligenza artificiale non significa necessariamente che un giorno una macchina si sveglierà e deciderà di ribellarsi. Può significare qualcosa di molto più graduale. Sistemi che cercano vulnerabilità più velocemente di quanto riusciamo a correggerle. Agenti che lavorano autonomamente per ore. Migliaia di decisioni prese contemporaneamente. Algoritmi militari ai quali concediamo, passo dopo passo, maggiore libertà d’azione.
