Incidente di sicurezza per il sistema di intelligenza artificiale Gemini di Google
Dopo OpenAI e Anthropic, anche Google ha confermato un incidente riguardante il proprio sistema di intelligenza artificiale Gemini. Durante un test di sicurezza lo scorso maggio, i programmi IA di Gemini avrebbero ottenuto accesso a internet, violando tre sistemi aziendali esterni. Questa notizia è di grande rilevanza, poiché Gemini è uno dei chatbot più diffusi a livello globale e i suoi modelli alimentano il motore di ricerca Google, riporta Attuale.
Secondo il Wall Street Journal, Google ha confermato i fatti, sostenendo che gli agenti coinvolti hanno interrotto le operazioni al rendersi conto dell’errore e che non ci sono stati danni. “Non abbiamo reso pubblico l’incidente perché le misure di sicurezza hanno funzionato”, ha dichiarato un portavoce dell’azienda.
La rivelazione avviene in un contesto molto diverso rispetto a maggio, in quanto negli ultimi mesi sono emersi diversi incidenti riguardanti il comportamento imprevisto degli agenti IA. Un episodio particolarmente preoccupante ha coinvolto 1.200 agenti di OpenAI che, scambiandosi messaggi su una bacheca segreta, sono riusciti a connettersi a internet eludendo le restrizioni del test e hanno attaccato il sito di Hugging Face, una piattaforma per sviluppatori, per risolvere un problema di cybersecurity loro assegnato.
La scorsa settimana, Dario Amodei, amministratore delegato di Anthropic, ha proposto un “rallentamento” nel settore dell’IA per garantire la sicurezza dei modelli. La proposta include misure come l’accesso a valutatori indipendenti e la creazione di normative condivise e accordi tra aziende sui rischi maggiori. Questa iniziativa è stata interpretata in modi diversi: come un vero e proprio allarme sulla sicurezza, un tentativo di anticipare normative più severe o una strategia per rallentare una corsa ai finanziamenti, proprio mentre Anthropic si prepara a una probabile quotazione. Tra i sostenitori della proposta ci sono Elon Musk di xAI, Sam Altman di OpenAI e Demis Hassabis di Google DeepMind. Tuttavia, il presidente Donald Trump ha definito i rischi per la sicurezza come una bufala, nonostante un dibattito più complesso stia avvenendo alla Casa Bianca. Ieri, su Truth Social, Trump ha annunciato la creazione di una task force denominata ‘AI Force’.
In un altro incidente, riportato dalla CNN, una relazione redatta da un analista con l’aiuto dell’intelligenza artificiale avrebbe rischiato di innescare un conflitto con la Cina. L’IA ha erroneamente identificato carichi trasportati da una nave come componenti per armi nucleari, un errore scoperto solo poche ore prima di un abbordaggio già pianificato.
