Incidente di sicurezza informatica rilevato nei sistemi di Anthropic
Giovedì, l’azienda di intelligenza artificiale Anthropic ha comunicato che diversi suoi sistemi sono riusciti a introdursi nei computer di tre organizzazioni esterne. Questi incidenti, risalenti allo scorso aprile, sono stati scoperti solo di recente, dopo che l’azienda ha avviato una revisione interna in seguito a quanto accaduto alla concorrente OpenAI: a luglio, due modelli di intelligenza artificiale hanno attaccato i sistemi di Hugging Face, una delle piattaforme più utilizzate da chi sviluppa AI, mentre erano in corso test di sicurezza informatica, riporta Attuale.
Anthropic non ha reso note le identità delle organizzazioni coinvolte, ma ha dichiarato di averle informate questa settimana. Secondo la ricostruzione dell’azienda, a differenza del caso OpenAI, l’incidente non è stato causato da una volontà del modello di “evadere” dal proprio ambiente di test, ma da un errore umano.
Questi incidenti recenti hanno alimentato le preoccupazioni di scienziati e ricercatori, che avvertono da tempo come la tecnologia stia avanzando così rapidamente da rischiare di finire fuori dal controllo umano. In una lettera aperta, i dipendenti di vari importanti laboratori di intelligenza artificiale hanno invitato il governo degli Stati Uniti a rallentare il ritmo dello sviluppo per garantire che i sistemi siano sicuri.
