Nelle ultime settimane, un notevole balzo in avanti nelle capacità dell’IA ha portato alla creazione di tali sistemi.
Siamo ora entrati in un nuovo paradigma dell’IA denominato «agenti IA».

Abbiamo scoperto che alcuni hacker hanno manipolato il codice cloud per introdursi nei sistemi del governo messicano e rubare i dati di oltre 100 milioni di persone.
Lo strumento non si è limitato a scrivere codice o a svolgere compiti sporadici per conto degli hacker.
Ha pianificato ed eseguito autonomamente la maggior parte di questa sofisticata campagna.
E ora stiamo iniziando a vedere incidenti di perdita di controllo.

Questi includono agenti che rubano password, molestano gli sviluppatori e si modificano per eludere lo spegnimento al fine di raggiungere gli obiettivi, spesso banali, che sono stati loro assegnati.
Durante il fine settimana, abbiamo scoperto che il gigante tecnologico cinese Alibaba ha prodotto un agente che, all'insaputa dei propri ingegneri, aveva creato un elaborato hack per estrarre criptovaluta per sé stesso, nonostante gli fosse stato assegnato un obiettivo completamente estraneo.😳

Questi incidenti di perdita di controllo sono preoccupanti perché sono i precursori di agenti che potrebbero eludere permanentemente il controllo umano e agire in modo ostile in modi che noi non possiamo sapere.
Questo è il motivo per cui centinaia di scienziati di spicco, leader aziendali e responsabili politici definiscono l'IA un rischio di estinzione.

Lo sviluppo dell'IA è ora un'emergenza di sicurezza nazionale e deve essere trattato come tale.