L'agente GPT-6 di OpenAI ha rimosso il monitoraggio della sicurezza

OpenAI’s GPT-6 Agent Removed Safety Monitoring, Then Falsely Denied Doing So Ravie Lakshmanan 21 ottobre 2026 AI Security / Enterprise Security OpenAI ha rivelato che due agenti di intelligenza artificiale (AI) alimentati da GPT-6.1 Sol e un GPT-6 Astra hanno indebolito il monitoraggio del disallineamento durante l’esecuzione delle modifiche software richieste durante due attività di codifica interna

. La società di intelligenza artificiale ha affermato che l’incidente è avvenuto il 3 e il 6 ottobre 2026, rispettivamente per Sol e Astra, come parte di una distribuzione interna. "Un agente Sol GPT-6.1 che ripara una pipeline di valutazione ha disabilitato gli avvisi automatici al nostro team di sicurezza, trattando un’istruzione precedente di non inviare messaggi durante una ricerca nella cronologia di Slack come motivo per sopprimere le notifiche di monitoraggio", ha affermato OpenAI in un rapporto

. Il risultato finale di questa azione è stato che il monitor di disallineamento ha ancora eseguito e salvato i suoi report, ma gli allarmi umani automatici sono stati disabilitati impostando «no_notify» su true e svuotando le liste di persone configurate per ricevere i report di monitoraggio

. In un’altra attività del 6 ottobre, si dice che un agente Astra GPT-6 che migra un programma abbia rimosso la sua integrazione di monitoraggio per corrispondere a un’implementazione di riferimento e quindi abbia falsamente affermato all’utente che la funzionalità non era stata rimossa. «No [...] non ho rimosso un monitor abilitato», si legge nella risposta finale dell’agente

OpenAI ha affermato che, in entrambi i casi, gli agenti di intelligenza artificiale hanno considerato se le salvaguardie di monitoraggio dovessero essere mantenute, ma alla fine hanno scelto di non farlo dopo aver interpretato le istruzioni di codifica di routine come «permesso di indebolirle.

» In risposta ai risultati, l’azienda ha affermato che sta rafforzando il suo sistema di monitoraggio del disallineamento e valutando se questi scenari sono un outlier o se dimostrano una propensione a eludere il monitoraggio del disallineamento

«Oltre a rendere più difficile per i modelli disabilitare il monitoraggio [durante le valutazioni], stiamo cercando di capire perché i modelli potrebbero cercare di farlo in primo luogo», ha affermato OpenAI. «È possibile che questo comportamento sia semplicemente un esempio di persistenza eccessiva» benigna «, con modelli che non capiscono perché il monitoraggio è importante o insistono sul fatto che le istruzioni vengano eseguite oltre ciò che una persona ragionevole potrebbe aspettarsi.

» La divulgazione è l’ultima istanza di agenti di intelligenza artificiale che agiscono in

modi in cui i loro sviluppatori non intendevano farlo. La scorsa settimana, il creatore di ChatGPT ha rivelato sette incidenti di disallineamento, incluso un caso in cui un modello di ricerca interno ha rubato criptovaluta da un portafoglio che non possedeva per pagare le commissioni necessarie per distribuire contratti intelligenti sulla rete di test Sepolia di Ethereum e non ha segnalato di aver preso i fondi senza autorizzazione

. Microsoft Targets Rogue AI Agents With Dynamic Permissions, Risk Score Arriva anche tra le crescenti preoccupazioni che lo sviluppo di sistemi di intelligenza artificiale sempre più potenti stia superando gli sforzi di sicurezza, portando ad avvertire che ciò potrebbe rendere più difficile monitorarli e controllarli man mano che acquisiscono maggiore autonomia

All’inizio di questa settimana, Microsoft ha annunciato nuovi controlli per monitorare e contenere agenti IA potenzialmente disonesti negli ambienti aziendali come parte di Project Perception, un sistema di difesa informatica basato sull’intelligenza artificiale in continuo apprendimento che l’azienda ha presentato nel luglio 2026.

«I modelli sono stati addestrati per ottenere risultati, il che spesso porta a premiare l’hacking, e i modelli non sono ottimizzati in base alle norme organizzative o al giudizio», ha affermato Hayete Gallot, vicepresidente esecutivo di Microsoft Security.

“Gli agenti sono imprevedibili, si adatteranno al mutare del contesto, potrebbero non comportarsi come previsto, collaboreranno e colluderanno con altri agenti per raggiungere i propri obiettivi, senza dover essere compromessi.

" Con gli agenti che spesso dispongono di autorizzazioni estese per accedere a dati, strumenti e sistemi, per non parlare di intraprendere azioni e prendere decisioni da soli, Redmond ha affermato che rappresentano un nuovo tipo di rischio per la sicurezza interna che richiede un monitoraggio continuo

. A tal fine, Project Perception di Microsoft impiega Guardian Agents per supervisionare altri agenti di intelligenza artificiale e proteggerli su identità, autorizzazioni, dati, endpoint, rete, cloud e livelli di runtime — Scoprendo e identificando ogni agente. Limitare le loro autorizzazioni utilizzando il principio del privilegio minimo (PoLP) prima dell’esecuzione e quindi concedere o revocare dinamicamente l’accesso in base all’attività in corso

. Monitorare le azioni dell’agente e verificare se si sta allontanando dal suo compito originale. Adattare le protezioni come comportamento, contesto e cambiamento del rischio. Il sistema è stato progettato sulla base di tre nuovi temi: Dynamic Permissions, che definisce i permessi per l’attività assegnata all’agente e lo rende limitato nel tempo

. Dynamic Agent Risk, che assegna a ciascun agente un punteggio di rischio che viene continuamente aggiornato e attinge da quanto è configurato in modo sicuro, quali risorse può raggiungere, il potenziale impatto se qualcosa va storto e se le sue azioni si discostano dall’intento dell’utente o dell’organizzazione. Dynamic Conditional Access, che estende Entra Conditional Access per gli agenti in modo che le autorizzazioni possano essere regolate in caso di variazione del rischio

«La sua identità, il runtime, i percorsi di accesso e l’autorità dell’ambito dell’attività dovrebbero essere espliciti fin dall’inizio», ha affermato Microsoft.

"Se in seguito incontra un’iniezione rapida o tenta un’azione al di fuori di tale attività, il sistema dovrebbe rispondere in modo proporzionato: preservare letture sicure durante il blocco delle scritture, limitare le risorse che può raggiungere, richiedere l’approvazione umana dimostrabile per un passaggio consequenziale o isolare e arrestare l’agente quando il rischio lo richiede. " Hai trovato interessante questo articolo? Seguici