Microsoft lancia Guardian Agents: nuovi strumenti per gestire i rischi degli agenti AI

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa si inserisce in un contesto in cui l’azienda riconosce che, sebbene gli agenti AI non siano intrinsecamente maligni, possono commettere errori o essere manipolati, rendendo necessaria una supervisione esterna.

Un approccio innovativo alla sicurezza degli agenti AI

Microsoft sottolinea l’importanza di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. I Guardian Agents si propongono di fornire una sorveglianza continua, evitando che gli agenti AI diventino l’unica autorità di sicurezza. Questo approccio si integra con iniziative già avviate come Project Perception e la cyber stack di Microsoft, che coordinano agenti specializzati per analizzare dati di sicurezza e gestire vulnerabilità.

Funzionalità e controlli dei Guardian Agents

I controlli implementati dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici. Questi controlli si applicano a sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Le responsabilità principali includono:

• Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
• Contenere l’accesso e le azioni prima che si verifichino;
• Proteggere dati e risorse utilizzate dagli agenti;
• Adattare continuamente le protezioni in base a comportamento e contesto.

Nuove funzionalità e capacità di rilevamento

Tra le innovazioni annunciate, spicca la scoperta estesa di 35 nuovi tipi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft ha ampliato Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e sconosciuti, rilevati tramite sensori di sicurezza.

Per migliorare il controllo operativo, sono state introdotte funzionalità come:

• Dynamic Permissions: limitano l’accesso di un agente alle risorse necessarie per compiti specifici;
• Dynamic Agent Risk: valuta potenziali minacce;
• Dynamic Conditional Access: reagisce a rischi crescenti, restringendo permessi o richiedendo intervento umano.

In situazioni critiche, un agente può essere fermato e isolato per prevenire danni.

Conclusioni

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare con rapidità e precisione, integrando sensori e attuatori su tutta la pila di sicurezza. Questa iniziativa rappresenta un passo significativo verso una gestione più sicura e responsabile degli agenti AI, affrontando le sfide emergenti nel campo della sicurezza informatica.