CrowdStrike ha lanciato un interruttore di emergenza per l’IA che consente ai team di sicurezza di arrestare gli agenti IA interni individuati mentre si comportano in modo anomalo, impedirne il riavvio e revocare il loro accesso alle reti aziendali. La funzionalità fa parte di Falcon Guardian, la piattaforma dell’azienda dedicata alla sicurezza degli agenti IA, lanciata a settembre.
Lo strumento è in grado di rilevare l’attività degli agenti interni, ma spetta a una persona decidere se sia innocua o dannosa, ha dichiarato a CNBC Daniel Bernard, direttore commerciale di CrowdStrike. Ha descritto la procedura di arresto come un’azione binaria per i clienti che utilizzano la piattaforma Falcon: terminare l’agente alla radice oppure lasciarlo in esecuzione e segnalare la sua attività.
CrowdStrike ha inoltre annunciato un’integrazione con Claude Cowork di Anthropic. Separatamente, l’azienda ha dichiarato di voler acquisire la startup di osservabilità dell’IA Fiddler AI e la società di test di sicurezza IA Dreadnode.
Il lancio avviene in un momento in cui cresce la preoccupazione per gli incidenti di sicurezza che coinvolgono agenti IA. Il rapporto recuperato citava una violazione di luglio che aveva coinvolto agenti OpenAI fuori controllo su Hugging Face, oltre a una recente comunicazione di Binance su quello che l’azienda ha descritto come il più grande attacco informatico alle criptovalute mai registrato. Il rapporto segnalava anche che degli hacker avevano preso di mira centinaia di frigoriferi e congelatori di supermercati in Francia.
Durante l’estate, rappresentanti degli Stati Uniti hanno presentato un disegno di legge bipartisan che imporrebbe alle aziende di IA di integrare nei loro modelli funzionalità di arresto. I critici hanno sostenuto che realizzare un arresto di emergenza affidabile su più sistemi, centri dati e modelli di IA complessi è difficile da implementare.
Fonti: CNBC Markets.