A CrowdStrike lançou um botão de emergência para IA que permite às equipes de segurança interromper agentes internos de IA que identificarem como inadequados, impedir que sejam reiniciados e remover o acesso deles às redes da empresa. O recurso faz parte da Falcon Guardian, a plataforma da empresa para proteger agentes de IA, lançada em setembro.
A ferramenta consegue detectar atividades de agentes internos, mas uma pessoa precisa decidir se elas são benignas ou maliciosas, disse à CNBC Daniel Bernard, diretor de negócios da CrowdStrike. Ele descreveu o processo de desligamento como uma ação binária para os clientes que usam a plataforma Falcon: encerrar o agente pela raiz ou deixá-lo em execução e relatar suas atividades.
A CrowdStrike também anunciou uma integração com o Claude Cowork, da Anthropic. Separadamente, a empresa informou que planeja adquirir a startup de observabilidade de IA Fiddler AI e a empresa de testes de segurança de IA Dreadnode.
O lançamento ocorre em meio à crescente preocupação com incidentes de segurança envolvendo agentes de IA. O relatório recuperado mencionou uma violação ocorrida em julho envolvendo agentes descontrolados da OpenAI na Hugging Face, bem como uma divulgação recente da Binance sobre o que descreveu como o maior ciberataque a criptomoedas já registrado. Também observou que hackers tinham como alvo centenas de refrigeradores e freezers de supermercados na França.
Durante o verão, representantes dos EUA apresentaram uma proposta de lei bipartidária que exigiria que as empresas de IA incorporassem aos seus modelos recursos de desligamento. Críticos argumentaram que é difícil implementar uma parada de emergência confiável em vários sistemas, centros de dados e modelos complexos de IA.
Fontes: CNBC Markets.