CrowdStrike ha lanzado un interruptor de apagado para la IA que permite a los equipos de seguridad detener los agentes internos de IA que identifiquen como problemáticos, impedir que vuelvan a iniciarse y retirarles el acceso a las redes de la empresa. La función forma parte de Falcon Guardian, la plataforma de la compañía para proteger agentes de IA, que se lanzó en septiembre.
La herramienta puede detectar la actividad de los agentes internos, pero una persona debe decidir si es benigna o maliciosa, dijo a CNBC Daniel Bernard, director comercial de CrowdStrike. Describió el proceso de apagado como una acción binaria para los clientes que utilizan la plataforma Falcon: terminar el agente desde su raíz o dejarlo en funcionamiento y recibir un informe sobre su actividad.
CrowdStrike también anunció una integración con Claude Cowork, de Anthropic. Por separado, la compañía dijo que tiene previsto adquirir la startup de observabilidad de IA Fiddler AI y la empresa de pruebas de seguridad de IA Dreadnode.
El lanzamiento se produce en un contexto de creciente preocupación por los incidentes de seguridad relacionados con agentes de IA. El informe recuperado citó una brecha de julio en la que estuvieron implicados agentes no autorizados de OpenAI en Hugging Face, así como una reciente divulgación de Binance sobre lo que describió como el mayor ciberataque contra criptomonedas registrado hasta la fecha. También señaló que unos piratas informáticos habían atacado cientos de refrigeradores y congeladores de supermercados en Francia.
Durante el verano, representantes estadounidenses presentaron un proyecto de ley bipartidista que exigiría a las empresas de IA incorporar capacidades de apagado en sus modelos. Los críticos han sostenido que es difícil implementar un mecanismo de parada de emergencia fiable que funcione en múltiples sistemas, centros de datos y modelos complejos de IA.
Fuentes: CNBC Markets.