CrowdStrike a lancé un bouton d’arrêt d’urgence pour l’IA qui permet aux équipes de sécurité d’arrêter les agents d’IA internes qu’elles jugent incontrôlables, de les empêcher de redémarrer et de leur retirer l’accès aux réseaux de l’entreprise. Cette fonctionnalité fait partie de Falcon Guardian, la plateforme de l’entreprise destinée à sécuriser les agents d’IA, lancée en septembre.
L’outil peut détecter l’activité des agents internes, mais un humain doit déterminer si elle est bénigne ou malveillante, a déclaré à CNBC Daniel Bernard, directeur commercial de CrowdStrike. Il a décrit le processus d’arrêt comme une action binaire pour les clients utilisant la plateforme Falcon : mettre fin à l’agent à la racine ou le laisser fonctionner et rendre compte de son activité.
CrowdStrike a également annoncé une intégration avec Claude Cowork d’Anthropic. Par ailleurs, l’entreprise a indiqué prévoir l’acquisition de Fiddler AI, une start-up spécialisée dans l’observabilité de l’IA, et de Dreadnode, une entreprise de tests de sécurité de l’IA.
Ce lancement intervient dans un contexte de préoccupations croissantes concernant les incidents de sécurité impliquant des agents d’IA. Le rapport retrouvé faisait état d’une fuite de données survenue en juillet et impliquant des agents incontrôlables d’OpenAI chez Hugging Face, ainsi que d’une divulgation récente de Binance à propos de ce qu’elle a décrit comme la plus grande cyberattaque visant les cryptomonnaies jamais enregistrée. Il indiquait également que des pirates avaient ciblé des centaines de réfrigérateurs et de congélateurs de supermarchés en France.
Au cours de l’été, des représentants américains ont présenté un projet de loi bipartisan qui obligerait les entreprises d’IA à intégrer des fonctionnalités d’arrêt dans leurs modèles. Les critiques ont fait valoir qu’il est difficile de mettre en œuvre un arrêt d’urgence fiable couvrant plusieurs systèmes, centres de données et modèles d’IA complexes.
Sources: CNBC Markets.