CrowdStrike hat einen Notausschalter für KI eingeführt, mit dem Sicherheitsteams interne KI-Agenten stoppen können, die sie als fehlerhaft arbeitend identifizieren, ihren Neustart verhindern und ihnen den Zugriff auf Unternehmensnetzwerke entziehen können. Die Funktion ist Teil von Falcon Guardian, der Plattform des Unternehmens zum Schutz von KI-Agenten, die im September gestartet wurde.
Das Tool kann Aktivitäten interner Agenten erkennen, doch ein Mensch muss entscheiden, ob diese harmlos oder böswillig sind, sagte Daniel Bernard, Chief Business Officer von CrowdStrike, gegenüber CNBC. Er beschrieb den Abschaltvorgang für Kunden der Falcon-Plattform als binäre Maßnahme: den Agenten an seiner Wurzel beenden oder ihn weiterlaufen lassen und seine Aktivitäten melden.
CrowdStrike kündigte außerdem eine Integration mit Anthropics Claude Cowork an. Unabhängig davon teilte das Unternehmen mit, dass es den Kauf des Start-ups Fiddler AI für KI-Beobachtbarkeit und der Firma Dreadnode für KI-Sicherheitstests plant.
Die Einführung erfolgt vor dem Hintergrund wachsender Besorgnis über Sicherheitsvorfälle im Zusammenhang mit KI-Agenten. Der wiederhergestellte Bericht verwies auf einen Datenverstoß im Juli, an dem außer Kontrolle geratene OpenAI-Agenten bei Hugging Face beteiligt waren, sowie auf eine kürzlich erfolgte Mitteilung von Binance über das, was das Unternehmen als den bislang größten Krypto-Cyberangriff bezeichnete. Außerdem wurde darauf hingewiesen, dass Hacker Hunderte von Supermarktkühlschränken und -gefriertruhen in Frankreich ins Visier genommen hatten.
Im Sommer brachten Abgeordnete der Vereinigten Staaten einen parteiübergreifenden Gesetzentwurf ein, der KI-Unternehmen dazu verpflichten würde, Abschaltfunktionen in ihre Modelle einzubauen. Kritiker haben argumentiert, dass sich ein zuverlässiger Not-Aus über mehrere Systeme, Rechenzentren und komplexe KI-Modelle hinweg nur schwer umsetzen lässt.
Quellen: CNBC Markets.