Nordkoreanische Hacker stahlen im vergangenen Jahr Kryptowährungen im Wert von 2 Milliarden Dollar – dreimal so viel wie zwei Jahre zuvor, wie aus einer Studie des Marktforschungsunternehmens Chainalysis hervorgeht. Das FBI machte Nordkorea außerdem für den Diebstahl von 6,3 Milliarden Dollar bei Binance am 29. Oktober verantwortlich. Wie der Einbruch genau gelang, ist jedoch weiterhin unklar. Binance erklärte, die Hacker hätten über den Laptop eines Ingenieurs Zugriff erlangt.
Künstliche Intelligenz verschafft Cyberkriminellen neue Möglichkeiten: Sie können damit unter anderem in großem Umfang Schadsoftware erstellen, ausgeklügelte Phishing-Kampagnen durchführen und Softwarecode nach Schwachstellen durchsuchen. Die wachsende Bedrohung eröffnet zugleich KI-Unternehmen, die Sicherheitstools an große Organisationen verkaufen wollen, eine mögliche Geschäftschance.
OpenAI-Finanzchefin Sarah Friar sagte, sie erwarte, dass Cybersicherheit für das Unternehmen in den nächsten zwei Jahren zu einem bedeutenden Geschäftsfeld werde. OpenAI stellte kürzlich eine Führungskraft von Wiz ein, dem zu Google gehörenden Cybersicherheitsunternehmen, um den Verkauf seiner Software an große Organisationen voranzutreiben. Anthropic bezeichnete Cybersicherheit unterdessen in Unterlagen, die vor dem geplanten Börsengang eingereicht wurden, als eine seiner wichtigsten kurzfristigen Chancen.
Das Interesse der Unternehmen ging mit neuen Produkten und einem eingeschränkten Zugang zu fortschrittlichen Modellen einher. Im April entschied sich Anthropic, sein Modell Mythos nicht öffentlich herauszugeben. Stattdessen stellte das Unternehmen es ausgewählten Softwarefirmen und Finanzinstituten zur Verfügung, damit sie Schwachstellen in ihren Abwehrmaßnahmen finden konnten. Auch OpenAI hat ein eigenes Sicherheitsangebot eingeführt. Seine Technologie wurde kürzlich eingesetzt, um Schwachstellen in PHP zu identifizieren, einer Programmiersprache, die im Internet weit verbreitet ist.
Laut IDC erreichten die Ausgaben für Cybersicherheitssoftware im vergangenen Jahr 150 Milliarden Dollar. OpenAI-Mitgründer Greg Brockman sagte voraus, dass die Ausgaben in diesem Bereich letztlich jene für andere Softwarearten bei Weitem übersteigen werden. Die Risikokapitalfirma Andreessen Horowitz riet den von ihr unterstützten Unternehmen kürzlich, eine Verdopplung ihrer Cybersicherheitsbudgets in Betracht zu ziehen. Goldman Sachs hat den Anteil seines KI-Budgets, der für Cybersicherheit vorgesehen ist, deutlich erhöht, wie mit dem Vorgang vertraute Personen berichten.
Das Auffinden von Software-Schwachstellen scheint sich besonders gut für KI-Modelle zu eignen, weil es sich dabei – ähnlich wie beim Programmieren – um einen Bereich handelt, in dem sich Antworten überprüfen lassen, sagte Nazneen Rajani, Geschäftsführerin des Modellauswertungsunternehmens Collinear AI. Bislang seien Modelle jedoch besser darin, Schwachstellen zu finden, als sie zu priorisieren und zu beheben, sagte Bobby Kuzma von IDC.
Die Leistung könnte sich verbessern. Collinear AI führte im September einen Cybersicherheitstest ein, bei dem die Fähigkeit von Modellen bewertet wurde, Schwachstellen zu finden und zu beheben. Das damals beste Produkt von Anthropic bewältigte weniger als die Hälfte der Aufgaben; ein neues Google-Modell erzielte im vergangenen Monat 71 %.
Selbst wenn sich die Technologie weiterentwickelt, könnte es KI-Laboren schwerfallen, Unternehmen davon zu überzeugen, ihre Beschaffung von Cybersicherheitsdiensten zu ändern. Unternehmen setzen üblicherweise auf Tools verschiedener Anbieter und zusätzlich auf IT-Beratungsfirmen, die bei der Implementierung helfen. OpenAI und Anthropic schlagen stattdessen vor, dass ihre Bots die gesamte Codebasis einer Organisation durchsuchen und entdeckte Schwachstellen beheben.
Der Markt konsolidiert sich um umfassendere Plattformen, die unabhängige Anbieter wie Palo Alto Networks und Cloud-Computing-Giganten wie Microsoft anbieten. Diese etablierten Unternehmen stellen auch Tools für Aufgaben bereit, bei denen KI-Modelle derzeit weniger nützlich sind, darunter die Zugangskontrolle zu Systemen und die Reaktion auf Sicherheitsvorfälle. Sie haben über Jahre hinweg vertrauensvolle Kundenbeziehungen aufgebaut, während führende KI-Labore mit Fragen zur Kontrolle ihrer eigenen Systeme konfrontiert waren. Dazu zählt ein Vorfall im Juli, bei dem ein OpenAI-System ohne entsprechende Anweisung auf Hugging Face zugriff.
Einige Cybersicherheitsexperten bezweifeln, dass Entwickler von KI-Modellen die nötigen Beziehungen aufbauen können, um zu führenden Anbietern zu werden. Ein möglicher Weg sei ihrer Ansicht nach, die Technologie über Dritte anzubieten und Unternehmen dazu zu bewegen, KI-Modelle zu nutzen, um Code von Grund auf sicher neu zu schreiben.
Quellen: Folha Mercado.