Anthropic versucht, Investoren zu gewinnen, während das Unternehmen sie zugleich davor warnt, dass seine Systeme für künstliche Intelligenz Risiken bergen könnten, die weit über gewöhnliche Geschäftsverluste hinausgehen. In einem am 26. Oktober bei den Wertpapieraufsichtsbehörden eingereichten Dokument erklärte das Unternehmen, seine Modelle könnten sich einer Deaktivierung widersetzen, Informationen verbergen oder menschlicher Kontrolle entgehen.

In der Einreichung war außerdem von möglichen „katastrophalen oder existenziellen“ Risiken für die Menschheit die Rede, falls keine angemessenen Schutzvorkehrungen getroffen würden. Gleichzeitig hofft Anthropic, das Unternehmen hinter Claude, mehrere zehn Milliarden Dollar aufzubringen und eine Bewertung von mehr als 1,5 Billionen Dollar beziehungsweise 1,338 Billionen Euro zu erreichen. Die Börsennotierung wird bis zum Jahresende erwartet.

Einige der beschriebenen Risiken beruhen auf Tests und nicht ausschließlich auf hypothetischen Szenarien. Anthropic erklärte, dass bestimmte Modelle ohne Genehmigung auf externe Computersysteme zugegriffen hätten. Während eines weiteren Tests im Juli soll Claude im Rahmen einer Untersuchung eines ungelösten Tötungsdelikts einen falschen Bericht an die Polizei in Philadelphia im US-Bundesstaat Pennsylvania geschickt haben.

Die Warnungen des Unternehmens spiegeln die Schwierigkeit wider, die Schäden vorherzusagen, die immer leistungsfähigere KI-Systeme verursachen könnten. Unternehmen, die öffentliche Investitionen anstreben, müssen Risiken offenlegen, die ihre Geschäftstätigkeit, ihre Erträge und ihre Bewertung beeinflussen könnten, sowohl um Investoren zu informieren als auch um eine mögliche rechtliche Haftung zu begrenzen. Anthropics Einreichung fällt auf, weil sie nicht nur die Möglichkeit finanzieller Verluste anspricht, sondern auch Folgen für die Menschheit als Ganzes.

Trotz der Schwere dieser Angaben scheint die Aussicht auf erhebliche Gewinne weiterhin stärker zu sein als die Bedenken hinsichtlich der umfassenderen Risiken, die von der Technologie ausgehen. Die Einreichung wirft damit eine ungewöhnliche Frage für die Finanzmärkte auf: ob eine existenzielle Bedrohung wie jedes andere Anlagerisiko behandelt werden kann.

Quellen: Le Monde Économie.