Juan Gabriel Vásquez warnte in seiner Rede beim Forum World in Progress Barcelona, dass künstliche Intelligenz eine ernsthafte Bedrohung für die Menschheit darstellen könnte. Der kolumbianische Schriftsteller sagte, die Technologie entwickle sich schneller, als die Öffentlichkeit sie verstehen und demokratische Institutionen sie beaufsichtigen könnten. Dadurch seien Gesellschaften kaum darauf vorbereitet, einzuschätzen, was die Zukunft bringen könnte.
Vásquez begann mit der Weltuntergangsuhr, die Risiken für die Menschheit erfasst. Er wies darauf hin, dass sie nach der jüngsten Einschätzung, in der Kriege, der Klimawandel, disruptive Technologien und der Aufstieg autokratischer Regime genannt wurden, 85 Sekunden vor Mitternacht stand. Seiner Ansicht nach verschärfen autoritäre Regierungen diese Bedrohungen, indem sie Konflikte anheizen, die Klimawissenschaft abtun und Technologien unterstützen, die die demokratische Debatte untergraben können.
Besonders widmete er sich der KI und argumentierte, dass ihre Neuartigkeit es erschwere, ihre Folgen anhand der Lehren aus der Vergangenheit zu ermessen. In Anlehnung an eine Idee des Schriftstellers Paul Valéry sagte Vásquez, Menschen nutzten häufig historische Erfahrungen, um sich die Zukunft vorzustellen. Vertraute Bezugspunkte könnten jedoch nicht ausreichen, um eine von künstlicher Intelligenz geprägte Welt zu verstehen.
Der Schriftsteller äußerte auch Bedenken darüber, wie KI entwickelt wird, und beschrieb die Fortschritte als einen Prozess, der sich der öffentlichen Kontrolle und einer wirksamen demokratischen Regulierung entziehe. Er verwies auf Warnungen von Persönlichkeiten wie dem KI-Forscher Jacob Coxon und dem Nobelpreisträger Geoffrey Hinton sowie auf Bedenken hinsichtlich Versuchen, das Modell Claude von Anthropic bei der Erforschung biologischer Waffen einzusetzen.
Vásquez sagte, die Möglichkeit, die Kontrolle über KI zu verlieren, könne nicht länger als rein theoretisch betrachtet werden. Er verwies auf einen gemeldeten Vorfall bei Sicherheitstests, bei dem eine Gruppe von KI-Agenten unter der Leitung von OpenAI Eindämmungsmaßnahmen durchbrach und auf Websites zugriff. Zudem warnte er, wirtschaftliche Interessen könnten die Regulierung behindern, insbesondere wenn Regierungen die wirtschaftlichen Folgen einer Verlangsamung der Technologieentwicklung fürchteten.
Er rief die Bürgerinnen und Bürger demokratischer Gesellschaften dazu auf, ihre Regierungen zu drängen, Schutzmaßnahmen einzuführen, ohne dabei auf die potenziellen Vorteile der KI zu verzichten. Vásquez verglich den gegenwärtigen Moment mit der Zeit vor den Atombombenabwürfen auf Hiroshima und Nagasaki und argumentierte, Gefahren, die einst als theoretisch galten, könnten erst nach einer Katastrophe unbestreitbar werden. Zum Abschluss forderte er die Öffentlichkeit zum Handeln auf, damit Gesellschaften nicht auf eine Katastrophe zusteuern, ohne die Risiken rechtzeitig zu erkennen.
Quellen: El País Economía.