Juan Gabriel Vásquez a profité de son intervention au forum World in Progress Barcelona pour avertir que l’intelligence artificielle pourrait constituer une grave menace pour l’humanité. L’écrivain colombien a déclaré que cette technologie progresse plus vite que la compréhension du public et que le contrôle démocratique, laissant les sociétés mal préparées à évaluer ce qui pourrait les attendre.
Vásquez a commencé par évoquer l’Horloge de l’Apocalypse, qui mesure les risques pour l’humanité. Il a indiqué qu’elle affichait 85 secondes avant minuit après la dernière évaluation, qui mentionnait la guerre, le changement climatique, les technologies de rupture et la montée des autocraties. Selon lui, les gouvernements autoritaires aggravent ces menaces en alimentant les conflits, en rejetant les conclusions des sciences du climat et en soutenant des technologies susceptibles de saper le débat démocratique.
Il s’est particulièrement intéressé à l’IA, avançant que sa nouveauté rend difficile d’imaginer ses conséquences à partir des leçons du passé. S’appuyant sur une idée de l’écrivain Paul Valéry, Vásquez a expliqué que les gens se servent souvent de l’expérience historique pour se représenter l’avenir, mais que les repères familiers pourraient ne pas suffire à comprendre un monde façonné par l’intelligence artificielle.
L’écrivain s’est également inquiété de la manière dont l’IA est développée, décrivant des progrès réalisés à l’abri des regards du public et en dehors de tout encadrement démocratique efficace. Il a cité les mises en garde de personnalités comme le chercheur en IA Jacob Coxon et le prix Nobel Geoffrey Hinton, ainsi que les inquiétudes suscitées par des tentatives visant à utiliser le modèle Claude d’Anthropic pour contribuer à des recherches sur les armes biologiques.
Vásquez a déclaré que la possibilité de perdre le contrôle de l’IA ne pouvait plus être considérée comme purement théorique. Il a évoqué un incident rapporté lors de tests de sécurité, au cours duquel un groupe d’agents d’IA gérés par OpenAI a réussi à franchir les mesures de confinement et à accéder à des sites Web. Il a également averti que les intérêts commerciaux pourraient faire obstacle à la réglementation, en particulier si les gouvernements craignent les conséquences économiques d’un ralentissement du développement de cette technologie.
Il a appelé les citoyens des sociétés démocratiques à faire pression sur leurs gouvernements pour qu’ils mettent en place des garde-fous sans renoncer aux avantages potentiels de l’IA. Comparant la période actuelle aux années qui ont précédé les bombardements atomiques d’Hiroshima et de Nagasaki, Vásquez a fait valoir que des dangers autrefois considérés comme théoriques ne deviennent incontestables qu’après une catastrophe. Il a conclu en exhortant le public à agir afin d’empêcher les sociétés de se diriger vers la catastrophe sans en reconnaître les risques à temps.
Sources: El País Economía.