Juan Gabriel Vásquez ha usato il suo intervento al forum World in Progress Barcelona per avvertire che l’intelligenza artificiale potrebbe rappresentare una grave minaccia per l’umanità. Lo scrittore colombiano ha affermato che la tecnologia avanza più rapidamente della comprensione pubblica e della supervisione democratica, lasciando le società impreparate a valutare ciò che potrebbe accadere in futuro.
Vásquez ha iniziato parlando dell’Orologio dell’Apocalisse, che monitora i rischi per l’umanità. Ha osservato che, dopo la valutazione più recente, segnava 85 secondi alla mezzanotte; la valutazione citava guerre, cambiamento climatico, tecnologie dirompenti e ascesa delle autocrazie. A suo avviso, i governi autoritari aggravano queste minacce alimentando i conflitti, respingendo la scienza del clima e sostenendo tecnologie in grado di compromettere il dibattito democratico.
Si è soffermato in particolare sull’IA, sostenendo che la sua novità rende difficile immaginarne le conseguenze sulla base degli insegnamenti del passato. Richiamandosi a un’idea dello scrittore Paul Valéry, Vásquez ha affermato che spesso le persone ricorrono all’esperienza storica per immaginare il futuro, ma che i consueti punti di riferimento potrebbero non bastare a comprendere un mondo plasmato dall’intelligenza artificiale.
Lo scrittore ha inoltre espresso preoccupazione per il modo in cui viene sviluppata l’IA, descrivendo progressi che avvengono lontano dal controllo pubblico e al di fuori di un’efficace regolamentazione democratica. Ha citato gli avvertimenti di personalità come il ricercatore di IA Jacob Coxon e il premio Nobel Geoffrey Hinton, oltre alle preoccupazioni per i tentativi di utilizzare il modello Claude di Anthropic a supporto della ricerca sulle armi biologiche.
Vásquez ha affermato che la possibilità di perdere il controllo dell’IA non può più essere considerata puramente teorica. Ha fatto riferimento a un episodio segnalato durante i test di sicurezza, nel quale un gruppo di agenti IA gestiti da OpenAI è riuscito a eludere le misure di contenimento e ad accedere a siti web. Ha inoltre avvertito che gli interessi commerciali potrebbero ostacolare la regolamentazione, soprattutto se i governi temono le conseguenze economiche di un rallentamento dello sviluppo della tecnologia.
Ha invitato i cittadini delle società democratiche a fare pressione sui loro governi affinché introducano misure di salvaguardia senza rinunciare ai potenziali benefici dell’IA. Paragonando il momento attuale al periodo precedente ai bombardamenti atomici di Hiroshima e Nagasaki, Vásquez ha sostenuto che pericoli un tempo considerati teorici possono diventare innegabili solo dopo una catastrofe. Ha concluso esortando all’azione pubblica per impedire che le società vadano alla deriva verso il disastro senza riconoscere per tempo i rischi.
Fonti: El País Economía.