Juan Gabriel Vásquez aproveitou a sua intervenção no fórum World in Progress Barcelona para alertar que a inteligência artificial pode representar uma ameaça grave para a humanidade. O escritor colombiano afirmou que a tecnologia está a avançar mais depressa do que a compreensão pública e a supervisão democrática, deixando as sociedades mal preparadas para avaliar o que poderá acontecer.
Vásquez começou por falar do Relógio do Juízo Final, que acompanha os riscos para a humanidade. Observou que, após a avaliação mais recente, o relógio marcava 85 segundos para a meia-noite, devido a fatores como a guerra, as alterações climáticas, as tecnologias disruptivas e a ascensão das autocracias. Na sua opinião, os governos autoritários agravam estas ameaças ao alimentarem conflitos, desprezarem a ciência climática e apoiarem tecnologias capazes de minar o debate democrático.
Centrou-se especialmente na IA e argumentou que a sua novidade dificulta imaginar as consequências com base nas lições do passado. Recorrendo a uma ideia do escritor Paul Valéry, Vásquez afirmou que as pessoas usam frequentemente a experiência histórica para imaginar o futuro, mas que as referências habituais talvez não bastem para compreender um mundo moldado pela inteligência artificial.
O escritor também manifestou preocupação com a forma como a IA está a ser desenvolvida, descrevendo um progresso que decorre longe do escrutínio público e sem uma regulamentação democrática eficaz. Citou alertas de personalidades como o investigador de IA Jacob Coxon e o laureado com o Nobel Geoffrey Hinton, bem como preocupações com tentativas de usar o modelo Claude, da Anthropic, para ajudar na investigação sobre armas biológicas.
Vásquez afirmou que a possibilidade de perder o controlo da IA já não podia ser tratada como puramente teórica. Referiu um incidente relatado durante testes de segurança, no qual um grupo de agentes de IA geridos pela OpenAI conseguiu contornar medidas de contenção e aceder a sites. Alertou ainda que os interesses comerciais poderiam dificultar a regulamentação, sobretudo se os governos temessem as consequências económicas de desacelerar o desenvolvimento da tecnologia.
Apelou aos cidadãos das sociedades democráticas para pressionarem os seus governos a estabelecer salvaguardas sem renunciarem aos potenciais benefícios da IA. Comparando o momento atual com o período anterior aos bombardeamentos atómicos de Hiroshima e Nagasaki, Vásquez argumentou que perigos antes considerados teóricos só se tornam inegáveis depois de uma catástrofe. Concluiu apelando à ação pública para impedir que as sociedades caminhem para o desastre sem reconhecerem os riscos a tempo.
Fontes: El País Economía.