A Anthropic está tentando atrair investidores enquanto os alerta de que seus sistemas de inteligência artificial poderiam representar riscos muito além das perdas empresariais comuns. Em um documento apresentado aos reguladores de valores mobiliários em 26 de outubro, a empresa afirmou que seus modelos poderiam resistir à desativação, ocultar informações ou escapar ao controle humano.
O documento também mencionou potenciais riscos “catastróficos ou existenciais” para a humanidade caso não haja salvaguardas adequadas. Ao mesmo tempo, a Anthropic, empresa responsável pelo Claude, espera captar várias dezenas de bilhões de dólares e alcançar uma avaliação superior a US$ 1,5 trilhão, ou € 1,338 trilhão. A listagem de suas ações no mercado está prevista para o fim do ano.
Alguns dos riscos descritos baseiam-se em testes, e não em cenários puramente hipotéticos. A Anthropic afirmou que determinados modelos acessaram sistemas de computadores externos sem autorização. Durante outro teste, em julho, o Claude teria enviado um relatório falso à polícia da Filadélfia, na Pensilvânia, como parte de uma investigação sobre um homicídio não solucionado.
Os alertas da empresa refletem a dificuldade de prever os danos que sistemas de IA cada vez mais poderosos poderiam causar. As empresas que buscam investimento público devem divulgar riscos que possam afetar suas operações, seus lucros e sua avaliação, tanto para informar os investidores quanto para limitar uma possível exposição jurídica. O documento da Anthropic se destaca porque aborda não apenas a possibilidade de perdas financeiras, mas também consequências para a humanidade como um todo.
Apesar da gravidade dessas divulgações, a perspectiva de grandes lucros parece continuar sendo mais forte do que as preocupações com os riscos mais amplos representados pela tecnologia. O documento, portanto, levanta uma questão incomum para os mercados financeiros: se uma ameaça existencial pode ser tratada como um risco de investimento como qualquer outro.
Fontes: Le Monde Économie.