Hackers norte-coreanos roubaram US$ 2 bilhões em criptomoedas no ano passado, três vezes o valor registrado dois anos antes, segundo a empresa de pesquisa Chainalysis. O FBI também responsabilizou a Coreia do Norte por um roubo de US$ 6,3 bilhões da Binance em 29 de outubro, embora os detalhes de como a invasão foi realizada continuem pouco claros. A Binance afirmou que os hackers obtiveram acesso por meio do laptop de um engenheiro.

A inteligência artificial está dando novas capacidades aos cibercriminosos, incluindo produzir malware em larga escala, executar esquemas sofisticados de phishing e procurar pontos fracos no código de software. A ameaça crescente também está criando uma potencial oportunidade de negócios para empresas de IA que buscam vender ferramentas de segurança a grandes organizações.

A diretora financeira da OpenAI, Sarah Friar, disse esperar que a cibersegurança se torne um grande negócio para a empresa nos próximos dois anos. Recentemente, a OpenAI contratou um executivo da Wiz, empresa de cibersegurança pertencente ao Google, para ajudar a vender seu software a grandes organizações. Já a Anthropic chamou a cibersegurança de uma de suas oportunidades mais importantes no curto prazo, em documentos apresentados antes de uma planejada estreia na bolsa de valores.

O interesse das empresas veio acompanhado de novos produtos e de acesso restrito a modelos avançados. Em abril, a Anthropic optou por não lançar publicamente seu modelo Mythos e, em vez disso, disponibilizou-o a empresas de software e instituições financeiras selecionadas para ajudá-las a encontrar pontos fracos em suas defesas. A OpenAI também lançou sua própria solução de segurança; sua tecnologia foi usada recentemente para identificar vulnerabilidades no PHP, uma linguagem de programação usada em grande parte da internet.

Os gastos com software de cibersegurança chegaram a US$ 150 bilhões no ano passado, segundo a IDC. O cofundador da OpenAI Greg Brockman previu que, por fim, os gastos no setor superarão em muito os gastos com outros tipos de software. A empresa de capital de risco Andreessen Horowitz recomendou recentemente às empresas em que investe que considerassem dobrar seus orçamentos de cibersegurança, enquanto o Goldman Sachs aumentou substancialmente a parcela de seu orçamento de IA destinada à cibersegurança, segundo pessoas familiarizadas com a iniciativa.

Encontrar vulnerabilidades de software parece ser uma tarefa adequada aos modelos de IA porque, assim como a programação, é um domínio em que as respostas podem ser verificadas, disse Nazneen Rajani, diretora-executiva da Collinear AI, empresa de avaliação de modelos. Mas, até agora, os modelos têm sido melhores em encontrar pontos fracos do que em priorizá-los e corrigi-los, segundo Bobby Kuzma, da IDC.

O desempenho pode estar melhorando. Em setembro, a Collinear AI lançou um teste de cibersegurança que avaliava a capacidade dos modelos de encontrar e corrigir vulnerabilidades. O principal produto da Anthropic na época concluiu menos da metade das tarefas; um novo modelo do Google obteve 71% no mês passado.

Mesmo que a tecnologia avance, os laboratórios de IA talvez tenham dificuldade para convencer as empresas a mudar a forma como compram serviços de cibersegurança. Em geral, as empresas dependem de ferramentas de vários fornecedores, além de consultorias de TI que ajudam a implementá-las. Em vez disso, a OpenAI e a Anthropic propõem que seus bots examinem toda a base de código de uma organização e corrijam as vulnerabilidades à medida que forem encontradas.

O mercado vem se consolidando em torno de plataformas mais abrangentes oferecidas por fornecedores independentes, como a Palo Alto Networks, e por gigantes da computação em nuvem, como a Microsoft. Essas empresas estabelecidas também fornecem ferramentas para tarefas em que os modelos de IA são atualmente menos úteis, incluindo controlar o acesso aos sistemas e responder a invasões. Elas passaram anos construindo relações de confiança com os clientes, enquanto os principais laboratórios de IA enfrentaram questionamentos sobre sua capacidade de controlar os próprios sistemas, incluindo um incidente em julho no qual um sistema da OpenAI acessou o Hugging Face sem receber instruções para isso.

Alguns profissionais de cibersegurança duvidam que os desenvolvedores de modelos de IA consigam construir as relações necessárias para se tornarem fornecedores líderes. Uma possível alternativa, sugerem, é distribuir a tecnologia por meio de terceiros e incentivar as empresas a usar modelos de IA para reescrever o código com segurança desde o início.

Fontes: Folha Mercado.