Grandes bancos e varejistas estão começando a restringir agentes pessoais de IA à medida que os consumidores os utilizam para buscar ofertas, comparar taxas de rendimento e cancelar assinaturas. JPMorgan Chase, Charles Schwab, Amazon, Neiman Marcus e Kohl’s estão entre as empresas que passaram a bloquear ferramentas como o Muse, da Meta.
A mudança abriu um debate sobre se as empresas podem proteger os clientes e seus sistemas sem impedir que eles usem uma tecnologia concebida para reduzir atritos. O CEO do JPMorgan, Jamie Dimon, afirmou que o banco bloqueia agentes externos de IA de atuar em nome de clientes de varejo por causa dos riscos de segurança. A Amazon também pediu à Meta que removesse a empresa da experiência do Muse, argumentando que aplicativos de terceiros que fazem compras para os clientes deveriam respeitar a decisão de um prestador de serviços sobre participar ou não.
Outras empresas estão adotando uma abordagem mais aberta. O Walmart afirmou que os agentes de IA teriam permissão para acessar sua vitrine virtual, com os mesmos preços, ofertas e taxas exibidos aos agentes e aos compradores humanos antes de uma compra.
Uma auditoria das políticas de acesso de 51 grandes varejistas dos Estados Unidos constatou que apenas 11 haviam abordado deliberadamente os agentes de IA. Cinco, incluindo Amazon, Kohl’s e Neiman Marcus, os restringiam explicitamente, enquanto 37 bloqueavam agentes de compras indiretamente por meio de regras antigas criadas para rastreadores da web. Nenhum dos varejistas analisados tinha um sistema que permitisse a um agente verificado concluir uma compra. A auditoria também observou que as políticas publicadas não demonstram necessariamente como as restrições são aplicadas tecnicamente.
Evin McMullen, cofundadora e CEO da Billions Network e da AmanTrue, afirmou que a maioria dos varejistas ainda não havia tomado uma decisão clara sobre os agentes de IA. Michael Abbott, líder global de serviços bancários da Accenture, disse que as empresas que dependem de bloqueá-los podem enfrentar dificuldades com o tempo, caso os clientes autorizem os agentes a agir em seu nome.
Abbott afirmou que uma pesquisa da Accenture constatou que 65% dos consumidores considerariam usar um assistente financeiro semelhante ao GPT por meio de uma plataforma de IA generativa ou carteira digital, enquanto 71% gostariam de ter um assistente de IA dentro do aplicativo móvel de seu principal banco. Ele argumentou que os clientes geralmente preferem serviços que economizam tempo e reduzem o esforço, mas ainda querem manter o controle: 82% querem aprovar cada ação da IA e 79% querem ter a capacidade de pausar ou interromper um agente imediatamente.
As preocupações com a segurança continuam significativas. Michael Jabbara, executivo da Visa, afirmou que fraudadores poderiam criar agentes falsos para roubar informações de login ou de pagamento. Mesmo agentes legítimos poderiam agir além da intenção do cliente, como comprar um item que haviam sido solicitados apenas a localizar. Ele disse que as empresas precisam estabelecer quem é um agente, quem ele representa e quais permissões possui.
O possível volume de atividades automatizadas é outra preocupação. Milhões de agentes poderiam consultar continuamente sites, negociar preços ou solicitar reembolsos, pressionando a infraestrutura digital e de atendimento ao cliente. Abbott descreveu isso como um desafio de infraestrutura, e não como uma ameaça existencial, afirmando que as empresas precisarão de sistemas que autentiquem agentes, verifiquem permissões e lidem de forma eficiente com interações entre máquinas.
Ed Felten, professor emérito de Princeton e ex-funcionário de tecnologia do governo dos Estados Unidos, afirmou que os agentes poderiam ser difíceis de bloquear quando operam por meio do próprio navegador do usuário. Na sua avaliação, as restrições podem desacelerar a adoção, mas os sites que bloquearem agentes úteis de forma eficaz demais poderão acabar perdendo negócios.
Alguns executivos esperam que os grandes participantes estabelecidos mantenham suas restrições enquanto avaliam o efeito sobre seus modelos de negócios. Joseph Chalom, CEO da SharpLink e ex-executivo da BlackRock, afirmou que os agentes poderiam reduzir os custos de mudança ao transferir dinheiro entre contas, remarcar viagens por preços mais baixos e comparar produtos financeiros. Por isso, ele espera que as empresas sejam cautelosas ao abrir o acesso.
Abbott afirmou que, no curto prazo, o mercado provavelmente terá tanto instituições receptivas quanto restritivas, enquanto as empresas lidam com autenticação, responsabilidade e governança. Com o tempo, ele espera que os consumidores deleguem aos agentes mais decisões financeiras administrativas, o que significa que os bancos precisarão desenvolver estratégias que vão além da defesa.
As empresas também estão desenvolvendo alternativas próprias. O CEO da Amazon, Andy Jassy, afirmou que a Alexa para Compras pretende se tornar o principal agente de compras dos clientes da Amazon, utilizando informações como histórico de compras, detalhes de entrega e dados de pagamento para simplificar as compras.
O crescimento dos agentes também poderia enfraquecer formas tradicionais de fidelidade à marca. Nikhil Behl, presidente de software da FICO, afirmou que um agente de IA se concentra nos resultados, e não em logotipos ou relacionamentos duradouros com os clientes. Fatores como preços transparentes, aprovações consistentes, resolução rápida e termos que resistam à comparação podem se tornar mais importantes à medida que ferramentas automatizadas tomam decisões de compra e financeiras.
Fontes: CNBC Markets.