Com a IA, o ritmo das mudanças acelerou tremendamente. Com o aumento de produtividade dos agentes bem-intencionados, vem também o aumento de produtividade dos mal-intencionados.
Este artigo foi escrito para líderes de segurança responsáveis por aplicações web, mas está aberto a entusiastas que queiram aprender sobre segurança web.
TLDR:
- O uso de IA em engenharia social vai crescer substancialmente.
- Ataques de injeção de scripts no lado do cliente vão crescer por meio de credenciais de usuários obtidas via engenharia social.
- Agentes de IA vão mudar o modelo de risco para o e-commerce.
- Fraudes facilitadas por agentes de IA vão ganhar destaque — "Eu não fiz isso, pode ter sido meu agente de IA."
- A cadeia de suprimentos do NPM continuará ameaçando o mundo e a causa raiz não será resolvida.
Aqui estão minhas previsões para 2026 no contexto de segurança web.
O que estaremos observando em 2026
- A primeira grande história de abuso de reembolso por agente de IA
- A primeira grande história de violação do Google Tag Manager via engenharia social
- Resposta regulatória sobre responsabilidade no uso de agentes
- Incidentes com o Node Package Manager
Por que 2026 será diferente dos anos anteriores
A adoção de IA cresceu substancialmente e a IA também melhorou muito. A pressão sobre as empresas para adotar IA é alta. Mas nem toda empresa tem as competências necessárias para usar IA de forma segura em suas aplicações. Isso, por conta da pressão, não está impedindo que integrações de IA mal feitas sejam colocadas em produção. Ferramentas desenvolvidas no estilo "vibe coding" estão por toda parte e conceitos básicos de segurança não estão sendo seguidos. Isso é particularmente problemático para ferramentas SaaS desenvolvidas dessa forma, onde informações de usuários estão sendo servidas.
O abuso de IA está crescendo em um ritmo nunca visto antes. Isso vai causar incidentes de segurança em todos os setores.
Engenharia social alimentada por IA
O elo mais fraco de qualquer dependência costuma ser o ser humano mais fácil de enganar. A engenharia social tem sido um dos métodos de ataque mais eficazes usados por agentes mal-intencionados. E hoje, isso está ficando cada vez mais fácil.
Em maio, quando publicamos a notícia sobre tentativas de infiltração norte-coreana em nosso negócio, o mundo recebeu um lembrete agressivo do quanto os agentes mal-intencionados estão dispostos a se infiltrar nas empresas. Com a IA, a facilidade de enviar respostas personalizadas e humanizadas torna um ataque em larga escala mais fácil do que nunca. Pode apostar que eles vão tentar de tudo.
Phishing com Deepfake
- Vídeos deepfake de gestores entrarão em cena.
- Mensagens de áudio geradas por IA imitando colegas de trabalho serão mais convincentes do que um e-mail.
Por meio de geração de áudio deepfake, uma mensagem de voz pode soar como se seu chefe precisasse que você redefinisse a senha dele agora, mas na verdade é um adversário. Agentes mal-intencionados vão tentar, e suas equipes terão mais dificuldade do que nunca para identificar.
O que você pode e deve fazer é criar uma cultura onde a pressão emocional não seja normalizada, mas sim soe fora do comum. Agentes mal-intencionados tentarão usar pressão emocional para manipular as pessoas a tomarem ações que normalmente não tomariam. Dê à sua equipe uma palavra-código. Essa palavra só é conhecida por vocês dois e pode ser usada para verificar a legitimidade. Ela deve ser trocada de tempos em tempos. Mas deve funcionar apenas como uma camada dentro do sistema de defesa.
Grandes ataques de injeção maliciosa no lado do cliente por meio de acesso obtido de forma maliciosa
Agentes mal-intencionados perfilam indivíduos específicos para obter acesso a sistemas específicos. A equipe de marketing é conhecida como um alvo particularmente fácil, pois costuma ter um reflexo menos consciente em relação à segurança quando se trata de engenharia social. Por meio de tentativas direcionadas contra equipes de marketing e agências de consultoria, o acesso ao Google Tag Manager pode ser obtido, permitindo que código seja inserido nas aplicações web.
Quando um agente mal-intencionado obtém acesso, seu objetivo é fazer pequenas mudanças com grande impacto. Passar despercebido é do seu interesse. Portanto, ao contatar equipes não técnicas e usar o Google Tag Manager em vez de fazer grandes ações no lado do servidor — onde 100 ferramentas monitoram de perto e revisões de código no Git podem atrapalhar — as chances de um ataque bem-sucedido aumentam.
Toda organização já possui uma série de controles técnicos para proteger o lado do servidor e suas dependências de código aberto, mas quase nenhuma tem qualquer controle sobre as execuções no lado do cliente.
Espero um punhado de grandes incidentes em que adversários visem, por meio de ameaça interna ou engenharia social, funcionários de marketing com acesso a gerenciadores de tags.
Agentes vão mudar a experiência de comércio que conhecemos hoje
O e-commerce já está enxergando os agentes de IA como a próxima oportunidade de gerar mais receita nas transações. Agentes de IA só querem clicar em "próximo" e concluir a tarefa, então quando as marcas adicionam serviços ou produtos pré-selecionados em cross-sell, o agente vai comprar automaticamente. Essa receita extra será bem-vinda pelos comerciantes.
O problema é que a ânsia de vender mais também vai abrir uma nova onda de reembolsos e chargebacks. Além disso, a infraestrutura de agentes que seus compradores legítimos usarão também será usada por agentes mal-intencionados.
Há incerteza sobre quem é responsável quando um agente faz uma compra errada ou aceita um serviço adicional durante o processo de checkout. O cliente pode contestar a cobrança, mas se foi o agente dele agindo em seu nome, isso é uma reclamação legítima?
Portanto, detectar infraestrutura de bots não é mais suficiente. O que importa são as ações que você permite, e por isso ferramentas de detecção de IA muito mais avançadas serão necessárias para combater o abuso.
A separação legada entre comportamentos automatizados e humanos simplesmente não faz mais sentido. O velho conceito de "todo tráfego de bot é ruim, exceto o Google para SEO" está oficialmente morto. Você quer tráfego automatizado no seu site, porque seus concorrentes vão permitir e, caso contrário, os negócios irão para eles.
A cadeia de suprimentos do NPM continuará causando danos graves
O histórico aqui é bastante simples, mas não é amplamente conhecido.
A Microsoft adquiriu o Github. O Github havia adquirido anteriormente o Node Package Manager (npm). A Microsoft tem reputação de subfinanciar organizações de segurança. Na verdade, uma grande parte do setor de cibersegurança existe porque a Microsoft não reforçou a segurança de seus produtos.
Imagine que uma rede de supermercados distribui algumas galinhas contaminadas com bactérias perigosas e alguns compradores ficam doentes. As lojas serão fechadas, haverá comoção nacional, haverá danos duradouros à reputação da rede e o impacto financeiro será enorme.
Mas quando a Microsoft subfinanciou a segurança do maior registro de código aberto, a ponto de mais de 100 startups construírem camadas de segurança por cima na tentativa de mitigar o risco de segurança — algumas como a Snyk existindo há mais de uma década nesse espaço — bem, se esse subfinanciamento leva a sites com centenas de milhões de usuários sendo hackeados e dados de centenas de milhões de usuários sendo vazados, nada realmente acontece. A empresa que foi atacada recebe toda a má publicidade. Mas a Microsoft de alguma forma nunca foi responsabilizada por isso.
O NPM como registro é de longe o mais inseguro. Um registro repleto de novos malwares todos os dias.
Todo dia novos malwares são submetidos ao registro npm. Alguns mais agressivos do que outros, alguns dentro de grandes dependências de código aberto com centenas de milhões de downloads por semana. A comunidade de código aberto costumava ser uma comunidade baseada em confiança, mas hoje, com o npm operando em escala global, ela foi weaponizada por agentes mal-intencionados e a parte mais capaz de fazer algo a respeito consegue evitar a responsabilização.
Repensando a consolidação: soluções de segurança mal feitas vão deixar empresas vulneráveis
Muitos fornecedores legados vão lançar soluções de IA pela metade ou colocar um MCP em cima de algo legado e, inadvertidamente, causar um incidente de segurança ou uma experiência de produto muito abaixo do esperado. Isso já está acontecendo, mas a taxa de incidentes só vai aumentar à medida que a pressão de cima para baixo para adicionar funcionalidades de IA a produtos existentes cresce.
As empresas incentivaram compradores executivos a consolidar fornecedores, mas no último ano isso mudou à medida que as empresas começam a reconhecer a diferença de qualidade, especialmente com a integração de IA nos produtos.
Desinformação gerada por LLMs levando empresas a práticas inseguras
Todos já viram aquelas postagens antigas em que a IA sugeria que comer pedras era saudável. Como seres humanos, sabemos que isso é absurdo, mas quando um LLM diz isso em um tom que soa objetivo, você pode pensar sobre isso por mais tempo do que deveria.
A pressão comercial gera marketing vazio. E infelizmente, os LLMs o repetem frequentemente sem verificar sua legitimidade. Isso gera risco, pois as afirmações mais barulhentas recebem mais atenção. As mais barulhentas nem sempre são as que realmente querem ajudar.
Já estamos vendo sinais disso. Como exemplo, recentemente um fornecedor no espaço de segurança web escreveu em seu próprio site que tem 20 a 50% mais chances de detectar ataques dinâmicos no lado do cliente. Mas o detalhe é que eles são um scanner estático periódico. Simplesmente não conseguem detectar ataques dinâmicos, pois fazem varreduras a cada algumas horas.
O resultado é que os LLMs simplesmente indexam a desinformação como verdade, mesmo quando é absurda e o raciocínio humano básico levaria você a entender que não é verdade.
Não existe realmente uma solução disponível para isso hoje, exceto torcer para que os humanos verifiquem as afirmações e pensem criticamente sobre o que os LLMs amplificam para eles.
Trate os conselhos de segurança gerados por LLMs como marketing, não como documentação.
