Avec l'IA, le rythme du changement s'est considérablement accéléré. À mesure que les acteurs bien intentionnés gagnent en productivité, les acteurs malveillants en font autant.
Cet article s'adresse aux responsables de la sécurité des applications web, mais reste accessible aux passionnés souhaitant en apprendre davantage sur la sécurité web.
TLDR :
- L'utilisation de l'IA dans l'ingénierie sociale va croître de manière significative.
- Les attaques par injection de scripts côté client vont se multiplier grâce à des identifiants obtenus par manipulation sociale.
- Les agents IA vont modifier le modèle de risque pour le e-commerce.
- La fraude facilitée par les agents IA passera au premier plan — « Ce n'est pas moi, c'est peut-être mon agent IA qui a fait ça. »
- La chaîne d'approvisionnement NPM continuera de menacer le monde libre, et la cause profonde ne sera pas traitée.
Voici mes prédictions pour 2026 dans le contexte de la sécurité web.
Ce que nous surveillerons en 2026
- La première grande affaire d'abus de remboursement par agent IA
- La première grande violation de Google Tag Manager par ingénierie sociale
- La réponse réglementaire sur la responsabilité liée à l'utilisation des agents
- Les incidents liés au Node Package Manager
Pourquoi 2026 sera différent des années précédentes
L'adoption de l'IA a considérablement progressé, et l'IA elle-même s'est nettement améliorée. La pression sur les entreprises pour adopter l'IA est forte. Mais toutes n'ont pas les compétences nécessaires pour intégrer l'IA de manière sécurisée dans leurs applications. Cette pression n'empêche pas pour autant des intégrations IA bâclées d'être mises en production. Les outils développés au feeling sont partout, et les principes de sécurité de base ne sont pas respectés. C'est particulièrement problématique pour les outils SaaS développés à la va-vite, où des informations utilisateurs sont exposées.
L'abus de l'IA s'intensifie à une vitesse inédite. Cela va provoquer des incidents de sécurité dans tous les secteurs.
L'ingénierie sociale dopée à l'IA
Le maillon le plus faible de toute dépendance sera souvent l'être humain le plus facile à tromper. L'ingénierie sociale est l'une des méthodes d'attaque les plus efficaces utilisées par les acteurs malveillants. Et aujourd'hui, elle devient encore plus simple.
En mai dernier, lorsque nous avons publié des informations sur les tentatives d'infiltration nord-coréenne dans notre entreprise, le monde a reçu un rappel brutal de l'ampleur des efforts que les acteurs malveillants sont prêts à déployer pour s'infiltrer dans les organisations. Avec l'IA, la facilité d'envoyer des réponses personnalisées ressemblant à celles d'un humain rend les attaques de masse et de ciblage plus simples que jamais. Tout ce qu'on peut imaginer, ils le feront.
Le phishing par deepfake
- Des vidéos deepfake de managers seront utilisées.
- Des messages audio générés par IA imitant des collègues seront plus convaincants qu'un e-mail.
Grâce à la génération audio par deepfake, un message vocal peut sembler provenir de votre patron vous demandant de réinitialiser son mot de passe immédiatement, alors qu'il s'agit en réalité d'un adversaire. Les acteurs malveillants tenteront le coup, et vos équipes auront plus de mal que jamais à faire la différence.
Ce que vous pouvez et devez faire, c'est instaurer une culture où la pression émotionnelle n'est pas normalisée, mais au contraire perçue comme suspecte. Les acteurs malveillants chercheront à exercer une pression émotionnelle pour pousser leurs cibles à agir contre leur jugement. Donnez à votre personnel un mot de passe secret. Ce mot n'est connu que de vous deux, et il peut être utilisé pour vérifier l'authenticité d'une demande. Il doit être changé régulièrement. Mais il ne doit constituer qu'une couche parmi d'autres dans le système de défense.
Attaques majeures par injection côté client via des accès obtenus de manière malveillante
Les acteurs malveillants ciblent des individus précis pour accéder à des systèmes spécifiques. Les équipes marketing sont connues pour être des cibles particulièrement faciles, car elles ont souvent un réflexe moins vigilant face à l'ingénierie sociale. Par des tentatives ciblées contre les équipes marketing et les agences de conseil, il est possible d'obtenir un accès à Google Tag Manager, ce qui permet d'introduire discrètement du code dans les applications web.
Lorsqu'un acteur malveillant obtient un accès, son objectif est d'apporter de petites modifications à fort impact. Passer sous les radars est dans son intérêt. En ciblant des équipes non techniques et en utilisant Google Tag Manager plutôt qu'en effectuant des actions majeures côté serveur — où une centaine d'outils surveillent de près et où les revues de code Git peuvent faire obstacle — les chances de réussite d'une attaque augmentent.
Chaque organisation dispose déjà d'un ensemble de contrôles techniques pour protéger le côté serveur et ses dépendances open source, mais presque aucune n'a de visibilité sur les exécutions côté client.
Je m'attends à une poignée d'incidents majeurs où des adversaires cibleront, par menace interne ou par ingénierie sociale, des membres des équipes marketing ayant accès aux gestionnaires de tags.
Les agents vont transformer l'expérience commerciale telle que nous la connaissons
Le e-commerce voit déjà dans les agents IA la prochaine opportunité de générer davantage de revenus sur les transactions. Les agents IA cherchent simplement à cliquer sur « suivant » et à terminer la tâche ; ainsi, lorsque les marques ajoutent des services ou produits pré-sélectionnés en vente croisée, l'agent les achètera automatiquement. Ce revenu supplémentaire sera apprécié des marchands.
Le problème, c'est que cette envie de vendre davantage va également déclencher une nouvelle vague de remboursements et de rétrofacturations. De plus, l'infrastructure agentique qu'utiliseront vos acheteurs légitimes sera également exploitée par des acteurs malveillants.
Il existe une incertitude quant à la responsabilité lorsqu'un agent effectue un achat erroné ou accepte un service complémentaire lors du processus de paiement. Le client peut déposer un litige, mais si c'est son agent qui a agi en son nom, la réclamation est-elle légitime ?
Détecter l'infrastructure bot n'est donc plus pertinent. Ce qui compte, ce sont les actions que vous autorisez, et des outils de détection IA bien plus avancés seront nécessaires pour contrer les abus.
La distinction traditionnelle entre comportements automatisés et humains n'a tout simplement plus de sens. L'ancien principe « tout le trafic bot est mauvais, sauf Google pour le SEO » est désormais officiellement mort. Vous voulez du trafic automatisé sur votre site, car vos concurrents l'autoriseront, et sinon, les affaires iront chez eux.
La chaîne d'approvisionnement NPM continuera de causer des dommages graves
Le contexte est assez simple, mais pas suffisamment connu.
Microsoft a acquis GitHub. GitHub avait précédemment acquis le Node Package Manager (npm). Microsoft a la réputation de sous-financer ses organisations de sécurité. En réalité, une grande partie de l'industrie de la cybersécurité existe parce que Microsoft n'a pas renforcé la sécurité de ses produits.
Imaginez qu'une chaîne de supermarchés distribue quelques poulets contaminés par une bactérie dangereuse, et que quelques clients tombent malades. Les magasins seraient fermés, il y aurait un tollé national, la chaîne subirait des dommages réputationnels durables et l'impact financier serait considérable.
Mais lorsque Microsoft a sous-financé la sécurité du plus grand registre open source, au point que plus de 100 startups ont construit des couches de sécurité par-dessus pour tenter de contrer le risque — certaines comme Snyk existent depuis plus d'une décennie dans cet espace — eh bien, si ce sous-financement conduit à des sites web comptant des centaines de millions d'utilisateurs à se faire pirater et à voir les données de ces utilisateurs fuiter, il ne se passe pas grand-chose. L'entreprise attaquée récolte toute la mauvaise presse. Mais Microsoft, d'une façon ou d'une autre, n'en est jamais tenu responsable.
NPM en tant que registre est de loin le moins sécurisé. Un registre infesté de nouveaux malwares chaque jour.
Chaque jour, de nouveaux malwares sont soumis au registre npm. Certains plus agressifs que d'autres, certains dissimulés dans des dépendances open source majeures comptant des centaines de millions de téléchargements par semaine. La communauté open source était autrefois fondée sur la confiance, mais aujourd'hui, avec npm opérant à l'échelle mondiale, elle a été weaponisée par des acteurs malveillants, et la partie la mieux placée pour agir parvient à éviter toute responsabilité.
Repenser la consolidation : les solutions de sécurité bâclées laisseront les entreprises vulnérables
De nombreux éditeurs historiques vont livrer des solutions IA bâclées ou coller un MCP sur quelque chose de legacy, provoquant par inadvertance soit un incident de sécurité, soit une expérience produit vraiment médiocre. Cela se produit déjà, mais le rythme des incidents ne fera qu'augmenter à mesure que la pression du sommet vers la base pour ajouter des fonctionnalités IA aux produits existants s'intensifie.
Les entreprises ont incité les acheteurs exécutifs à consolider les fournisseurs ; depuis environ un an, cela a changé, car les entreprises commencent à reconnaître les différences de qualité, notamment avec l'intégration de l'IA dans les produits.
La désinformation générée par les LLM pousse les entreprises vers des pratiques non sécurisées
Nous avons tous vu ces vieilles publications où l'IA suggérait que manger des cailloux était bon pour la santé. En tant qu'humains, nous savons que c'est absurde, mais lorsqu'un LLM le dit sur un ton objectif, on peut y réfléchir plus longtemps qu'on ne le devrait vraiment.
La pression commerciale engendre du marketing creux. Et malheureusement, les LLM le répètent souvent sans en vérifier la légitimité. Cela crée un risque, car les affirmations les plus tapageuses attirent le plus l'attention. Les plus tapageuses ne sont pas toujours celles qui cherchent vraiment à aider.
Nous en voyons déjà les signaux. Par exemple, récemment, un éditeur dans le domaine de la sécurité web a écrit sur son propre site qu'il était 20 à 50 % plus susceptible de détecter des attaques dynamiques côté client. Sauf que c'est un scanner statique périodique. Il lui est tout simplement impossible de détecter des attaques dynamiques, car il effectue ses analyses toutes les quelques heures.
Le résultat, c'est que les LLM indexent simplement cette désinformation comme une vérité, même lorsqu'elle est absurde et qu'un raisonnement humain de base permettrait de comprendre que ce n'est pas vrai.
Il n'existe pas vraiment de solution à cela aujourd'hui, si ce n'est espérer que les humains vérifient les affirmations et pensent de manière critique à ce que les LLM amplifient.
Traitez les conseils de sécurité générés par les LLM comme du marketing, pas comme de la documentation.
