01/09/2025
Anthropic, la société à l'origine de Claude AI, a révélé qu'elle avait empêché des cyberattaques utilisant sa plateforme d'IA générative de réussir. "Les pirates ont essayé d'abuser de l'outil Claude AI pour rédiger des contenus de phishing, créer des logiciels malveillants, contourner les filtres de sécurité et même coordonner des campagnes d'influence."
Cet avertissement correspond à ce que de nombreux experts en cybersécurité appellent désormais une "course aux armements entre la bonne IA (défensive) et la mauvaise IA (offensive)". En d'autres termes, alors que les criminels cherchent à exploiter les outils d'IA, les entreprises investissent massivement dans des défenses alimentées par l'IA, comme la détection des menaces, la réponse automatisée aux incidents, les cadres zero trust et la détection des anomalies, selon le Forum économique mondial.
Ce qu'il se passe et pourquoi c'est important
L'utilisation abusive de l'IA est bien plus qu'hypothétique, elle se produit dès aujourd'hui. Les cybercriminels ne se contentent pas de planifier des attaques, ils utilisent l'IA pour les orchestrer.
- Les pirates ont tenté d'utiliser Claude pour écrire des courriels d'hameçonnage, créer des codes malveillants et contourner les filtres de sécurité. Ils ont même essayé de scénariser des campagnes d'influence et de guider des pirates inexpérimentés en leur donnant des instructions étape par étape.
- Un autre rapport a inventé un nouveau terme : "vibe-hacking". L'IA rédige désormais des messages d'extorsion si parfaitement ciblés que leur succès est presque garanti. Les criminels ont ciblé au moins 17 organisations mondiales, dont des organismes de santé, des organisations religieuses, des services d'urgence et des entités gouvernementales, avec des demandes de rançon dépassant les 576 880 euros.
- Dans un cas particulièrement effrayant, un attaquant a utilisé Claude pour automatiser la quasi-totalité du processus : identification des victimes, création de logiciels malveillants, analyse des données volées, calcul des montants des rançons et composition des courriels d'extorsion. Nous pensons qu'il s'agit là d'un degré sans précédent de cybercriminalité assistée par l'IA, admet Anthropic.
Ensemble, ces exemples soulignent la facilité croissante avec laquelle même des acteurs peu qualifiés peuvent monter des cyberattaques complexes et préjudiciables, grâce à l'utilisation abusive de l'IA.
La menace que vous ne pouvez ignorer
Tout cela s'inscrit dans le cadre d'un changement global plus important. Le paysage de la cybersécurité est désormais défini par une nouvelle réalité dans laquelle les attaquants intensifient leurs opérations, en utilisant l'IA générative pour créer des campagnes de phishing très réalistes, des deepfakes, des logiciels malveillants et des fraudes à l'identité. Ces menaces ne sont plus limitées à des auteurs sophistiqués, mais sont de plus en plus accessibles à des acteurs peu qualifiés. Dans le même temps, les menaces internes deviennent plus dangereuses : 64 % des professionnels de la cybersécurité en Europe considèrent désormais que les personnes internes malveillantes ou négligentes, y compris celles qui pourraient utiliser l'IA à mauvais escient, sont plus préoccupantes que les attaquants externes.
Sur le plan défensif, les organisations réagissent en investissant dans la détection des menaces par l'IA, l'analyse comportementale, la réponse automatisée aux incidents et les cadres de confiance zéro ("zero-trust"), ce qui indique clairement que la course à l'armement défensif par IA est bien lancée. Tout cela se déroule dans le contexte d'une surveillance réglementaire croissante, depuis la loi sur l'IA de l'Union européenne jusqu'aux directives en évolution des États-Unis, créant un défi non seulement technique mais aussi de conformité pour les entreprises du monde entier.
Comment Getronics peut aider
Pour la plupart des organisations, le défi n'est pas simplement de comprendre qu'il existe des menaces liées à l'IA, mais de savoir comment y répondre efficacement. C'est là qu'une société de services informatiques expérimentée, comme Getronics, devient essentielle. En réunissant l'expertise à la fois dans la cybersécurité traditionnelle et les technologies avancées de l'IA, nous pouvons aider les clients à garder une longueur d'avance sur les risques en constante évolution. Ils peuvent mettre en œuvre des défenses modernes telles que la détection des menaces alimentée par l'IA, les plateformes de détection des anomalies, la réponse automatisée aux incidents et les architectures robustes zero trust, en veillant à ce que les entreprises ne réagissent pas aux incidents après coup, mais renforcent proactivement leur posture de sécurité.
Getronics peut également agir en tant que traducteur de risques, en transformant les cybermenaces hautement techniques en conseils pratiques que les cadres et les conseils d'administration peuvent appliquer. En utilisant des exemples concrets, comme la façon dont les attaquants ont utilisé Claude pour automatiser le phishing et la création de logiciels malveillants, les fournisseurs peuvent rendre l'urgence tangible et aider les organisations à justifier les bons investissements.
Au-delà des menaces externes, les risques liés aux initiés sont de plus en plus préoccupants. Ici, les fournisseurs peuvent intégrer l'analyse comportementale et la surveillance de l'activité des utilisateurs et des entités pour aider les clients à repérer rapidement les schémas inhabituels, en atténuant les risques avant qu'ils ne s'aggravent. Surtout, les sociétés de services informatiques peuvent instaurer la confiance en déployant des outils d'IA explicables qui garantissent que la prise de décision est transparente et vérifiable, ce qui permet aux clients d'avoir confiance non seulement dans leurs défenses, mais aussi dans l'intégrité des systèmes eux-mêmes.
Enfin, la navigation dans la réglementation est un domaine dans lequel de nombreuses organisations éprouvent des difficultés. Avec l'émergence de cadres tels que la loi européenne sur l'IA et l'évolution des attentes réglementaires au Royaume-Uni et aux États-Unis, les fournisseurs de services informatiques sont particulièrement bien placés pour guider les entreprises dans leur mise en conformité, en les aidant à rester à la fois en sécurité et en phase avec les exigences de gouvernance.
En bref, le rôle de Getronics est de donner confiance à votre organisation, que vos défenses soient solides, que vos risques soient gérés et que vous soyez prêt pour la prochaine vague de menaces basées sur l'IA.
Foire aux questions (FAQ)
Qu'entend-on par "utilisation abusive de l'IA" ?
Par utilisation abusive de l'IA, on entend l'utilisation d'outils d'intelligence artificielle à des fins nuisibles ou malveillantes, par exemple pour créer des courriels d'hameçonnage, générer des logiciels malveillants, contourner les filtres de sécurité, mener des campagnes d'influence ou automatiser des cyberattaques à grande échelle.
Comment les cybercriminels utilisent-ils l'IA générative ?
Ils utilisent l'IA générative pour :
- rédiger un contenu d'hameçonnage crédible,
- écrire un code malveillant,
- automatiser les opérations d'influence,
- faire du "vibe-hacking" (extorsion sur mesure), et
- coordonner des attaques complexes, depuis l'identification des victimes jusqu'à la demande de rançon.
Pourquoi l'utilisation abusive de l'IA constitue-t-elle une menace croissante pour les entreprises ?
Les barrières à l'entrée s'abaissant, des acteurs peu qualifiés peuvent désormais déployer des attaques sophistiquées grâce à l'assistance de l'IA. En outre, les menaces internes deviennent plus dangereuses et la surveillance réglementaire s'intensifie.
