Quoi qu'on puisse penser de l'IA, il est indéniable que cette technologie est extrêmement populaire et ne montre aucun signe de ralentissement. Elle s'utilise dans une grande variété d'emplois ou de situations, qu'il s'agisse d'étudiants rédigeant des dissertations, de développeurs de logiciels écrivant du code ou de journalistes rédigeant des articles.
Avec une telle adoption, il est logique de se demander quel sera l'impact de l'IA sur la cybersécurité. Si vous travaillez dans le domaine de la sécurité ou même de l'informatique en général, vous avez probablement déjà vu des publicités pour des outils de sécurité basés sur l'IA. Vous en avez peut-être même déjà déployé. Mais les hackers utilisent-ils aussi l'IA ?
Dans ce blog, nous examinons les différentes façons dont les acteurs bienveillants et malveillants peuvent utiliser l'IA et comment cela peut affecter notre secteur.
Mauvais acteurs
Le cas le plus simple d'utilisation de l'IA par des acteurs malveillants concerne le phishing et d'autres formes d'ingénierie sociale. Les IA génératives telles que ChatGPT peuvent déjà produire une conversation assez réaliste. Cela peut permettre à des hackers même peu qualifiés d'améliorer considérablement le langage qu'ils utilisent dans les tentatives de phishing, en supprimant les fautes d'orthographe et de grammaire typiques de ces attaques. L'IA peut même être utilisée pour créer des images, des vidéos ou d'autres documents pour tromper leurs victimes.
En fait, le National Cyber Security Center (NCSC) du Royaume-Uni a publié un rapport sur l'impact à court terme de l'IA sur la cybermenace, dans lequel il conclut que l'IA apportera une « amélioration significative » au phishing pour les cybercriminels moins qualifiés.
Les hackers, dont les compétences et les capacités varient, tireront probablement profit de l'IA de différentes manières. L'IA pourrait faciliter l'identification d'informations hautement sensibles dans le réseau d'une cible, ce qui rendrait l'exfiltration plus rapide et plus efficace. Ils peuvent également utiliser l'IA comme n'importe quel autre développeur pour les aider à écrire du code et à automatiser certaines parties de leur attaque. Le NCSC prévient que des acteurs hautement qualifiés pourraient même mettre à profit l'IA pour trouver de nouvelles vulnérabilités « 0-day » et créer des effets et des logiciels malveillants qui les exploitent encore plus rapidement.
Le secteur de la cybersécurité
D'autre part, les professionnels de la cybersécurité tirent également pleinement parti de l'IA. Pour chaque outil de sécurité habituellement utilisé dans un environnement d'entreprise, il existe désormais des solutions alimentées par l'IA. Si l'industrie des antivirus utilise depuis longtemps des heuristiques en plus des signatures traditionnelles, elle a de plus en plus recours à l'IA à mesure que les solutions s'intègrent de plus en plus à nos environnements. Des fonctionnalités telles que la protection basée sur le comportement sont devenues la norme à mesure que nous sommes passés de l'antivirus traditionnel à l'EDR (Endpoint Detection and Response) et au XDR (Extended Detection and Response).
Les solutions de gestion des informations et des événements de sécurité (SIEM) sont également des candidats de choix pour l'utilisation de l'IA, compte tenu des énormes quantités de données qu'elles collectent et des nombreuses règles et alertes qui doivent être affinées et entretenues. En plus d'améliorer les détections et les analyses, certains fournisseurs intègrent même l'IA générative pour aider les analystes de sécurité à naviguer dans les données de la SIEM ou à générer des rapports.
Même la gestion de la vulnérabilité peut tirer profit de cette technologie. Il existe déjà des scanners d'applications web alimentés par l'IA, tandis que d'autres proposent une remédiation automatique. En outre, tout comme pour les acteurs malveillants, la recherche de vulnérabilités peut être stimulée par l'IA en facilitant l'analyse des applications et de leur code afin de trouver des vulnérabilités.
Au-delà des produits de sécurité, il existe d'innombrables façons pour les équipes de sécurité d'utiliser et de déployer des systèmes d'IA au sein de leur organisation afin de renforcer la sécurité. Dans presque toutes les conférences sur la sécurité, les intervenants en donnent des exemples. Les cadres entretenus par la communauté de la sécurité sont en train d'être étendus ou créés pour inclure des menaces affectant ou provenant de systèmes d'intelligence artificielle, comme Mitre Atlas.
Conclusion
Il est indéniable que l'IA est déjà utilisée dans le domaine de la cybersécurité. Les acteurs des deux camps, qu'ils soient bienveillants ou malveillants, peuvent trouver une grande variété d'utilisations pour cette technologie. Les avantages réels seront beaucoup plus difficiles à quantifier et varieront probablement en fonction des compétences et des connaissances de ceux qui l'utilisent. À bien des égards, l'IA n'est qu'un outil de plus dans la course aux armements que se livrent les hackers et les défenseurs.
Benjamin Baugnies a étudié le génie civil à Louvain-la-Neuve et travaille depuis 7 ans comme analyste en sécurité chez Belnet. Outre les opérations de sécurité quotidiennes, il a travaillé sur des projets tels que l’analyse des vulnérabilités, la surveillance des flux nets et la protection contre les DDoS. En dehors du travail, on peut souvent le trouver sur un court de tennis, en cuisine ou en train de jouer à un jeu en ligne.