La cybersécurité est au cœur d’une course aux armements renouvelée, et l’arme puissante de choix en cette nouvelle ère est l’IA.
L’IA offre une épée à double tranchant classique : un bouclier puissant pour les défenseurs et un nouvel outil puissant pour ceux ayant des intentions malveillantes. Naviguer dans ce champ de bataille complexe nécessite une main ferme et une compréhension approfondie à la fois de la technologie et des individus qui pourraient l’exploiter.
Pour avoir un aperçu des premières lignes, AI News a rencontré Rachel James, Ingénieur Principal en Intelligence des Menaces IA ML chez la société biopharmaceutique mondiale AbbVie.
« En plus de l’augmentation en IA intégrée fournie par nos outils actuels, nous utilisons également l’analyse LLM sur nos détections, observations, corrélations et règles associées », explique James.
James et son équipe utilisent de grands modèles de langage pour passer en revue une montagne d’alertes de sécurité, rechercher des schémas, repérer les doublons et trouver des lacunes dangereuses dans leurs défenses avant qu’un attaquant ne puisse le faire.
« Nous utilisons cela pour déterminer la similitude, la duplication et fournir une analyse des lacunes », ajoute-t-elle, notant que la prochaine étape est d’intégrer encore plus de données de menaces externes. « Nous cherchons à renforcer cela avec l’intégration de l’intelligence des menaces dans notre prochaine phase.»
Au cœur de cette opération se trouve une plateforme d’intelligence des menaces spécialisée appelée OpenCTI, qui les aide à construire une image unifiée des menaces à partir d’un océan de bruit numérique.
L’IA est le moteur qui rend cet effort de cybersécurité possible, prenant des quantités massives de texte désorganisé et structurant soigneusement le tout dans un format standard connu sous le nom de STIX. La grande vision, selon James, est d’utiliser les modèles de langage pour connecter cette intelligence de base à tous les autres domaines de leur opération de sécurité, de la gestion des vulnérabilités aux risques liés aux tiers.
Cependant, tirer parti de cette puissance nécessite une bonne dose de prudence. En tant que contributeur clé à une importante initiative industrielle, James est parfaitement consciente des pièges.
Pour renforcer la posture de cybersécurité à l’ère de l’IA, il faut comprendre son attaquant. C’est là que l’expertise approfondie de James entre en jeu.
« C’est en fait mon expertise particulière – j’ai une expérience en intelligence des menaces cybernétiques et j’ai mené et documenté une recherche approfondie sur l’intérêt, l’utilisation et le développement de l’IA par les acteurs de menaces », souligne-t-elle.
James suit activement les discussions des adversaires et le développement d’outils via des canaux open source et ses propres collections automatisées du dark web, partageant ses découvertes sur son GitHub cybershujin. Son travail implique également de se retrousser les manches.
« En tant que responsable de l’entrée Prompt Injection pour l’OWASP, et co-auteur du Guide du Red Teaming GenAI, je passe également du temps à développer moi-même des techniques d’entrée adverses et à entretenir un réseau d’experts également dans ce domaine », ajoute James.
Alors, que cela signifie-t-il pour l’avenir de l’industrie ? Pour James, le chemin à suivre est clair. Elle pointe vers un parallèle fascinant qu’elle a découvert il y a des années : « Le cycle de vie de l’intelligence des menaces cybernétiques est presque identique au cycle de vie des données fondamental aux systèmes IA ML. »
Cette alignement est une énorme opportunité. « Sans aucun doute, en termes d’ensembles de données avec lesquels nous pouvons opérer, les défenseurs ont une chance unique de capitaliser sur la puissance du partage de données d’intelligence et de l’IA », affirme-t-elle.
Son message final offre à la fois encouragement et avertissement à ses pairs dans le monde de la cybersécurité : « La science des données et l’IA feront partie intégrante de la vie de chaque professionnel de la cybersécurité à l’avenir, embrassez-le. »