Le fournisseur de formation en cybersécurité Hack The Box (HTB) a lancé la gamme HTB AI, conçue pour permettre aux organisations de tester des agents de sécurité autonomes en IA dans des conditions réalistes, bien que sous la supervision de professionnels de la cybersécurité humaine. Son objectif est d’aider les utilisateurs à évaluer comment l’IA, ainsi que les équipes mixtes humaines-IA, pourraient défendre l’infrastructure.
Les vulnérabilités des modèles d’IA s’ajoutent à celles déjà présentes dans les systèmes informatiques traditionnels, c’est pourquoi HTB propose un environnement de test où les agents d’IA et les défenseurs humains peuvent travailler ensemble sous une pression réaliste pour mesurer leur savoir-faire en cybersécurité.
HTB décrit la gamme AI comme une simulation de la complexité d’une entreprise avec des milliers de cibles offensives et défensives constamment mises à jour. La plateforme prend en charge la cartographie vers des cadres de cybersécurité établis, notamment le MITRE ATT&CK, les directives NIST/NICE et le Top 10 de l’Open Worldwide Application Security Project (OWASP).
HTB indique qu’au cours d’un exercice récent de capture du drapeau (CTF) en IA contre humains, les agents d’IA autonomes ont résolu 19 des 20 défis de base. Mais dans des défis à plusieurs étapes dans des environnements plus complexes, les équipes humaines ont surpassé les agents d’IA.
L’entreprise suggère que l’IA a du mal avec la complexité et les opérations à plusieurs étapes, ce qui souligne la valeur continue de l’expertise humaine, notamment dans les travaux à haut enjeu ou complexes.
Les entreprises peuvent utiliser la gamme AI pour valider si les mesures de sécurité existantes fonctionnent face aux attaques alimentées par l’IA, donner à leurs équipes de cybersécurité de l’expérience des menaces alimentées par l’IA et développer des outils de cybersécurité plus résilients basés sur l’IA agentic. De tels exercices pourraient être utilisés pour justifier les investissements en cybersécurité auprès des décideurs financiers, suggère Hack The Box.
La gamme AI de HTB peut être utilisée pour tester et valider en continu les défenses en cybersécurité, ce qui, selon l’entreprise, est plus efficace à long terme que les audits statiques ou les exercices de test d’intrusion, et se rapproche ainsi d’un modèle CTEM (gestion continue de l’exposition aux menaces).
HTB lancera une certification AI Red Teamer en début d’année prochaine pour tenter de quantifier les compétences nécessaires pour renforcer les défenses en IA.
Il semble actuellement judicieux de considérer les cyber-ranges AI comme faisant partie d’une offre de sécurité et de résilience en couches. À mesure que l’IA se développe et que des cadres comme MITRE ATLAS gagnent en traction, des outils comme la gamme AI de HTB pourraient devenir des composants standard des programmes de sécurité des entreprises.
« Gerasimos Marketos, chef de produit chez Hack The Box, a déclaré : « Hack The Box est l’endroit où les agents d’IA et les humains apprennent à opérer sous une réelle pression ensemble. Nous répondons au besoin urgent de valider en continu les systèmes d’IA dans des contextes opérationnels réalistes où les enjeux sont élevés et la surveillance humaine reste essentielle. La gamme AI de HTB rend cela possible. » »
« Haris Pylarinos, PDG et fondateur de Hack The Box, a déclaré : « Depuis plus de deux ans, nous faisons progresser les parcours d’apprentissage, les laboratoires et les recherches pilotés par l’IA, où les machines et les humains concourent, collaborent et co-évoluent. Avec la gamme AI de HTB, nous ne réagissons pas à l’essor de l’IA dans la cybernétique ; nous définissons comment la défense évolue à ses côtés. C’est ainsi que la cybersécurité progresse : non pas par la peur, mais par la maîtrise. » »
Pour en savoir plus sur l’IA et le big data auprès des leaders de l’industrie, consultez le salon AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement exhaustif fait partie de TechEx et est co-localisé avec d’autres événements technologiques de premier plan. AI News est alimenté par TechForge Media. Découvrez d’autres événements et webinaires à venir sur la technologie d’entreprise ici.