L’intelligence artificielle au service de la cybersécurité : tour d’horizon

, Partager

Les progrès récents en matière d’intelligence artificielle, en conférant aux machines la capacité de mener des raisonnements complexes semblables au raisonnement humain, vont révolutionner des industries aussi variées que les transports ou la santé. Consciente du potentiel économique et social de cette technologie, la France a été l’un des premiers pays au monde, avec les Etats-Unis, à publier une stratégie nationale pour l’intelligence artificielle. En octobre 2016, le National Science and Technology Council américain publiait son National Artificial Intelligence Research and Development Strategic Plan. En mars 2017, le gouvernement français organisait la Journée de l’IA pour présenter la stratégie française en intelligence artificielle. Si les voitures autonomes ou la médecine personnalisée reçoivent beaucoup d’attention, il est un autre domaine dans lequel les technologies d’intelligence artificielle sont porteuses de nouvelles menaces et opportunités : la cybersécurité.

L’IA, menace et opportunité pour la cybersécurité

D’un côté, l’intelligence artificielle peut rendre les cyberattaques (dénis de service distribués, botnets, logiciels de rançon…) plus puissantes et efficaces. Les premières conséquences de l’automatisation des cyberattaques se font déjà sentir, qu’elles attaquent des infrastructures critiques ou cherchent à manipuler l’opinion publique. En octobre 2016, une attaque par déni de service distribuée du programme malveillant Mirai avait transformé des objets connectés à Internet en botnets, des réseaux de bots contrôlés à distance, assiégeant le fournisseur de DNS américain Dyn et l’hébergeur français OVH et entraînant des difficultés d’accès à un grand nombre de sites Internet. Des social bots à visée politique peuvent aussi imiter les comportements humains sur les réseaux sociaux afin d’influencer les utilisateurs à des moments politiques clés. Une étude du projet de recherche Computational Propaganda de l’Université d’Oxford a montré qu’un tiers du trafic Twitter provenait de ces political bots pendant les débats de l’élection présidentielle américaine de 2016.

D’un autre côté, les technologies d’intelligence artificielle peuvent également faciliter et améliorer la détection et l’atténuation des cyber-menaces. De plus en plus d’applications de cybersécurité intègrent des techniques d’intelligence artificielle, et notamment de machine learning et d’analyse prédictive, afin de mieux identifier les menaces et anomalies. Le machine learning permet aux machines de reproduire et reconnaître des comportements donnés à partir d’exemples. Les machines sont ainsi capables de traiter des quantités de données importantes en un temps réduit et de reconnaître les plus petits changements dans leur environnement, différenciant en temps réel les comportements normaux et ceux qui représentent une menace.

Associer machines et expertise humaine

Néanmoins, l’expertise humaine reste irremplaçable à plusieurs regards. D’abord, si les algorithmes de machine learning reconnaissent facilement des cyberattaques similaires à celles qui se sont déjà produites, ils sont moins efficaces pour identifier de nouveaux types d’attaques. Les cyber-attaquants peuvent également développer des modèles d’adversarial machine learning pour semer la confusion chez les modèles de machine learning qui détectent les menaces. L’expérience humaine reste donc nécessaire pour corriger les erreurs et les faux positifs et suivre les innovations cybercriminelles. Ensuite, la connaissance et la compréhension humaines sont nécessaires pour déterminer la gravité et le contexte de la menace identifiée par la machine et choisir la réaction la plus pertinente en tenant compte des conséquences.

Si l’intervention humaine reste nécessaire, y compris pour des raisons éthiques, l’intégration des techniques d’intelligence artificielle permet aux experts en cybersécurité de se concentrer sur les tâches les plus critiques - un avantage significatif alors que l’industrie de la cybersécurité fait face à une pénurie de talents. La France dispose de plusieurs atouts pour former de nouveaux talents : des étudiants bénéficiant d’une solide formation en sciences et en mathématiques, des chercheurs et ingénieurs reconnus mondialement (comme Yann LeCun qui dirige le laboratoire de recherche en intelligence artificielle de Facebook à Paris), et des écosystèmes d’innovation particulièrement dynamiques en deep tech.

Les Etats-Unis à l’avant-garde

Aux Etats-Unis, la DARPA (Defense Advanced Research Projects Agency) s’intéresse déjà à la façon dont les progrès de l’intelligence artificielle pourraient servir la cybersécurité. En 2016, l’agence a organisé un Cyber Grand Challenge afin d’encourager le développement de systèmes automatisés capables de surveiller, détecter et réparer plus rapidement les failles de sécurité. L’IARPA (Intelligence Advanced Research Projects Activity) finance également plusieurs projets en cybersécurité : le projet CAUSE (Cyberattack Automated Unconventional Sensor Environment) vise par exemple à développer des méthodes automatisées permettant de prédire et de détecter des cyberattaques plus en amont afin d’en limiter les dégâts. Le nombre de startups en intelligence artificielle appliquée à la cybersécurité ne cesse de croître aux Etats-Unis : CB Insights’ AI Deals Tracker en identifiait 13 en novembre 2016, contre plus de 80 à l’été 2017.


Rédacteur :
Clémentine Désigaud, Attachée adjointe pour la Science et la Technologie, Washington DC, deputy-ntics@ambascience-usa.org

Sources :
https://cache.media.enseignementsup-recherche.gouv.fr/file/Actus/85/9/Rapport_synthese_France_IA_738859.pdf
http://comprop.oii.ox.ac.uk/2016/10/31/bots-and-automation-over-twitter-during-the-third-u-s-presidential-debate/
https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf
https://www.theregister.co.uk/2016/10/21/dyn_dns_ddos_explained/
https://www.technologyreview.com/the-download/609275/a-lack-of-cybersecurity-talent-is-driving-companies-to-use-ai-against-online/
https://www.economist.com/news/business/21717411-capital-now-leads-europe-number-venture-capital-funding-rounds-rise
https://gcn.com/articles/2017/04/06/adversarial-machine-learning.aspx
https://spectrum.ieee.org/tech-talk/computing/software/darpa-challenge-tests-ai-as-cybersecurity-defenders
https://www.iarpa.gov/index.php/research-programs/cause
https://www.cbinsights.com/research/cybersecurity-artificial-intelligence-startups-market-map/