Lundi de la cybersécurité : Comment la cybersécurité peut-elle contribuer au succès de l’IA ?

L’intelligence artificielle (IA) ne cesse de bouleverser nos quotidiens, s’imposant comme une révolution technologique incontournable. Dans le domaine de la cybersécurité, son influence est particulièrement marquante : les éditeurs de solutions mettent en avant l’intégration d’IA, notamment générative, comme un argument différenciateur. Mais si l’IA promet des systèmes plus sûrs, plus performants et plus adaptatifs, elle soulève également des défis majeurs.

Lors de ce 76e Lundi de la Cybersécurité, nous explorerons cette dualité : l’IA comme alliée incontournable pour renforcer la sécurité des systèmes d’information, mais aussi comme vecteur potentiel de nouvelles menaces. Nous aurons l’honneur d’accueillir Thomas Argheria, expert en cybersécurité de l’IA au sein de Wavestone, qui partagera les enseignements tirés de missions réalisées auprès de plus de vingt grandes entreprises. Sécurisation des projets d’IA internes, analyse des vulnérabilités des outils externes tels que Copilot ou AzureOpenAI, ou encore résultats de tests de pénétration ciblant l’IA : une plongée riche et documentée dans cet écosystème en pleine mutation.

En complément, le CyberCercle, représenté par Bénédicte Pilliet, viendra enrichir la discussion en proposant une perspective sur la sécurité numérique et la confiance, des thématiques au cœur des préoccupations actuelles.

Rejoignez-nous le lundi 9 décembre à 18 h 00 pour cet événement en visioconférence Zoom, où experts et participants exploreront une question clé : L’IA est-elle un ange gardien ou une menace pour la cybersécurité ?

Comment la cybersécurité peut-elle contribuer au succès de l’IA ?

Côté entreprises et particuliers, l’Intelligence Artificielle rend les produits plus fiables, plus rapides, plus adaptés à leurs utilisateurs et finalement plus « à la mode » … et plus vendables. Effectivement, une contre-mesure qui prend en compte la connaissance universelle recueillie à partir de multiples attaques déjà survenues un peu partout dans le monde, qui connait l’ensemble des vulnérabilités qui peuvent affecter un système d’Information, et qui les corrige, un produit qui anticipe les problèmes que pourraient rencontrer les utilisateurs plongés dans ce cybermonde qui ne fait pas de cadeaux, évidemment on ne peut pas s’en priver et on achète.

Mais l’IA apporte aussi son lot de problèmes potentiels dans les solutions qui l’intègrent. Elle est implémentée finalement par des logiciels et par des algorithmes qui peuvent venir avec leurs propres vulnérabilités. Mais aussi en plus des problèmes que peuvent poser les logiciels, on peut craindre aussi les attaques contre la signification des informations restituées. L’empoisonnement durant l’entrainement des modèles de l’IA générative qui injecte des données corrompues,
Du côté des attaquants, les outils d’IA qu’ils utilisent rendent leurs attaques plus sophistiquées, plus furtives et plus efficaces. Et quid de l’utilisation de l’IA justement pour apporter plus d’efficacité dans la défense des systèmes d’Information ? Et quid de la conformité nécessaire aux directives et aux règlements de l’Europe ?

Le marché de la sécurisation de l’Intelligence Artificielle est en plein essor mais la cybersécurité pourra-t-elle assurer le succès de l’IA ? Mais de quelle IA ?

Alors l’IA, ange ou démon ?

Wavestone a mené une enquête sur les nombreuses solutions, Thomas ARGHERIA, l’un de ses acteurs, nous présentera les résultats.

Nos Lundi de la Cybersécurité sont gratuits et traitent de sujets d’actualité en cybersécurité. Pour vous inscrire, envoyez un email à [email protected]. Quelques jours avant l’événement, vous recevrez le lien vers la visioconférence.

Les informations des inscrits seront partagées avec les organisateurs et les intervenants.

Prompt posée à Gemini (l’IA Générative de Google) :
L’IA est-elle une aide ou une menace pour la cybersécurité ?

Voici une partie de la réponse reçue :

L’intelligence artificielle (IA) représente à la fois une opportunité majeure et un défi considérable pour la cybersécurité. Son impact est double et mérite d’être examiné sous ces deux angles :

L’IA comme alliée de la cybersécurité

• Détection proactive des menaces : L’IA est capable d’analyser d’énormes volumes de données en temps réel, identifiant ainsi des anomalies et des patterns qui pourraient signaler une cyberattaque. Elle peut détecter des menaces émergentes bien plus rapidement qu’un humain.
• Réduction des faux positifs : En apprenant continuellement des nouvelles données, l’IA améliore sa précision dans la détection des véritables menaces, réduisant ainsi le nombre de fausses alertes qui peuvent surcharger les équipes de sécurité.
• Automatisation des tâches répétitives : L’IA peut automatiser de nombreuses tâches de routine, libérant ainsi les experts en sécurité pour se concentrer sur des activités à plus forte valeur ajoutée, comme la stratégie et l’analyse approfondie des incidents.
• Amélioration de la réponse aux incidents : L’IA peut aider à accélérer la réponse aux incidents en automatisant certaines actions et en fournissant des recommandations sur les mesures à prendre.
• Renforcement de la sécurité des systèmes : L’IA peut être utilisée pour renforcer la sécurité des systèmes en identifiant les vulnérabilités et en proposant des mesures correctives.

L’IA comme menace pour la cybersécurité

• Création de nouvelles menaces : Les cybercriminels peuvent utiliser l’IA pour concevoir des attaques plus sophistiquées et personnalisées, telles que des deepfakes, des attaques par phishing très ciblées ou des logiciels malveillants capables d’évoluer.
• Détournement des systèmes d’IA : Les attaquants peuvent détourner les systèmes d’IA pour les retourner contre leurs créateurs, par exemple en les utilisant pour lancer des attaques déni de service ou pour voler des données sensibles.
• Complexification des défenses : L’utilisation de l’IA par les attaquants rend la défense plus complexe, car les entreprises doivent non seulement faire face à des menaces traditionnelles, mais aussi à des attaques utilisant des techniques d’IA.

L’IA est un outil puissant qui peut être utilisé à des fins aussi bien bénéfiques que malveillantes. Pour tirer pleinement parti des avantages de l’IA en matière de cybersécurité, il est essentiel d’adopter une approche équilibrée et de mettre en place des mesures de sécurité robustes pour protéger les systèmes contre les attaques utilisant l’IA.

En somme, l’IA est un outil double tranchant. Son utilisation responsable et éclairée peut renforcer considérablement la sécurité de nos systèmes, mais elle peut également être utilisée pour les mettre en danger. Il est donc crucial de comprendre les enjeux liés à l’IA en cybersécurité et d’adopter une approche proactive pour y faire face.