Dans leur dernier rapport, les experts de Kaspersky révèlent l’influence profonde de l’IA sur le paysage de la cybersécurité en 2023. L’analyse explore les implications multi-facettes de l’IA, en se concentrant d’une part sur son utilisation par les défenseurs et les autorités; et d’autre part sur son potentiel d’exploitation par les cybercriminels. Ce rapport est une partie du Kaspersky Security Bulletin (KSB), une compilation annuelle de prédictions et d’études approfondies qui mettent en lumière les principaux changements dans le domaine de la cybersécurité.
Avec la rapidité à laquelle les progrès technologiques et les évolutions sociales s’installent dans notre quotidien, le terme « IA » s’est clairement positionné en tête des sujets de discussion les plus en vogue en cette année 2023.
Le développement des grands modèles de langage (LLM) et la montée en puissance des préoccupations en matière de sécurité et de confidentialité créent un lien direct entre l’IA et le monde de la cybersécurité.
Les chercheurs de Kaspersky montrent comment les outils d’IA ont aidé les cybercriminels dans leurs activités malveillantes en 2023. Tout en mettant en évidence les applications défensives potentielles permises par cette technologie.
Voilà quelques-unes des prédictions des experts de l’entreprise concernant les conséquences de l’IA sur le paysage des menaces.
Des vulnérabilités plus complexes
À mesure que les modèles de langage sont intégrés dans un plus grand nombre de produits grand public, il faut s’attendre à ce que de nouvelles vulnérabilités complexes apparaissent à l’intersection de l’IA générative et des technologies traditionnelles. Elargissant ainsi la surface d’attaque à sécuriser pour les professionnels de la cybersécurité. Les développeurs vont donc devoir étudier de nouvelles mesures de sécurité, comme l’approbation par l’utilisateur des actions lancées par les agents LLM.
Un assistant IA complet pour les spécialistes de la cybersécurité
Les membres de la Red team et les chercheurs en cyber exploitent l’IA générative pour créer des outils de cyberdéfense innovants. Ce qui pourrait aboutir à la création d’un assistant numérique basé sur le LLM ou sur l’apprentissage automatique (ML). Cet outil pourrait permettre à la Red Team d’automatiser certaines tâches, en apportant des conseils basés sur des commandes exécutées dans un environnement de pentesting.
Les réseaux neuronaux seront de plus en plus utilisés pour générer des visuels utiles aux arnaqueurs
Au cours de l’année à venir, les escrocs pourraient renforcer leurs stratégies en utilisant des réseaux neuronaux, et tirer parti des outils d’IA pour créer des contenus frauduleux de plus en plus convaincants. Avec la capacité de générer sans effort des images et des vidéos convaincantes, il faut s’attendre à une escalade des cybermenaces en matière de fraude et d’escroquerie.
L’IA ne causera pas pour autant de changement révolutionnaire dans le paysage des menaces en 2024
Malgré les tendances décrites plus tôt, les experts de Kaspersky restent sceptiques quant à la possibilité que l’IA bouleverse de manière significative le paysage des menaces dans un avenir proche. Si les cybercriminels adoptent l’IA générative, il en va de même pour les cyber-défenseurs, qui utiliseront les mêmes outils, voire des outils plus avancés, pour tester le perfectionnement de la sécurité des logiciels et des réseaux. C’est pourquoi il est finalement peu probable que l’IA modifie radicalement le paysage des attaques.
Davantage d’initiatives réglementaires en matière d’IA, avec la contribution du secteur privé
La rapidité du développement des technologies pose la question de l’élaboration de politiques et de réglementations pour les contrôler autant que possible. Le nombre d’initiatives réglementaires liées à l’IA est appelé à augmenter. Les acteurs non étatiques, tels que les entreprises technologiques, compte tenu de leur expertise dans le développement et l’utilisation de l’intelligence artificielle, peuvent apporter une contribution précieuse aux discussions sur la réglementation de l’IA, tant au niveau mondial que national.
Un filigrane pour le contenu généré par l’IA
Il faudra davantage de réglementations, ainsi que les mesures des prestataires de services, pour signaler et identifier les contenus générés par l’IA. Ces outils étant de plus en plus pourvus contre les technologies de détection. Les développeurs et les chercheurs, pour leur part, contribueront à l’élaboration de méthodes de filigrane pour les contenus IA afin d’en faciliter l’identification et la provenance.
« L’intelligence artificielle dans le domaine de la cybersécurité est une arme à double tranchant. Ses capacités d’adaptation renforcent nos défenses, et constituent un rempart contre les menaces en constante évolution. Toutefois, ce caractère dynamique comporte également sa part de risques, car les attaquants tirent parti de l’IA pour élaborer des attaques plus sophistiquées. Il est essentiel de trouver un juste équilibre, en garantissant une utilisation responsable sans partage excessif de données sensibles, pour sécuriser nos frontières numériques », commente Vladislav Tushkanov, expert en sécurité chez Kaspersky.
Pour en savoir plus sur l’influence de l’IA dans la cybersécurité, visitez Securelist.
Ce focus sur l’IA dans la cybersécurité fait partie des prédictions de Kaspersky sur les menaces sectorielles pour 2024. C’est un des volets du Kaspersky Security Bulletin, une série annuelle de prédictions et de rapports analytiques sur les changements clés dans le monde de la cybersécurité. Rendez-vous ici pour consulter les autres articles du KSB.
A quoi s’attendre en 2024 concernant l’intelligence artificielle dans le domaine de la cybersécurité?
● Davantage d’initiatives réglementaires en matière d’IA vont voir le jour, avec la contribution du secteur privé.
● Les développeurs et les chercheurs contribueront à l’élaboration de méthodes de filigrane pour faciliter l’identification des contenus issus de l’IA et en vérifier la provenance.
● De nouvelles vulnérabilités complexes vont apparaître à l’intersection de l’IA générative et des technologies traditionnelles.
● Les réseaux de neurones seront de plus en plus utilisés pour générer des visuels utiles aux arnaqueurs
● L’IA ne causera pas de changement révolutionnaire dans le paysage des menaces en 2024.
————————
A propos de Kaspersky
Kaspersky est une société internationale de cybersécurité et de protection de la vie privée numérique fondée en 1997. L’expertise de Kaspersky en matière de « Threat Intelligence » et sécurité informatique vient constamment enrichir la création de solutions et de services de sécurité pour protéger les entreprises, les infrastructures critiques, les autorités publiques et les particuliers à travers le monde.
Le large portefeuille de solutions de sécurité de Kaspersky comprend la protection avancée des terminaux ainsi que des solutions et services de sécurité dédiés afin de lutter contre les menaces digitales sophistiquées, en constante évolution.
Les technologies de Kaspersky aident plus de 400 millions d’utilisateurs et 240 000 entreprises à protéger ce qui compte le plus pour eux.
Pour en savoir plus, consultez le site www.kaspersky.com.
