Des chercheurs en cybersécurité ont découvert un nouveau type de logiciel malveillant qui utilise l’injection rapide pour tenter de manipuler les outils de sécurité basés sur l’intelligence artificielle (IA). Il s’agit d’une évolution majeure dans l’évolution des cybermenaces. Car les attaquants commencent à cibler les systèmes d’IA censés les détecter et les arrêter.
Le malware, judicieusement surnommé « Skynet », a été découvert le mois dernier après avoir été téléchargé anonymement sur VirusTotal.
Comprendre la tactique d’injection rapide
Le malware Skynet est conçu pour exploiter les systèmes d’IA en intégrant des messages en langage naturel à son code. Ces messages visent à tromper les détecteurs d’IA et à leur faire croire que le logiciel malveillant est inoffensif. Selon certaines informations, une invite intégrée demanderait à l’outil d’IA d’agir comme une calculatrice et de répondre par « Aucun malware détecté » s’il comprend.
Cette tactique, connue sous le nom d’injection rapide, tente de contourner les instructions principales de l’IA en lui fournissant de nouvelles commandes trompeuses cachées dans le code malveillant.
L’IA, une vulnérabilité potentielle
Les logiciels malveillants traditionnels s’appuient souvent sur des techniques telles que le chiffrement ou l’évasion des sandbox. Skynet, quant à lui, adopte une approche différente. Car, partant du principe qu’il sera analysé par un système d’IA et tente proactivement de tromper ce système.
Cela témoigne d’une nouvelle stratégie des acteurs malveillants, qui commencent à considérer l’IA elle-même comme une vulnérabilité potentielle. Malgré la sophistication de la tentative, les modèles d’IA actuels, y compris les dernières versions d’OpenAI axées sur la sécurité, n’ont pas été dupés.
Les tests ont montré que les systèmes d’IA ont correctement identifié le logiciel malveillant et signalé la tentative d’injection, démontrant ainsi que les défenses modernes de l’IA résistent toujours aux manipulations rapides de base.
La découverte de Skynet est un signal d’alarme pour le secteur de la cybersécurité. Alors que l’IA joue un rôle croissant dans la détection et l’analyse des cybermenaces, les attaquants s’adaptent en conséquence.
Les experts préviennent que cette tactique pourrait se généraliser. Pour la contrer, les équipes de cybersécurité doivent adopter de nouvelles stratégies, telles que le renforcement rapide des capacités, l’amélioration de la formation des modèles et des méthodes de détection hybrides combinant l’IA et les systèmes traditionnels basés sur des règles.
