Une récente étude de Kaspersky, une société de cybersécurité spécialisée dans le développement de solutions innovantes pour protéger les individus et les entreprises contre les menaces en ligne, met en lumière une tendance inquiétante : l’utilisation croissante de l’intelligence artificielle (IA) par les cybercriminels sur le dark web. Près de 3 000 messages repérés en 2023 détaillent l’exploitation de ChatGPT et d’autres modèles de langage pour des activités illicites.
Le rapport porte sur divers schémas, allant de la création de versions néfastes de chatbots à des tentatives de déblocage de fonctionnalités supplémentaires, voire au détournement complet du logiciel original. Alisa Kulishenko, analyste chez Kaspersky, souligne que “les acteurs de la menace explorent activement divers schémas pour mettre en œuvre le ChatGPT et l’IA”, citant des exemples tels que le développement de logiciels malveillants et l’analyse de données volées.
Des projets alternatifs tels que XXXGPT et FraudGPT suscitent également un intérêt significatif sur le dark web, proposant des fonctionnalités supplémentaires et promettant de contourner les limitations initiales de ChatGPT.
Une menace particulière réside dans le marché des comptes ChatGPT volés, avec 3 000 messages supplémentaires repérés en 2023 annonçant la vente de ces comptes sur le dark web et sur des canaux Telegram clandestins. Kulishenko met en garde contre l’abaissement de la barrière d’entrée dans la cybercriminalité, soulignant que “les outils d’IA ne sont pas dangereux en soi, mais les cybercriminels cherchent à les utiliser efficacement, ce qui peut potentiellement conduire à une augmentation des cyberattaques.”
Kaspersky recommande l’utilisation de services tels que Digital Footprint Intelligence, Kaspersky Endpoint Security for Business, Managed Detection and Response et Incident Response. Ces solutions pourraient, entre autres, surveiller les activités des cybercriminels et ajuster les défenses en conséquence, protéger les terminaux contre les menaces connues et inconnues, et identifier et contrer les intrusions, minimisant ainsi les conséquences potentielles des attaques cybernétiques.