Le cousin malveillant de ChatGPT à savoir WormGPT fait craindre des dérives de la part des hackers sur le plus célèbre agent conversationnel d’intelligence artificielle. Pour les observateurs, ce n’était qu’une question de temps avant que ChatGPT ne soit imité à des fins malveillantes. En effet, WormGPT, est désormais sur le marché. Le 13 juillet, des chercheurs de la société de cybersécurité SlashNext ont en effet publié un billet de blog révélant la découverte de cet outil désormais en vente sur un forum de pirates informatiques, indique ZDNET.

Sans limites éthiques

Le projet WormGPT se veut une “alternative” noire à ChatGPT selon ses promoteurs. Il doit permettre de “faire toutes sortes de choses illégales et de les vendre facilement en ligne à l’avenir“. SlashNext a eu accès à l’outil, décrit comme un module d’intelligence artificielle basé sur le modèle de langage GPTJ. WormGPT aurait visiblement été entraîné à l’aide de sources de données telles que des informations sur les logiciels malveillants. WormGPT est ainsi décrit comme étant “similaire à ChatGPT mais sans limites éthiques”. Il faut dire que les concepteurs de ChatGPT développé par OpenAI à la base ont voulu anticiper la mauvaise utilisation et les abus, de leur AI, en y mettant des restrictions à son utilisation: il refuse notamment de programmer des logiciels malveillants. Ce qui n’est pas le cas justement de WormGPT qui n’a évidemment aucune de ces barrières.

Nouveau défi pour les services de police 

Les chercheurs SlashNext ont ainsi pu utiliser cet outil pour “générer un email destiné à pousser un gestionnaire de compte peu méfiant à payer une facture frauduleuse“. L’équipe a été surprise de voir à quel point le modèle de langage avait réussi à accomplir cette tâche, qualifiant le résultat de “remarquablement persuasif [et] également stratégiquement astucieux”. Selon les messages consultés par ZDNET sur un canal Telegram lancé pour promouvoir l’outil, le développeur développe un modèle d’abonnement pour l’accès allant de 60 à 700 dollars. Un membre de la chaîne, “darkstux”, affirme qu’il y a déjà plus de 1.500 utilisateurs de WormGPT. Tout laisse à penser que WormGPT n’est malheureusement que le premier d’une nouvelle lignée d’outils malveillants. Il ne fait aucun doute que là où il y a de l’argent à gagner, des cybercriminels prendront les devants. 

La police se doit alors aussi d’être au diapason de la technologie en surveillant le développement de ce genre de modèles de langage naturel. Et cela représente un nouveau défi pour les forces de l’ordre, car il sera plus facile que jamais pour les acteurs malveillants de perpétrer des activités criminelles sans connaissances préalables nécessaires.

Pierre Ouédraogo