Table des matières
Des chercheurs en sécurité informatique ont élaboré un ver informatique destiné spécifiquement aux systèmes d’intelligence artificielle générative. Ce ver, baptisé Moris II, est capable de se propager entre différents systèmes d’IA, volant des données, envoyant des courriels indésirables et répandant des logiciels malveillants.
L’Émergence de Moris II
Ben Nassi, chercheur à Cornell Tech, et son équipe ont conçu Moris II en utilisant un prompt autoréplicatif, incitant l’IA à générer des instructions supplémentaires. Contrairement à son prédécesseur de 1988, Moris II cible spécifiquement les assistants de messagerie par IA générative, manipulant ces systèmes pour des activités malveillantes.
Ver Informatique Ciblant les IA : Expérimentation et Risques
Moris II a été testé sur plusieurs modèles d’IA. Parmi ceux-ci il y a Gemini Pro de Google, ChatGPT 4.0 d’OpenAI et LLaVA de l’université du Wisconsin-Madison. Les chercheurs ont également exploré deux méthodes d’infection : une via du texte et l’autre via des fichiers image.
L’Alerte des Chercheurs
Bien que ces attaques restent actuellement virtuelles et contrôlées par les chercheurs, ils ont prévenu les entreprises concernées des risques potentiels. Les porte-paroles d’OpenAI ont souligné les efforts déployés pour renforcer la résilience des systèmes face à de telles attaques.
Ver Informatique Ciblant les IA : Une Menace Grandissante
Selon Sahar Abdelnabi, chercheur averti des dangers potentiels, les attaques réelles pourraient survenir dans les prochaines années. Les auteurs de l’étude envisagent même une possible apparition de ces cyberattaques dans un futur proche.
Conclusion
L’avènement de Moris II soulève des préoccupations majeures quant à la sécurité des systèmes d’IA. Bien que les chercheurs aient pris des mesures pour sensibiliser aux risques, il est impératif que les développeurs renforcent la sécurité de leurs systèmes pour contrer cette nouvelle menace émergente.