Par Rachel Teitz, Communications techniques.
ChatGPT, le chatbot lancé par OpenAI en novembre 2022, est la nouveauté dont tout le monde parle. Comme ChatGPT lui-même vous le dira, il s'agit “d'un modèle de langage IA capable de générer un texte de type humain en fonction de l'entrée qui lui est donnée."Posez-lui une question, et il répondra. Les nombreuses utilisations de ChatGPT jusqu'à présent incluent l'écriture de lettres, de poésie, de dissertations, de documentation technique and et de logiciels malveillants.
La plupart des pirates russes ont un très faible niveau d'anglais parlé ou écrit, mais avec ChatGPT, ils peuvent créer un e-mail de phishing soigné et bien écrit. De plus, il y a preuve que les pirates utilisent également ChatGPT pour écrire du code malveillant. Cela signifie que même les pirates informatiques qui manquent de sophistication technique peuvent toujours produire des outils nuisibles et mener des campagnes d'attaque.
Mais avant d'appuyer sur le bouton de panique face à cette nouvelle menace de cybersécurité, la vérité est qu'il existe déjà un moyen pour les pirates de lancer des campagnes sans avoir les connaissances techniques nécessaires: les logiciels malveillants en tant que service. Sur plusieurs forums clandestins, vous pouvez tout acheter, des outils aux instructions de base et aux conseils sur la manière de mettre en œuvre une attaque. Alors pourquoi devrions-nous nous inquiéter de ChatGPT? En quoi le code malveillant créé par ChatGPT est-il pire que ce qui est en vente sur le dark Web?
Tout d'abord, ChatGPT est gratuit et accessible à tous. Les fourchettes de prix sur les forums clandestins varient en fonction de ce qui est proposé à la vente, mais les cybercriminels qui mettent à disposition leurs outils et leurs connaissances cherchent à réaliser des bénéfices.
Un autre point en faveur de ChatGPT est qu'il est facile à utiliser et réactif – vous pouvez avoir un dialogue réel avec ChatGPT. Dites-lui exactement ce dont vous avez besoin et il adaptera ses réponses en conséquence.
ChatGPT est " intelligent."Bien sûr, ChatGPT n'est aussi intelligent que vous le faites; sa base de connaissances est très variable et dépend fortement des informations qui lui sont données.
ChatGPT peut transformer une attaque banale en quelque chose de plus grave. Une récente rapport constate que les pirates ont pu utiliser ChatGPT pour améliorer un simple Infostealer à partir de 2019.
Dans le cadre de la politique de contenu, les créateurs de ChatGPT ont mis en place diverses restrictions pour empêcher son utilisation pour créer du contenu malveillant. Mais les cybercriminels trouvent des moyens de contourner ce problème, principalement en abusant de l'API.
C'est une préoccupation, mais l'expérience nous porte à croire que ces failles finiront par être comblées, tout comme d'autres vulnérabilités sont corrigées au fur et à mesure de leur découverte.
Certains diront que le danger n'est pas ChatGPT lui-même, mais la classe d'outils qu'il représente. L'IA est douée pour passer par de multiples itérations de matériel de formation pour perfectionner ses capacités et pourrait être utilisée pour trouver des faiblesses dans les interfaces d'un système. L'IA pourrait être utilisée pour trouver de nouvelles attaques zero-day. Il peut faire plus et devenir plus intelligent car il est conçu pour intégrer des informations et obtenir des commentaires pour affiner ses algorithmes, ce qui se traduit par une amélioration des performances. McKinsey a noté que dès 2020, le groupe à l'origine des logiciels malveillants Emotet a exploité des techniques avancées d'IA et d'apprentissage automatique pour accroître son efficacité. Ils ont utilisé un processus automatisé pour envoyer des e—mails de phishing contextualisés qui détournaient d'autres menaces par e-mail-certaines liées aux communications COVID-19.
À l'avenir, l'IA et ChatGPT pourraient présenter une plus grande inquiétude. Bien que cela soit sur le radar de nombreux chercheurs, ils conviennent qu'actuellement, les attaques générées par l'IA entrent encore principalement dans la catégorie des menaces potentielles.
D'autres informations sur ChatGPT peuvent être trouvées sur cette recherche Check Point article. Enfin, pour recevoir chaque semaine dans votre boîte de réception des actualités, des meilleures pratiques et des ressources de pointe en matière de cybersécurité, veuillez vous inscrire au CyberTalk.org bulletin d'information.
Post ChatGPT, la nouvelle arme secrète des hackers apparu en premier sur CyberTalk.