Les chatbots AI tels que ChatGPT et Stable Diffusion sont des exemples de “générateurs d’IA” qui ont un impact considérable sur le monde et les populations. Des modérateurs du réseau social Reddit ont révélé récemment que des robots utilisant des IA, tels que ChatGPT, sont parfois utilisés pour spammer les communautés en ligne, révèle le magazine Vice. Les grands modèles de langage (LLM) utilisés par ChatGPT sont également susceptibles d’être utilisés pour la diffusion de fausses informations, les fraudes et la cybercriminalité, selon un rapport de l’Europol.
Les modérateurs de Reddit ont signalé que les bots utilisant ChatGPT ont été utilisés pour attaquer des forums tels que r/AskHistorians. Les bots ont été utilisés pour répondre à des questions avec des réponses générées par ChatGPT, ce qui a entraîné une attaque massive de spam. Les modérateurs de Reddit ont également signalé que les bots utilisant ChatGPT ont été utilisés pour des campagnes de spam et d’astroturfing.
Les modérateurs de Reddit ont déclaré que les bots utilisant ChatGPT sont difficiles à détecter et que les outils de modération actuels sont inefficaces. Les bots sont utilisés pour des publicités frauduleuses, telles que la marijuana, la pornographie et les jeux d’argent. Les modérateurs de Reddit ont signalé que des centaines de comptes ont déjà été supprimés et que de nouveaux comptes sont découverts chaque jour.
Commentaires