취리히 대학교 연구자들이 Reddit의 'Change My View' 서브레딧에 AI 봇을 침투시켜 사용자들을 조작하는 연구를 진행했다. 이 연구는 AI 봇이 인간보다 6배 더 설득력이 있다는 결과를 보여주었다. Reddit 관리자들은 AI 생성 콘텐츠 게시 시 공개를 요구하는 규칙을 어겼다며 연구자들에게 사과를 요구하고 있다. 연구자들은 AI 봇이 Reddit 커뮤니티의 규범과 글쓰기 패턴을 학습하여 설득력을 높일 수 있는지 알아보고자 했다. 이 연구는 GPT-4, Claude, Sonnet 3.5, Llama 등의 모델을 사용하여 진행되었으며, 연구자들은 시스템 프롬프트에서 사용자들이 연구에 동의했다고 거짓말을 했다. Reddit은 이 연구에 대해 불쾌감을 표하며 계정을 삭제하고 법적 조치를 고려 중이다. 또한, AI 봇이 Reddit의 절반 이상의 게시물을 작성하고 있다는 이론도 제기되고 있다. 이와 함께 음성 복제를 통한 사기와 프롬프트 주입 공격 등 새로운 사기 수법이 등장하고 있다.