AI和机器学习工具能够通过视频和音频进行模拟，这对身份和访问管理构成威胁。使用AI渲染的视频现在相当容易被检测到，但合成语音克隆对于使用语音生物识别技术作为身份验证流程一部分的组织来说是一个很大的威胁。
DeWave功能展示
这方面最典型的当属中国邮政香港抖音官方账号“中國郵政香港官方账号”。在专业团队的操盘下，“中國郵政香港官方账号”不仅能蹭上只有年轻人才能懂的“哪都通梗”，还大打港风牌，拍出了不输达人的短视频内容，甚至专业到可以反过来帮达人拍视频。
2. 研究指出ChatGPT难以识别疾病之间的关系，提出需要有选择性地在准确可信的医学文献上进行专门培训。
不仅在《冒险岛》中，Nexon同样在《泡泡战士》等游戏中存在类似的暗改行为