研究显示，网络犯罪可能是AI唯一抢不走的工作

三年来，网络安全公司、各国政府和AI实验室一直警告称，生成式AI将催生新一代能力超强的黑客。然而，一篇实际深入调查的学术论文显示，这些所谓"超级黑客"大多只是在用ChatGPT写垃圾邮件和生成裸图取乐。

这项研究题为《独立综合体还是震动犯罪？》，由剑桥大学及其他院校的研究人员发表于arXiv，旨在了解网络犯罪地下生态实际上是如何采用AI的，而非网络安全厂商所宣称的那样。

"我们在此呈现的是针对网络犯罪地下生态中生成式AI早期采用模式的混合方法实证研究的最初尝试之一，"研究人员写道。

研究团队分析了ChatGPT于2022年11月推出后发布的97,895条论坛帖子，数据来源于剑桥网络犯罪中心CrimeBB数据集，涵盖地下及暗网论坛。他们运行了主题模型，手动阅读了逾3,200条帖子，并以民族志方式深入观察该圈子。

研究结论对AI末日论群体并不友好：样本中97.3%的帖子被归类为"其他"，即根本与利用AI犯罪无关。仅有1.9%涉及使用氛围编程工具。

'不过是一个不受限制的ChatGPT'

还记得WormGPT、FraudGPT，以及2023年充斥各大头条的所谓恶意聊天机器人浪潮吗？论坛数据讲述的却是另一个故事。

研究人员发现，大多数关于"暗黑AI"产品的帖子，都是用户在乞求免费访问权限、漫无目的地猜测，或抱怨这些工具根本不好用。一款热门暗黑AI服务的开发者最终向论坛成员承认，该产品不过是一场营销活动。

"说到底，[CybercrimeAI]不过是一个不受限制的ChatGPT，"该开发者在项目关闭前写道。"互联网上任何人都可以使用众所周知的越狱技术，获得相同乃至更好的效果。"

研究人员表示，到2024年底，针对主流模型的越狱方法已变得如同一次性用品。大多数在一周内甚至更短时间内就会失效。开源模型虽可被无限期越狱，但速度慢、资源消耗大，且功能停滞不前。

"AI系统的护栏正被证明既有用又有效，"作者总结道。他们自己也承认，这对于一篇批判性论文而言是一个反直觉的发现。

氛围编程是真实的，氛围黑客攻击大多并非如此

该论文直接回应了Anthropic于2025年8月广受关注的报告——该报告声称Claude Code曾被用于对17个机构发动"氛围黑客攻击"勒索活动。剑桥团队的数据在更广泛的地下生态中根本未发现这一规律。

在他们研究的论坛中，AI编程助手的使用方式与主流开发者相同：作为自动补全工具和Stack Overflow的替代品，服务于本已具备一定技能的程序员。低技能分子则坚持使用现成脚本，因为现成脚本管用。

研究人员发现，就连黑客也不信任自己用氛围编程编写的黑客工具。"AI辅助编程是一把双刃剑。它会加快开发速度，但也会放大不安全代码和供应链漏洞等风险，"一名用户在研究人员监控的论坛中说道。

另一名用户警告了长期技能退化的问题："现在已经很清楚，使用AI写代码会导致你的技能以极快的速度退化，"一名黑客在论坛中写道，"如果你的目标只是批量制造SaaS骗局，而且不在乎代码质量、安全性和性能，那么氛围编程也许可行。（对网络钓鱼似乎也可行。）"

这与欧洲刑警组织的危言耸听预测形成了鲜明对比——该机构于2025年警告称，完全自主的AI有朝一日可能控制犯罪网络。

AI实际上在哪些方面帮助了罪犯

当破坏性出现时，它发生在食物链的最底层。

SEO诈骗者正在使用大型语言模型批量生产博客垃圾内容，以追逐日益下滑的广告收入。情感诈骗者和网络色情运营商正在接入声音克隆和图像生成技术。一夜暴富的骗子们正在大批量产出AI撰写的电子书，以每本20美元的价格出售。

研究人员发现的最令人不安的市场涉及裸图生成服务。一名运营商打广告称："我能用AI让任何女孩裸体……1张图片 = 1美元，10张图片 = 8美元，50张图片 = 40美元，90张图片 = 75美元。"

这些都算不上复杂的网络犯罪。这不过是二十年来驱动垃圾邮件产业的同一套低利润、高产量的把戏，只是如今运行在略好一些的工具上而已。

研究人员最后的观察最为一针见血。他们认为，AI最终扰乱网络犯罪生态系统的最大方式，可能并非让罪犯能力更强，而是将合法科技行业被裁员的开发者推入地下，寻找谋生之道。

"近几个月来，对这些工具造成劳动力市场颠覆的忧虑正急剧上升，"论文写道。"这最终可能成为生成式AI工具扰乱网络犯罪生态系统最重要的方式——大规模裁员、经济下行和低迷的就业市场，将技能更强的合法开发者推入快速致富计划、欺诈和网络犯罪的地下社区。"