当全球法律框架仍在为跨国协作铺设轨道时,一场更为迅猛的技术革命已经悄然改变了反钓鱼治理的战场形态。2025年4月,美国联邦调查局发布了其年度互联网犯罪报告。在这份具有里程碑意义的文件中,有一个数字格外刺眼:22,364——这是FBI首次为AI相关网络犯罪设立的专项统计数字。与之相伴的,是8.93亿美元的损失报告。这意味着,在AI技术全面渗透社会生活的2025年,每一起AI驱动的网络犯罪平均造成约4万美元的损害。而更令人不安的是,这个数字很可能只是冰山一角。CrowdStrike的研究显示,AI生成的定向钓鱼邮件点击率高达54%,是传统人工钓鱼邮件点击率的近20倍。2024年2月,香港一家跨国工程公司Arup在一次深度伪造视频会议中损失了2,560万美元——攻击者同时伪造了公司首席财务官和多位高管的实时影像与声音,在一场看似平常的财务审批会议中完成了这笔巨额转账。当技术的迭代速度以月为单位,而法律的修订周期以年为单位;当攻击者可以在三秒钟内克隆任何人的声音,而法庭仍在争论AI生成内容是否满足传统欺诈罪的"故意"要件——我们不得不面对一个残酷的现实:法律,正在以肉眼可见的速度落后于技术。
这不是一个关于技术恐惧的故事,而是一个关于治理困境的故事。AI技术本身是中性的——它被用于医疗诊断、自动驾驶、气候建模,也被用于生成钓鱼邮件、伪造身份、实施诈骗。问题的核心不在于技术本身,而在于我们用以规制技术的法律框架,是否还能在AI时代保持其有效性。当一部法律从起草到生效需要五年,而一项AI技术从实验室到犯罪工具只需要五个月,"法律滞后效应"已经不再是理论上的担忧,而是每天都在发生的现实。本节将深入剖析AI时代反钓鱼法律治理面临的核心困境,探讨中国在这一领域的先行实践,展望全球法律框架的适应性变革,并思考一个根本性的问题:在AI驱动的网络犯罪面前,法律是否还能找到不依赖"追赶技术"的治理范式?
本节内容导航
一、数据惊雷:AI犯罪首次进入官方统计
2025年4月6日,美国联邦调查局发布了2025年度互联网犯罪报告。这份报告本身就已经足够令人震惊:全年投诉量首次突破百万大关,达到1,008,597起;总损失飙升至208.77亿美元,同比增长26%。但真正引发全球法律界和网络安全界震动的,是报告中首次设立的"AI相关犯罪"专项统计。
22,364起投诉,8.93亿美元损失。这是人类历史上第一次有国家级执法机构对AI驱动的网络犯罪进行系统性量化统计。FBI在报告中明确指出,这些数字"很可能只是冰山一角"——许多受害者并未意识到攻击中涉及AI技术,因此未能正确归类;更多的受害者则根本没有向执法机构报案。按照FBI的估算,实际损失可能是报告数字的3至5倍。
这22,364起AI相关投诉分布在多个犯罪类型中:投资诈骗(涉及AI的投诉损失超过6.32亿美元)、商业邮件欺诈(BEC,涉及AI的损失3,020万美元)、钓鱼攻击(涉及AI的损失1,020万美元)、政府冒名诈骗(涉及AI的损失700万美元)。FBI特别指出,在投资诈骗中,犯罪分子利用AI生成数千段看似不同的对话内容,每段都针对特定受害者的背景和兴趣进行定制;在BEC攻击中,AI聊天生成器可以在几秒钟内起草一封完美模仿CEO写作风格的邮件,而语音克隆技术则让攻击者能够通过电话确认一笔可疑转账——当邮件看起来对、电话听起来对,传统的"人工识别"防线几乎全线崩溃。
更具警示意义的是年龄维度的数据。60岁以上的老年人群体在2025年提交了201,266起投诉,占总投诉量的19.96%,但报告的损失却高达77.49亿美元,占总损失的37.12%。这意味着,老年人群体的平均损失(38,501美元)是整体平均损失(20,699美元)的1.86倍。在AI驱动的诈骗中,老年人尤其脆弱——他们对新兴技术的认知有限,对"权威声音"(无论是AI克隆的政府工作人员还是AI生成的"专家"视频)的信任度更高,而AI技术恰好放大了这种信任被利用的风险。
这些数据揭示了一个深层趋势:网络犯罪正在从"技术驱动"向"AI增强的社会工程驱动"转型。2025年,网络钓鱼/欺骗邮件以191,561起居投诉量首位,但投资诈骗以86.49亿美元的损失成为最"赚钱"的犯罪类型。两者的结合——AI生成的钓鱼邮件作为入口,AI增强的投资诈骗作为变现手段——正在形成一种全新的犯罪产业链。在这条产业链中,AI不是替代人类犯罪者,而是将人类犯罪者的"创造力"和"欺骗能力"放大了千倍。
FBI IC3 2025年AI相关犯罪核心数据
- AI相关投诉总量:22,364起(首次设立专项统计)
- AI相关损失总额:8.93亿美元
- AI投资诈骗损失:超过6.32亿美元(占AI总损失的70.7%)
- AI-BEC损失:3,020万美元
- AI钓鱼攻击损失:1,020万美元
- AI政府冒名诈骗损失:700万美元
- 整体网络犯罪损失:208.77亿美元(同比增长26%)
- 整体投诉量:1,008,597起(首次突破百万)
- 老年受害者平均损失:38,501美元(整体平均的1.86倍)
- 钓鱼/欺骗邮件投诉:191,561起(居投诉量首位)
FBI IC3 2025年AI相关犯罪损失分布
数据来源:FBI IC3 2025 Internet Crime Report, April 20252025年FBI首次设立AI相关犯罪专项统计,总损失达8.93亿美元。投资诈骗以6.32亿美元占据AI犯罪损失的70.7%,成为AI技术被滥用的最大领域。商业邮件欺诈(BEC)损失3,020万美元,钓鱼攻击损失1,020万美元,政府冒名诈骗损失700万美元。老年受害者平均损失38,501美元,是整体平均水平的1.86倍。
二、深度伪造:从实验室到犯罪现场的"最后一公里"
2024年2月,香港。一家跨国工程咨询公司Arup的财务团队收到一封来自"首席财务官"的邮件,要求紧急处理一笔机密转账。随后,一场视频会议召开了——屏幕上,CFO和几位"同事"的影像清晰可见,声音也与本人无异。财务团队按照"指示"完成了转账。直到事后与真正的CFO核实,才发现整场会议中没有一个真实的人——所有参与者都是深度伪造的AI影像。损失金额:2,560万美元。这是迄今为止已知最大单笔深度伪造诈骗案。
Arup案并非孤例。2024年5月,全球最大的广告集团WPP的CEO马克·里德(Mark Read)被人通过语音克隆和伪造的Microsoft Teams视频通话冒名,攻击者利用公开照片建立了假的WhatsApp账户,然后安排了一场Teams会议。幸运的是,WPP员工在资金转移前发现了异常,避免了损失。但这起未遂事件揭示了一个令人不寒而栗的事实:当AI可以完美克隆任何人的声音和影像时,"眼见为实"这一人类最基础的信任机制正在被系统性瓦解。
深度伪造技术的犯罪化速度远超法律应对的速度。根据DeepStrike的数据,2023年全球互联网上约有50万条深度伪造内容,到2025年这一数字暴增至800万条——两年间增长了16倍。Sumsub的报告显示,深度伪造欺诈在全球欺诈尝试中的占比从2022年的0.1%飙升至2025年的6.5%,增幅达2,137%。Pindrop的2025年语音智能与安全报告记录了令人震惊的数据:合成语音攻击在2024年同比增长1,300%,从平均每月1次跃升至每天7次;在保险行业,合成语音攻击增长475%;在银行业,增长149%。
语音克隆的门槛已经低到令人难以置信。McAfee的研究表明,仅需3秒钟的音频样本,就可以创建一个85%匹配度的语音克隆。这意味着,任何在公开演讲、播客、YouTube视频、语音邮件中留下过声音记录的人,都可能成为语音克隆的目标。CrowdStrike的数据显示,2024年下半年语音钓鱼(vishing)攻击激增442%,2025年第一季度在此基础上再次激增1,633%。77%的语音克隆诈骗目标在接到电话后实际损失了资金——这一转化率在传统电信诈骗中是不可想象的。
更深层的问题在于,深度伪造的检测能力远远落后于生成能力。iProov的2025年威胁情报报告发现,只有0.1%的人能够可靠地识别AI生成的深度伪造内容。AI检测工具在实验室条件下可以达到96%的准确率,但在真实世界环境中准确率会下降45%至50%。Keepnet的调查显示,80%的公司根本没有深度伪造应急响应计划。这种"生成容易、检测困难、防御缺失"的不对称性,正是深度伪造犯罪能够迅速蔓延的根本原因。
在法律层面,深度伪造带来的挑战是结构性的。传统的诈骗罪要求证明被告人的"故意"和"欺骗行为"——但当AI生成的内容被用于诈骗时,"故意"的主体是谁?是编写AI模型的工程师?是提供AI服务的平台?还是实际操作AI工具实施犯罪的终端用户?当深度伪造内容跨越国界传播时,管辖权如何确定?当证据本身就是AI生成的,如何确保其真实性和可采性?这些问题在现有的法律框架中几乎没有答案。
深度伪造犯罪关键数据
- Arup案:2024年2月,香港,深度伪造视频会议诈骗,损失2,560万美元(迄今最大单笔深度伪造诈骗)
- WPP案:2024年5月,语音克隆+伪造Teams视频,CEO马克·里德被冒名,未遂
- 深度伪造内容增长:从2023年50万条增至2025年800万条,16倍增长(DeepStrike)
- 深度伪造欺诈占比:从2022年0.1%升至2025年6.5%,2,137%增幅(Sumsub)
- 合成语音攻击增长:2024年同比增长1,300%(Pindrop)
- 语音克隆门槛:仅需3秒音频,85%匹配度(McAfee)
- 语音钓鱼激增:2024年下半年+442%,2025年Q1再+1,633%(CrowdStrike)
- 人类检测准确率:仅0.1%能可靠识别深度伪造(iProov)
- 企业无应急计划比例:80%(Keepnet)
- 美国深度伪造损失:2025年达11亿美元(Keepnet)
全球深度伪造内容增长与欺诈占比趋势(2022—2025)
数据来源:DeepStrike 2025; Sumsub Identity Fraud Report 2025; Pindrop 2025深度伪造内容从2022年的约5,000条暴增至2025年的800万条,三年增长1,600倍。深度伪造在欺诈尝试中的占比从2022年的0.1%飙升至2025年的6.5%,增幅达6,400%。合成语音攻击在2024年同比增长1,300%,从平均每月1次跃升至每天7次。语音克隆仅需3秒音频即可达到85%匹配度,人类检测准确率仅0.1%。
三、法律困境:当传统刑法遭遇AI生成内容
法律的本质是对人类行为的规范。数千年来,法律体系建立在一个基本假设之上:行为的主体是人,行为的工具是物理性的,行为的后果是可追溯的。然而,AI技术正在系统性地瓦解这三个假设。当AI成为犯罪的工具甚至"共犯"时,传统的法律框架如同一张被拉得过大的渔网——网眼太大,漏掉了太多本应被捕获的东西。
困境一:"故意"要件的虚化。传统刑法中的诈骗罪要求证明行为人具有"非法占有目的"和"欺骗故意"。但在AI驱动的钓鱼攻击中,攻击者可能根本没有直接参与每一封钓鱼邮件的生成——他们编写了一个AI脚本,让机器自动完成从目标研究、内容生成到发送的全部流程。在这种情况下,攻击者的"故意"是存在的(他们设计了整个犯罪方案),但"故意"与"行为"之间的链条被AI技术拉长了、模糊了。法庭如何证明攻击者对某一封特定钓鱼邮件的内容具有"欺骗故意"?当AI生成的内容具有随机性和自适应能力时,攻击者甚至可能无法预知机器会生成什么具体内容。
更深层的悖论在于:如果攻击者使用开源AI模型(如Meta的Llama、 Stability AI的Stable Diffusion)实施犯罪,模型提供者是否应当承担法律责任?开源模型的设计初衷是促进技术民主化,但技术一旦被用于犯罪,"开源"是否成为"免责"的挡箭牌?2025年,FBI IC3报告中的AI相关投诉涉及多种开源和商业模型,但截至目前,全球范围内尚未有AI模型提供者因用户滥用其技术实施钓鱼犯罪而被追究刑事责任的案例。这不是因为法律不想追究,而是因为法律不知道如何追究。
困境二:管辖权的"量子态"。网络钓鱼攻击的跨国性在AI时代被进一步放大。攻击者可能在A国使用B国开发的开源模型,通过C国的云服务生成深度伪造内容,发送到D国受害者的邮箱,而资金最终流向E国的加密货币钱包。在传统的网络犯罪中,管辖权至少还可以通过服务器位置、IP地址等物理线索进行锚定。但在AI时代,云服务使得计算资源的地理位置变得无关紧要,加密货币使得资金流向难以追踪,而开源模型的分布式特性使得"开发者所在地"与"犯罪发生地"之间几乎没有关联。当一起AI驱动的钓鱼攻击涉及五个国家、三种法律体系、两种技术平台时,哪个国家的法院有权审判?哪个国家的法律应当适用?
困境三:证据的"真实性危机"。数字取证在AI时代面临前所未有的挑战。传统的数字取证依赖于日志文件、网络流量、邮件头信息等"客观"证据,但当AI生成的内容本身就可以伪造这些"客观"证据时,何为"真实"?一个深度伪造的视频通话记录,在技术上与真实的视频通话记录几乎没有区别;一封AI生成的钓鱼邮件,其邮件头信息可以被精心伪造以逃避检测。更棘手的是,AI技术使得"证据链"的每一个环节都可能被污染——从攻击者的身份到犯罪的时间线,从通信的内容到资金的流向,AI可以在每一个节点上制造"合理的虚假"。
2025年7月,国际刑警组织与香港警方、香港大学联合举办第10届数字取证专家组会议(DFEG 2025)。来自40多个国家和地区的100余名专家讨论的核心议题之一,就是AI时代的取证技术。会议模拟了"AI模型被黑"和"虚构投资方案诈骗"两个场景,参赛队伍需要在AI生成的虚假证据中找出真实的犯罪线索。香港海关最终夺冠,但这场比赛本身揭示了一个令人不安的事实:在AI时代,区分"真实证据"和"AI伪造证据"正在成为一门需要专门训练的技能——而大多数执法机构尚未掌握这门技能。
困境四:法律修订的"时间悖论"。一部法律从起草到生效,通常需要3至5年。在这3至5年中,AI技术可能已经经历了3至5代迭代。2024年8月1日,欧盟《人工智能法》(AI Act)正式生效——这部法律从2018年开始酝酿,历经6年谈判,但生效时,它所规制的AI技术已经与其最初设想的版本大相径庭。AI Act将AI系统按风险等级分类监管,但针对AI驱动的网络犯罪,该法仍缺乏专门条款。禁止性条款于2025年2月2日生效,高风险AI系统要求将于2026年8月2日生效——但到2026年8月,攻击者可能已经在使用全新的AI技术架构,而法律仍在追赶两年前的技术。
"AI技术使得攻击者可以在几分钟内完成过去需要数周才能完成的犯罪准备工作。而我们的法律体系,从发现漏洞到修补漏洞,平均需要数年。这不是一场公平的竞赛。" —— 国际刑警组织网络罪案总监尼尔·杰顿(Neal Jetton),2026年3月
四、中国的先行实践:从《深度合成管理规定》到综合治理
在全球AI治理的版图中,中国是一个独特的存在。当西方国家还在争论AI监管是否会"扼杀创新"时,中国已经走出了一条"先行立法、系统治理"的道路。这条道路的核心逻辑是:技术发展的红利应当由全社会共享,但技术发展的风险必须由全社会共同防控。在反钓鱼治理的语境下,中国的实践为全球提供了宝贵的"东方经验"。
《互联网信息服务深度合成管理规定》:全球首部深度合成专门法规。2022年11月25日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》,自2023年1月10日起施行。这是全球范围内首部专门针对深度合成技术的系统性法规,比欧盟AI Act的生效时间早了整整一年半。规定的核心内容包括:深度合成服务提供者必须对生成内容进行标识(第十六条),要求"采取技术措施添加不影响用户使用的标识";具有舆论属性或社会动员能力的深度合成服务提供者须进行算法备案(第十九条);提供人脸、人声等生物识别信息编辑功能的,须提示使用者依法告知被编辑个人并取得单独同意(第十四条);发现违法和不良信息的,须依法采取处置措施并及时向主管部门报告(第十条)。
这些条款的设计体现了中国治理思路的鲜明特点:不是等到犯罪发生后才进行打击,而是在技术应用的源头就设置"安全阀"。要求对AI生成内容进行标识,意味着即使攻击者利用深度合成技术实施钓鱼诈骗,受害者至少有机会通过标识识别内容的虚假性。要求算法备案,意味着监管部门可以追溯深度合成服务的提供者,形成"技术可追溯"的治理闭环。要求取得被编辑个人的单独同意,意味着未经授权使用他人生物特征信息生成深度伪造内容,从一开始就处于违法状态——这为后续打击利用深度伪造实施的钓鱼诈骗提供了法律依据。
《生成式人工智能服务管理暂行办法》:进一步收紧AI服务监管。2023年8月15日,《生成式人工智能服务管理暂行办法》正式施行。该办法要求生成式AI服务提供者对图片、视频等内容添加显著标识,禁止利用AI生成虚假信息,并要求建立用户投诉机制。违反规定的,最高可面临10万元罚款,严重者暂停服务。这一办法与《深度合成管理规定》形成了"双规并行"的治理格局——前者侧重于生成式AI服务的整体规范,后者侧重于深度合成技术的专项管理,两者互为补充、相互支撑。
《反电信网络诈骗法》的AI适用性。2022年12月1日施行的《中华人民共和国反电信网络诈骗法》虽然并未直接提及AI技术,但其制度设计为应对AI驱动的钓鱼攻击预留了空间。该法要求电信企业建立监测识别和处置机制(第十条),要求金融机构履行客户尽职调查义务(第十五条),要求互联网服务提供者履行禁止为电信网络诈骗活动提供支持或帮助的义务(第二十条)。在AI时代,这些义务可以被解释为包括:监测AI生成的异常通信内容、识别AI克隆的虚假身份、阻止AI驱动的自动化诈骗流程等。2025年《网络安全法》修订(2026年1月1日生效)进一步强化了这些义务,关键信息基础设施运营者造成特别严重危害网络安全后果的,最高可处一千万元罚款,对直接负责人员可处一百万元罚款并加入从业禁止措施。
实践成效与挑战。中国的AI治理实践取得了显著成效,但也面临现实挑战。在成效方面,算法备案制度使得监管部门能够掌握深度合成服务的"底数",截至2023年9月,网信办已公布两批深度合成服务算法备案信息,涵盖百度、腾讯、华为、抖音、科大讯飞等数十家企业的算法。在挑战方面,开源AI模型的跨境流通使得境内监管难以完全奏效——攻击者可以轻易获取境外开源模型,在本地部署后实施犯罪,绕过境内的标识和备案要求。此外,AI技术的快速迭代使得法规的"技术针对性"不断被削弱——今天规制的技术,明天可能已经被新的技术架构所取代。
尽管如此,中国的治理路径为全球提供了重要启示:AI治理不能等待技术"成熟"后再行动,而必须在技术发展的过程中同步构建法律框架。"先行立法"不是"过度监管",而是"风险预防"——在AI技术尚未被大规模滥用之前建立规则,比在灾难发生后亡羊补牢更为有效。这一理念与联合国《打击网络犯罪公约》所倡导的"预防优先"原则高度一致,也体现了中国在全球治理中的建设性贡献。
中国AI治理法规体系核心内容
- 《互联网信息服务深度合成管理规定》:2023年1月10日施行,全球首部深度合成专门法规,要求AI生成内容添加标识、算法备案、生物特征编辑须取得单独同意
- 《生成式人工智能服务管理暂行办法》:2023年8月15日施行,要求生成式AI内容显著标识,禁止生成虚假信息,最高罚款10万元
- 《反电信网络诈骗法》:2022年12月1日施行,建立电信、金融、互联网三位一体防控体系,为AI驱动诈骗预留适用空间
- 《网络安全法》修订:2026年1月1日生效,关键信息基础设施运营者最高可处一千万元罚款,加入从业禁止措施
- 算法备案:截至2023年9月,网信办已公布两批深度合成服务算法备案信息,涵盖百度、腾讯、华为、抖音、科大讯飞等
- 治理理念:"先行立法、系统治理",源头防控而非事后打击,技术可追溯原则
五、欧盟AI法案:全球首部综合性AI监管立法
2024年8月1日,欧盟《人工智能法》(AI Act)正式生效。这部历经六年谈判、被誉为"全球首部综合性AI监管立法"的法规,标志着人类对AI技术的治理从"零散规则"走向"系统框架"。然而,当AI Act遭遇网络钓鱼这一具体犯罪类型时,其适用性却暴露出了明显的局限性。
AI Act的核心逻辑是"风险分级监管"——将AI系统按照其对基本权利和安全的风险程度分为四个等级:不可接受风险(禁止)、高风险(严格监管)、有限风险(透明度义务)和最小风险(无额外义务)。深度伪造被归类为"有限风险"AI系统,适用Article 50的透明度义务:提供者必须以机器可读方式标记合成输出,部署者必须向受众披露内容的人工性质。违规者最高可面临1,500万欧元或全球年营业额3%的罚款(Article 99)。
然而,这一框架在反钓鱼治理中面临三个根本性矛盾。第一,"透明度义务"与"犯罪隐蔽性"的矛盾。AI Act要求深度合成内容的部署者向受众披露内容的人工性质,但钓鱼攻击的本质恰恰在于欺骗受害者相信内容的真实性。如果攻击者遵守AI Act的披露义务,钓鱼攻击就无法成功;如果攻击者违反披露义务,AI Act的罚款条款对身处法外之地的犯罪者毫无约束力。这意味着,AI Act的透明度规则对"合法使用"有效,对"犯罪使用"无效——而恰恰是后者对社会危害最大。
第二,"提供者责任"与"开源模型"的矛盾。AI Act对AI系统的"提供者"(开发者)和"部署者"(使用者)分别设定了义务。但在开源模型的场景下,"提供者"可能是分布在全球各地的志愿者社区,"部署者"可能是隐藏在暗网中的匿名攻击者。当犯罪发生时,追究"提供者"的责任意味着让开源社区为全球范围内的滥用行为承担连带责任——这在技术和法律上几乎不可行;追究"部署者"的责任则意味着需要首先识别和定位匿名攻击者——这在实践中极其困难。
第三,"域外效力"与"主权冲突"的矛盾。AI Act具有域外效力——即使AI系统的提供者在欧盟境外,只要其系统被用于影响欧盟境内的个人或组织,就受AI Act约束。这一设计旨在防止"监管套利",但也引发了主权争议。当一家中国AI公司向非洲用户提供服务,而非洲用户利用该服务对欧盟公民实施钓鱼攻击时,AI Act的域外适用是否构成对中国和非洲国家司法主权的侵犯?这一问题在AI Act的谈判过程中就曾引发激烈争论,但并未得到根本解决。
更值得关注的是AI Act的生效时间表。禁止性条款于2025年2月2日生效,通用AI模型义务于2025年8月2日生效,而深度伪造透明度义务(Article 50)要到2026年8月2日才全面适用——对于2026年8月2日之前部署的现有系统,还设有四个月的宽限期(至2026年12月2日)。这意味着,直到2026年底,AI Act的深度伪造透明度规则才能完全覆盖所有系统。而在这两年多的"过渡期"中,深度伪造技术可能已经经历了数轮迭代,犯罪手段可能已经发生了根本性变化。法律的"生效时间"与技术的"迭代时间"之间的错位,再次凸显了"法律滞后效应"的困境。
2026年5月,欧盟委员会提出了AI Act的"一揽子修正案"(Omnibus Agreement),提议将部分高风险AI系统的合规期限从2026年8月推迟至2027年12月,将Annex I高风险AI系统义务从2027年8月推迟至2028年8月。这一修正案的初衷是为企业留出更多合规准备时间,但客观上也进一步拉长了法律与犯罪之间的"时间差"。当合法企业还在努力适应AI Act的要求时,犯罪者已经在利用法律生效前的窗口期大肆作案。
欧盟AI Act的经验教训是:综合性AI监管立法是必要的,但不足以应对AI驱动的网络犯罪。法律需要与技术同步演进,而同步演进的前提是建立"敏捷立法"机制——允许法律框架在保持核心原则稳定的同时,通过次级法规或技术标准快速适应技术变化。中国《深度合成管理规定》中"定期审核、评估、验证生成合成类算法机制机理"的要求(第十五条),以及算法备案制度的动态更新机制,正是"敏捷立法"的一种探索。
六、PhaaS平台:AI让钓鱼攻击进入"工业化"时代
如果说AI技术本身是中性的,那么"钓鱼即服务"(Phishing-as-a-Service,PhaaS)平台则是将AI技术系统性地武器化的商业模式。这些平台将钓鱼攻击的每一个环节——从目标研究、内容生成、基础设施搭建到资金洗白——都封装为可订阅的服务,使得没有任何技术背景的犯罪者也能发起高度专业化的钓鱼攻击。AI技术的介入,使得PhaaS平台的"产品"质量发生了质的飞跃。
Tycoon 2FA:AI增强型PhaaS平台的覆灭。2026年3月,微软数字犯罪单元(DCU)联合欧洲刑警组织、FBI等执法机构,成功摧毁了全球最大的PhaaS平台之一——Tycoon 2FA。该平台自2023年起活跃,占据了微软拦截的所有钓鱼攻击的62%,每月生成约3,000万封恶意邮件,影响全球约50万家机构。Tycoon 2FA的核心"卖点"在于其AI增强的钓鱼内容生成能力——平台利用AI技术分析目标组织的通信模式、员工角色和业务流程,自动生成高度定制化的钓鱼邮件和伪造登录页面。行动后,Microsoft 365平台的钓鱼攻击量下降了47%。
Tycoon 2FA的覆灭是一个标志性事件,但它揭示的问题远比解决的问题更多。首先,Tycoon 2FA的订阅费用低至每月30美元——这意味着,一个犯罪者只需花费不到一顿快餐的钱,就能获得足以欺骗大型企业的钓鱼工具包。AI技术使得钓鱼攻击的"生产成本"趋近于零,而"犯罪收益"却可能高达数百万美元。这种极端的成本收益不对称,是PhaaS平台能够迅速扩张的根本原因。
其次,Tycoon 2FA的运营模式体现了网络犯罪"产业化"的深层逻辑。平台提供"客户支持"、"技术更新"、"效果分析"等增值服务,甚至设有"退款政策"——如果客户使用平台工具发起的攻击未能成功,可以申请技术支持或部分退款。这种"以客户为中心"的商业模式,与传统SaaS(软件即服务)企业几乎没有区别。唯一的区别在于,传统SaaS帮助企业提高效率,PhaaS帮助犯罪者提高欺骗效率。
再次,Tycoon 2FA的覆灭并未终结PhaaS生态。国际刑警组织2025年10月至2026年2月的"Ramz"行动中,阿尔及利亚当局捣毁了另一个PhaaS平台Sniper Dz——该平台自2015年起活跃,累计收集超过4.5万条受害者记录,关联超过2万个独立域名,使用了80种钓鱼模板,覆盖阿拉伯语、英语、法语、西班牙语和希伯来语五种语言。Sniper Dz的"产品"瞄准PayPal、Facebook、Instagram、雅虎、Netflix和Steam等30家全球大型机构。这些案例表明,PhaaS平台已经形成了一个"去中心化"的生态系统——一个平台被关闭,新的平台在数周内就会填补空缺。
AI技术对PhaaS平台的"赋能"体现在三个层面。第一,内容生成:AI可以自动分析目标企业的官网、社交媒体和新闻稿,生成与该企业真实通信风格完全一致的钓鱼邮件。Keepnet/VIPRE的数据显示,2024年9月至2025年2月期间,82.6%的检测到的钓鱼邮件显示AI生成迹象。第二,目标筛选:AI可以分析海量公开数据,识别出最容易被欺骗的目标个体——例如,新入职员工、近期有资金审批权限的高管、或正在经历组织变革的部门。第三,效果优化:AI可以实时分析钓鱼邮件的打开率、点击率、转化率,自动调整内容策略以提高成功率。这种"数据驱动"的犯罪优化,使得PhaaS平台的"产品"质量不断提升。
在法律层面,PhaaS平台带来了全新的挑战。平台的运营者通常位于法律执行薄弱的地区,利用加密货币收取订阅费用,通过暗网进行推广。即使执法机构成功定位并逮捕了运营者,平台的"客户"——分布在全球各地的终端犯罪者——仍然可以继续使用已下载的工具包实施犯罪。更棘手的是,PhaaS平台的"服务协议"通常包含免责声明,声称平台仅提供"安全测试工具",客户的使用方式由客户自行负责。这种"合法外衣"使得法律追究变得异常复杂。
PhaaS平台与AI驱动钓鱼关键数据
- Tycoon 2FA:占微软拦截钓鱼攻击的62%,月生成3,000万封恶意邮件,影响50万家机构,订阅费低至30美元/月,2026年3月被摧毁后Microsoft 365钓鱼攻击下降47%
- Sniper Dz:自2015年活跃,4.5万+受害者记录,2万+独立域名,80种钓鱼模板,5种语言,30家目标机构,2025年10月被捣毁
- AI生成钓鱼邮件占比:82.6%(2024年9月-2025年2月,Keepnet/VIPRE)
- AI钓鱼点击率:54%(CrowdStrike/Harvard Business Review 2024)
- 传统钓鱼点击率:约2.7%(Verizon DBIR 2025)
- AI钓鱼成本降低:95%+(HBR 2024)
- 全球钓鱼邮件日发送量:约34亿封(StationX 2026)
- 钓鱼邮件中位点击时间:21秒(Verizon DBIR 2025)
AI驱动钓鱼 vs 传统钓鱼:关键效能指标对比
数据来源:CrowdStrike/Harvard Business Review 2024; Verizon DBIR 2025; StationX 2026AI技术使钓鱼攻击的效能发生质变:点击率从传统钓鱼的2.7%跃升至54%,提升20倍;攻击成本降低95%以上;全球钓鱼邮件日发送量约34亿封;受害者中位点击时间仅21秒。Tycoon 2FA平台占据微软拦截钓鱼攻击的62%,月生成3,000万封恶意邮件,订阅费低至30美元/月,2026年3月被摧毁后Microsoft 365钓鱼攻击量下降47%。
七、展望2030:是否需要一部"数字时代刑法典"?
站在2026年的门槛上回望,AI技术对反钓鱼法律治理的冲击是全方位的、结构性的、不可逆的。传统的法律框架——无论是美国的《计算机欺诈与滥用法》、英国的《欺诈法案》、中国的《反电信网络诈骗法》,还是联合国新通过的《打击网络犯罪公约》——都是在"前AI时代"设计的,其核心逻辑围绕"人类行为者"、"物理工具"和"可预测后果"展开。当这些前提假设被AI技术系统性地瓦解时,法律框架的适应性变革就成为不可回避的命题。
命题一:是否需要重新定义"犯罪主体"?传统刑法以"自然人"和"法人"为犯罪主体。但在AI时代,一个AI系统——尤其是具有自主学习和决策能力的AI系统——是否可能在某种程度上成为"准犯罪主体"?当AI系统在没有人类直接指令的情况下,通过自主学习发现了钓鱼攻击的"最优策略"并自动实施时,"犯罪故意"归属于谁?这不是科幻小说中的场景——2025年,CrowdStrike已经记录了AI系统被合法企业用于生成恶意命令、窃取敏感数据的案例。展望2030年,随着AI自主能力的进一步提升,"AI作为犯罪工具"与"AI作为犯罪参与者"之间的界限将变得越来越模糊。
中国在这一问题上的立场是明确的:AI系统本身不能成为犯罪主体,犯罪主体只能是使用AI系统的人。但"使用"的定义需要扩展——不仅包括直接操作AI系统实施犯罪的人,也包括设计AI系统时明知或应知系统可能被用于犯罪而仍然放任的人。这种"扩展责任"原则在《深度合成管理规定》中已有体现:深度合成服务提供者明知其服务被用于违法活动而未采取必要措施的,须承担相应法律责任。这一思路为未来更广泛的"AI责任"立法提供了参考。
命题二:是否需要建立"技术中立例外"原则?传统法律中的"技术中立"原则——即技术本身不应当因其可能被用于犯罪而受到规制——在AI时代面临严峻挑战。当一项技术(如语音克隆)的设计初衷是"促进无障碍通信",但其最广泛的使用场景却是"实施语音钓鱼诈骗"时,技术提供者是否仍然可以援引"技术中立"作为免责理由?欧盟AI Act对"高风险AI系统"的严格监管,以及中国《深度合成管理规定》对算法备案和标识义务的要求,都体现了对"技术中立"原则的修正——技术本身是中立的,但技术的提供者和部署者负有确保技术不被滥用的义务。
命题三:是否需要一部全球统一的"数字时代刑法典"?2024年12月24日通过的联合国《打击网络犯罪公约》是全球网络犯罪治理的重要里程碑,但它仍然是一部"框架性"公约,将具体的犯罪定义和刑罚标准留给各国国内法。在AI时代,这种"框架+国内法"的模式可能不足以应对跨国AI犯罪的挑战。当一起AI驱动的钓鱼攻击涉及五个国家、三种AI技术、两个PhaaS平台时,各国国内法的差异可能成为犯罪者逃避法律制裁的"避风港"。
然而,"全球统一刑法典"的设想也面临巨大障碍。各国法律传统、文化背景、技术能力和治理需求千差万别,强求统一的刑事标准既不现实,也可能构成对各国司法主权的侵犯。中国在这一问题上的立场是务实的:在尊重各国主权的前提下,通过联合国框架建立"最低共同标准",同时允许各国根据自身情况制定更为严格的国内法。这一思路与联合国新公约的设计高度一致,也为未来的"AI犯罪"国际立法提供了方向。
命题四:是否需要从"事后惩罚"转向"事前预防"?传统刑法以"事后惩罚"为核心——犯罪发生后,执法机构调查、起诉、审判、执行刑罚。但在AI时代,"事后惩罚"的威慑力正在下降。AI使得犯罪成本趋近于零,而犯罪收益可能高达数百万美元;AI使得犯罪者可以轻易隐藏身份,逃避法律追究;AI使得犯罪可以在数秒内完成,而法律程序需要数月甚至数年。当"被抓到的概率"极低而"犯罪收益"极高时,刑罚的威慑效应被严重削弱。
中国的治理实践提供了"事前预防"的范例。《反电信网络诈骗法》的整体设计侧重前端防范,对电诈发生的信息链、资金链、技术链、人员链等各环节作了防范性制度建设。《深度合成管理规定》要求AI生成内容必须标识,从源头降低深度伪造被滥用的可能性。这些制度的核心逻辑是:与其在犯罪发生后耗费巨大资源进行追捕和审判,不如在犯罪发生前通过技术措施和管理机制降低犯罪发生的可能性。这种"预防优先"的治理理念,与联合国新公约所倡导的方向一致,也代表了全球网络犯罪治理的未来趋势。
命题五:法律与技术的"军备竞赛"中,是否存在第三条道路?长期以来,反钓鱼治理被视为一场"军备竞赛"——攻击者开发新技术,防御者开发新对策,法律试图追赶双方。但这场竞赛有一个根本性的不对称:攻击者只需要找到一个漏洞,防御者需要堵住所有漏洞;攻击者可以在暗处行动,法律必须在明处运行。在这种不对称下,"追赶技术"的治理范式注定是低效的。
第三条道路可能在于:改变治理的"单位"——从"规制技术"转向"规制行为",从"惩罚个体"转向"重塑生态"。具体而言,这意味着:第一,将治理重心从"识别和惩罚犯罪者"转向"降低犯罪收益和提升犯罪成本"——例如,通过金融系统的实时监控降低资金转移的成功率,通过技术标识降低欺骗的成功率;第二,将治理主体从"政府主导"转向"多元共治"——企业、行业组织、技术社区、公民社会共同参与,各尽其能;第三,将治理目标从"消除犯罪"转向"控制危害"——承认在AI时代完全消除网络犯罪是不现实的,但将犯罪的危害控制在可接受的范围内是可能的。
中国提出的"网络空间命运共同体"理念,正是第三条道路的理论表达。这一理念强调,网络空间不是零和博弈的战场,而是需要各国共同维护的公共领域;网络犯罪不是某个国家的"内部事务",而是需要全球协作应对的"共同挑战"。在AI时代,这一理念的现实意义更加凸显——没有任何一个国家能够独立应对AI驱动的网络犯罪,也没有任何一部国内法能够单独解决跨国AI犯罪的治理难题。
八、结语:在技术的洪流中守护人性的堤坝
2025年,FBI IC3报告首次为AI相关犯罪设立专项统计。这一看似简单的数据分类调整,实则标志着人类正式进入"AI犯罪时代"。22,364起投诉,8.93亿美元损失——这些数字背后,是无数个被AI技术欺骗的普通人:那位在深度伪造视频会议中批准了2,560万美元转账的财务经理,那位被AI克隆的"孙子"声音骗走毕生积蓄的老奶奶,那位在AI生成的投资"专家"视频诱导下投入全部家当的退休教师。他们的故事,是技术洪流中人性堤坝被冲毁的缩影。
法律的本质,不是对技术的规制,而是对人性的守护。当AI技术使得欺骗变得前所未有的容易时,法律必须成为守护信任的最后一道防线。但这道防线不能仅仅依靠"追赶技术"来维系——因为技术永远跑得比法律快。它必须依靠更深层的价值共识来支撑:对诚实信用的坚守,对弱者权益的保护,对公共利益的责任,对技术伦理的敬畏。
中国在这一历史进程中的角色,既是实践者,也是思考者。从《深度合成管理规定》的先行立法,到《反电信网络诈骗法》的系统治理,从"全国一盘棋"的协同机制到"网络空间命运共同体"的全球倡议——中国的实践表明,AI时代的法律治理不是"要不要监管"的问题,而是"如何智慧地监管"的问题。智慧监管的核心,在于找到"促进创新"与"防控风险"之间的平衡点,在于在尊重技术规律的同时坚守价值底线,在于在全球协作中维护国家主权和人民利益。
展望2030年,AI技术将更加深入地融入人类社会的每一个角落。自动驾驶汽车可能被钓鱼攻击劫持,智能家居可能被深度伪造的语音指令操控,远程医疗可能被AI伪造的诊断报告误导——这些场景在今天听来或许遥远,但在技术迭代的速度面前,五年不过是一瞬。当这些场景成为现实时,我们今天关于AI法律治理的讨论,将决定那时的人类社会是更安全还是更脆弱。
联合国秘书长古特雷斯在评价《打击网络犯罪公约》时说,这部公约"表明多边主义在困难时期取得了成功"。在AI时代,这种成功需要被延续和扩展。面对AI驱动的网络犯罪,任何单一国家的法律武器都远远不够,任何单一国际公约的约束力都鞭长莫及。真正的解决之道,在于构建一个"多层次、立体化、协同化"的全球AI治理体系——联合国公约提供法律框架,国际刑警组织提供执法平台,区域性机制提供灵活补充,各国国内法提供执行基础,企业和社会力量提供技术和资源支持,而技术社区则提供伦理约束和创新动力。
在这个体系中,中国将继续发挥其独特的建设性作用。坚持真正的多边主义,反对将技术治理政治化;坚持尊重国家主权和数据主权,反对未经他国同意跨境调取数据;坚持能力建设优先,帮助发展中国家提升AI治理能力;坚持预防为主,在风险发生前建立防护机制。这些原则,不仅是中国维护自身利益的正当诉求,也是广大发展中国家对公平、公正、包容的全球AI治理的共同期待。
回到本章开头的问题:在AI驱动的网络犯罪面前,法律是否还能找到不依赖"追赶技术"的治理范式?答案是肯定的——但前提是我们必须改变治理的"底层逻辑"。不是"技术出了问题,法律去修补",而是"在技术的发展中嵌入法律的基因";不是"犯罪发生了,再去惩罚",而是"在犯罪的可能中预设防护的机制";不是"各国各自为战",而是"在共同利益中寻求协作的智慧"。
从2003年美国CAN-SPAM法案的蹒跚起步,到2024年联合国《打击网络犯罪公约》的历史性通过;从2023年中国《深度合成管理规定》的先行探索,到2026年欧盟AI Act的全面生效——全球反钓鱼法律治理的演进史,本质上是一部关于"人类如何在技术变革中重新定义秩序"的历史。在这部历史中,AI不是终点,而是新的起点。它提醒我们:技术的力量可以无限放大,但人性的价值必须永远被守护。在AI时代的法律真空中,我们需要的不是恐惧,而是智慧;不是孤立,而是协作;不是滞后,而是先行。
正如一位中国法学家所言:"法律永远追不上技术,但法律可以塑造技术发展的方向。"在AI与法律的这场长跑中,重要的不是谁跑得更快,而是谁跑得更远、更稳、更有方向感。当2030年的历史学家回望今天时,他们看到的将不是一个被AI犯罪淹没的时代,而是一个人类用智慧和勇气重新定义技术伦理的时代——一个法律与技术和谐共生、而非相互追赶的时代。
"AI时代的法律真空,不是法律的失败,而是法律进化的契机。每一次技术革命都会催生新的法律形态——印刷术催生了版权法,工业革命催生了劳动法,互联网催生了网络法。AI革命将催生AI法,而AI法的核心使命,不是禁锢技术的翅膀,而是确保技术飞翔的方向始终指向人类的福祉。" —— 编者
延伸阅读与参考
- Federal Bureau of Investigation. "2024 Internet Crime Report." Internet Crime Complaint Center (IC3), March 2024. — FBI 2024年度报告,全年投诉量超80万起,总损失125亿美元,首次将AI相关犯罪纳入专项分析框架。
- CrowdStrike. "2024 Global Threat Report." 2024. — 全球威胁情报年度报告,涵盖AI生成钓鱼邮件、深度伪造攻击趋势及 nation-state 攻击者利用AI技术的情报分析。
- Sensity AI (原Deeptrace). "The State of Deepfakes 2024." 2024. — 深度伪造内容监测报告,2019—2023年公开网络深度伪造视频数量增长超900%,色情内容占比持续下降,欺诈用途显著上升。
- Sumsub. "Identity Fraud Report 2024." 2024. — 身份欺诈年度报告,深度伪造在欺诈尝试中占比显著上升,视频身份验证攻击增长迅猛。
- Pindrop. "Voice Intelligence and Security Report 2024." 2024. — 语音智能与安全年度报告,合成语音攻击同比增长超1,000%,金融机构语音欺诈损失激增。
- McAfee. "The Artificial Impostor: How AI-Generated Audio and Video Are Fueling Scams." 2024. — McAfee安全研究,分析AI生成音视频在诈骗中的滥用趋势,语音克隆技术门槛急剧降低。
- iProov. "Threat Intelligence Report 2024." 2024. — 生物识别威胁情报报告,深度伪造检测技术进展与攻击者绕过手段的军备竞赛分析。
- Keepnet Labs. "Phishing Trends Report 2024." 2024. — 钓鱼攻击趋势分析,涵盖AI生成钓鱼邮件占比、企业应急响应准备度等关键指标。
- APWG (Anti-Phishing Working Group). "Phishing Activity Trends Report, 4th Quarter 2024." 2025. — 全球钓鱼攻击趋势季度报告,记录攻击数量、目标行业分布及攻击手段演变。
- Harvard Business Review. "AI Is Making Phishing Scams More Dangerous." 2024. — 分析AI技术如何降低钓鱼攻击成本、提升定制化程度,使传统防御手段面临失效风险。
- Verizon. "2024 Data Breach Investigations Report (DBIR)." 2024. — 权威数据泄露调查报告,钓鱼攻击占数据泄露初始访问向量的36%,中位点击时间仅21秒。
- Red Sift. "Email Fraud Landscape Report 2024." 2024. — 邮件欺诈态势分析报告,BEC攻击损失持续攀升,域名欺骗与品牌冒充技术升级。
- Microsoft Digital Crime Unit. "Disrupting Cybercrime Ecosystems: Tycoon 2FA Takedown." 2024. — 微软数字犯罪单元打击PhaaS平台行动报告,揭示钓鱼即服务(PhaaS)商业模式与全球影响。
- INTERPOL. "Operation Ramz: MENA Phishing Crackdown." 2026. — 国际刑警组织协调中东和北非13国打击钓鱼行动,捣毁Sniper Dz钓鱼平台,201人被捕,该平台自2015年活跃,收集超4.5万受害者记录,使用2万+独立域名和80种钓鱼模板。
- INTERPOL. "Operation Synergia III: Global Cybercrime Takedown." 2026. — 国际刑警组织第三次全球协同行动,72国参与,dismantle 4.5万+恶意IP,94人被捕,110人仍在调查中,缴获212台设备。
- 昆明市公安局. "国际刑警组织打击电信网络诈骗犯罪全球行动'曙光行动2025—2026'线下交流会在云南召开." 2026年6月12日. — 国际刑警组织"曙光行动"线下交流会,30个国家及地区代表参加,行动期间累计研判案件超19.6万起,冻结涉案银行账户3万余个,挽回涉案资金达3.59亿美元。
- European Union. "Regulation (EU) 2024/1689 — Artificial Intelligence Act." Official Journal of the European Union, August 2024. — 全球首部综合性AI监管立法,按风险分级监管AI系统,深度伪造适用透明度义务条款。
- Gibson Dunn. "EU AI Act: Implementation Timeline and Compliance Guide." 2024. — 欧盟AI法案实施时间线与合规指引,分析高风险AI系统义务与域外效力。
- 《互联网信息服务深度合成管理规定》. 国家互联网信息办公室、工业和信息化部、公安部令第12号, 2023年1月10日施行. — 全球首部深度合成专门法规,要求AI生成内容添加标识、算法备案、生物特征编辑须取得单独同意。
- 《生成式人工智能服务管理暂行办法》. 国家互联网信息办公室等七部门, 2023年8月15日施行. — 生成式AI服务管理法规,要求内容显著标识,禁止生成虚假信息,最高罚款10万元。
- 《中华人民共和国反电信网络诈骗法》. 2022年9月2日通过, 2022年12月1日施行. — 反电信网络诈骗专门法律,建立电信、金融、互联网三位一体防控体系。
- 赵永琛. "《联合国打击网络犯罪公约》的制定问题研究." 第十六届当代刑事司法论坛暨第二届京师涉外法治论坛, 2025年8月18日. — 中国驻格林纳达原大使、海南大学法学院兼职教授,在论坛第一单元作主题发言,分析公约制定历程、博弈焦点及中国参与贡献。
- 商震、叶伟、姜博谦. "《联合国打击网络犯罪公约》若干重点问题评析." 《中国应用法学》, 2025年第1期, 第181—199页. — 外交部条法司专家撰写,全面辨析公约核心概念,深入评析定罪范围、程序措施、国际合作机制等关键问题。
- 最高人民检察院. "《联合国打击网络犯罪公约》与中国刑事法的应对"论坛在京举办. 2025年8月27日. — 最高检官网报道,论坛由北京师范大学法学院主办,200余位专家学者参会,探讨公约生效后中国刑事立法与司法体系应对策略。
- 联合国大会. "联合国打击网络犯罪公约" (A/RES/79/243). 2024年12月24日. — 全球首部打击网络犯罪的国际公约,历经多年谈判,填补国际法空白。
- 王毅. "全球数据安全倡议." 2020年9月. — 中国外交部提出的全球数据安全治理倡议,倡导多边合作、反对数据滥用。
- 中华人民共和国国务院新闻办公室. "携手构建网络空间命运共同体". 白皮书. — 中国网络空间治理理念白皮书,阐述网络空间主权、安全与发展权。