AI防御——用AI对抗AI的军备竞赛

2025年2月，重庆市反诈骗中心与度小满联合推出的"鉴真"H5小游戏正式上线。这不是一款普通的休闲游戏，而是一款面向全民的深度伪造识别训练工具——用户在趣味闯关中学习识别AI换脸、AI拟声等伪造内容的技巧。同一天，度小满宣布其声纹识别系统与防深伪模型完成升级，累计为45.39万名客户发出精准诈骗预警，成功拦截电诈金额高达2.17亿元。而在大洋彼岸，微软Defender for Office 365正在部署Agentic AI评分系统，利用大语言模型分析钓鱼邮件提交，以99.995%的准确率每日拦截约14万封BEC邮件。

当攻击者用AI生成完美的钓鱼文案，防御者用AI识别其中的微妙破绽；当攻击者用AI克隆声音，防御者用AI分析声纹中的"数字指纹"；当攻击者用AI伪造视频，防御者用AI检测面部微表情的异常——这不是科幻小说，而是2025年全球网络安全战场的真实图景。一场关于"智能"的军备竞赛，正在以每秒39,000封钓鱼邮件的速度，重塑人类数字安全的边界。

一、从"规则引擎"到"神经网络"：防御范式的革命性跃迁

二十年前，当钓鱼攻击刚刚出现时，安全厂商的应对策略简单而直接：维护一个"黑名单"——将已知的恶意域名、IP地址和邮件模板列入封锁清单，凡是在清单上的内容一律拦截。这套"规则引擎"体系在很长一段时间内行之有效，因为彼时的钓鱼攻击规模有限、手法粗糙、变种缓慢。安全分析师可以从容地收集样本、提取特征、更新规则，就像一位经验丰富的老中医，通过"望闻问切"识别出病症的端倪。

然而，AI的出现彻底改变了这场博弈的规则。2023年，当WormGPT在暗网论坛上以每月100美元的价格出售时，传统规则引擎的末日就已经降临。AI生成的钓鱼文案不再依赖固定的模板，每一次生成都可能是独一无二的；AI伪造的域名采用"一次性基础设施"策略，平均存活时间仅12小时（BlackBerry 2025），远快于黑名单的更新速度；AI克隆的语音和伪造的视频，更是规则引擎完全无法触及的领域。据Keepnet/VIPRE 2025年数据，全球每天发送约34亿封钓鱼邮件，其中82.6%含有AI生成内容——这意味着每秒约有39,000封AI生成的钓鱼邮件正在穿越互联网的血管，而传统的规则引擎只能拦截其中极小的一部分。

防御方被迫进行一场范式革命：从"基于规则的拦截"转向"基于理解的检测"，从"识别已知的恶意"转向"发现未知的异常"，从"人工分析驱动"转向"AI模型驱动"。这场革命的核心，是将防御的重心从"内容特征"转移到"行为模式"和"语义理解"——不再问"这封邮件是否包含恶意关键词"，而是问"这封邮件的语义意图是否与正常通信存在偏差"。

据Statista预测，2025年全球人工智能网络安全市场规模有望达到398亿美元，到2030年将突破1,340亿美元大关。这一数字背后，是整个安全产业从"规则时代"向"AI时代"的集体转型。天融信自2014年成立AI研究团队以来，率先将机器学习、深度学习、自然语言处理等技术应用于威胁检测和安全运营，已打造多款创新应用，广泛应用于威胁检测、安全运营等核心场景，市场份额保持领先。这并非孤例——从微软的Defender到谷歌的Safe Browsing，从CrowdStrike的Falcon到中国的360安全大脑，全球主要安全厂商都在将AI作为核心引擎嵌入防御体系。

但这场范式跃迁并非一帆风顺。AI防御面临三重根本性挑战：第一，误报率困境——AI模型在提高检出率的同时，也可能将大量正常通信误判为威胁，导致"狼来了"效应，使用户对警报产生疲劳和麻木；第二，对抗性攻击——攻击者可以故意微调生成内容以绕过AI检测，形成"检测-规避"的无限螺旋；第三，数据隐私与模型训练的张力——AI模型需要大量真实数据训练，但企业和用户的敏感通信数据又难以共享。这三重挑战，构成了AI防御体系建设的"不可能三角"——在准确性、鲁棒性和隐私性之间，防御者必须不断寻找动态平衡。

AI对抗AI：下一个网络安全战场

二、语义猎手：AI如何识别AI生成的钓鱼文案

2024年9月至2025年2月，Keepnet/VIPRE的安全研究人员进行了一项大规模检测实验：他们分析了数百万封钓鱼邮件，发现82.6%含有AI生成内容。但更令人警觉的是，传统基于关键词和规则的检测系统对这些AI生成邮件的检出率不足35%。这意味着，超过三分之二的AI生成钓鱼邮件能够成功穿越企业的邮件安全网关，直达员工的收件箱。

问题的根源在于AI生成文本的"完美性"。传统钓鱼邮件往往带有明显的破绽——拼写错误、语法不通、措辞生硬、格式混乱。安全系统正是依赖这些"不完美"来识别威胁。但AI生成的大语言模型（如GPT系列）经过海量文本训练，其输出在语法、逻辑和风格上几乎与真人写作无异。更棘手的是，攻击者可以利用目标的LinkedIn资料、公司新闻和社交媒体动态，实时定制邮件内容，使得每一封钓鱼邮件都"独一无二"，无法通过传统的"特征匹配"来识别。

防御方的回应，是构建基于Transformer架构的语义分析模型。BERT、RoBERTa、DeBERTa等预训练语言模型被重新训练用于"钓鱼检测"任务——不是检测关键词，而是理解语义意图。这些模型通过分析邮件的上下文语境、情感倾向、请求模式和语言风格，判断其是否存在"社会工程"的语义特征。例如，一封正常的商务邮件通常包含明确的上下文（"关于上周会议"）、合理的请求（"请确认附件中的数据"）和自然的语气；而AI生成的钓鱼邮件虽然语法完美，但在语义层面往往存在微妙的"不一致"——请求过于紧急、上下文缺失、情感操控痕迹过重。

微软在2024年推出的LLM-based BEC检测系统，正是这一思路的典型代表。该系统利用大语言模型分析邮件的语言和语境，推断发件人是否试图进行欺诈或冒充。据微软报告，这一系统实现了99.995%的恶意意图识别准确率，每日拦截约14万封BEC邮件。2025年11月，微软进一步在Defender for Office 365中部署了Agentic AI评分系统，利用大语言模型以自然语言形式提供钓鱼邮件的分析判定和详细解释，大幅缩短了人工复核的等待时间。

然而，语义检测也面临"对抗性攻击"的挑战。攻击者可以通过"对抗样本生成"技术，微调AI生成的文本，使其在保持人类可读性的同时，绕过AI检测模型的识别。2025年，Zscaler ThreatLabz报告发现，攻击者开始在恶意网站上部署CAPTCHA以绕过自动化安全扫描器，并嵌入欺骗信号以规避AI驱动的检测。这种"以AI对抗AI"的博弈，正在将钓鱼攻防推向一个永无止境的螺旋上升。

在中国，语义检测技术同样取得了显著进展。腾讯在2025年中国互联网大会上推出的"反诈助手"智能客服，通过分析海量案例训练模型，可识别"杀猪盘""冒充领导"等20余种诈骗场景。其特色在于"动态追问"——用户咨询时通过多轮对话深挖疑点，如"对方是否要求转账到个人账户"，并自动生成"风险提示报告"，含诈骗类型、法律依据及报案指引。该系统与微信、QQ风控系统对接，高危账号登录时触发强制人脸识别。据抖音反欺诈专项负责人披露，平台日均保护潜在受害人超5万名。

三、声纹防线：AI语音克隆检测的技术突围

2024年下半年，语音钓鱼（vishing）攻击激增442%（CrowdStrike 2025）。McAfee调查显示，AI语音克隆仅需3-5秒音频样本即可生成95%准确率的逼真语音。当攻击者可以完美复制任何人的声音时，"声音即身份"的传统认知正在崩塌。防御方被迫在声纹识别领域展开一场技术突围。

声纹检测技术的核心思路是"寻找合成痕迹"。AI生成的语音虽然在听觉上与真人难以区分，但在声学信号的微观层面仍存在可检测的"数字指纹"。基于ResNet的AASIST（Audio Anti-Spoofing using Integrated Spectro-Temporal Graph Attention Networks，使用集成频谱-时序图注意力网络的音频防伪）等反欺骗模型，能够有效识别AI合成语音中的频谱不连续性、相位异常和声道特征偏差。这些模型在用户正常通话中持续分析声纹特征，无需额外操作，实现了"被动生物识别"——与传统"主动验证"（如让用户朗读随机数字）不同，被动生物识别在后台静默运行，不干扰用户体验。

声纹检测的技术栈包括三个层次：声纹嵌入提取——使用x-vector（扩展向量）、d-vector（深度向量）或ECAPA-TDNN（基于时间延迟神经网络的高效通道注意力模型）生成说话人唯一向量；活体检测——判断语音是否来自真实人类，而非录音或合成；内容+声纹双重验证——不单独依赖声音确认身份，而是结合"只有本人知道的信息"做交叉验证。例如在金融交易场景中，声纹验证+Voice OTP（语音一次性口令）或声纹+短信验证码的组合已成为行业共识。

但声纹检测同样面临对抗性挑战。攻击者可以通过"对抗样本"技术，在合成语音中注入人耳不可察觉的噪声，使检测模型产生误判。更根本的问题是，开源语音克隆工具（如ChatTTS）不太可能主动配合水印嵌入要求——当攻击者可以在离线环境中运行开源模型时，任何基于"水印追溯"的防御策略都将失效。

在中国，声纹识别技术的商业化应用走在了全球前列。2025年2月，中国荣耀手机宣布将在全球范围内商业化应用"AI换脸"检测技术，成为目前首个"AI反诈"技术的商业化应用。该技术基于深度学习模型，通过分析图像中的面部特征和行为模式，能够实时识别AI生成的伪造内容。联合国工业发展组织代表马可·神谷评价称："在移动设备上使用AI深度伪造检测是一种强有力的武器，可以对抗深度伪造。它能够检测出人眼可能忽略的深度伪造内容中的缺陷，例如眼神接触、光线、图像清晰度和视频播放。"

度小满在2025年升级的声纹识别系统与防深伪模型，则是中国金融科技领域声纹防御的标杆。该系统如同经验丰富的"数字侦探"，能在客户沟通中实时捕捉细微的声纹特征，精准识别非本人操作及黑产代理冒充等高风险行为。截至2025年底，累计为45.39万名客户发出精准诈骗预警，成功拦截电诈金额高达2.17亿元。这一成绩的背后，是中国在AI声纹识别领域从"跟跑"到"并跑"的技术积累。

四、眼见为实？深度伪造检测的攻防博弈

2024年1月，Arup公司香港办公室的财务人员坐在视频会议前，屏幕上"CFO"的面容、微表情、唇部动作都与真人无异。他分15次转账2亿港元，直到事后才发现：视频会议中的每一个人，都是AI生成的深度伪造。这起案件震惊全球，也彻底击碎了"眼见为实"的最后防线。当视频——这个曾被认为最可靠的验证手段——也被AI攻破，人类还能相信什么？

深度伪造检测技术的核心，是寻找"不完美"。尽管AI生成的视频在视觉上极为逼真，但在物理层面仍存在诸多破绽：光线与阴影的不一致、瞳孔反射的异常、皮肤纹理的过度平滑、眨眼频率的非自然规律、以及面部微表情与语音口型的不同步。深度伪造检测算法正是利用这些细微的"物理不一致性"来识别伪造内容。

当前主流的深度伪造检测技术包括四类：基于帧内伪影的检测——分析单帧图像中的压缩伪影、噪声模式和色彩异常；基于时序一致性的检测——分析连续帧之间的面部运动、表情变化和光照一致性；基于生理信号的检测——检测心跳引起的面部微色变（rPPG，远程光电容积脉搏波信号）、瞳孔收缩反应等生理特征；基于多模态融合的检测——同时分析视频中的视觉、音频和语义信息，寻找跨模态的不一致。

据iProov 2025年对2,000名英美消费者的测试，仅0.1%的人能持续识别深度伪造。这意味着，依靠人类肉眼识别深度伪造几乎是不可能的——必须依赖AI检测工具。然而，深度伪造检测同样面临"检测-规避"的螺旋困境：攻击者可以通过对抗训练不断提升伪造质量，而防御者则需要不断更新检测模型以跟上伪造技术的进化。

在中国，深度伪造检测技术的研发和应用正在加速。2022年11月，《互联网信息服务深度合成管理规定》正式施行，明确要求深度合成服务提供者采取显著标识等措施。2025年3月，网信办发布《人工智能生成合成内容标识办法》，要求网络信息服务提供者在AI生成内容上添加"显式标识"（如水印），并在文件元数据中添加"隐式标识"。2025年9月1日，该办法正式施行，中国各主流AI平台均落地并公开了其内容标识措施。上海市网信办还指导成立了人工智能生成合成内容标识生态联盟，推动30余家企业开展隐式标识互认验证。

2025年8月，北京反诈中心通过数字水印逆向备课，破获了一起涉案金额达2,000万元的AI换脸诈骗团伙。该案展示了"技术+制度"协同防御的有效性——数字水印不仅是一种技术工具，更是一种法律证据，为打击深度伪造犯罪提供了可追溯的技术手段。

然而，深度伪造检测的根本困境在于：当开源模型权重公开下载、攻击者可以在完全离线的环境中运行模型时，任何基于"平台监管"或"水印追溯"的防御策略都将面临失效。正如一位中国网络安全专家所言："深度伪造的对抗不是一场可以速胜的战役，而是一场需要持续投入、动态演进的持久战。"

五、身份堡垒：FIDO2/Passkeys与抗钓鱼认证

在AI钓鱼攻击的所有防御手段中，有一种技术被安全界公认为"终极防线"——它不是检测钓鱼，而是让钓鱼从根本上失效。这就是FIDO2/WebAuthn标准下的Passkeys（通行密钥）认证体系。

传统认证体系的核心漏洞在于"共享秘密"——用户知道密码，服务器也存储密码的哈希值。攻击者一旦通过钓鱼页面骗取了密码，就可以冒充用户登录任何系统。多因素认证（MFA）虽然在一定程度上缓解了这一问题，但SMS验证码可以被拦截，推送通知可以被社会工程学绕过，而实时钓鱼代理（AiTM）攻击更是可以直接在用户和合法服务之间截获会话令牌。据轴心情报公司Axis Intelligence/Brightdefense 2026年数据，绕过MFA的AiTM钓鱼攻击在2024年激增146%；FRSecure事件响应数据显示，2024-2025年79%的BEC事件涉及已正确实施MFA的受害者。

Passkeys的革命性在于，它彻底消除了"共享秘密"。基于FIDO2/WebAuthn标准，Passkeys使用公钥密码学进行认证：用户的设备生成一对公私钥，私钥永不离开设备，公钥注册到服务端。当用户登录时，设备用私钥对服务端发出的挑战进行加密签名，服务端用公钥验证签名。由于私钥从不离开设备，钓鱼网站即使伪造了登录页面，也无法获取任何可重用的凭证——因为签名是唯一的、一次性的、且与特定域名绑定的。

这一技术特性使得Passkeys成为"天生抗钓鱼"的认证方式。据FIDO Alliance 2025年数据，据FIDO Alliance 2025年数据，全球已有超过10亿人激活了至少一个Passkey，超过150亿个在线账户支持Passkey认证。消费者认知度从两年前的39%提升至57%。Corbado的Passkeys追踪数据显示，截至2025年7月，75.44%的设备已支持Passkey功能。Authsignal 2025年5月数据显示，Passkeys已占所有认证挑战的62%，登录成功率达93%，远超密码和OTP。

在监管层面，Passkeys的推进正在加速。美国NIST在2025年7月发布的SP 800-63-4数字身份指南中，正式将Passkeys（作为"可同步认证器"）认定为可达到AAL2认证保障级别。NIST 2025年强制要求所有联邦机构实施抗钓鱼MFA（明确引用WebAuthn和FIDO2），为受监管行业树立了强有力的先例。欧盟eIDAS 2.0法规于2024年5月生效，要求所有成员国为公民提供欧洲数字身份钱包（EUDI Wallet），支持Passkeys等安全认证方式。

在中国，Passkeys的推广同样取得了积极进展。2025年政府工作报告明确提出"支持大模型广泛应用"的政策导向，配合《生成式人工智能服务安全基本要求》等标准的落地实施，进一步强化了企业对安全防护的刚性需求。中国可结合网络安全等级保护制度2.0，制定分阶段、分行业的Passkeys推广路线图，优先在金融、政务、能源等关键领域试点，配套完善设备管理、密钥恢复与跨平台互操作机制。中国电信湖北分公司开发的"湖北反诈AI大模型"入选2025信息通信行业科技创新案例，展示了AI与通信基础设施深度融合的防御潜力。

六、中国方案：AI反诈的本土化实践与制度创新

当全球网络安全界还在争论"技术优先"还是"制度优先"时，中国已经用实际行动给出了自己的答案：不是二选一，而是双轮驱动、协同推进。中国的AI反诈实践，既是一场技术革命，也是一场制度创新，更是一场全民动员的社会工程。

技术层面：从"单点防御"到"体系作战"。中国的AI反诈技术体系呈现出鲜明的"体系化"特征——不是依赖某一种技术，而是构建覆盖"感知-预警-拦截-追溯-打击"全链条的技术矩阵。度小满的声纹识别与防深伪模型、腾讯的反诈助手智能客服、抖音的风控系统、荣耀的AI换脸检测、360的安全智能体——这些看似独立的技术产品，实际上构成了一个相互补充、协同作战的防御生态。

更具中国特色的是"通信网+金融网+互联网"的三网协同机制。国家反诈中心APP安装量超6.5亿，2025年上半年日均拦截诈骗电话2.1亿次。这一数字的背后，是中国将电信运营商、金融机构、互联网平台和公安机关的数据能力进行深度整合的结果。当诈骗电话拨出时，运营商的AI模型实时识别异常呼叫模式；当受害者准备转账时，银行的AI系统触发风险预警；当诈骗信息在社交平台传播时，平台的AI算法自动降权和拦截。三网协同，形成了一个"天罗地网"式的防御体系。

制度层面：从"事后打击"到"源头治理"。2022年9月，《中华人民共和国反电信网络诈骗法》的颁布，标志着中国反诈工作从"专项行动"升级为"法治常态"。该法构建了从源头治理到资金拦截的完整法律框架，明确规定了金融机构、电信运营商和互联网平台的反诈责任。2025年10月28日，《网络安全法》完成自2017年实施以来的首次修订，新增第二十条明确规定"国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展"。北京师范大学法学院吴沈括教授评价称，这在很大程度上指明了未来AI立法的发展方向，具有重要的制度性意义。

2025年3月发布的《人工智能生成合成内容标识办法》，要求网络信息服务提供者在AI生成内容上添加显式和隐式标识，2025年9月1日正式施行。这一制度的创新之处在于：它不是禁止AI生成内容，而是要求"透明化"——让受众知道哪些内容是AI生成的，从而保留自主判断的空间。这种"疏堵结合"的治理思路，体现了中国在AI监管领域的务实智慧。

社会层面：从"被动防御"到"全民参与"。技术防线再严密，最终仍需人的警觉来补位。2025年公安部联合央视推出《全民反诈公开课》，重庆市反诈中心与度小满合作的"鉴真"H5小游戏，以闯关形式训练公众识别深度伪造内容——这些尝试的共同点在于：反诈知识不再靠单向灌输，而是嵌入日常场景，让人在交互中形成肌肉记忆。国家反诈中心APP作为核心防护工具，其效能不仅来自算法，更来自"人人都是节点"的分布式架构：运营商识别异常呼叫、银行触发转账预警、平台自动降权可疑信息，三网数据实时碰撞，织成一张动态响应的防护网。据公安部2026年1月新闻发布会通报，2025年全年拦截诈骗电话36亿次、短信33亿条，紧急止付涉诈资金2,170.7亿元，各地公安机关累计见面劝阻674.7万人次。

制度与技术的咬合，在2025年出现了一次关键升级。10月28日通过的《网络安全法》修订案新增第二十条，首次以法律形式明确国家支持AI基础理论研究、算法研发与伦理规范建设，同时要求加强风险监测评估和安全监管。这不是对技术的禁锢，而是为创新划定轨道——让AI在可控的边界内生长，而非在监管的盲区里野蛮冲撞。与之配套的《人工智能生成合成内容标识办法》于同年9月施行，建立显式与隐式标识双重机制，核心逻辑是"可追溯"而非"可禁止"：既然无法阻止伪造，就让它留下可供溯源的技术指纹。

内容标识制度的实战价值，在2025年2月上海"1·08跨境AI换脸诈骗案"的审理中得到了验证。该案中，犯罪团伙利用深度伪造技术冒充企业高管，通过仿真视频会议系统骗取17家跨国公司进行虚假跨境转账，涉案金额达2.3亿元，系我国首例适用《数据安全法》量刑的跨国网络犯罪案件。上海市第一中级人民法院二审宣判主犯有期徒刑十五年。案件审理过程中，电子证据的跨境调取和AI生成内容的证据效力认定成为焦点——超过60%的作案过程通过境外加密服务器完成，关键证据链存在取证程序瑕疵。这一案例表明，技术标识不仅是防御工具，更是司法追溯的技术支点；但与此同时，跨境数据取证规则的完善，已成为打击AI诈骗的紧迫课题。

中国的反诈实践，本质上是在回答一个全球性的治理难题：当攻击者可以离线运行开源模型、完全绕过平台监管时，任何单一技术或单一主体的防御都会失效。中国的应对思路是"体系韧性"——不追求某一层防线的绝对坚固，而是通过制度设计让攻击者的综合成本持续高于收益，让诈骗"无利可图、无处藏身、无机可乘"。这不是技术恐惧主义，也不是放任自流，而是在发展与安全之间寻找动态平衡的务实选择。

七、防御困境：当检测与规避陷入无限螺旋

AI防御技术的进步是真实的，但困境同样真实。这些困境不是战略层面的抽象判断，而是工程师每天在代码和日志中面对的硬约束。

检出率与误报率的跷跷板。任何分类模型都面临一个统计事实：提高检出率（减少漏报）通常以抬高误报率为代价。微软Defender对BEC邮件的识别准确率达到99.995%，但这是在高价值、低基数场景下的表现；面对每天34亿封邮件的汪洋大海，如果将阈值调低以捕获更多AI生成钓鱼邮件，正常通信被误判的数量会呈指数级增长。360安全智能体2025年红队演练显示，面对"AI生成+场景诱导"的钓鱼邮件，传统检测工具拦截率跌至49.8%——这意味着即使是最先进的模型，仍有半数新型攻击能够穿透。安全团队在海量误报中疲于奔命，"狼来了"效应随之产生：分析师对警报麻木，真正的威胁反而被淹没。

对抗样本：攻击者的"隐身衣"。防御AI依赖训练数据中的统计规律来识别异常，攻击者则利用这些规律反向构造"对抗样本"——在AI生成的文本中插入特定Unicode零宽字符序列，在语音克隆中注入人耳不可察觉的频谱噪声，在深度伪造视频中添加像素级扰动。这些扰动对人类感知毫无影响，却能让检测模型的置信度从95%骤降至50%以下，相当于随机猜测。更隐蔽的是"模型窃取"攻击：攻击者通过大量查询防御方的检测API，逐步重建模型内部决策边界，然后针对性地生成绕过内容。防御方每更新一次模型，攻击方只需几小时就能适应——这种迭代速度的不对称，源于攻击者无需承担模型部署的合规成本和工程负担。

数据饥渴与隐私铁幕。AI检测模型需要海量真实数据持续喂养才能维持准确率，但企业和用户的敏感通信数据涉及隐私保护，难以大规模共享。欧盟GDPR、中国《个人信息保护法》等法规为数据获取设置了高门槛，这是必要的权利保障，却客观上造成了"合规不对称"：防御者受限于数据边界，攻击者却在暗网自由交易泄露数据集，甚至利用公开社交媒体的海量信息训练攻击模型。数据是AI的燃料，当一方加油受限而另一方畅通无阻，赛道本身就不公平。

这三重困境构成AI防御的"不可能三角"：在准确性、鲁棒性和隐私性之间，不存在同时最优的解，只能在特定场景下寻找次优平衡。承认这种局限不是悲观，而是清醒——它提醒我们，技术防御必须与其他手段（制度、教育、架构变革）协同，而非孤军奋战。

八、结语：在AI军备竞赛中守护人的尊严

AI防御与AI攻击之间的对抗，正在重塑网络安全的底层逻辑。从规则引擎到神经网络，从关键词匹配到语义理解，从被动响应到主动预测——防御技术的迭代速度前所未有。但技术再先进，最终守护的仍是人的利益：度小满拦截的2.17亿元背后，是45.39万个普通家庭免于财产损失；国家反诈中心日均2.1亿次拦截背后，是无数通电话那头可能被骗走的养老钱、学费和救命钱。

技术的中立性在此刻显得尤为关键。AI本身不向善也不向恶，它放大的是使用者的意图。中国《网络安全法》修订新增的AI条款，其价值不在于禁止某种技术，而在于确立"发展与安全并重"的治理框架——支持基础研究，同时划定伦理边界；鼓励算法创新，同时要求风险监测。这种"疏堵结合"的思路，本质上是在承认技术不确定性的前提下，用制度韧性来对冲技术风险。

当AI可以完美模拟任何人类行为和情感时，"信任"的确需要重新定义。但重新定义不等于彻底放弃。FIDO2/Passkeys从协议层面消除共享秘密，让钓鱼在技术上失去意义；内容标识制度让伪造留下可追溯的痕迹；全民反诈教育让"先验证、后信任"成为本能反应。这些措施的共同点是：它们不依赖人去识别每一封邮件的真伪，而是通过架构设计和制度安排，把信任的根基从"肉眼判断"转移到"系统保障"上。

军备竞赛或许没有终点，但人的尊严有底线。在AI可以复制一切的时代，人之为人的独特价值——那种在点击"确认"之前愿意停下来想一想的能力，那种对"太完美"保持本能怀疑的警觉，那种在利益诱惑面前选择审慎的克制——恰恰是任何算法无法模拟的。守护这种能力，比拦截任何一封钓鱼邮件都更重要。

"AI军备竞赛没有终点，但人类对理性的坚守可以划定边界。当技术趋于对称时，制度设计的智慧、社会动员的能力，以及人对'先验证、后信任'原则的坚守，将成为决定胜负的关键。在AI可以完美模拟一切的时代，我们守护的不是某个系统或某条数据，而是人之为人的尊严——那种在点击'确认'之前，愿意停下来想一想的能力。" —— 编者