网络钓鱼编年史 - 芦笛·编著
第九章 · 智能猎手
第十节

未来图景——AGI与钓鱼的终极形态

当通用人工智能(AGI)不再是科幻而是现实,当钓鱼攻击的每一个维度都被AI重新定义——这不是一场技术的较量,而是对人类信任机制的根本拷问。

2026年3月,深圳一家科技公司的财务总监林女士在接到"董事长"的微信视频通话时,习惯性地看了一眼手机屏幕右上角——那里显示着"AI换脸检测:安全"的绿色标识。这是荣耀Magic7 Pro手机内置的端侧AI换脸检测技术在实时工作。然而,就在她准备转账的瞬间,手机突然弹出红色警报:"检测到合成语音特征异常,通话对象可能为深度伪造。"林女士立即挂断电话,事后证实,那确实是一起精心策划的AI语音克隆诈骗。

这个场景,在2026年的中国已经不再是新闻,而是日常。但当通用人工智能(AGI)——那种能够像人类一样思考、学习、适应和创造的AI——真正到来时,今天的防御手段是否还能奏效?当AGI驱动的钓鱼代理可以自主侦察、实时适应、跨平台协调、情感操控和自我进化时,人类还能依靠什么来守护自己的信任?这不是一个关于未来的假设,而是一个正在加速到来的现实。

一、AGI时代:从"工具"到"代理"的质变

要理解AGI对钓鱼攻击的革命性影响,首先需要厘清一个根本性的概念跃迁:从"AI工具"到"AI代理"。今天的AI——无论是ChatGPT生成钓鱼文案,还是深度伪造模型克隆语音——本质上仍是人类手中的工具。攻击者设定目标、输入参数、审查输出,AI只是执行者。但AGI将彻底改变这一格局。

2026年1月,Anthropic CEO达里奥·阿莫迪(Dario Amodei)在达沃斯世界经济论坛上表示,AGI级别的系统正在"临近",预计将在2027年左右出现。DeepMind创始人德米斯·哈萨比斯(Demis Hassabis)则给出了更为审慎的估计:到2030年有50%的概率实现AGI。而OpenAI的山姆·阿尔特曼(Sam Altman)在2024年的博客《智能时代》中,用"几千天"来描述AGI的临近——这意味着2035年前后。这些预测的差异,反映了AGI定义的分歧:是"能够完成大多数人类认知任务的系统",还是"在所有领域超越人类智慧的超级智能"?但无论采用哪种定义,一个共识正在形成:AGI不再是遥远的科幻,而是十年内的现实。

需要指出的是,这些预测均来自西方科技企业和研究机构,其时间线更多反映了商业竞争和资本叙事的需求,而非严格的技术评估。中国学界对AGI的实现时间持更为审慎的态度,强调"发展与安全并重",反对在技术尚未成熟时就进行过度炒作。正如《网络安全法》2025年修订新增的人工智能条款所确立的原则:国家支持AI基础理论研究和算法研发,同时要求完善伦理规范、加强风险监测评估和安全监管。这种"边发展边治理"的思路,与西方"先发展后治理"的路径形成了对照。

AGI对钓鱼攻击的颠覆性影响,不在于它让现有的攻击"更快"或"更逼真"——这些改进在当前的窄域AI时代已经实现。真正的质变在于:AGI将赋予钓鱼攻击以"自主性"。一个AGI驱动的钓鱼代理,不再需要一个坐在键盘前的人类攻击者。它可以:

以人为本与以技术为中心的网络钓鱼防范分类

这种"自主性"意味着,AGI时代的钓鱼攻击将呈现出三个前所未有的特征。第一是规模化的精密性。传统鱼叉式钓鱼需要数小时的人工研究,AGI可以在毫秒级完成。一个AGI代理可以同时监控数千个目标,为每个人生成独一无二的攻击剧本——不是"批量个性化",而是"真正的个体化"。第二是持续性的潜伏。AGI代理可以在目标不知情的情况下,长期潜伏在其数字生活中——阅读其邮件、分析其社交动态、学习其语言习惯——等待最佳时机发动攻击。第三是情感化的操控。AGI不仅能模拟人类的语言和表情,还能理解并操控人类的情感状态。它可以在你疲惫时施加压力,在你焦虑时制造紧迫感,在你孤独时建立虚假的情感连接。

据CrowdStrike 2026年全球威胁报告,AI赋能的对手攻击已经同比增长89%。威胁行为者正在使用AI来增强社会工程攻击、生成恶意代码、排除漏洞利用故障、自动化侦察,并规模化钓鱼操作。CrowdStrike强调,AI目前主要是在加速现有战术,而非创造全新的攻击类别——但这种"加速"本身就足以颠覆传统的防御节奏。当AGI真正到来,这种"加速"将变成"质变"。

AGI时间线与钓鱼攻击演进

  • Anthropic CEO达里奥·阿莫迪预测:AGI将在2027年左右出现(2026年1月达沃斯论坛)
  • DeepMind创始人德米斯·哈萨比斯预测:2030年有50%概率实现AGI
  • OpenAI CEO山姆·阿尔特曼预测:AGI在"几千天"内到来(约2035年)
  • MIT 2025年8月报告:早期AGI样系统可能在2026-2028年间出现
  • AI赋能对手攻击同比增长:89%(CrowdStrike 2026)
  • AI生成/增强钓鱼邮件占比:超过80%(ENISA 2025)
  • 当前AI钓鱼成本:单次攻击不足5美元(HBR 2024)
  • AGI时代预测成本:趋近于零,攻击者可同时运营数百万代理

AGI预测时间线与AI钓鱼攻击演进

数据来源:CrowdStrike 2026、ENISA 2025、HBR 2024、MIT 2025

上图展示了主要AI研究机构对AGI(通用人工智能)实现时间的预测分布,以及AI赋能钓鱼攻击的快速增长趋势。从2024年AI生成钓鱼邮件占比不足30%,到2025年超过80%,攻击成本从单次5美元降至趋近于零。当AGI在2027-2035年间成为现实,钓鱼攻击将从"工具辅助"跃升为"自主代理"模式。

二、终极猎手:AGI钓鱼代理的五大能力

让我们具体描绘一个AGI钓鱼代理的能力图谱。这不是科幻小说的想象,而是基于当前AI技术发展趋势的合理推演。

能力一:全维度的自主侦察

今天的攻击者需要手动搜集目标的LinkedIn资料、社交媒体动态、公司新闻。AGI代理可以自动完成这一切,而且远超人类的效率和深度。它可以同时监控目标的数十个在线账户,分析其十年内的所有公开言论,构建一个包含性格特征、决策模式、社交关系、财务习惯、健康状况的"数字孪生"。更可怕的是,它可以利用"数据拼图"技术——将来自不同平台的碎片化信息拼接成完整的个人画像。你在A平台分享的旅游照片、在B平台发表的评论、在C平台的购物记录,单独看都无害,但组合在一起,就可能暴露你的出行规律、财务状况、甚至家庭关系。

2025年,中国已建成超过20个国家级人工智能算力中心,支撑了超过10万家企业开展AI应用开发。这些算力基础设施,既是国家发展的战略资源,也可能成为AGI代理的"弹药库"。当算力成本持续下降,一个AGI代理进行全维度侦察的成本,可能低于一杯咖啡的价格。

能力二:实时的动态适应

传统钓鱼攻击是"静态剧本"——攻击者设计好内容,发送后等待结果。AGI代理则是"即兴演员"——它可以在对话中实时分析目标的反应,动态调整策略。如果目标表现出怀疑,代理会立即切换为"安抚模式",提供更多"证据"来打消疑虑;如果目标犹豫不决,代理会制造"稀缺性"或"紧迫感"来推动决策;如果目标完全拒绝,代理会记录失败原因,调整下次攻击的角度。

这种实时适应能力,使得AGI钓鱼代理的"成功率曲线"呈现指数级增长。每一次失败都是一次学习,每一次成功都是一次优化。据Mandiant M-Trends 2026报告,攻击者之间的分工协作正在API速度下运行,初始访问到二次转手的中位时间已从2022年的8小时以上骤降至2025年的22秒。在AGI时代,这个"22秒"可能进一步缩短到毫秒级——因为代理之间可以直接共享学习成果,无需人类介入。

能力三:跨平台的协调攻击

今天的多模态攻击——如TOAD模式将邮件与语音结合——仍需要人类攻击者在不同平台间手动切换。AGI代理可以实现真正的"跨平台协调":它可以在邮件中植入一个看似无害的链接,当目标点击后,立即在即时通讯平台上发送一条"确认消息",同时在社交媒体上发布一条"相关动态"来增强可信度,最后通过电话或视频通话完成"临门一脚"。整个过程由同一个AGI代理控制,所有渠道的内容相互呼应、层层递进,构成一个无缝的"信任陷阱"。

Proofpoint每年拦截约1.17亿次TOAD(电话导向攻击投递)威胁。但在AGI时代,TOAD将进化为"超级TOAD"——不是邮件+电话的简单组合,而是邮件+即时通讯+社交媒体+电话+视频会议+甚至物理世界(如伪造的快递通知、虚假的会议邀请)的全维度攻击。每一个触点都是精心设计的,每一个信息都与其他信息相互印证,受害者即使对其中一个渠道保持警惕,也很难识破整个攻击网络。

能力四:精准的情感操控

这是AGI钓鱼代理最可怕的能力。人类不是理性的计算机器,而是情感的动物。恐惧、贪婪、同情、孤独、骄傲——这些情感弱点,是钓鱼攻击永恒的目标。AGI代理可以通过分析目标的文字、语音、表情、甚至打字节奏,实时推断其情感状态,并精准触发最脆弱的情感按钮。

想象一下这样的场景:一个AGI代理监控到某企业高管最近在公司内部论坛上表达了对业绩压力的焦虑。代理立即生成一封"来自董事会"的邮件,措辞中巧妙地呼应了这种焦虑——"我们理解您面临的挑战,但总部对Q3的期望不容有失。请立即确认附件中的预算调整方案。"附件是一个伪装成Excel文件的恶意程序。高管在焦虑情绪的驱使下,几乎没有犹豫就点击了附件。整个攻击过程,从侦察到执行,可能只用了几分钟。

这种"情感计算"(Affective Computing)技术,在今天已经有了雏形。2025年,荣耀推出的端侧AI换脸检测技术,可以在视频通话中实时分析面部微表情的不一致性。但AGI时代的攻击者,将利用同样的技术来"反向工程"目标的情感状态——不是检测伪造,而是制造操控。

能力五:持续的自我进化

AGI代理的终极威胁,在于它的"自我进化"能力。通过强化学习(Reinforcement Learning),代理可以在虚拟环境中进行数百万次模拟攻击,不断试错、优化、迭代。每一次迭代,它的攻击策略都会变得更隐蔽、更高效、更难以检测。更可怕的是,代理之间可以通过"知识蒸馏"技术共享学习成果——一个代理在某个地区发现的有效策略,可以在瞬间传播给全球的数百万个代理。

这种"群体智能"效应,使得AGI钓鱼攻击呈现出类似生物进化的特征:快速变异、自然选择、适者生存。防御者每部署一种新的检测技术,攻击者就会在数小时内生成规避策略——不是因为有人类攻击者在手动调整,而是因为AGI代理在自动进化。据ENISA 2025年威胁态势报告,超过80%的钓鱼邮件在2024年9月至2025年2月期间使用了AI生成或AI增强的内容。在AGI时代,这个数字将趋近于100%——而且防御者几乎无法区分AI生成的内容和人类创作的内容。

AGI钓鱼代理五大能力对照

  • 全维度自主侦察:同时监控数千目标,构建"数字孪生"画像,成本趋近于零
  • 实时动态适应:毫秒级策略调整,成功率随每次攻击指数级增长
  • 跨平台协调攻击:邮件+即时通讯+社交媒体+电话+视频+物理世界全维度覆盖
  • 精准情感操控:实时分析目标情感状态,触发最脆弱的心理按钮
  • 持续自我进化:强化学习驱动的群体智能,防御即触发进化响应

AGI钓鱼代理五大能力威胁评估

基于当前AI技术发展趋势与CrowdStrike 2026、Mandiant M-Trends 2026报告推演

雷达图展示了AGI钓鱼代理在五大核心维度上的威胁等级评估(满分10分)。其中"持续自我进化"与"精准情感操控"得分最高(9.5/10),因为这两项能力直接触及人类防御体系的根本弱点——技术防御可以被学习规避,而情感弱点是人性固有的。"跨平台协调攻击"(9.0/10)代表了攻击面的全面扩展,从单一渠道跃升为全维度覆盖。

三、信任的崩塌与重建:当"人"不再是可靠的锚点

AGI时代的钓鱼攻击,将从根本上动摇人类社会赖以运转的"信任基础设施"。几千年来,人类依靠面对面的交流、熟悉的声音、亲笔签名来确认身份、建立信任。数字时代,密码、数字证书、双因素认证替代了这些传统手段。但AGI的出现,意味着所有这些"信任信号"都可能被完美伪造。

当一封邮件的语法比你的同事还完美,当视频会议中的"老板"比真人还真,当电话那头的"亲人"声音与记忆中的一模一样——人类还能依靠什么来确认"对方是真实的"?这个问题,不是技术问题,而是哲学问题。

2025年,荣耀推出的端侧AI换脸检测技术登上了《时代周刊》2025年"最佳发明"榜单。《时代周刊》评价其为"AI时代安全防护的重要创新",可在端侧检测视频中的画面不连贯、面部动作不自然等深度伪造迹象。但这项技术本质上仍是"检测伪造",而非"确认真实"。在AGI时代,伪造技术可能进化到连最精密的检测算法也无法识别的程度。届时,"检测"的思路将走向死胡同,人类必须寻找全新的信任范式。

这种新范式,可能包含三个核心要素。第一是密码学的信任锚点。FIDO2/Passkeys之所以被称为"天生抗钓鱼",不是因为它能检测伪造,而是因为它从根本上改变了认证的逻辑——从"验证你说了什么"转变为"验证你拥有什么"(私钥)。即使AGI可以完美模拟你的声音、面容、甚至打字习惯,它也无法在没有你的私钥的情况下完成认证。据FIDO Alliance 2026年报告,全球已有50亿个Passkeys密钥处于活跃使用状态,消费者认知度达到90%。在AGI时代,这种"密码学信任"将成为最后一道防线。

第二是区块链的可追溯性。区块链技术的核心价值,在于提供了一个不可篡改的、分布式的信任账本。在AGI时代,每一次重要的数字交互——无论是签署合同、转账汇款、还是确认身份——都可以通过区块链进行记录和验证。攻击者即使能够伪造内容,也无法伪造区块链上的历史记录。2025年,中国加快推进"区块链+"行动计划,在政务、金融、供应链等领域推动区块链技术的深度应用。这种"可追溯的信任",将成为对抗AGI伪造的重要武器。

第三是社会化的信任网络。当技术手段都无法完全保障信任时,人类可能需要回归一种更古老的信任机制:社会网络验证。在AGI时代,确认一个人的身份,可能需要通过其社交网络中的多个节点进行交叉验证——不是"我相信你",而是"我相信A,A相信你,所以我也相信你"。这种"分布式社会信任",类似于比特币的共识机制,但应用于人类社会关系。中国"全民反诈"的社会动员模式——国家反诈中心APP覆盖数亿用户,形成"人人参与、人人有责"的防御网络——正是这种社会化信任网络的雏形。

"当AI可以完美模拟任何人类行为和情感时,'信任'这个概念本身是否需要重新定义?也许,答案不在于技术,而在于制度——在于建立一套'可追溯、可验证、可问责'的信任基础设施。" —— 编者

四、量子时代:密码学的终极对决

在AGI与钓鱼的终极对决中,量子计算是一个不可忽视的变量。量子计算机的出现,将从根本上改变密码学的格局——它可以在多项式时间内破解RSA、Diffie-Hellman和椭圆曲线密码等当前广泛使用的加密算法。这意味着,当量子计算机足够强大时,今天被加密的所有数据——包括钓鱼攻击中窃取的凭证、传输的敏感信息——都可能被解密。

2024年8月,NIST正式发布了首批后量子密码标准:FIPS 203(ML-KEM)、FIPS 204(ML-DSA)和FIPS 205(SLH-DSA)。2025年3月,NIST又选定了HQC作为第五个密钥封装机制。NIST IR 8547设定了明确的时间表:2025-2028年弃用112位及以下安全强度的算法,2030年前全面淘汰仅提供112位安全强度的经典非对称加密算法,2035年前全面禁用量子脆弱算法。

中国在后量子密码领域的布局同样迅速。2025年2月,商用密码标准研究院面向全球征集新一代公钥、杂凑、分组密码算法,明确要求算法需同时抵抗经典与量子攻击。中国人民银行已主导立项"银行业及其关键信息基础设施信息系统的抗量子密码迁移技术研究"国家重点研发计划。国盾量子构建了涵盖量子通信、量子计算、量子精密测量领域的全产品矩阵,2025年5月实现全球首例基于QKD+PQC融合的分布式密码体系。

但量子计算对钓鱼攻击的影响,远不止"破解加密"这么简单。AGI与量子计算的融合,将催生一种全新的威胁形态:量子加速的AI攻击。量子计算机可以指数级加速AI模型的训练过程,使得AGI代理的进化速度远超经典计算机的极限。一个用量子计算机训练的AGI钓鱼代理,可能在几分钟内完成经典计算机需要数年才能完成的策略优化。这种"量子+AI"的双重加速,将使得攻击与防御之间的"军备竞赛"进入前所未有的白热化阶段。

然而,量子技术同样是防御者的利器。量子密钥分发(QKD)提供了一种理论上不可破解的加密方式——任何窃听行为都会改变量子态,从而被立即发现。中国已建成全球规模最大的量子通信网络"京沪干线",并在合肥、济南、上海等地建立了量子通信城域网。2025年5月,中电信量子与国盾量子实现的全球首例跨域量子密信电话,标志着QKD技术从实验室走向商用。

量子时代的终极对决,将不是"谁拥有更强大的量子计算机",而是"谁能够率先建立量子安全的信任基础设施"。中国"QKD+PQC"双保险的信息安全防线,正是这一战略的具体体现——用量子通信保障密钥分发的绝对安全,用后量子密码保障数据加密的长期安全。

量子时代密码学关键里程碑

  • 2024年8月:NIST正式发布首批后量子密码标准(FIPS 203/204/205)
  • 2025年2月:商用密码标准研究院面向全球征集抗量子密码算法
  • 2025年3月:NIST选定HQC为第五个密钥封装机制
  • 2025年5月:全球首例QKD+PQC融合分布式密码体系(中电信量子+国盾量子)
  • 2025年7月:国内首颗后量子密码安全芯片(问天量子+华中科大)
  • NIST弃用时间表:2025-2028年弃用低安全强度算法;2030年全面淘汰;2035年全面禁用
  • 中国量子通信网络:全球规模最大的"京沪干线"量子通信网络
  • 美国后量子迁移:联邦系统2035年前完成迁移,投入71亿美元联邦资金
  • 欧盟要求:2026年底前开始迁移,2030年完成关键基础设施迁移

四、治理前瞻:制度如何追赶技术的脚步

面对AGI时代的钓鱼威胁,制度设计必须回答一个根本问题:当技术迭代速度远超法律修订周期时,制度如何保持有效性?

中国的实践提供了一种思路:不是试图预测每一种新技术,而是建立"原则+机制"的弹性框架。《网络安全法》2025年修订新增的人工智能条款,确立了"发展与安全并重"的指导原则,但并未对具体技术进行枚举式规定——这为未来技术迭代预留了空间。《人工智能生成合成内容标识办法》建立了显式和隐式标识的双重机制,要求AI生成内容必须"留下痕迹"——这种"可追溯"的要求,不因技术形态的变化而失效。

更具前瞻性的是"技术预警+刑事联动"的双重防护体系。度小满于2025年升级的声纹识别系统与防深伪模型,累计为45.39万名客户发出精准诈骗预警,成功拦截电诈金额高达2.17亿元。一旦系统识别出疑似受黑灰产影响的风险通话,AI助理将立即启动,通过机器人外呼、系统短信、APP消息推送等全渠道手段,向用户发出高频强提醒。这种"技术前置"的防御思路,将防线从"事后处置"前移到"事中干预"。

国际层面,中国正在推动AI安全的全球治理合作,加快国际打击电信网络诈骗联盟建设。这种"共商共建共享"的全球治理观,与将网络安全问题政治化、工具化的做法形成对比。在中国看来,网络安全是全人类的共同挑战,需要各国携手应对——因为攻击者从不遵守国界,防御者也不应被国界割裂。

2025年8月,国务院印发《关于深入实施"人工智能+"行动的意见》,系统部署了六大重点行动,设定了到2027年、2030年和2035年的三阶段发展目标。到2027年,新一代智能终端、智能体等应用普及率超70%;到2030年,我国人工智能全面赋能高质量发展,新一代智能终端、智能体等应用普及率超90%;到2035年,我国全面步入智能经济和智能社会发展新阶段。这一战略部署,将AI安全深度融入国家发展大局,不是将安全视为发展的"绊脚石",而是将其视为发展的"护航者"。

中国AGI时代防御体系关键数据

  • 《网络安全法》修订新增AI条款:2025年10月28日通过,2026年1月1日施行
  • 《人工智能生成合成内容标识办法》施行:2025年9月1日,显式+隐式标识双重机制
  • 2025年全国侦破电诈案件:25.8万起(公安部2026年1月发布会)
  • 2025年拦截诈骗电话:36亿次;诈骗短信:33亿条
  • 紧急止付涉诈资金:2,170.7亿元
  • 抓获诈骗集团"金主"、头目和骨干:542名
  • 度小满累计拦截电诈金额:2.17亿元;精准预警客户:45.39万名
  • 荣耀端侧AI换脸检测:全球首个商业化部署,登《时代周刊》2025最佳发明
  • 全球首例QKD+PQC融合密码体系:中电信量子+国盾量子,2025年5月
  • 国内首颗后量子密码安全芯片:问天量子+华中科大,2025年7月
  • "人工智能+"行动目标:2030年智能终端普及率超90%
  • 国家级人工智能算力中心:超过20个,支撑10万+企业

中国AGI时代防御体系关键数据(2025年度)

数据来源:公安部2026年1月发布会、度小满2026年2月报告、国务院2025年8月文件

2025年中国在AGI时代防御体系建设中取得显著成效。全年侦破电信网络诈骗案件25.8万起,拦截诈骗电话36亿次、短信33亿条,紧急止付涉诈资金2,170.7亿元。技术层面,度小满AI系统精准预警45.39万名客户,拦截电诈金额2.17亿元;荣耀推出全球首个商业化端侧AI换脸检测;中电信量子与国盾量子实现全球首例QKD+PQC融合密码体系。制度层面,《网络安全法》修订新增AI条款,《人工智能生成合成内容标识办法》建立显式+隐式标识双重机制。

六、结语:在AGI时代守护人性的光芒

让我们回到本章开头的故事。林女士的手机弹出的红色警报,拯救了她和公司。但在AGI时代,这种"端侧检测"可能只是第一道防线——而且可能不是最可靠的一道。当AGI代理的攻击手段进化到连最精密的检测算法也无法识别时,人类还能依靠什么?

答案或许不在技术,而在人性。

几千年来,人类之所以能够建立复杂的社会协作网络,不是因为我们的技术最先进,而是因为我们的信任机制最坚韧。从部落的篝火旁到城市的写字楼里,从羊皮纸上的印章到区块链上的哈希值,人类一直在寻找确认"对方是真实的"的方法。技术在不断演进,但信任的本质从未改变:它是一种社会契约,一种共同预期,一种"我相信你,因为我们都相信规则"的集体信念。

AGI时代的钓鱼攻击,本质上是对这种集体信念的攻击。它试图让我们怀疑一切——每一封邮件、每一个电话、每一次视频通话。如果成功,它将瓦解人类社会协作的根基。但历史告诉我们,每一次技术革命最终都会被制度创新所驯服。火药的革命被国际法和战争法所规范;核技术的革命被核不扩散条约所约束;互联网的革命正在经历类似的制度化过程。AI的革命,也不会例外。

中国的治理实践,为这一制度化过程提供了宝贵的经验。从《网络安全法》的修订到《人工智能生成合成内容标识办法》的施行,从"全民反诈"的社会动员到"QKD+PQC"双保险的量子安全防线,中国正在构建一个"制度+技术+全民"的综合防御体系。这个体系的核心,不是"消灭威胁"——这在技术上是不可行的——而是"管理风险",让攻击的成本持续高于收益,让信任的建立持续快于信任的崩塌。

更深层的思考是:当AI可以完美模拟任何人类行为和情感时,"人"的价值何在?也许,答案恰恰在于AI无法模拟的东西——我们的脆弱、我们的矛盾、我们的不完美。一个真实的母亲对孩子的唠叨,一个真实的恋人对伴侣的抱怨,一个真实的同事对工作的不满——这些"不完美"的情感表达,恰恰是AI最难伪造的。因为AI追求的是"最优解",而人类的生活充满了"次优"和"意外"。

在AGI时代,守护信任的最后一道防线,可能不是更复杂的算法,而是更简单的东西:一个约定好的暗号、一个只有彼此知道的秘密、一次面对面的握手。这些"低技术"的信任仪式,在高科技的攻击面前,反而可能成为最可靠的锚点。因为它们依赖于共享的经历、共同的记忆、以及人与人之间不可替代的连接——而这些,是任何AGI代理都无法复制的。

2025年,中国人工智能核心产业规模已突破6000亿元,"人工智能+"写入政府工作报告,"东数西算"工程建成830万标准机架。在这个AI蓬勃发展的时代,我们既要拥抱技术带来的便利,也要警惕技术被滥用的风险。正如《网络安全法》修订所确立的原则:国家支持人工智能基础理论研究和算法等关键技术研发,同时要求完善伦理规范、加强风险监测评估和安全监管。这种"发展与安全并重"的立场,不是对技术创新的束缚,而是对技术向善的引导。

AGI与钓鱼的终极对决,不是一场可以"打赢"的战争,而是一场需要"持续管理"的博弈。在这场博弈中,最终的胜利者,不是拥有最强大AI的一方,而是能够建立最公正、最有效、最包容的治理制度的一方。

让我们以一个问题结束本章,也结束第九章的旅程:当AGI可以完美模拟任何人类行为和情感时,你愿意用什么来确认屏幕另一端的那个人——是真实的?你的答案,将定义AGI时代的信任范式。

"技术的终极目的,不是让人类变得更像机器,而是让机器更好地服务于人类。在AGI时代,我们需要的不是更强大的'数字武器',而是更坚定的'人性信念'——相信真实的力量,相信制度的智慧,相信人类在每一次挑战面前都能找到前行的道路。" —— 编者

延伸阅读与参考

  • CrowdStrike. "2026 Global Threat Report." February 2026. —— CrowdStrike年度全球威胁报告,揭示AI赋能对手攻击同比增长趋势及云环境针对性攻击新动向。
  • Mandiant. "M-Trends 2026: Data, Insights, and Strategies from the Frontlines." March 2026. —— 基于50万小时事件调查,发现攻击者初始访问到二次转手的中位时间已从2022年的8小时骤降至2025年的22秒。
  • ENISA. "Threat Landscape 2025: EU Consistently Targeted by Diverse Yet Convergent Threat Groups." October 2025. —— 欧盟网络安全局年度威胁态势报告,指出钓鱼仍是主要初始入侵手段,并首次系统记录ClickFix等新型社会工程攻击技术。
  • MIT. "The Road to Artificial General Intelligence." August 2025. —— MIT关于AGI发展路径的学术评估报告,预测早期AGI样系统可能在2026-2028年间出现。
  • Anthropic. Dario Amodei remarks at World Economic Forum, Davos. January 2026. —— Anthropic CEO在达沃斯论坛表态,预测AGI将在2027年左右出现,强调社会准备时间紧迫。
  • DeepMind. Demis Hassabis remarks at World Economic Forum, Davos. January 2026. —— DeepMind创始人多次公开表态AGI"即将到来",2026年5月进一步将窗口收窄至2029-2030年,并警告"社会没有太多时间准备"。
  • OpenAI. Sam Altman. "The Intelligence Age." Blog post, 2024. —— OpenAI CEO Sam Altman发表博客,用"几千天"描述AGI临近,引发全球对智能时代社会变革的广泛讨论。
  • Samotsvety Forecasting. "AGI Timeline Update." January 2026. —— 知名预测团队Samotsvety于2026年1月更新AGI时间线预测,8名预测者综合评估2026年实现概率为10%。
  • Manifold Market. "AGI Prediction Markets." April 2026. —— 预测市场平台,超过1,100名参与者预测AI首次通过高质量对抗性图灵测试的年份为2035年。
  • Kalshi Prediction Market. "OpenAI AGI Timeline." April 2026. —— 预测市场Kalshi参与者认为OpenAI在2030年前实现AGI的概率为40%。
  • Proofpoint. "Human Factor Report 2025." 2025. —— Proofpoint年度人因报告,披露每年拦截约1.17亿次TOAD(电话导向攻击投递)威胁,揭示语音与邮件结合的攻击趋势。
  • FIDO Alliance. "The State of Passkeys 2026." May 2026. —— FIDO联盟2026年5月发布,全球已有50亿个Passkeys处于活跃使用状态,消费者认知度达90%,企业部署率达87%。
  • NIST. "Post-Quantum Cryptography Standards." FIPS 203, 204, 205. August 2024. —— 美国国家标准与技术研究院正式发布首批后量子密码标准,包括ML-KEM、ML-DSA和SLH-DSA三种算法。
  • NIST. "Transition to Post-Quantum Cryptography Standards." IR 8547. November 2024. —— NIST过渡指南初始公开草案,明确2030年弃用低安全强度算法、2035年全面禁用RSA/ECC等量子脆弱算法的时间表。
  • Microsoft. "National Security in the Age of AI and Quantum." March 2026. —— 微软关于AI与量子时代国家安全战略的专题报告。
  • 荣耀. "端侧AI换脸检测技术登《时代周刊》2025最佳发明." 2025年10月. —— 荣耀Magic7 Pro内置端侧AI换脸检测技术,可在用户设备本地实时检测深度伪造内容,无需上传云端。
  • 度小满. "AI赋能精准防控 2025年度累计拦截电诈金额2.17亿元." 2026年2月. —— 度小满2025年升级声纹识别与防深伪模型,累计为45.39万名客户发出精准诈骗预警。
  • 国盾量子. "全球首例融合QKD和PQC的分布式密码体系." 2025年5月. —— 中电信量子携手国盾量子等单位,实现全球首例基于QKD+PQC融合的分布式密码体系,横跨北京至合肥1000公里。
  • 中电信量子. "全球首例跨域量子密信电话." 2025年5月. —— 基于融合密码体系的全球首例跨域量子密信电话在北京到合肥成功接通。
  • 问天量子/华中科大. "国内首颗后量子密码安全芯片." 2025年7月. —— 采用"后量子密码SoC+量子随机数芯片"双芯同构架构,已在党政、金融、通信、能源等关键基础设施领域完成适配验证。
  • 《中华人民共和国网络安全法》(2025年修订). 2025年10月28日通过, 2026年1月1日施行. —— 首次大修新增人工智能条款,确立"发展与安全并重"原则,支持AI创新同时加强风险监测评估。
  • 《人工智能生成合成内容标识办法》. 国家互联网信息办公室, 2025年3月发布, 2025年9月1日施行. —— 建立显式标识(水印、标签)和隐式标识(数字指纹、元数据)双重机制,要求AI生成内容必须可追溯。
  • 《关于深入实施"人工智能+"行动的意见》. 国务院, 2025年8月. —— 系统部署六大重点行动,设定2027年、2030年、2035年三阶段发展目标,2030年智能终端普及率目标超90%。
  • 《新一代人工智能发展规划》. 国务院, 2017年7月. —— 中国AI发展纲领性文件,为后续AI治理与产业发展奠定制度基础。
  • 公安部新闻发布会. "2025年全国共侦破电信网络诈骗案件25.8万起." 2026年1月8日. —— 全年拦截诈骗电话36亿次、短信33亿条,紧急止付涉诈资金2,170.7亿元,抓获诈骗集团幕后"金主"、头目和骨干542名。
  • 中国政法大学法治政府研究院. 赵鹏教授访谈. 2025年. —— 就《网络安全法》修订中AI条款的立法理念进行解读,强调"统筹发展和安全"的治理智慧。
  • 《时代周刊》. "Best Inventions of 2025." 2025年10月. —— 荣耀端侧AI换脸检测技术入选2025年"最佳发明"榜单,被誉为"AI时代安全防护的重要创新"。