课题研究 威胁情报分析研究 子课题09 · 第2页 / 共8页
09十大核心研究子课题 · 置信度评估模型

情报置信度评估模型体系(第2页)

本页系统梳理威胁情报置信度评估的方法论体系:从经典的北约 Admiralty Code 源可靠性×信息可信度双维度框架,到 Sherman Kent 结构化概率判断语言,再到 STIX 2.1 的 0–100 机器可读置信度标尺,最后组装为可操作的评估流程与认知偏差控制机制。

Admiralty Code概率判断语言STIX 2.1confidence双维度评级认知偏差研究状态:研究中
所属阶段生命周期 · 处理与分析
目标受众情报分析师、TIP平台团队、SOC管理者
覆盖内容评估框架 / 判断语言 / 机器标尺 / 评估流程 / 偏差控制

01 · 为什么需要置信度模型

在情报消费链条中,置信度是情报产品与决策动作之间的"汇率":同一条情报,置信度高时被用于自动阻断,置信度低时只能作为狩猎线索。没有置信度标注的情报,迫使消费方自行猜测其可靠性,结果必然走向两个极端——一律高看,误报淹没安全运营中心(SOC);一律怀疑,情报形同虚设。

告警疲劳(Alert Fatigue)是安全运营领域的公认现象:当告警中误报占比长期过高时,分析师对告警的响应速度与判断质量都会显著下降,真正的威胁反而可能被淹没。置信度模型的工程价值,正在于把"这条情报可不可信"从主观印象转化为可标注、可比较、可机读、可回传校准的正式属性,让自动化处置有依据、让人工研判有锚点。

本页回答三个问题:① 用什么维度评价情报——源可靠性 × 信息可信度双维度框架;② 用什么语言表达不确定性——结构化的概率判断语言;③ 如何落到机器可读字段——STIX 2.1 / MISP / GB/T 36643-2018 的数值置信度对齐。

02 · 经典双维度框架:北约 Admiralty Code(海军部代码)

当前全球情报界(含军事情报与网络威胁情报实践)最广泛使用的置信度标注框架,源自北约通报制度,通常称"海军部代码"(Admiralty Code)。其核心思想是:把"来源是否可靠"与"信息本身是否可信"分成两个独立维度分别评级,再组合使用。该代码的公开版本可见于美国陆军野战手册 FM 2-22.3《Human Intelligence Collector Operations》(2006,其附录 B 收录 Source and Information Reliability 矩阵)、北约 STANAG 2511 及美国参谋长联席会议《联合出版物 JP 2-0》等公开文献;MISP 社区的 admiralty-scale 分类法亦以 FM 2-22.3 为引用来源。

2.1 维度一:源可靠性(Source Reliability,A–F 六级)

级别含义说明CTI 场景示例
A完全可靠来源一贯准确,多次经独立途径验证组织自身网络遥测;长期合作且历史准确的行业通报渠道
B通常可靠过去基本准确,偶有失误运营多年、机制透明的开源情报项目(如 abuse.ch 系列);主流商业情报源
C较可靠过去大体准确,但证据有限或新近接入新建立共享关系的行业伙伴
D不太可靠过去多次不准确或未经核实匿名论坛爆料、来历不明的"独家消息"
E不可靠一贯不准确,或已知被操纵过已被证实传播投毒数据的渠道
F无法判断来源太新或信息太少,无从评价首次出现、无任何历史记录的匿名数据源

2.2 维度二:信息可信度(Information Credibility,1–6 六级)

级别含义说明
1经独立来源证实至少两个真正独立的来源相互印证(注意排除同源转载,见第3页交叉验证)
2很可能真实逻辑自洽、与已知事实吻合,但尚缺独立印证
3可能真实部分证据支持,存在合理疑点
4存疑证据不足或存在相互矛盾的说法
5很可能不真实多数证据指向其为错误或误导信息
6真实性无法判断无法获得任何可用证据

组合使用时写作"源可信度 + 信息可信度"的形式,例如 B2 表示"通常可靠的来源提供的、很可能真实的情报";E5 表示"不可靠来源提供的、很可能不真实的情报"。两者在消费策略上应有本质区别。

两个维度不可混用:源可靠性评价"谁在说话",信息可信度评价"这条话本身有多少证据支撑"。一个一贯可靠的来源也可能在特定判断上证据不足(A3),一个名声欠佳的来源偶尔也可能提供经证实的真情报——双维度框架正是为了容纳这种现实复杂性。

03 · 概率判断语言:从"我觉得"到"很可能"

CIA 资深分析专家 Sherman Kent 在 1964 年发表的《Words of Estimative Probability》(《估计概率用语》)中指出:自然语言中的概率词("很可能""或许")在不同读者心中对应的数值范围差异极大——同一句"很可能发生",有的读者理解为三成把握,有的理解为九成把握。化解歧一的途径是把概率词与明确的数值区间绑定,形成机构统一的判断词表。该文是美国中央情报局"情报分析心理学"系列经典文献的开山之作。

结构化概率判断语言与参考数值区间
展示值为各区间的代表中值;各机构正式版本区间划分略有差异,落地时应以本单位统一词表为准
来源:Sherman Kent, Words of Estimative Probability(CIA Center for the Study of Intelligence, 1964)提出的标准化概率语言思想;公开文献中常见的区间版本之一。该体系影响了此后各国情报界的判断表述规范。

在威胁情报报告写作中,一条合格的判断句应当包含三要素:结论 + 概率语言 + 主要依据。例如:"该钓鱼域名团伙很可能(可能真实度 2 级)在未来一个季度内转向仿冒电商平台,依据是其历史基础设施复用模式与近期证书申请行为。"明示不确定性并非示弱,而是专业规范——美国《情报界指令 ICD 203:分析标准》即明确要求分析产品必须区分事实与判断、表达判断背后的不确定性。

04 · STIX 2.1 置信度标尺与机器可读表达

人工词表解决"人对人"的表达,机器交换则需要数值化标准。STIX 2.1 在 Indicator、Report 等对象上定义了 confidence 属性(通用属性,SDO/SRO 均可携带):取值 0–100 的整数,数值越大置信度越高。规范的附录 A(Confidence Scales)进一步给出了与其他置信度标尺的规范性映射表(normative mappings),数值与判断词必须按下表互映射、不得自行发明区间:

STIX 2.1 附录 A 规范性映射(WEP 词表 / DNI 标尺 / Admiralty 可信度)
区间与代表值均为规范附录 A 原文;映射具有规范性(MUST),互转时必须遵守
概率语言(WEP 词表)STIX 代表值STIX 数值区间DNI 标尺对应Admiralty 可信度对应(由区间反查)
Impossible(不可能)00——
Highly Unlikely / Almost Certainly Not101–19Almost No Chance / Remote(0–9)前半段5-Improbable(0–19)
Unlikely / Probably Not3020–39Unlikely / Improbable(20–39)4-Doubtful(20–39)
Even Chance(机会均等)5040–59Roughly Even Chance(40–59)3-Possibly True(40–59)
Likely / Probable7060–79Likely / Probable(60–79)2-Probably True(60–79)
Highly Likely / Almost Certain9080–99Very Likely(80–89)/ Almost Certain(90–100)共用高分段1-Confirmed(80–100)
Certain(确定)100100——
来源:OASIS《STIX Version 2.1》附录 A Confidence Scales(docs.oasis-open.org/cti/stix/v2.1/os/)。DNI 标尺细分:Very Likely/Highly Probable=85(80–89),Almost Certain/Nearly Certain=95(90–100);Admiralty 方向映射:1→90、2→70、3→50、4→30、5→10、6→不映射(Not present)。

4.1 三套体系的语义对齐

体系表达形式说明
STIX 2.1数值 0–100Indicator、Report 等对象的 confidence 属性;国际机器交换事实标准
MISPsightings 三值回传核心机制为 sightings(sighting 确认观测 / false positive 误报 / expiration 过期);属性级置信度无核心标准字段,可经标签(Taxonomies)、Galaxy 或自定义字段扩展表达,量化校准以 sightings 统计为准(见第3页)
GB/T 36643-2018可信度字段标注我国网络安全威胁信息格式国家标准,在其威胁信息模型中要求对威胁信息标注可信度,支撑国内共享平台对接

置信度与 TLP 是两个正交的属性,切勿混用:置信度(confidence)回答"这条情报有多可信",TLP(Traffic Light Protocol)回答"这条情报能传给谁"。一条 TLP:RED 的情报可以置信度很高(只是不能外传),一条 TLP:CLEAR 的情报也可能置信度很低(可以公开但未必正确)。混用两者是情报共享事故的常见根因。

05 · 组合评估矩阵与消费策略

双维度评级只有与消费动作挂钩才有业务意义。我们建议按下表的保守原则建立"评级 → 消费策略"映射,并作为平台规则固化:

源可靠性 \ 信息可信度高(1–2 级)中(3 级)低(4–6 级)
高(A–B)可用于实时告警;满足附加条件时可进入自动处置评估SIEM 告警 + 威胁狩猎线索低优先存档,观察后续证据
中(C)SIEM 告警 + 狩猎线索仅作狩猎线索,不直接告警存档
低(D–F)存档并标记"待独立印证"存档不进入消费链路
  • 高风险动作需要"双高 + 佐证":自动阻断、域名封禁等不可逆或高影响处置,除要求源可靠性与信息可信度双高外,还应至少获得一个真正独立来源的佐证,且消费端回传机制已就绪(见第3页)。
  • 矩阵规则必须可配置、可审计:阈值调整应留痕,处置结果应可回溯到当时的评级依据,支撑事后复盘与责任界定。
  • 评级是动态而非终身:任何评级都应绑定评定时间与评定人,新证据出现后必须复评(升级、维持或降级)。

06 · 置信度评估操作流程

把上述框架组装成可复用的操作流水线,是模型落地的最后一步:

情报置信度评估七步流程
每一步均要求留痕:评定人、时间、依据与版本,支撑复评与审计
说明:流程设计综合了公开情报界通行做法(如 JP 2-0 对来源评价的强调)与 STIX 2.1 机器标注要求,是本课题提出的操作性建议,非某一标准的原文规定。

07 · 局限性与认知偏差控制

必须清醒认识:置信度是分析判断,不是客观概率。同一份证据,不同分析师给出的评级可能相差数级。情报分析心理学(Heuer《Psychology of Intelligence Analysis》,CIA 1999 年公开出版)系统指出了分析工作中的常见认知偏差:

  • 过度自信:高估自己判断的准确程度;缓解手段包括校准训练(用历史案例回测分析师的评级与实际结果)与双人独立评级。
  • 锚定效应:被最先获得的数字或结论束缚;缓解手段包括先独立形成判断再讨论、强制列举反证。
  • 群体思维:团队为追求一致而压制异议;缓解手段包括匿名评分、设立"魔鬼代言人"角色。
  • 近期偏差与基率忽视:过度看重刚发生的个案、忽略历史基率;缓解手段包括在历史命中数据中做比例校准(见第3页误报率度量)。

制度层面,可引入结构化分析技术(Structured Analytic Techniques):竞争性假设分析(ACH)、事前验尸(Pre-Mortem)、红队演练等。美国国家情报总监办公室 2009 年公开的《A Tradecraft Primer: Structured Analytic Techniques for Improving Intelligence Analysis》系统介绍了十二类此类技术,可直接作为分析师培训教材。本课题将选取适配威胁情报场景的 3–4 种技术,形成《置信度评估操作手册》的配套训练模块。

08 · 置信度评估质量检查单(Checklist)

供分析师评级与复核时逐项自查;任何一项为"否"都应降级或补充评估。本检查单同时是评级分歧的仲裁依据:

  • 命题可检验:判断句写成可证伪形式,不含无边界的模糊词("可能出事"不可检验,"未来 90 天内该团伙注册仿冒域名"可检验)?
  • 源已评级:源可靠性 A–F 已评定并绑定依据(历史准确率、透明度、更新频率)?
  • 证据可追溯:每条关键结论能指向具体证据条目(样本、流量、日志),而非"整体印象"?
  • 独立性已排查:佐证来源做过谱系排查,剔除同源转载与自动转引?
  • 时效已确认:valid_until 按情报类型量级设定,衰减参数已配置?
  • 对抗已校验:高置信情报完成沙箱复现 / 时间线一致性 / 蜜标检查?
  • 双字段齐全:confidence 数值与 TLP 级别同时标注,二者未被混用?
  • 消费策略匹配:分级与消费场景门槛一致,未越级进入自动处置?
  • 留痕完整:评定人、时间、依据、版本全部记录,可支持复评与审计?
  • 复核人确认:高置信评级经第二人独立复核,分歧已记录处理?

制度化建议:将本检查单嵌入 TIP 的发布工作流——未通过项在系统层阻止发布或强制降级,把"自觉执行"变为"流程强制";对"绕过检查单"的人工放行要求填写理由并全程留痕(呼应第4页防呆设计)。

8.1 双人独立评分与分歧处理

  • 独立在先:两名分析师在互不可见的情况下先各自评级,再对照讨论——先讨论后评分会被锚定效应污染(第7节);
  • 分歧量化:记录两次评级的差值与最终取值;系统性高分歧项应回溯到检查单,定位是证据不足还是标准理解不一致;
  • 收敛指标:以"评级一致性(如加权 Cohen's Kappa)"作为分析师团队成熟度的度量之一,纳入第4页校准偏差 KPI 家族。

本节参考来源(第2页)

以下均为真实、公开可查的权威来源;本页方法论表述均可溯源至这些文献,未引用任何虚构资料。

[1]

OASIS《STIX Version 2.1》官方规范(confidence 属性定义与参考解释区间):docs.oasis-open.org/cti/stix/v2.1/os/stix-v2.1-os.html

[2]

美国参谋长联席会议《Joint Publication 2-0: Joint Intelligence》(含 Admiralty Code 来源/可信度双维度标注的公开描述):jcs.mil/Doctrine

[3]

美国陆军野战手册 FM 2-22.3(公开版本载有海军部代码 A–F / 1–6 完整评级表):armypubs.army.mil

[4]

Sherman Kent, Words of Estimative Probability, CIA Center for the Study of Intelligence(1964):cia.gov/readingroom

[5]

Richards J. Heuer Jr., Psychology of Intelligence Analysis, CIA(1999):cia.gov/readingroom

[6]

美国《情报界指令 ICD 203:分析标准》(Analytic Standards)与 ICD 206(溯源要求),公开信息见:dni.gov

[7]

《A Tradecraft Primer: Structured Analytic Techniques for Improving Intelligence Analysis》(2009):cia.gov/readingroom

[8]

MISP 开源威胁情报平台项目(sightings 回传机制与 admiralty-scale 分类法,属性级置信度表达见第2页4.1节说明):misp-project.org;GB/T 36643-2018 国家标准全文公开系统:openstd.samr.gov.cn/bzgk/gb/

09 · 机器可读标注实现示例(STIX 2.1)

以下示例展示一条钓鱼 URL 情报如何同时携带数值置信度、时效字段、共享标记与来源标识(字段名以 STIX 2.1 规范为准;ID 与时间值为占位示意,TLP 标记采用 CISA 发布的 STIX TLP 2.0 扩展定义):

{
  "type": "indicator",
  "spec_version": "2.1",
  "id": "indicator--(UUID v4,按 STIX 规则生成)",
  "created_by_ref": "identity--(发布组织 ID)",
  "created": "(ISO 8601 时间)",
  "modified": "(ISO 8601 时间)",
  "indicator_types": ["malicious-activity"],
  "pattern": "[url:value = 'https://(示例钓鱼域名)/login']",
  "pattern_type": "stix",
  "valid_from": "(ISO 8601 时间)",
  "valid_until": "(valid_from + 48h,依第4页时效策略)",
  "confidence": 72,
  "labels": ["phishing"],
  "object_marking_refs": ["marking-definition--(TLP:AMBER,CISA STIX TLP 2.0 扩展)"]
}
  • confidence: 72 → 按附录 A 反查落在 Likely/Probable(60–79)区间,与第2页双维度评级 B2 + 2 个独立佐证的人工判断一致;
  • valid_until 必填思想:钓鱼 URL 按第4页时效表取小时—天级量级,到期自动停止在线匹配并转档;
  • TLP 用 marking 表达:与 confidence 分属两个字段、正交存在(呼应第4页"双字段齐全"检查项);
  • 发布前校验:应通过 OASIS 官方 stix2-validator 校验(第4页质量门禁),任何格式错误即退回。