课题研究 威胁情报分析研究 子课题05 · 第1页 / 共7页
05十大核心研究子课题 · 研究总览

多源情报融合与关联分析

单一情报源只能看到威胁的碎片:同一个攻击组织在不同厂商报告中有十几个名字,同一条攻击链的线索分散在域名、IP、样本、证书与报告等多种载体中。本课题研究如何将不同来源、不同格式、不同置信度的情报进行融合与关联,消除信息孤岛,构建全局威胁视图。本子课题全文分为七页:第1页研究总览与框架定位、第2页实体解析与IOC去重、第3页威胁知识图谱构建与关联挖掘、第4页置信度融合与攻击活动重构、第5页情报源治理共享合规与成熟度评估、第6页平台工程实践性能优化与评估基准、第7页反钓鱼专项融合实践与真实案例复盘。

实体解析IOC去重知识图谱STIX 2.1社区发现置信度融合攻击活动重构研究状态:研究中
所属阶段生命周期 · 处理与分析
目标受众威胁分析师、TIP平台团队、安全数据科学家
全文结构7页:总览 → 实体解析与去重 → 图谱与关联挖掘 → 置信度融合与活动重构 → 源治理与合规 → 工程实践与基准 → 反钓鱼专项实战

01 · 研究背景与意义

1.1 信息孤岛:情报越多,噪音越大

威胁情报的生产者遍布全球:商业情报厂商、开源社区、行业共享组织、政府部门、安全研究团队,各自独立命名、独立评级、独立发布。其直接后果是同一威胁的多重碎片化表达。以被公开归因于俄罗斯军事情报机构(GRU)的攻击组织为例,该组织在不同机构的报告中分别被称为:APT28(Mandiant/FireEye编号体系)、Fancy Bear(CrowdStrike命名)、Sofacy与Sednit(卡巴斯基命名)、Strontium(微软命名)、Pawn Storm(趋势科技命名)。如果情报平台不做实体归并,这五份报告中的IOCs、TTP与受害目标将无法汇聚到同一个组织名下,分析人员看到的是五个"不同"的对手。

组织公开别名(示例)命名方
APT28Fancy Bear / Sofacy / Sednit / Strontium / Pawn StormFireEye/Mandiant、CrowdStrike、卡巴斯基、微软、趋势科技等
FIN7Carbon Spider;其部分工具链历史上与Carbanak家族报告交织CrowdStrike及多家厂商
Lazarus GroupDiamond Sleet(微软2023年威胁 actor 命名体系调整后的名称)微软等

注:上表均为各厂商公开报告中的命名,仅用于说明"同一实体、多源异名"问题,不代表本课题对归因结论的独立背书;归因本身属于分析判断,存在公开争议空间。

碎片化的代价是具体的:重复告警消耗分析人力(同一条IOC被五个源各报一次,SOC看到的是五倍工作量);威胁画像无法累计(无法回答"这个组织一年来攻击过我们几次");基础设施复用无法识别(同一台服务器 hosting 的多个钓鱼域名被当作孤立事件分别处置)。

从产业侧看,多源情报供给已形成层次分明的生态:商业情报厂商(如微步在线、奇安信、腾讯安全、天际友盟等)、开源情报社区(MISP生态、OpenCTI社区及各类OSINT项目)与政府/行业共享渠道并存,供给侧的多样化正是“多源融合”需求持续增长的根本背景——组织几乎必然同时消费多个来源,融合能力从“可选”变为“必选”。说明:国内威胁情报市场规模与厂商份额的统计口径分散且多数不公开,本课题不引用无法溯源的具体数字;有需要的读者可参考中国网络安全产业联盟(CCIA)年度产业分析报告等公开资料自行核实。

1.2 融合与关联是情报价值放大的必经环节

数据融合(Data Fusion)是多传感器信息处理领域的成熟概念,美国联合指挥实验室(JDL, Joint Directors of Laboratories)数据融合过程组提出的融合分级模型(Level 0 信号评估、Level 1 实体评估、Level 2 态势评估、Level 3 影响评估)长期被情报界借鉴。本课题将其工程化为三个可操作层级:数据级融合(清洗、去重、归一)、特征级融合(实体解析、关系发现)、决策级融合(置信度综合、活动判定)。知识图谱与实体解析技术为这一路径提供了工程基础——STIX 2.1标准本身就是图结构模型,OpenCTI等开源平台已验证了图模型承载威胁实体统一管理的可行性。

1.3 与迪妙反钓鱼业务的直接关联

钓鱼对抗是典型的关联密集型场景:钓鱼URL极少孤立存在,它们通常成批注册、共享解析IP、复用页面模板与证书基础设施。只有将分散的钓鱼URL聚类为"钓鱼活动",才能实现批量域名处置、封禁清单生成与攻击者手法画像,这正是学院攻防演练沙盘与识别指南课程最需要的数据能力。

核心科学问题:如何让机器在多源、异名、异质、异置信度的威胁数据中,自动回答三个问题——"这是不是同一个东西(实体同一性)""它们之间是什么关系(关联发现)""我们该多相信这个结果(置信度综合)"。本课题全部工作围绕这三个问题的工程化展开。

02 · 研究目标与关键问题

  • 实体同一性判定:基于域名相似度、IP归属、证书指纹、基础设施重叠等特征,实现跨源IOC与威胁实体(组织、恶意软件、基础设施)的去重合并。
  • 全局视图构建:建立覆盖威胁行为者、入侵组织、恶意软件、基础设施、漏洞、目标行业的威胁知识图谱,支持多跳路径查询与社区发现。
  • 置信度融合:综合多个相互独立的情报源对同一威胁的评估,输出比任何单一来源更可靠的综合置信度。
  • 攻击活动重构:将分散的IOC、TTP与受害者报告聚类为完整攻击活动(Campaign),还原攻击全貌与攻击链。

2.1 四个关键研究问题

编号关键问题内涵说明对应章节
KQ-1实体同一性判定跨源的两个IOC(域名/哈希/IP)是否为同一实体?阈值如何设定才能既不漏合并不误合并?第2页
KQ-2图谱模式设计实体与关系如何建模,才能同时满足机器推理与分析师查询的需求?第3页
KQ-3置信度综合多个独立来源评估冲突时,如何输出可解释的综合置信度?高冲突如何处理?第4页
KQ-4活动聚类重构时间、基础设施、TTP、目标四个维度的碎片证据,如何聚类为有研判价值的攻击活动?第4页

03 · 课题在威胁情报生命周期中的定位

本课题位于威胁情报生命周期的处理与分析阶段:上游消费子课题01(威胁情报收集与标准化)产出的STIX 2.1 / GB/T 36643-2018标准化情报,下游支撑子课题04(情报驱动的主动防御)的检测规则生成与子课题06(暗网监测与追踪)的线索关联需求。没有上游的标准化输入,融合与关联就退化为格式纠缠;没有本课题的融合关联,上游采集的数据只能以原始形态堆积,无法形成态势。

威胁情报生命周期与本课题覆盖范围
高亮(深蓝)阶段为本课题主战场;反馈回路驱动实体规则与权重持续调优
说明:六阶段划分为威胁情报领域通行表述,本课题不重新定义生命周期,仅界定工程边界。处理与分析之间的界限在工程实践中往往是渐进的——去重是处理,而基于去重结果的聚类已属分析。

04 · 融合关联总体框架:三级融合

本课题将多源情报融合拆分为三个递进的层级,每一层依赖上一层的结果,共同构成完整的融合关联流水线:

融合层级回答的问题核心技术产出物
数据级融合这条记录和那条记录是不是同一条?规范化、精确去重、近似去重、冲突共存干净、无重复的情报记录集
特征级融合这两个"不同"的实体实际上是同一个吗?相似度计算、实体解析、基础设施复用特征、知识图谱归并后的全局实体库与关系图谱
决策级融合多个来源说法不一致时,该信谁?源可信度建模、加权投票、D-S证据理论、贝叶斯网络综合置信度与攻击活动判定
多源情报融合关联流水线(本课题技术主线)
流水线各环节分别对应第2、3、4页的展开内容
说明:流水线为顺序主线,实际系统中各环节存在反馈回路(如活动重构结果可反向修正实体归并规则)。

设计原则一——不丢失证据:融合合并不是删除,所有归并决策必须保留来源证据链(哪条属性来自哪个源、何时获得),保证任何结论可回溯、可审计。
设计原则二——误合并优先于漏合并时要有刹车:实体归并宁可保守(疑似同实体先关联、暂不合并),因为误合并会把两个无关组织的情报搅在一起,污染面远大于漏合并。

05 · 核心研究内容总览

本课题围绕四大研究目标展开五项核心研究内容,全文各页覆盖关系如下:

编号研究内容要点展开位置
C1实体解析与IOC去重规范化规则、字符串相似度、证书与基础设施复用特征、合并与冲突消解策略第2页 §01—§08
C2威胁知识图谱构建STIX 2.1图模式设计、存储平台选型、构建流水线、工程挑战第3页 §01—§04、§11
C3关联挖掘与社区发现多跳路径查询、共同邻居、Louvain/Leiden社区发现、时空关联、ATT&CK映射第3页 §05—§10
C4多源置信度融合源可信度建模、加权投票、D-S证据理论、贝叶斯网络及其局限第4页 §01—§03
C5攻击活动重构活动聚类维度与算法、杀伤链与钻石模型映射、评估指标、人在回路第4页 §04—§07

06 · 关键技术与方法总览

  • 相似度计算:编辑距离(Levenshtein)、Jaccard系数、Jaro-Winkler、n-gram余弦相似度,面向域名的可注册主域级比较。
  • 基础设施复用特征:共享IP/自治域、被动DNS共现、TLS客户端/服务端指纹(JA3/JA3S)、证书SAN重叠与证书透明度日志。
  • 图存储与查询:基于STIX 2.1图模型,Neo4j(Cypher查询语言)或OpenCTI(GraphQL API)承载实体关系,支持多跳路径查询与子图挖掘。
  • 社区发现:Louvain模块度优化、Leiden算法(保证社区内部良好连接)、标签传播算法,用于攻击基础设施集群识别。
  • 置信度融合:基于源历史准确度的加权投票、Dempster-Shafer证据理论、贝叶斯网络三种方法对比选型。
  • 活动聚类:层次聚类、DBSCAN密度聚类,结合时间窗与基础设施共现特征的复合相似度。
  • ATT&CK映射:将行为与TTP映射至MITRE ATT&CK企业矩阵技术编号,以技术向量相似性辅助组织与活动归并。

07 · 研究边界与合规声明

合规与伦理声明:本课题全部技术路线以防御为目的,严格遵守《网络安全法》《数据安全法》《个人信息保护法》等法律法规。要点包括:①融合分析仅处理与威胁相关的技术数据(域名、IP、哈希、证书等),不采集与分析无关的个人信息;②情报共享遵循FIRST《Traffic Light Protocol (TLP) v2.0》分级约束,红色/琥珀色情报不得流向协议外对象;③跨组织交换情报时遵守共享协议约定,不将伙伴共享情报转售或用于约定外用途;④文中涉及的所有攻击渠道与手法仅用于理解威胁与构建防御,严禁用于任何未授权活动。

需要特别指出:实体归并与攻击归因属于分析判断而非事实断言。本课题输出的一切组织归属结论均标注证据强度与不确定性,避免将"基础设施重叠""代码相似"等弱特征直接表述为确定性归因,这是学术严谨性与法律合规的双重要求。

08 · 预期成果与交付物

  • 《多源情报融合框架与关联分析模型》研究报告一份
  • 基于OpenCTI的威胁知识图谱部署方案与图谱模式设计规范
  • IOC实体解析与去重算法原型(含相似度阈值调参指南)
  • 多源置信度融合评估指标体系(含源权重标定方法)
  • 攻击活动聚类重构方法及典型案例复盘集

10 · 研究方法与技术路线

研究方法在本课题中的应用对应产出
文献研究法系统梳理记录链接、社区发现、证据理论、成熟度模型的原始文献与近年进展(各页参考来源均给出可查出处)各页参考来源清单、§09研究综述
案例分析法选取0ktapus、Scattered Spider等公开披露充分、多源互证的事件,按本课题流水线逐步复盘(第7页)案例复盘集、教学沙盘素材
原型实验法在教学实验环境中部署OpenCTI+MISP最小流水线,以公开数据集(Tranco/DGArchive/OpenPhish)回放验证去重与聚类算法算法原型、阈值调参指南(标注:实验结果以本组织数据复测为准)
比较研究法对相似度度量、融合方法、图谱平台做多维对比选型(第2、3、4页对比表)选型决策矩阵
德尔菲法(专家咨询)源权重维度权重、活动边界判定的专家共识形成权重标定记录、一致性系数

技术路线总览:文献综述与需求分析 → 三级融合框架设计(第1页) → 实体解析算法研究与原型(第2页) → 图谱平台搭建与关联挖掘(第3页) → 置信度融合与活动重构方法(第4页) → 治理制度与合规框架(第5页) → 工程化与评估基准(第6页) → 反钓鱼场景验证与案例复盘(第7页) → 研究报告与课程/沙盘转化。各环节遵循"方法研究→原型验证→制度固化"三小步循环,任何环节的算法结论都要经过原型数据回放验证后才写入研究报告。

11 · 研究进度与里程碑(教学规划示意)

下表为本课题的教学性进度规划示意,用于展示研究管理的颗粒度要求;实际排期以立项任务书为准。

阶段时间窗关键任务里程碑(可验证交付)
第一阶段第1—2月文献综述、框架设计、数据源清单与合规预审三级融合框架v1.0通过评审;源清单含合规状态标注
第二阶段第3—5月实体解析算法原型、金标准集构造(双标注)去重Precision/Recall评测报告(金标准v1)
第三阶段第6—8月图谱平台搭建、社区发现与关联查询实现图谱部署方案+多跳查询演示环境
第四阶段第9—10月置信度融合引擎、活动重构、校准评测融合引擎v1.0+校准曲线报告
第五阶段第11—12月反钓鱼场景回放验证、案例复盘、报告定稿研究报告终稿+教学沙盘素材包

本节参考来源(第1页)

以下均为真实可查的权威来源(标准发布机构、官方项目站点、学术文献),用于支撑本页事实性表述。

[1]

OASIS《STIX Version 2.1》官方规范(2021年6月成为OASIS标准):docs.oasis-open.org/cti/stix/v2.1/os/stix-v2.1-os.html

[2]

OASIS《TAXII Version 2.1》官方规范:docs.oasis-open.org/cti/taxii/v2.1/os/taxii-v2.1-os.html

[3]

OpenCTI开源威胁情报平台(Filigran公司,STIX 2.1原生数据模型,GraphQL API):filigran.io/solutions/opencti/;开源代码库:github.com/OpenCTI-Platform/opencti

[4]

MISP开源威胁情报平台(对象与对象引用机制、Galaxies威胁行为者别名体系):misp-project.org

[5]

美国司法部2018年7月对12名GRU官员的起诉书(APT28公开归因的权威法律文件之一):justice.gov(页面为司法部公开新闻稿)

[6]

FIRST《Traffic Light Protocol (TLP) v2.0》(2022年8月发布):first.org/tlp

[7]

GB/T 36643-2018《信息安全技术 网络安全威胁信息格式规范》国家标准全文公开系统:openstd.samr.gov.cn

[8]

Lange, L. 等,《AnnoCTR: A Dataset for Detecting and Linking Entities, Tactics, and Techniques in Cyber Threat Reports》(LREC-COLING 2024,带ATT&CK标注的CTI报告实体语料,开源数据与代码):arxiv.org/abs/2404.07765