01 · 研究背景与意义
1.1 信息孤岛:情报越多,噪音越大
威胁情报的生产者遍布全球:商业情报厂商、开源社区、行业共享组织、政府部门、安全研究团队,各自独立命名、独立评级、独立发布。其直接后果是同一威胁的多重碎片化表达。以被公开归因于俄罗斯军事情报机构(GRU)的攻击组织为例,该组织在不同机构的报告中分别被称为:APT28(Mandiant/FireEye编号体系)、Fancy Bear(CrowdStrike命名)、Sofacy与Sednit(卡巴斯基命名)、Strontium(微软命名)、Pawn Storm(趋势科技命名)。如果情报平台不做实体归并,这五份报告中的IOCs、TTP与受害目标将无法汇聚到同一个组织名下,分析人员看到的是五个"不同"的对手。
| 组织 | 公开别名(示例) | 命名方 |
|---|---|---|
| APT28 | Fancy Bear / Sofacy / Sednit / Strontium / Pawn Storm | FireEye/Mandiant、CrowdStrike、卡巴斯基、微软、趋势科技等 |
| FIN7 | Carbon Spider;其部分工具链历史上与Carbanak家族报告交织 | CrowdStrike及多家厂商 |
| Lazarus Group | Diamond Sleet(微软2023年威胁 actor 命名体系调整后的名称) | 微软等 |
注:上表均为各厂商公开报告中的命名,仅用于说明"同一实体、多源异名"问题,不代表本课题对归因结论的独立背书;归因本身属于分析判断,存在公开争议空间。
碎片化的代价是具体的:重复告警消耗分析人力(同一条IOC被五个源各报一次,SOC看到的是五倍工作量);威胁画像无法累计(无法回答"这个组织一年来攻击过我们几次");基础设施复用无法识别(同一台服务器 hosting 的多个钓鱼域名被当作孤立事件分别处置)。
从产业侧看,多源情报供给已形成层次分明的生态:商业情报厂商(如微步在线、奇安信、腾讯安全、天际友盟等)、开源情报社区(MISP生态、OpenCTI社区及各类OSINT项目)与政府/行业共享渠道并存,供给侧的多样化正是“多源融合”需求持续增长的根本背景——组织几乎必然同时消费多个来源,融合能力从“可选”变为“必选”。说明:国内威胁情报市场规模与厂商份额的统计口径分散且多数不公开,本课题不引用无法溯源的具体数字;有需要的读者可参考中国网络安全产业联盟(CCIA)年度产业分析报告等公开资料自行核实。
1.2 融合与关联是情报价值放大的必经环节
数据融合(Data Fusion)是多传感器信息处理领域的成熟概念,美国联合指挥实验室(JDL, Joint Directors of Laboratories)数据融合过程组提出的融合分级模型(Level 0 信号评估、Level 1 实体评估、Level 2 态势评估、Level 3 影响评估)长期被情报界借鉴。本课题将其工程化为三个可操作层级:数据级融合(清洗、去重、归一)、特征级融合(实体解析、关系发现)、决策级融合(置信度综合、活动判定)。知识图谱与实体解析技术为这一路径提供了工程基础——STIX 2.1标准本身就是图结构模型,OpenCTI等开源平台已验证了图模型承载威胁实体统一管理的可行性。
1.3 与迪妙反钓鱼业务的直接关联
钓鱼对抗是典型的关联密集型场景:钓鱼URL极少孤立存在,它们通常成批注册、共享解析IP、复用页面模板与证书基础设施。只有将分散的钓鱼URL聚类为"钓鱼活动",才能实现批量域名处置、封禁清单生成与攻击者手法画像,这正是学院攻防演练沙盘与识别指南课程最需要的数据能力。
核心科学问题:如何让机器在多源、异名、异质、异置信度的威胁数据中,自动回答三个问题——"这是不是同一个东西(实体同一性)""它们之间是什么关系(关联发现)""我们该多相信这个结果(置信度综合)"。本课题全部工作围绕这三个问题的工程化展开。
02 · 研究目标与关键问题
- 实体同一性判定:基于域名相似度、IP归属、证书指纹、基础设施重叠等特征,实现跨源IOC与威胁实体(组织、恶意软件、基础设施)的去重合并。
- 全局视图构建:建立覆盖威胁行为者、入侵组织、恶意软件、基础设施、漏洞、目标行业的威胁知识图谱,支持多跳路径查询与社区发现。
- 置信度融合:综合多个相互独立的情报源对同一威胁的评估,输出比任何单一来源更可靠的综合置信度。
- 攻击活动重构:将分散的IOC、TTP与受害者报告聚类为完整攻击活动(Campaign),还原攻击全貌与攻击链。
2.1 四个关键研究问题
| 编号 | 关键问题 | 内涵说明 | 对应章节 |
|---|---|---|---|
| KQ-1 | 实体同一性判定 | 跨源的两个IOC(域名/哈希/IP)是否为同一实体?阈值如何设定才能既不漏合并不误合并? | 第2页 |
| KQ-2 | 图谱模式设计 | 实体与关系如何建模,才能同时满足机器推理与分析师查询的需求? | 第3页 |
| KQ-3 | 置信度综合 | 多个独立来源评估冲突时,如何输出可解释的综合置信度?高冲突如何处理? | 第4页 |
| KQ-4 | 活动聚类重构 | 时间、基础设施、TTP、目标四个维度的碎片证据,如何聚类为有研判价值的攻击活动? | 第4页 |
03 · 课题在威胁情报生命周期中的定位
本课题位于威胁情报生命周期的处理与分析阶段:上游消费子课题01(威胁情报收集与标准化)产出的STIX 2.1 / GB/T 36643-2018标准化情报,下游支撑子课题04(情报驱动的主动防御)的检测规则生成与子课题06(暗网监测与追踪)的线索关联需求。没有上游的标准化输入,融合与关联就退化为格式纠缠;没有本课题的融合关联,上游采集的数据只能以原始形态堆积,无法形成态势。
04 · 融合关联总体框架:三级融合
本课题将多源情报融合拆分为三个递进的层级,每一层依赖上一层的结果,共同构成完整的融合关联流水线:
| 融合层级 | 回答的问题 | 核心技术 | 产出物 |
|---|---|---|---|
| 数据级融合 | 这条记录和那条记录是不是同一条? | 规范化、精确去重、近似去重、冲突共存 | 干净、无重复的情报记录集 |
| 特征级融合 | 这两个"不同"的实体实际上是同一个吗? | 相似度计算、实体解析、基础设施复用特征、知识图谱 | 归并后的全局实体库与关系图谱 |
| 决策级融合 | 多个来源说法不一致时,该信谁? | 源可信度建模、加权投票、D-S证据理论、贝叶斯网络 | 综合置信度与攻击活动判定 |
设计原则一——不丢失证据:融合合并不是删除,所有归并决策必须保留来源证据链(哪条属性来自哪个源、何时获得),保证任何结论可回溯、可审计。
设计原则二——误合并优先于漏合并时要有刹车:实体归并宁可保守(疑似同实体先关联、暂不合并),因为误合并会把两个无关组织的情报搅在一起,污染面远大于漏合并。
05 · 核心研究内容总览
本课题围绕四大研究目标展开五项核心研究内容,全文各页覆盖关系如下:
| 编号 | 研究内容 | 要点 | 展开位置 |
|---|---|---|---|
| C1 | 实体解析与IOC去重 | 规范化规则、字符串相似度、证书与基础设施复用特征、合并与冲突消解策略 | 第2页 §01—§08 |
| C2 | 威胁知识图谱构建 | STIX 2.1图模式设计、存储平台选型、构建流水线、工程挑战 | 第3页 §01—§04、§11 |
| C3 | 关联挖掘与社区发现 | 多跳路径查询、共同邻居、Louvain/Leiden社区发现、时空关联、ATT&CK映射 | 第3页 §05—§10 |
| C4 | 多源置信度融合 | 源可信度建模、加权投票、D-S证据理论、贝叶斯网络及其局限 | 第4页 §01—§03 |
| C5 | 攻击活动重构 | 活动聚类维度与算法、杀伤链与钻石模型映射、评估指标、人在回路 | 第4页 §04—§07 |
06 · 关键技术与方法总览
- 相似度计算:编辑距离(Levenshtein)、Jaccard系数、Jaro-Winkler、n-gram余弦相似度,面向域名的可注册主域级比较。
- 基础设施复用特征:共享IP/自治域、被动DNS共现、TLS客户端/服务端指纹(JA3/JA3S)、证书SAN重叠与证书透明度日志。
- 图存储与查询:基于STIX 2.1图模型,Neo4j(Cypher查询语言)或OpenCTI(GraphQL API)承载实体关系,支持多跳路径查询与子图挖掘。
- 社区发现:Louvain模块度优化、Leiden算法(保证社区内部良好连接)、标签传播算法,用于攻击基础设施集群识别。
- 置信度融合:基于源历史准确度的加权投票、Dempster-Shafer证据理论、贝叶斯网络三种方法对比选型。
- 活动聚类:层次聚类、DBSCAN密度聚类,结合时间窗与基础设施共现特征的复合相似度。
- ATT&CK映射:将行为与TTP映射至MITRE ATT&CK企业矩阵技术编号,以技术向量相似性辅助组织与活动归并。
07 · 研究边界与合规声明
合规与伦理声明:本课题全部技术路线以防御为目的,严格遵守《网络安全法》《数据安全法》《个人信息保护法》等法律法规。要点包括:①融合分析仅处理与威胁相关的技术数据(域名、IP、哈希、证书等),不采集与分析无关的个人信息;②情报共享遵循FIRST《Traffic Light Protocol (TLP) v2.0》分级约束,红色/琥珀色情报不得流向协议外对象;③跨组织交换情报时遵守共享协议约定,不将伙伴共享情报转售或用于约定外用途;④文中涉及的所有攻击渠道与手法仅用于理解威胁与构建防御,严禁用于任何未授权活动。
需要特别指出:实体归并与攻击归因属于分析判断而非事实断言。本课题输出的一切组织归属结论均标注证据强度与不确定性,避免将"基础设施重叠""代码相似"等弱特征直接表述为确定性归因,这是学术严谨性与法律合规的双重要求。
08 · 预期成果与交付物
- 《多源情报融合框架与关联分析模型》研究报告一份
- 基于OpenCTI的威胁知识图谱部署方案与图谱模式设计规范
- IOC实体解析与去重算法原型(含相似度阈值调参指南)
- 多源置信度融合评估指标体系(含源权重标定方法)
- 攻击活动聚类重构方法及典型案例复盘集
10 · 研究方法与技术路线
| 研究方法 | 在本课题中的应用 | 对应产出 |
|---|---|---|
| 文献研究法 | 系统梳理记录链接、社区发现、证据理论、成熟度模型的原始文献与近年进展(各页参考来源均给出可查出处) | 各页参考来源清单、§09研究综述 |
| 案例分析法 | 选取0ktapus、Scattered Spider等公开披露充分、多源互证的事件,按本课题流水线逐步复盘(第7页) | 案例复盘集、教学沙盘素材 |
| 原型实验法 | 在教学实验环境中部署OpenCTI+MISP最小流水线,以公开数据集(Tranco/DGArchive/OpenPhish)回放验证去重与聚类算法 | 算法原型、阈值调参指南(标注:实验结果以本组织数据复测为准) |
| 比较研究法 | 对相似度度量、融合方法、图谱平台做多维对比选型(第2、3、4页对比表) | 选型决策矩阵 |
| 德尔菲法(专家咨询) | 源权重维度权重、活动边界判定的专家共识形成 | 权重标定记录、一致性系数 |
技术路线总览:文献综述与需求分析 → 三级融合框架设计(第1页) → 实体解析算法研究与原型(第2页) → 图谱平台搭建与关联挖掘(第3页) → 置信度融合与活动重构方法(第4页) → 治理制度与合规框架(第5页) → 工程化与评估基准(第6页) → 反钓鱼场景验证与案例复盘(第7页) → 研究报告与课程/沙盘转化。各环节遵循"方法研究→原型验证→制度固化"三小步循环,任何环节的算法结论都要经过原型数据回放验证后才写入研究报告。
11 · 研究进度与里程碑(教学规划示意)
下表为本课题的教学性进度规划示意,用于展示研究管理的颗粒度要求;实际排期以立项任务书为准。
| 阶段 | 时间窗 | 关键任务 | 里程碑(可验证交付) |
|---|---|---|---|
| 第一阶段 | 第1—2月 | 文献综述、框架设计、数据源清单与合规预审 | 三级融合框架v1.0通过评审;源清单含合规状态标注 |
| 第二阶段 | 第3—5月 | 实体解析算法原型、金标准集构造(双标注) | 去重Precision/Recall评测报告(金标准v1) |
| 第三阶段 | 第6—8月 | 图谱平台搭建、社区发现与关联查询实现 | 图谱部署方案+多跳查询演示环境 |
| 第四阶段 | 第9—10月 | 置信度融合引擎、活动重构、校准评测 | 融合引擎v1.0+校准曲线报告 |
| 第五阶段 | 第11—12月 | 反钓鱼场景回放验证、案例复盘、报告定稿 | 研究报告终稿+教学沙盘素材包 |
本节参考来源(第1页)
以下均为真实可查的权威来源(标准发布机构、官方项目站点、学术文献),用于支撑本页事实性表述。
OASIS《STIX Version 2.1》官方规范(2021年6月成为OASIS标准):docs.oasis-open.org/cti/stix/v2.1/os/stix-v2.1-os.html
OASIS《TAXII Version 2.1》官方规范:docs.oasis-open.org/cti/taxii/v2.1/os/taxii-v2.1-os.html
OpenCTI开源威胁情报平台(Filigran公司,STIX 2.1原生数据模型,GraphQL API):filigran.io/solutions/opencti/;开源代码库:github.com/OpenCTI-Platform/opencti
MISP开源威胁情报平台(对象与对象引用机制、Galaxies威胁行为者别名体系):misp-project.org
美国司法部2018年7月对12名GRU官员的起诉书(APT28公开归因的权威法律文件之一):justice.gov(页面为司法部公开新闻稿)
FIRST《Traffic Light Protocol (TLP) v2.0》(2022年8月发布):first.org/tlp
GB/T 36643-2018《信息安全技术 网络安全威胁信息格式规范》国家标准全文公开系统:openstd.samr.gov.cn
Lange, L. 等,《AnnoCTR: A Dataset for Detecting and Linking Entities, Tactics, and Techniques in Cyber Threat Reports》(LREC-COLING 2024,带ATT&CK标注的CTI报告实体语料,开源数据与代码):arxiv.org/abs/2404.07765