01 · OSINT接入原则与合规前提
开源情报(OSINT)是社区共享的"水源"。接入任何外部源之前,必须先过三道合规关:
- 许可关:确认数据源的使用条款——部分源禁止商业化再分发,社区对外共享前须取得再分发授权或仅作内部参考;
- 采集关:遵守目标站点的robots协议与速率限制,使用官方API/订阅通道优先于抓取网页;高频采集必须实现退避重试与流量整形;
- 内容关:开源源可能夹带个人信息或错误归因数据,须执行第3页§06同样的脱敏与审查流程——"开源"不等于"可任意共享"。
特别警示:暗网论坛、Telegram频道等非公开渠道的数据虽然情报价值高,但获取与传播在国内面临明确的法律风险(可能涉及《网络安全法》第二十七条与刑法相关条款),本课题明确不纳入社区数据源,仅作学术研究的公开文献参考。
02 · 国际主流开源情报源
2.1 abuse.ch平台群
abuse.ch是瑞士伯尔尼应用科技大学(BFH)主持的反恶意软件基础设施项目群,全部免费开放,是MISP默认Feeds的主要供给方:
| 平台 | 内容类型 | 特点与接入方式 |
|---|---|---|
| Feodo Tracker | 僵尸网络C2(Emotet/Dridex等) | 提供IP阻断清单与MISP Feed;其跟踪的多个僵尸网络数据集先后受2021年Emotet执法打击与2024年"终结者行动"(Operation Endgame)影响而清空,官方建议以Spamhaus BCL等清单作为替代参考;接入时应以当前可用数据集为准 |
| URLhaus | 分发恶意软件的URL | 社区驱动的恶意URL黑名单,支持JSON/CSV/MISP Feed导出,时效性以小时计 |
| MalwareBazaar | 恶意软件样本库(2020年3月上线) | 样本哈希与元数据查询,与YARA规则检索联动 |
| ThreatFox | IOC共享平台(2021年3月上线) | 覆盖C2、payload URL、攻击基础设施,支持按恶意软件家族检索,导出格式含MISP/CSV/Suricata/RPZ |
| SSL Blacklist | 恶意TLS证书/JA3指纹 | 基于JA3/JA3S指纹识别C2通信,适合加密流量检测场景 |
| YARAify | YARA规则检索与样本扫描 | 公开YARA规则库与匹配服务,辅助恶意样本家族归并 |
2.2 其他国际公共源
| 源 | 内容 | 接入要点 |
|---|---|---|
| CISA AIS | 美国政府与私营部门双向指标交换 | 免费,基于TAXII协议自动订阅(CISA提供多版本端点,接入时以官方当前文档为准);需完成成员注册并完成STIX配置 |
| AlienVault OTX | 社区威胁脉搏(Pulses)与指标库 | 免费API,注意其社区属性——指标置信度参差,须过本地置信度筛选 |
| Spamhaus DROP/EDROP | 垃圾邮件与恶意网络段 | 免费清单,适合边界阻断类消费 |
| PhishTank | 社区验证的钓鱼URL | 免费API,人工验证机制降低误报,但更新量相对有限 |
| URLhaus姊妹源:OpenPhish | 钓鱼URL馈送 | 免费版有延迟,商业版实时;评估预算与实效后决策 |
03 · 国内威胁情报生态(定性描述)
国内已成长出一批商业与半公共的情报供给方,构成社区数据水位的重要补充(以下为生态定性描述,不构成产品推荐):
| 类型 | 代表 | 接入形态 |
|---|---|---|
| 商业威胁情报平台 | 微步在线、奇安信威胁情报中心、安天、绿盟科技、360、腾讯安全等 | API订阅/本地部署TIP,含钓鱼域名、C2、APT组织等库;社区合作可争取公益接入 |
| 行业协作渠道 | 公共互联网反网络钓鱼工作组、APWG(国际) | 仿冒网站与钓鱼事件的成员通报与联合处置(本学院直接依托渠道) |
| 监管与技术机构 | CNCERT/CC、CNNIC | 安全事件通报、仿冒域名处置协调 |
生态位建议:开源源保证"宽度"(覆盖面广、零成本),商业源提供"深度"(上下文与置信度),行业渠道贡献"速度"(仿冒事件的第一时间通报)。社区水位设计应为三者建立统一的置信度加权层,而非简单堆叠(见§05)。
04 · 源评估与准入机制
并非所有源都值得接入。本课题建立五维准入评分(每维1—5分,总分低于15分或任何维度为1分的不予接入):
| 维度 | 评估要点 | 红灯信号 |
|---|---|---|
| 时效性 | 从威胁出现到指标发布的延迟;更新频率 | 日报级以下且无增量接口 |
| 覆盖度 | 地域(是否覆盖国内钓鱼目标)、类型(域名/URL/IP/样本)、行业 | 仅覆盖单一海外区域或单一类型 |
| 可信度 | 生产者资质、验证流程、历史误报率、是否可溯源 | 匿名发布、无验证机制、频繁误报 |
| 许可合规 | 再分发授权、商用限制、署名要求 | 禁止再分发或条款含糊 |
| 工程友好 | 标准格式(STIX/MISP Feed/JSON)、API稳定性、速率配额 | 仅提供网页人工查询 |
05 · 数据水位:聚合·去重·置信度继承
5.1 去重归一
同一IOC常出现在多个源(如URLhaus与ThreatFox重叠率高)。归一化键采用规范化后的值而非原文:域名转小写并去末尾点、URL做协议与端口规范化、IP去零填充。归一后维护"多源命中计数"——这正是第5页§07置信度计算与第4页质量指标的输入。
5.2 置信度继承规则
- 单源命中:置信度上限60,进入待验证队列;
- 双源独立命中:60—85,可进入共享队列(对应第4页§03"≥2独立来源"目标);
- 三源及以上或含行业渠道确认:85—95,可触发高危Push广播;
- 某源历史误报率超过社区均值2倍:其贡献的置信度自动打7折,直至评审复权(反情报污染机制)。
5.3 反向共享义务
社区对开源源的指标命中情况(sighting),在许可允许且完成脱敏的前提下,应回流给源平台——既是社区贡献(第3页信誉机制),也提升源数据质量,形成生态正循环。
06 · 社区运营机制
- 成员Onboarding:提交组织身份与联络人→签署共享协议(第3页§07)→颁发mTLS证书与MISP账号→试用社区(30天只读)→贡献首条有效情报后转正;
- 贡献指南:发布《IOC提交规范》——强制字段(类型、值、置信度、TLP、首次/末次观测时间、证据链接)、推荐字段(ATT&CK阶段、家族标签)、禁止项(个人信息、无验证的猜测性归因);
- 质量评审:新成员前10条贡献逐条人工复核;转正后按信誉分抽样复核;
- 争议处理:命中方认为指标有误→提交benign型Indicator与证据→治理委员会7日内仲裁→仲裁结果与理由全社区公示(学习效应);
- 透明治理:月度运营报告公开(指标总量、时延、误报率趋势——第4页指标体系的对外视图)。
07 · 成本控制与采集合规
- 预算构成:商业源订阅费、带宽与存储(日增百万级指标时的真实压力)、人力(源维护与评审);
- 节流手段:按消费端实际接入的系统裁剪源(EDR用哈希源、DNS用域名源)、设置单源日增上限、低频源降频采集;
- 速率纪律:所有采集器实现令牌桶限速与指数退避;对提供官方Feed的源绝不爬网页——既合规也省成本;
- 失效监测:对在线率、数据新鲜度、schema变更设自动告警,源失效超72小时自动降级出共享队列,防止"水位假象"。
08 · 钓鱼对抗专项数据源
针对本学院核心战场(钓鱼仿冒),构建专项数据面:
- 证书透明度日志(CT Log):监控目标品牌关键词的新增证书(证书透明度由RFC 6962定义),在仿冒站点上线初期即捕获域名——比黑名单快一个生命周期;
- Passive DNS:对仿冒域名做历史解析回溯,发现同一攻击者的基础设施集合( Infrastructure对象建模素材);
- URLhaus/PhishTank/OpenPhish:钓鱼URL类指标直接入社区绿名单级共享(TLP:CLEAR/GREEN);
- 行业通报:反钓鱼工作组成员单位的仿冒事件通报作为最高时效源,进入快速通道(第4页高危Push);
- 同源归并:同一钓鱼 kit 的批量仿冒页面(同HTML模板、同资源指纹)应归并为一个Campaign对象关联多个Indicator,避免向消费端倾倒近重复指标。
09 · MISP生态常用Feed与公共源清单
以下源均为MISP社区长期维护、可直接接入的公共数据源(真实项目,接入前仍须执行§01三道合规关):
| 源 | 内容 | 接入形态 |
|---|---|---|
| CIRCL OSINT Feed | CIRCL(卢森堡计算机事件响应中心)运营的开源指标集合 | MISP Feed默认列表内置,开箱接入 |
| Botvrij.eu Feed | 欧洲社区维护的MISP Feed(恶意软件指标为主) | MISP Feed默认列表内置 |
| DigitalSide Threat-Intel Feed | 意大利DigitalSide维护的OSINT指标集合(域名/URL/IP/哈希) | MISP Feed / JSON / CSV多格式导出 |
| abuse.ch四平台Feed | URLhaus(恶意URL)、ThreatFox(IOC)、MalwareBazaar(样本哈希)、SSL Blacklist(JA3指纹) | MISP Feed / CSV / JSON / Suricata / RPZ导出 |
| Shadowserver | 非营利基金会运营的网络扫描与威胁报告(按国家/ASN订阅) | 每日报告邮件与API订阅,辅助态势参考(非MISP Feed) |
| Spamhaus DROP/EDROP | 不应路由的垃圾邮件与恶意网络段清单 | 文本清单,边界设备直接加载 |
接入提示:abuse.ch于2024年11月18日在官方公告中引入Auth-Key认证(免费申请),并自2025年6月30日起对全部平台(URLhaus、ThreatFox、MalwareBazaar、Feodo Tracker等)的API访问强制要求认证——历史无认证调用方式已失效。接入时以abuse.ch官方公告与文档为准,并将认证凭据纳入密钥轮换清单(第2页§04证书/密钥运营纪律)。
10 · 采集工程基线
采集环节的工程质量直接决定数据水位的可信度。四条基线纪律(本课题工程规范):
11 · 情报源分级目录与差异化运营
源数量不等于水位质量。本课题建议社区将已准入源编入三级目录(本课题运营框架,非外部标准),按级别配置差异化同步策略、配额与失效处置:
| 级别 | 包含源(示例) | 同步策略 | 失效处置 |
|---|---|---|---|
| Tier 1 战略源 | 反钓鱼工作组成员通报、行业主管部门渠道、CISA AIS | 分钟级Push优先通道;内容优先进入高危广播评估 | 中断30分钟即告警并启动人工确认;替代通道按L2/L3预案(第4页§11) |
| Tier 2 核心开源源 | abuse.ch平台群、PhishTank、Spamhaus清单 | 15—60分钟级增量轮询;双源去重后进入共享队列 | 失效超2小时降级为待验证队列;超72小时自动移出共享(§07水位假象防线) |
| Tier 3 补充参考源 | Shadowserver报告、低优先级社区Feed | 日级批处理;仅作态势参考与背景富化 | 失效不影响共享水位,按周巡检恢复 |
- 升级与降级的客观依据:仅以§04五维评分与§10采集基线的客观数据(时效、误报、在线率)触发级别调整,评审结论留痕;
- 配额隔离:Tier 3源设置严格日增上限与独立解析队列,防止低质源挤占置信度计算资源;
- 目录透明:三级目录及调整记录对全体成员公开——源治理与情报分级一样,透明度即信誉。
本节参考来源(第6页)
以下均为项目官方网站;平台上线时间与数据集状态以各站当前公告为准。
abuse.ch项目群(Feodo Tracker / URLhaus / MalwareBazaar / ThreatFox / SSL Blacklist / YARAify):abuse.ch;Auth-Key认证新政官方公告(2024-11-18发布,2025-06-30起强制):abuse.ch/blog/community-first
ThreatFox平台:threatfox.abuse.ch;URLhaus:urlhaus.abuse.ch
CISA Automated Indicator Sharing:cisa.gov/ais
AlienVault Open Threat Exchange:otx.alienvault.com
Spamhaus DROP清单:spamhaus.org/drop;PhishTank:phishtank.org
证书透明度日志标准RFC 6962:rfc-editor.org/rfc/rfc6962;CT查询服务crt.sh:crt.sh
MISP默认Feeds文档:misp-project.org/feeds