正在开发网络防御系统，以自动获取包含半结构化数据/文本的网络威胁情报（CTI），以填充知识图谱。一个潜在的风险是，假CTI可以通过开源情报(OSINT)社区或Web生成和传播，从而对这些系统造成数据中毒攻击。对手可以使用假CTI示例作为训练输入来破坏网络防御系统，迫使模型学习不正确的输入以满足其恶意需求。

利用变化自动生成虚拟网络威胁情报（CTI）文本描述。研究表明，在初始提示句下，GPT-2等公共语言模型经过微调，可以生成具有破坏网络防御系统能力的可信的网络威胁情报文本。利用生成的虚假网络威胁情报（CTI）文本对网络安全知识图谱（CKG）和网络安全语料库进行数据病毒攻击。病毒攻击带来了负面影响，如返回不正确的推理输出，表示中毒，和其他依赖AI的网络防御系统的损害。我们用传统方法进行评估，并与网络安全专业人员和威胁搜索者进行人类评估研究。根据这项研究，专业的威胁搜寻者同样可能认为我们伪造的网络威胁情报（CTI）是真的。

索引术语——网络安全、网络威胁情报、人工情报、数据中毒攻击

一、导言

社交媒体、暗网、安全博客和新闻等开源平台在为网络安全社区提供网络威胁情报(CTI)发挥着重要作用。这种基于开源情报(OSINT)的威胁情报，通过分析在开放网络发现的恶意软件以及情报界（IntelligenceCommunity）获得的恶意软件，补充了IBM、Virtustotal或Man-diant等公司收集的数据源。CTI是与分析人员和系统共享的关于网络安全威胁和威胁行为者的信息，以帮助发现和减轻有害事件。CTI可以用诸如结构化威胁信息表达(STIX)和恶意软件信息共享平台(MISP)的格式作为文本或作为半结构化数据与某些文本字段共享。最近的研究已经表明，文本分析方法如何能够被用于将自由文本威胁信息转换为更结构化的形式，甚至被提取到防御系统中，以实现检测。

尽管开源威胁情报有很多明显的好处，但在这些平台上处理错误信息是日益令人

转载请注明:http://www.aideyishus.com/lkzp/241.html