人工智能与网络

空间安全

汇报人：许天翔
xtxxueyan (UID: 15859)
师从 玄道

主要关注：网络安全结合人工智能、数据挖掘（如舆情
预警、恶意流量识别、恶意代码识别）、对抗样本攻击、
区块链智能合约等方向。
 目录
CONTENTS

AI在网络安全的 AI模型安全与隐 针对AI赋能安全 AI时代网络空间

应用 私 的攻击 安全新挑战
AI基础知识

人工智能、机器学习与深度学习之间的关系
AI基础知识
AI基础知识
AI基础知识

机器学习的两大类任务：
AI基础知识
AI基础知识
AI基础知识
 AI基础知识

机器学习算法成为热门学科，涵盖多种数据挖掘、智能预测算法

图 机器学习算法
AI基础知识

图 一般有监督机器学习的工作流程框
架
AI基础知识
假设你是一名房地产经纪人，你的生意蒸蒸日上，因此你雇了一批新员工来帮
忙。但是问题来了——虽然你可以一眼估算出房子的价格，但新员工却不像你
这样经验丰富，他们不知道如何给房子估价，那如何帮助他们来房子估价呢？

这就是我们的
「训练数据」
AI基础知识

使用这些训练数据，我们要来编写一个能够估算该地区其他房屋价值的程序

我们希望使用这些训练数据的规律来预测其他房屋的价格
PART ONE

AI在网络安全的应用
AI的广泛应用

2010年~至今，深度学习算法迅速发展，在各行各业得到广泛应用
AI的广泛应用
由于ChatGPT包含了更多主题的数据，能够处理更多小众主题, ChatGPT可以覆盖回
答问题、撰写文章、文本摘要、语言翻译和生成计算机代码等任务
AI与恶意应用（Malware）识别

将待检测的 PE 二进制格式可执行代码在虚拟机或沙箱中运行，监控并记录所产生的系统 API 调

用序列，然后，对API 序列进行特征工程转化为特征向量，并输入到机器学习模型进行检测分类

图 基于机器学习的 PE 二进制恶意代码分析检测方案
AI与网络入侵检测系统

入侵检测系统Intrusion Detection System（IDS）是一种安全工具，旨在检测计算机系统、网络或应用

程序中的恶意活动和安全漏洞
网络入侵检测系统 Network Intrusion Detection System (NIDS)
基于AI的NIDS 有两个主要组件：特征提取器和异常检测器
AI与Webshell 恶意流量识别

利用人工智能技术提高 Webshell 样本分析的效率，实现对样本通信流量的自动化采集与特征提取，

构建精准的检测模型并支持自动化规则抽取

图 Webshell 智能检测与规则自动化提取技术方案示意图
AI与域名检测

针对域名生成算法(DGA)生成的域名的多样性、多语言性，提出一套基于静态特征的组合算法，其中
N-gram 模型针对随机字符型 DGA 域名，LSTM 模型针对单词组合型 DGA 域名，拼音特征和拼音加
强数据集是针对中文语境下的加强，最后将多模型组合起来综合评估

图 兼容拼音域名的多层自适应 DGA 域名检测方法

PART TWO

AI模型安全与隐私
AI模型安全与隐私

亚马逊AI招聘算法性别歧视 多款AI医疗软件存在偏见 谷歌AI将黑人识别成大猩猩

AI模型安全与隐私

对
抗
攻
击
AI模型安全与隐私

对
抗
攻
击
AI模型安全与隐私

对
抗
攻
击
AI模型安全与隐私

模型窃取攻击
AI模型安全与隐私
Machine Learning as a Service
AI模型安全与隐私

后门攻击
AI模型安全与隐私

横向联邦学习中的模型窃取攻击/破坏攻击
AI模型安全与隐私

纵向联邦学习中的标签推理攻击
PART THREE

针对AI赋能安全的攻击
针对NIDS的对抗攻击

• 特征层面的对抗攻击Feature-Level Attacks (FLA)

• 流量层面的对抗攻击Traffic-Level Attacks (PLA)
针对NIDS的对抗攻击

特征层面的对抗攻击
针对NIDS的对抗攻击

特征层面的对抗攻击
针对NIDS的对抗攻击
流量层面的对抗攻击

Practical Traffic-space Adversarial Attacks on Learning-based NIDSs.

针对NIDS的对抗攻击
流量层面的对抗攻击
针对恶意应用分类模型的对抗攻击

SHADOWDROID: Practical Black-box Attack against ML-based Android Malware Detection.

针对恶意应用分类模型的后门攻击

Explanation-Guided Backdoor Poisoning Attacks Against Malware Classifiers.

PART FOUR

AI时代网络空间安全新
挑战
AI时代网络空间安全新挑战

人工智能系统本身存在脆弱性也可能受到攻击或欺骗，从而导致错误的
分类或预测结果

AI是把双刃剑，攻击者也可能采用基于人工智能的工具来实施网络攻击
行为

攻击者可能使用人工智能生成和伪造具有欺骗性的信息，如新型黑客机
器人——“Deep fake”
 AI时代网络空间安全新需求

人工智能应用于安全、人工智能赋能安全、乃至人工智能重塑安全已经成为
大势所趋

提升复杂数 • 传统的安全特征分析技术难对海量安全信息进行分析处理，需要引入人
01 据分析能力 工智能辅助分析

提升自适应 • 在日益复杂的安全环境中实现主动防御成为巨大挑战，需要引入人工智
02 防护能力 能进行自适应防护

辅助降低专 • 纯粹依靠人工的方式对日趋复杂的攻击行为进行分析，已成为不可能完
03 业技能要求 成的任务， 需要引入人工智能分析降低专业依赖度
THANKS
感谢您的观看
汇报人：许天翔
汇报人：TotinSlide