在人工智能技术飞速发展的今天，大模型已经成为推动产业变革的核心驱动力。本书立足于当前大模型安全领域的基础知识和前沿技术，系统探讨了大模型技术的演进历程、核心架构及其面临的多维度安全挑战。本书内容涵盖基础理论、关键技术和安全攻防体系，旨在为读者构建完整的大模型安全知识框架，助力构建安全可信的大模型生态系统。 本书不仅填补了大模型安全领域的理论空白，更为产业实践提供了系统化解决方案，对促进人工智能安全健康发展具有重要的理论价值和实践意义。 本书可作为高等院校网络空间安全、信息安全、密码科学与技术、人工智能和计算机等相关专业学生的教材和参考书。

周翰逊，博士，副教授，硕士生导师。中国计算机学会CCF会员。主要研究领域包括信息安全、人工智能和大数据等。主持或参与国家自然科学基金项目3项。在重要的学术期刊以及学术会议上发表论文20余篇，其中SCI检索，EI或ISTP检索10余篇。获得专利5项，其中，成果转化4项。曾获辽宁省自然科学学术成果三等奖1项、沈阳市自然科学学术成果三等奖1项。主要讲授《编译原理》、《Web程序设计》、《信息安全》等课程。主持或者参与教育部协同育人项目1项，辽宁省教学成果奖1项。主持或参与国家自然科学基金项目3项。在重要的学术期刊以及学术会议上发表论文20余篇，其中SCI检索，EI或ISTP检索10余篇。获得专利5项，其中，成果转化4项。曾获辽宁省自然科学学术成果三等奖1项、沈阳市自然科学学术成果三等奖1项。

前言
第1章大模型技术概述
11大模型的前世今生
111人工智能早期发展历程
112深度学习技术的崛起
113ChatGPT与大模型的兴起
12大模型的定义与分类
121大模型的定义
122大模型的特性
123大模型与小模型的区别
124大模型的分类
13大模型的基本原理与架构
131大模型的基本原理
132大模型的架构
133输入模块
134模型模块
135数据模块
136工具链模块
137输出模块
14本章小结
15习题
第2章大模型的安全体系
21大模型的安全风险
211输入模块风险
212数据模块风险
213模型模块风险
214工具链模块风险
215输出模块风险
22大模型的防御
221输入模块防御
222数据模块防御
223模型模块防御
224工具链模块防御
225输出模块防御
23本章小结
24习题
第3章提示词攻击与防御
31提示词
311提示词定义
312提示词的安全风险
32提示词攻击及其分类
321攻击形式
322攻击的执行方式
33威胁模型
331提示词攻击的场景
332攻击者的目的
333攻击者的知识和能力
34提示词直接注入攻击
341提示词泄露攻击
342目标劫持攻击
343越狱攻击
344提示词后门攻击
35其他提示词攻击
351代码注入
352ASCII艺术字
353伪装与重构
36提示词注入防御
361训练阶段防御
362推理阶段防御
37本章小结
38习题
第4章数据攻击与防御
41隐私泄露攻击
411隐私泄露的威胁模型
412推理攻击：间接隐私泄露
413梯度泄露攻击：直接数据重建
414PII泄露攻击：隐私泄露的终极目标
42投毒攻击
421投毒攻击的定义
422投毒攻击的威胁模型
423投毒攻击的方法
424投毒攻击的防御
43本章小结
44习题
第5章模型攻击与防御
51对抗攻击与防御
511对抗攻击的定义
512对抗攻击的威胁模型
513对抗攻击的分类
514对抗攻击的方法
515对抗攻击的防御
52后门攻击与防御
521后门攻击的定义
522后门攻击的威胁模型
523后门攻击的分类
524训练与微调阶段的后门攻击
525无须微调的后门攻击
526后门攻击的防御方法
53其他模型攻击
531能量-延迟攻击
532提取攻击
54本章小结
55习题
第6章大模型平台的安全
61大模型的软件平台安全
611平台自身漏洞
612深度学习框架安全
613依赖库安全
614安全防护措施
62大模型的硬件平台安全
621GPU计算平台安全
622内存与存储安全
623网络设备安全
63本章小结
64习题
第7章大模型的幻觉
71大模型幻觉的定义与分类
711幻觉的定义
712幻觉的分类
72大模型幻觉的产生根源
721数据因素导致的幻觉
722训练过程引发的幻觉
723推理过程产生的幻觉
73大模型幻觉的检测
731事实性幻觉的检测策略
732忠实性幻觉的检测策略
74大模型幻觉的抑制策略
741数据层面的幻觉抑制
742训练阶段的幻觉抑制
743推理阶段的幻觉抑制
75本章小结
76习题
第8章大模型水印
81水印
811水印的定义
812水印的分类
82传统数字水印
821传统数字水印的嵌入
822传统数字水印的提取
823传统数字水印的检测
83基于大语言模型的数字水印
831大模型水印的产生和定义
832大模型水印与传统数字水印的区别
84大模型水印的分类
841文本水印
842图像水印
843音频水印
844视频水印
845多模态水印
85本章小结
86习题