图书详情

配套资源图书内容样章/电子教材图书评价

配套资源
本书资源

本书暂无资源
会员上传本书资源
为本书上传资源

图书内容

内容简介

《人工智能安全治理与技术》一书由魏薇、景慧昀、郭启全等编著，共九章，主要介绍人工智能安全基础概念及国内外人工智能安全治理情况；保障人工智能自身安全的治理框架以及面向数据、算法、平台、业务四个人工智能系统关键组件的保护措施和关键技术；人工智能赋能网络空间安全的潜在方向和典型案例。该书是高等院校网络空间安全专业培养人工智能安全方向实战化人才的重要教材。本书可作为网络空间安全专业的专业课教材，适合网络空间安全专业、信息安全专业以及相关专业的大学生、研究生系统学习，也适合各单位各部门从事网络安全工作者、科研机构和网络安全企业的研究人员阅读。

图书详情

ISBN：9787121510564

开本：16开

页数：236

字数：377.6

本书目录

第1章  人工智能安全绪论
1.1 人工智能概念及发展历程  / 1
1.1.1 人工智能概念  / 1
1.1.2 人工智能三个学派  / 2
1.1.3 人工智能发展七阶段  / 3
1.2 人工智能安全研究范围  / 7
1.2.1 概述  / 7
1.2.2 人工智能自身安全  / 8
1.2.3 人工智能赋能网络安全  / 11
1.3 人工智能安全与网络空间安全  / 16
1.3.1 网络空间安全定义  / 16
1.3.2 人工智能安全定义  / 17
1.3.3 两者的区别与联系  / 18
习题  / 19
第2章  国际人工智能安全治理 
2.1 全球人工智能安全治理情况概述  / 21
2.1.1 实施国家战略  / 21
2.1.2 加强政府监管  / 22
2.1.3 贯彻伦理准则  / 23
2.1.4 强化标准引导  / 23
2.2 主要国家人工智能安全治理相关战略规划  / 23
2.2.1 明确强调安全保障要求  / 23
2.2.2 推动出台安全监管措施  / 24
2.2.3 出台新人工智能战略  / 25
2.3 主要国家人工智能安全治理相关法律法规  / 25
2.3.1 加强算法安全性监管  / 25
2.3.2 加强数据安全治理  / 26
2.3.3 出台专项法律制度  / 26
2.3.4 加强重点领域立法  / 27
2.4 主要国家人工智能安全治理相关伦理准则  / 27
2.4.1 贯彻落实人工智能伦理准则  / 28
2.4.2 维护人工智能伦理价值观  / 28
2.5 主要国家人工智能安全相关标准规范  / 28
2.5.1 ISO/IEC的标准研制  / 31
2.5.2 ITU-T的标准研制  / 32
2.5.3 ETSIT的标准研制  / 32
2.5.4 IEEE的标准研制  / 32
2.5.5 NIST的标准研制  / 33
习题  / 34
第3章  我国人工智能安全治理
3.1 我国人工智能治理情况概述  / 35
3.1.1 治理体系不断完善  / 35
3.1.2 治理方式双管齐下  / 36
3.1.3 治理思路双线并行  / 36
3.2 我国人工智能战略规划  / 38
3.2.1 点状治理阶段（2013—2017年）  / 38
3.2.2 回应治理阶段（2017—2020年）  / 38
3.2.3 集中治理阶段（2020年至今）  / 40
3.3 我国人工智能法律法规  / 40
3.3.1 整体情况  / 40
3.3.2 算法治理  / 40
3.3.3 制度规范  / 41
3.3.4 地方政策  / 42
3.4 我国人工智能伦理治理  / 42
3.5 我国人工智能行政监管  / 44
3.5.1 算法备案制度  / 44
3.5.2 安全评估制度  / 45
3.6 我国人工智能标准规范  / 45
习题  / 48
第4章  人工智能安全治理框架
4.1 总体思路  / 49
4.1.1 框架范围  / 49
4.1.2 治理原则  / 49
4.1.3 核心要素  / 50
4.2 人工智能安全治理框架  / 51
4.2.1 安全目标  / 52
4.2.2 安全属性  / 53
4.2.3 治理手段  / 53
4.2.4 保护对象  / 54
4.2.5 安全措施  / 55
4.2.6 安全能力  / 55
习题  / 58
第5章  人工智能数据安全
5.1 训练数据安全风险  / 59
5.1.1 训练数据违规获取  / 59
5.1.2 训练数据包含违法不良内容  / 60
5.1.3 训练数据投毒污染  / 60
5.1.4 训练数据质量低  / 60
5.1.5 训练数据多样性弱  / 61
5.1.6 训练数据泄露  / 61
5.2 训练数据安全保护措施  / 62
5.2.1 训练数据合规获取  / 62
5.2.2 不良训练数据检测  / 62
5.2.3 训练数据投毒污染检测  / 63
5.2.4 低质量训练数据检测与处理  / 63
5.2.5 训练数据多样性检测及增强  / 64
5.2.6 训练数据中个人信息检测和隐私保护  / 64
5.3 训练数据安全保护技术  / 65
5.3.1 训练数据投毒污染检测技术  / 65
5.3.2 违法不良训练数据检测技术  / 69
5.3.3 训练数据泄露防范技术  / 76
习题  / 88
第6章  人工智能算法模型安全
6.1 算法模型安全风险  / 91
6.1.1 提示注入攻击  / 91
6.1.2 鲁棒性差  / 92
6.1.3 模型窃取攻击  / 92
6.1.4 模型“幻觉”  / 92
6.1.5 偏见歧视  / 93
6.1.6 模型可解释性差  / 94
6.2 算法模型安全保护措施  / 94
6.2.1 防范提示注入攻击  / 94
6.2.2 优化模型鲁棒性  / 95
6.2.3 防范模型窃取攻击  / 96
6.2.4 缓解模型“幻觉”  / 97
6.2.5 减小模型偏见歧视  / 98
6.2.6 优化模型可解释性  / 98
6.3 算法模型安全保护关键技术  / 99
6.3.1 算法鲁棒性增强技术  / 99
6.3.2 算法可解释性增强技术  / 102
6.3.3 算法公平性保障技术  / 104
6.3.4 模型“幻觉”缓解技术  / 109
6.3.5 模型窃取攻击的防御技术  / 117
习题  / 132
第7章  人工智能平台安全
7.1 平台安全风险  / 135
7.1.1 开发框架安全风险  / 135
7.1.2 大模型插件安全风险  / 136
7.2 平台安全保护措施  / 137
7.2.1 开发框架安全保护  / 137
7.2.2 大模型插件安全保护  / 138
7.3 平台安全保护技术  / 139
7.3.1 开发框架安全保护技术  / 139
7.3.2 大模型插件安全保护技术  / 161
习题  / 167
第8章  人工智能应用安全
8.1 应用安全风险  / 169
8.1.1 不良信息生成  / 169
8.1.2 滥用和恶意使用  / 170
8.1.3 系统安全漏洞  / 170
8.2 应用安全保护措施  / 170
8.2.1 应用安全管理  / 170
8.2.2 不良信息生成防范  / 171
8.2.3 滥用和恶意使用防范  / 173
8.2.4 系统安全加固  / 174
8.3 应用安全保护技术  / 175
8.3.1 不良信息生成防范  / 175
8.3.2 红蓝对抗  / 194
8.3.3 系统安全加固  / 198
习题  / 205
第9章  人工智能赋能网络空间安全
9.1 网络空间安全面临的挑战与机遇  / 207
9.1.1 概述  / 207
9.1.2 网络空间安全面临的挑战  / 208
9.1.3 人工智能为网络空间安全带来的机遇  / 208
9.2 人工智能赋能网络空间安全  / 211
9.2.1 赋能网络安全  / 211
9.2.2 赋能数据安全  / 215
9.2.3 赋能信息安全  / 217
9.3 人工智能赋能网络空间安全应用案例  / 218
9.3.1 人工智能应用于网络安全态势感知  / 218
9.3.2 人工智能应用于敏感数据识别  / 219
9.3.3 人工智能应用于诈骗电话检测  / 220
习题  / 220

展开

前言

人工智能作为引领新一轮科技革命和产业变革的战略性技术，正成为世界大国推动科技跨越式发展、实现产业优化升级、赢得全球竞争主动权的重要战略抓手。随着ChatGPT等大规模预训练模型获得突破性智能水平跃升，全球人工智能规模化建设和应用提档升级，人工智能相关的基础设施、设计研发以及融合应用面临的安全风险加速显现。世界主要国家通过制定人工智能伦理准则、完善法律法规和行业管理等方式开展人工智能安全治理。我国在积极推动全球人工智能治理机制构建的同时，聚焦算法推荐、深度合成、生成式人工智能等典型人工智能应用，开展针对性治理，走在世界前列。与此同时，人工智能技术在特征学习、语义理解、逻辑推理等领域拥有了比肩专业人员的能力，为保障国家网络空间安全、防控人类经济社会风险提供了新手段和新途径。如今，世界主要国家都在积极推动人工智能在安全领域的应用，力图在国际网络空间对抗和博弈中占得先机、赢得主动。构建适合我国产业发展需要的人工智能安全治理框架，保障我国人工智能应用安全可靠可控，提升我国网络空间安全治理智能化水平，成为人工智能时代我国网络空间安全面临的新课题。
进入新时代，网络安全最显著的特征是技术对抗，应树立新理念，采取新举措，立足有效应对大规模网络攻击，认真落实“实战化、体系化、常态化”和“动态防御、主动防御、纵深防御、精准防护、整体防控、联防联控”的“三化六防”措施，按照“打造一支攻防兼备的队伍，开展一组实战演习行动，建设一批网络与数据安全基地”这条主线，加强战略谋划和战术设计，建立并完善网络安全综合防御体系，大力提升综合防御能力和技术对抗能力。
为了满足培养网络安全实战型人才需要，郭启全组织成立编委会，共同编著高等院校网络空间安全专业实战化人才培养系列教材，包括《网络安全保护制度与实施》《网络安全建设与运营》《网络空间安全技术》《商用密码应用技术》《数据安全管理与技术》《人工智能安全治理与技术》《网络安全事件处置与追踪溯源技术》《网络安全检测评估技术与方法》《网络安全威胁情报分析与挖掘技术》《数字勘查与取证技术》《恶意代码分析与检测技术》《恶意代码分析与检测技术实验指导书》《漏洞挖掘与渗透测试技术》《网络空间安全导论》。郭启全统筹规划和整体设计全套教材，组织具有丰富网络安全实战经验和教学经验的专家、学者，撰写这套高等院校网络空间安全专业教材，并对内容严格把关，以期贡献给读者最高水平、最强实战的网络安全、数据安全、人工智能安全等方面的重要知识。
《人工智能安全治理与技术》一书由魏薇、张媛媛、郭启全、景慧昀、张琳琳和谢俐倞编著。全书共九章，主要介绍了：人工智能安全基础概念及国内外人工智能安全治理情况；保障人工智能自身安全的治理框架，以及面向数据、算法、平台、业务四个人工智能系统关键组件的保护措施和关键技术；人工智能赋能网络空间安全的潜在方向和典型案例。该书是高等院校网络空间安全专业培养人工智能安全方向实战化人才的重要教材。
本书第1章人工智能安全绪论由魏薇、景慧昀、周丽丽、谢俐倞主笔，第2章国际人工智能安全治理由张媛媛、王远桂主笔，第3章我国人工智能安全治理由张琳琳、冯哲主笔，第4章人工智能安全治理框架由景慧昀主笔，第5章人工智能数据安全由魏薇、景慧昀、李晓伟主笔，第6章人工智能算法模型安全由魏薇、景慧昀、王远桂主笔，第7章人工智能平台安全由魏薇、景慧昀、詹天丞主笔，第8章人工智能应用安全由魏薇、张媛媛、梁琼琳主笔，第9章人工智能赋能网络空间安全由魏薇、张琳琳、王腾主笔。全书由郭启全、魏薇、景慧昀统稿。
由于作者水平有限，书中难免有不足之处，敬请读者指正。

展开

作者简介

郭启全，公安部网络安全保卫局原副局长、一级巡视员、总工程师，一级警监，研究员，博士生导师，国务院政府津贴获得者。担任中国科学院网络空间地理学实验室学术委员会主任、二十多个部委和央企特聘专家、十多所高校特聘教授。参加制定《网络安全法》《关键信息基础设施安全保护条例》等国家网络安全法律政策，主持制定网络安全等级保护和信息通报等一系列政策文件、《关键信息基础设施安全保护要求》等10多项国家标准。主持开展多项国家网络安全重大行动和"网鼎杯”"天府杯”等大赛，主持完成多项国家和公安部科研项目，荣立个人一等功和三等功，获得国家科技进步二等奖、公安部科技进步一等奖和二等奖、天津市科技进步特等奖，出版30多部计算机应用和网络安全学术著作及大学教材。

样章试读

本书暂无样章试读！
图书评价我要评论

本书资源

会员上传本书资源

内容简介

图书详情

本书目录

前 言

作者简介

前言