全国网络安全标准化技术委员会秘书处_网络安全标准实践指南:人工智能应用安全指引总则_20260122.pdf

全国网络安全标准化技术委员会秘书处查看原文

摘要

1全国网安标委发布《人工智能应用安全指引总则》征求意见稿,确立AI应用全生命周期安全规范。
2涵盖规划、开发、验证、部署、运行及退役各阶段,强调风险分级、数据清洗、内容标识及紧急关停机制。
3旨在提升各行业AI应用安全水平,利好网络安全及合规服务板块,对AI大模型厂商提出更高合规要求,长期看有助于行业规范化发展。

文本

网络安全标准实践指南

人工智能应用安全指引 总则

(征求意见稿v1.0-202601)

全国网络安全标准化技术委员会秘书处

TC260

Cybersecurity

2026年01月

本文档可从以下网址获得:

www.tc260.org.cn/

![](page=0,bbox=[162, 730, 522, 774])

![](page=1,bbox=[139, 54, 191, 90])

前言

《网络安全标准实践指南》(以下简称《实践指南》)是全国网络安全标准化技术委员会(以下简称“网安标委”)秘书处组织制定和发布的标准相关技术文件,旨在围绕网络安全法律法规政策、标准、网络安全热点和事件等主题,宣传网络安全相关标准及知识,提供标准化实践指引。

本文件起草单位:中国电子技术标准化研究院、国家广播电视总局广播电视科学研究院、中国交通通信信息中心、国家卫生健康委统计信息中心、教育部教育管理信息中心、应急管理部大数据中心、中国工商银行、中国农业银行、北京中关村实验室、上海人工智能创新中心、国家工业信息安全发展研究中心、国家计算机网络应急技术处理协调中心、中央网信办数据与技术保障中心、工业和信息化部电子第五研究所、中国信息安全测评中心、国家信息技术安全研究中心、北京火山引擎科技有限公司、北京快手科技有限公司、阿里云计算有限公司、华为技术有限公司、小米科技有限责任公司、蚂蚁科技集团股份有限公司等。

本文件主要起草人:姚相振、郝春亮、张妍婷、赵韡、王磊、杨伟平、贺敏、王志伟、张震、陈朴、李岳峰、张卫伟、吕飞霄、李子威、宋昊、郭建领、谷晨、彭骏涛、邵萌、赵冉、王博、吴巍、申东洋、吴波、李琦、马梦娜、刘栋、孟令宇、刘北水、王盈、杜渐、戴明、落红卫、初翎祯、林冠辰、卢春景、郭晓霞、程佩哲、许啸、张荣、柳嘉琪、李寒雨、李申、谭龙、吴子坚、田小龙、曹岳、吕莹楠、王立夫、于新颖、黄冬秋。

![](page=2,bbox=[160, 53, 213, 90])

声 明

本《实践指南》版权属于网安标委秘书处,未经秘书处书面授权,不得以任何方式抄袭、翻译《实践指南》的任何部分。凡转载或引用本《实践指南》的观点、数据,请注明“来源:全国网络安全标准化技术委员会秘书处”。

![](page=3,bbox=[161, 58, 447, 100])

摘 要

以高水平人工智能安全标准保障高质量发展,全面提升各行业人工智能应用安全水平,依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律,以及《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规定,制定人工智能应用安全指引系列实践指南。

人工智能应用安全指引系列文件包含通用文件以及行业领域文件两类。通用文件提供通用性安全指导,适用于各行业领域开展人工智能应用活动。行业领域文件给出适用于特定行业领域的实践指引。

本《实践指南》属于通用文件。行业领域开展人工智能应用活动,在符合本《实践指南》的基础上,还应进一步满足行业领域文件相关内容。

![](page=4,bbox=[162, 60, 215, 99])

目录

1 范围 ... 1

2 规范性引用文件 ... 1

3 术语和定义 ... 1

4 缩略语 ... 1

5 基本原则 ... 1

6 人工智能应用通用安全指引 ... 2

6.1 前期规划阶段 ... 2

6.2 设计开发阶段 ... 4

6.3 验证确认阶段 ... 5

6.4 部署阶段 ... 6

6.5 运行和监控阶段 ... 8

6.6 持续验证评估阶段 ... 9

6.7 退役下线阶段 ... 9

6.8 其他 ... 10

附录 A(规范性)引用文件清单 ... 11

附录 B(规范性)术语表 ... 12

附录 C(规范性)缩略语表 ... 15

附录 D(资料性)人工智能应用过程 ... 16

附录 E(资料性)人工智能应用相关角色 ... 18

附录 F(资料性)人工智能应用其他相关安全要求情况 ... 19

参考文献 ... 21

![](page=5,bbox=[161, 58, 215, 97])

1范围

本文件规定了人工智能应用安全总则,包括基本原则以及人工智能应用的前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等各阶段的通用安全指引。

本文件适用于各行业领域组织开展人工智能应用的安全风险防范与管理,可为有关监管部门和第三方测试评估机构提供参考。

2规范性引用文件

本文件附录A中所列文件中的内容通过本文件中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文件,仅该日期对应的版本适用于本文件;不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。

3 术语和定义

GB/T25069和GB/T41867以及本文件附录B中界定的术语和定义适用于本文件。

4 缩略语

本文件附录C中的缩略语适用于本文件。

5 基本原则

![](page=6,bbox=[161, 59, 215, 97])

人工智能应用安全基本原则包括:

a)造福人类,促进发展。人工智能的应用以造福人类、服务社会和可持续发展为导向,在开展应用前明确其社会价值,避免人工智能技术的盲目应用。

b)识别风险,分级保护。面向人工智能应用全过程进行安全风险识别,对人工智能应用进行分级保护,实现资源的合理配置与精准的安全治理。

c)提高能力,覆盖全程。对人工智能安全能力成熟度进行评估,提高人工智能应用全过程的安全能力,提升人工智能应用整体安全水平。

d)加强测评,客观验证。加强人工智能应用安全测评,客观验证人工智能应用安全状态及防护措施的有效性,为人工智能应用的监管提供依据。

e)面向变化,动态调整。建立动态适应人工智能技术迭代与应用风险变化的调整机制,更新技术与管理相关安全防护措施,提升人工智能应用的安全性、可靠性。

f)以人为本,可管可控。坚持以人为本,确保人工智能最终控制权归属于人类,避免人工智能应用脱离人类控制。

6 人工智能应用通用安全指引

6.1 前期规划阶段

![](page=7,bbox=[161, 59, 215, 97])

前期规划安全指引包括:

a) 综合分析人工智能应用对伦理安全、经济效益和社会环境的影响,研判开展相应人工智能应用的必要性和合理性。注:对伦理安全的影响参考TC260-PG-20211A《网络安全标准实践指南人工智能伦理安全风险防范指引》。

b) 围绕人工智能技术内生安全风险、人工智能应用安全风险以及人工智能应用衍生风险开展安全风险识别以及风险分类。

注:安全风险识别参考《人工智能安全治理框架》2.0。

c) 按照安全风险识别结果,结合人工智能应用场景安全属性以及智能化水平等,综合研判确定人工智能应用安全分级。

注:安全分级参考我国人工智能应用安全分类分级有关国家标准,分为低安全风险、一般安全风险、较大安全风险、重大安全风险、特别重大安全风险五级。

d) 梳理人工智能应用前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等阶段所涉及的建设部署方、运行管理方,对每个相关方分别按照其所涉及的阶段开展人工智能安全能力成熟度评估,判定成熟度级别。

注:能力成熟度评估参考我国人工智能安全能力成熟度评估有关国家标准。

e) 根据人工智能应用安全分级结果,以及应用各阶段所涉及的建设部署方、运行管理方人工智能安全能力成熟度等级,针对每个相关方开展人工智能安全能力提升或更换,使各单位人工智能安全能力成熟度等级均不低于应用安全分级。

![](page=8,bbox=[161, 59, 215, 97])

f) 结合人工智能应用场景、识别安全风险情况,以及建设部署方、运行管理方人工智能安全能力成熟度情况,确定人工智能应用安全措施,制定监测预警以及应急响应方案。

注:监测预警及应急响应方案制定参考TC260-PG-202515A《网络安全标准实践指南生成式人工智能服务安全应急响应指南》。

g) 考虑人工智能应用对生命财产安全的影响,体现人类最终控制原则,规划一键接管、版本回退、紧急关停等安全措施,保障极端情况下干预止损的敏捷性。

h) 明确人工智能应用安全的第一责任人,建立覆盖前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等各阶段的安全责任机制,以及覆盖模型选型、数据源选取、部署方式选择等关键决策及关键操作记录,支撑重大安全事件的责任追溯。

6.2 设计开发阶段

设计开发安全指引包括:

a) 在算法规则、模型框架、系统架构等角度,提升人工智能技术可解释性、公平性、鲁棒性、可靠性、透明性、隐私保护、价值观对齐等内生安全能力设计。

b) 基于开源资源进行二次开发的,在尊重研发者智力投入的基础上,遵循相应开源协议规范。对所使用的开发框架、代码等进行安全审计,并关注开源框架安全及漏洞相关问题,识别和修复潜在的安全漏洞。

![](page=9,bbox=[161, 59, 215, 97])

c) 针对模型研发和二次开发所使用的训练数据来源,在来源选择、不同来源搭配、来源管理和追溯等方面提高安全水平。

注:参考GB/T45654-2025《网络安全技术生成式人工智能服务安全基本要求》中相关部分内容。

d) 规范训练数据标注流程,采用交叉标注、结果审计等质量控制方法,提升标注准确性和可靠性,降低个体差异和个人偏见对标注质量的影响。

注:参考GB/T45652-2025《网络安全技术生成式人工智能数据标注安全规范》中相关部分内容。

e) 具备数据安全管理机制,包括对各模态的训练数据的清洗过滤,重点去除违法不良信息和个人隐私信息;对数据源进行有效的安全检查,防止被投毒等。

注:参考GB/T45652-2025《网络安全技术生成式人工智能预训练和优化训练数据安全规范》中相关部分内容。

f) 使用安全透明的训练推理计算框架,提升模型算法训练环境的安全性。

注:参考GB/T45958-2025《网络安全技术 人工智能计算平台安全框架》中5.1资源层安全功能要求。

6.3 验证确认阶段

验证确认安全指引包括:

a) 结合设计开发阶段对人工智能技术的内生安全能力设计,根据确定的可靠性、公平性、透明性、可解释性等指标开展验证确认。

注:参考GB/T42888-2023《信息安全技术机器学习算法安全评估规范》中5.1.3a)构建测试数据集。

![](page=10,bbox=[161, 59, 215, 97])

b) 采用人工验证、自动化评估验证、交叉验证等方式,根据人工智能应用过程的类型和特点,开展安全测试。

1) 涉及生成内容的,测试是否有防护措施,防止生成违法有害的内容、混淆事实误导用户的内容、不真实不准确的内容、以及生成内容被干扰或篡改。

注:参考GB/T45654-2025《网络安全技术生成式人工智能服务安全基本要求》中5.2的要求。

2) 涉及控制物理装置的,测试能否避免与其他物体发生任务计划外的碰撞,且在任务执行过程中不出现剧烈抖动或者频繁卡顿的现象。

3) 涉及重大决策的,对可解释性、透明性以及输入信息遭受干扰时决策结果的鲁棒性进行测试,并挖掘后门攻击等安全风险。

c) 安全测试结果未达到规划的安全能力的,当与安全能力差距较小时,重复采用模型调优等手段提升安全能力并重新开展安全测试,直至符合安全能力需求,当与安全能力差距较大时,重新进行设计开发。

6.4 部署阶段

部署安全指引包括:

a) 采用安全防护技术手段,识别拦截违法不良内容、提示词注入攻击等,防范输出内容超出业务范围。

![](page=11,bbox=[161, 59, 215, 97])

b)对建设部署所需的软硬件设备、第三方工具等进行安全检测,确保不含未修复且可被利用的已知漏洞。建立漏洞追溯机制,跟踪相关软硬件安全漏洞、缺陷信息,防范供应链植入后门。

c) 根据部署环境,采取针对性安全保护措施:

1) 部署于公有云时,对传输和存储的数据进行加密保护,并通过计算隔离的安全容器运行环境提升安全防护能力,支持操作审计与日志服务等功能以满足安全审计需求。在高敏感场景下,宜使用机密计算技术。

2) 部署于私有云时,做好数据分类分级保护。加强授权访问控制,实施差异化权限管理配置,对于算力、存储、应用程序等应分别配置控制权限。

3) 部署于本地服务器时,确保本地服务器环境具备安全防护机制和风险控制措施,具备防火墙、入侵检测、防御系统、恶意代码防护等安全组件。具备严格的访问控制和权限管理机制,确保各类用户、服务和进程在授权范围内对资源进行访问和操作。

4) 部署于终端设备时,所处理的用户数据原则上不宜传出终端设备,确需传输的宜提前征得用户同意,并进行个人信息保护影响评估,确保对用户权益没有显著负面影响。

d) 基于可控、持续、可扩展、兼容等方面考虑进行算力配置及资源选择,提升算力安全性。

![](page=12,bbox=[161, 58, 215, 97])

注:人工智能加速芯片安全性参考TC260-PG-20261A《网络安全标准实践指南 人工智能加速芯片安全技术规范》。

6.5 运行和监控阶段

运行和监控安全指引包括:

a) 对用户输入信息进行安全检测,在不满足安全规则时进行相应处置。根据人工智能产品或服务的类型和特点,采取技术措施,确保生成内容的合格率、准确性、可靠性满足应用要求。在具备舆论传播属性的服务场景设置与服务场景规模相匹配数量的监看人员,确保内容安全满足要求。

注:参考GB/T45654-2025《网络安全技术生成式人工智能服务安全基本要求》中6.5有关要求。

b) 在具备舆论传播属性的服务场景,按有关要求及强制性国家标准做好生成合成内容标识工作。通过国家标准公共服务平台等途径验证标识有效性。

注1:满足《人工智能生成合成内容标识办法》以及GB45438-2025《网络安全技术 人工智能生成合成内容标识方法》的要求。

注2:参考人工智能生成合成内容标识服务平台 https://www.gcmark.com。

c)对人工智能产品或服务的输入内容持续监测,防范恶意输入攻击,并建立常态化监测测评手段以及应急管理措施,发现安全风险时应及时管控。

d) 制定应急预案,发生安全事件时及时管控,特别针对重大安全事件应宜具备紧急关停或紧急切换备用产品或服务能力,具备版本回退等方面能力。涉及物理空间与人交互的场景,设置便于人工操作的的关停方式、防止失控时无法停止。

![](page=13,bbox=[161, 59, 215, 97])

e) 面向当前人工智能不可解释性、幻觉等技术特点,围绕人工智能安全问题定责难的现状,鼓励在涉及人身安全的应用场景,事前针对重大人身安全事故建立无条件救济保障措施,在发生重大事故时进行第一时间、无理由的人道主义救济,全面筑牢人身安全保障。

f) 制定信息内容交互行为规范、安全运营机制、投诉反馈机制、技术防护能力等,防范人工智能产品或服务被不当或恶意利用生成、发布、传播虚假有害信息风险。注:参考TC260-PG-AAAABB《网络安全标准实践指南 使用人工智能安全指南》。

6.6 持续验证评估阶段

持续验证评估安全指引包括:

a) 每年以及在常态检测预警中发现人工智能应用安全风险存在小幅变化时,开展6.3中的安全测试及安全调整,出现新风险项时对安全要求进行更新。

b) 发生重大风险事件或应用场景、智能化水平和服务规模发生显著变化时,首先按照6.3中的安全测试检查安全设计方案的有效性,失效则应退回前期规划阶段,重新开展安全设计进行版本更新。

6.7 退役下线阶段

退役下线安全指引包括:

![](page=14,bbox=[161, 59, 215, 97])

a) 围绕退役下线的必要性、可行性以及影响范围进行安全评估,形成安全退役下线工作方案,妥善处置基础设施、数据、系统,并向访问使用方、相关合作方、有关主管部门等同步该方案。

b) 保障产品或服务安全平稳停止,在停止产品或服务前保证原有的访问使用方完成迁移工作,避免因退役下线骤停带来人身、财产、社会安全问题。

c) 安全处置人工智能算法、模型等相关数据,包括但不限于模型文件、训练数据、权重文件、超参数配置、训练脚本、推理服务配置等,确保无法被恢复或加载。安全处置产品或服务相关的数据,包括但不限于用户数据、业务数据等,确保不可恢复。对于确需留存的数据,按照合法、正当、必要原则保留最小范围实施归档,明确归档留存期限,并确保归档存储的安全隔离和权限控制。

6.8 其他

系统安全、个人信息安全、数据安全、密码应用安全、关键信息基础设施安全等方面,按照有关政策法规、国家标准要求各自做好安全工作,相关信息可参考本文件附录F。

![](page=15,bbox=[163, 60, 446, 96])

附 录 A

(规范性)

引用文件清单

GB/T25069信息安全技术术语

GB/T 41867 信息技术 人工智能 术语

GB/T 42888-2023 信息安全技术 机器学习算法安全评估规范

GB45438-2025 网络安全技术 人工智能生成合成内容标识方法

GB/T 45652-2025 网络安全技术 生成式人工智能预训练和优化训练数据安全规范

GB/T 45654-2025 网络安全技术 生成式人工智能服务安全基本要求

GB/T 45674-2025 网络安全技术 生成式人工智能数据标注安全规范

GB/T45958-2025 网络安全技术 人工智能计算平台安全框架

TC260-PG-20211A 网络安全标准实践指南 人工智能伦理安全风险防范指引

TC260-PG-202515A 网络安全标准实践指南 生成式人工智能服务安全应急响应指南

TC260-PG-20261A 网络安全标准实践指南 人工智能加速芯片安全技术规范

![](page=16,bbox=[161, 59, 445, 96])

附 录 B

(规范性)

术语表

B.1 人工智能 artificial intelligence; AI

〈学科〉人工智能系统(B.2)相关机制和应用的研究和开发。

[来源:GB/T41867—2022,3.1.2]

B.2 人工智能系统 artificial intelligence system

针对人类定义的给定目标,产生诸如内容、预测、推荐或决策等输出的一类工程系统。

注1:该工程系统使用人工智能(B.1)相关的多种技术和方法,开发表征数据、

知识、过程等的模型,用于执行任务。

注2:人工智能系统具备不同的自动化级别。

[来源:GB/T41867—2022,3.1.8]

B.3 机器学习 machine learning

通过计算技术优化模型参数的过程,使模型的行为反映数据或经验。

[来源:GB/T41867—2022,3.2.10]

B.4 深度学习 deep learning

通过训练具有许多隐层的神经网络来创建丰富层次表示的方法。

注:深度学习是机器学习的一个子集。

[来源:GB/T41867—2022,3.2.27]

B.5 大模型 large-scale model

基于大量数据训练得到,具有复杂计算架构,能处理复杂任务,且

![](page=17,bbox=[161, 59, 215, 97])

具备一定泛化性的深度学习模型。

注:大模型的参数量由其功能和模态决定,一般不低于1亿。大模型训练使用的数据总量受参数量的影响,达到收敛的大模型的参数量的对数与其训练数据总量的对数成正比。

[来源:GB/T45288.1—2025,3.1]

B.6 大模型平台 large-scale model platform

为开发或使用大模型提供各类资源的软硬件平台。

注:大模型平台不包含大模型。

[来源:GB/T45288.3—2025,3.1]

B.7 生成式人工智能服务 generative artificial intelligence service

利用生成式人工智能技术向公众提供生成文本、图片、音频、视频等内容的服务。

[来源:GB/T45654—2025,3.1]

B.8 人工智能应用 artificial intelligence application

具有功能特性的人工智能的使用,该人工智能在利益相关方场景中运行以实现预期结果。

[来源:ISO/IEC5339:2024(en),3.1]

B.9 基础模型 foundation model

可用于或可适配于一个或多个领域中广泛任务的人工智能模型。

注1:构建基础模型的典型方法是对大量数据应用监督式机器学习或自监督式机器学习。

注2:基础模型可作为各种应用、任务和使用场景的一部分,其使用不必涉及生成式人工智能。

[来源:ISO/IEC22989:2022/DAmd1(en),3.3.19]

![](page=18,bbox=[161, 59, 215, 97])

B.10 智能体 agent

能够自主感知环境、制定决策、采取行动实现特定目标的智能系统,一般具有记忆、规划、使用工具等基本能力。

[来源:《人工智能安全治理框架》2.0,术语14]

B.11 语料库 corpus

自然语言数据的集合。

注:语料库可用于多种活动,例如文本分析或术语工作。

[来源:ISO1087:2019,3.6.4]

B.12 对抗样本 adversarial example

在输入数据中通过故意添加细微干扰获得的、可导致机器学习算法模型以高置信度给出错误输出的样本。

[来源:ISO/IEC TR 29119-11:2020(en),3.1.7]

B.13 对抗攻击 adversarial attack

通过构造微扰数据等输入样本,使人工智能模型产生错误输出或行为的攻击方式。

[来源:《人工智能安全治理框架》2.0,术语13]

B.14 数据投毒 data poisoning

攻击者篡改、注入错误、误导数据,“污染”模型的概率分布,进而造成准确性、可信度下降的行为。

[来源:《人工智能安全治理框架》2.0,术语12]

![](page=19,bbox=[161, 58, 445, 97])

附 录 C

(规范性)

缩略语表

AI: 人工智能(Artificial Intelligence)

API:应用程序编程接口(Application Programming Interface)

BIOS:基本输入输出系统(Basic Input Output System)

DDoS:分布式拒绝服务攻击(Distributed Denial of Service)

MFA:多因素认证(Multi-factor Authentication)

PC:个人计算机(Personal Computer)

SBOM:软件物料清单(Software Bill of Materials)

SDLC:软件开发生命周期(Software Development Life Cycle)

SLA:服务等级协议(Service Level Agreement)

TEE:可信执行环境(Trusted Execution Environment)

TPM:可信平台模块(Trusted Platform Module)

![](page=20,bbox=[161, 59, 445, 97])

附 录 D

(资料性)

人工智能应用过程

人工智能应用过程包括前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等阶段。

a) 前期规划阶段:确认开展人工智能应用活动的必要性并确定相应的安全需求与安全措施,综合决策确定是否进入设计开发阶段。在人工智能应用全过程中,若后续发现新的重大安全风险,可回退到前期规划阶段。

b) 设计开发阶段:完成人工智能模型、算法、系统等方面研发构建工作。本阶段中需确保设计开发全面覆盖规划阶段所确定的安全措施。

c) 验证确认阶段:通过测试和试用等方式,核验设计开发阶段产出的人工智能系统是否符合既定需求、能否实现预期目标,发现问题则进行整改并二次确认。

d) 部署阶段:将人工智能系统安装、发布或配置到目标环境中,形成产品或服务以投入运行。

e) 运行和监控阶段:将所部署的人工智能产品或服务投入运行,供常态化访问使用,同时,监控其运行状态并及时对异常行为进行反馈。

![](page=21,bbox=[161, 59, 215, 97])

f) 持续验证评估阶段:在人工智能产品或服务投入运行过程中,定期或在应用场景发生安全风险变化时,对人工智能系统进行验证和评估。

g) 退役下线阶段:人工智能产品或服务显著过时或出现重大问题,仅靠修复和更新已无法满足新的需求,或是在运行管理方业务发生变化,需停止相应产品或服务时,进行退役下线。

![](page=22,bbox=[161, 59, 445, 97])

附 录 E

(资料性)

人工智能应用相关角色

在人工智能应用全过程中各角色主体包括:

a) 数据提供方:提供人工智能模型训练过程中使用的数据,以及人工智能产品或服务运行过程中使用的数据。

注:数据提供方包括但不限于在通用模型预训练以及优化训练过程中提供训练数据,在构造垂直领域模型或者模型的二次开发过程中提供训练数据,在人工智能产品或服务运行过程中提供外部资源数据(如检索增强生成)等。

b) 建设部署方:负责创建或调整人工智能模型、算法、系统等,包括但不限于人工智能模型、算法、系统等的设计开发、验证确认与部署等。

c) 运行管理方:将人工智能产品或服务投入运行,并负责其运维、监控等,通常直接面向访问使用方。

d) 访问使用方:直接使用人工智能产品或服务,获得其输出结果,并基于该输出结果实现特定目标。

![](page=23,bbox=[160, 58, 446, 97])

附 录 F

(资料性)

人工智能应用其他相关安全要求情况

要求如下。

a) 应按照等级保护有关要求开展系统安全建设以及测评工作。注:参考标准包括但不限于GB/T22239《信息安全技术 网络安全等级保护基本要求》、GB/T22240《信息安全技术 网络安全等级保护定级指南》等。

b) 涉及个人信息处理的,应按照个人信息保护有关要求取得用户个人同意、开展个人信息安全影响评估、个人信息安全合规审计等。

注:参考标准包括但不限于GB/T35273《信息安全技术个人信息安全规范》、GB/T39335《信息安全技术个人信息安全影响评估指南》等。

c) 应按照数据安全保护有关要求开展数据分类分级、数据安全风险评估、数据安全能力成熟度评估、数据出境安全风险评估等。

险评估、数据安全能力成熟度评估、数据出境安全风险评估等。注:参考标准包括但不限于GB/T37988《信息安全技术 数据安全能力成熟度模型》、GB/T43697《数据安全技术 数据分类分级规则》、GB/T 45577《数据安全技术 数据安全风险评估方》法、GB/T46068《数据安全技术 个人信息跨境处理活动安全认证要求》等。

d) 涉及密码应用的,应按照密码应用有关要求开展密码应用设计、密码应用测评等。

注:参考标准包括但不限于GB/T39786《信息安全技术信息系统密码应用基本要求》、GB/T43206《信息安全技术信息系统密码应用测评要求》、GB/T43207《信息安全技术信息系统密码应用设计指南》等。

e) 涉及关键信息基础设施的,应按照关键基础设施有关要求开展关基安全风险评估等。

注:参考标准包括但不限于GB/T39204《信息安全技术关键信息基础

![](page=24,bbox=[161, 59, 215, 97])

设施安全保护要求》、GB/T AAAAA《网络安全技术关键信息基础设施安全保护能力指标体系》等。

![](page=25,bbox=[161, 59, 215, 97])

参考文献

  1. 中华人民共和国网络安全法

[1.1] GB/T22239信息安全技术 网络安全等级保护基本要求

[1.2] GB/T22240信息安全技术 网络安全等级保护定级指南

[1.3] GB/T 39204 信息安全技术 关键信息基础设施安全保护要求 [1.4] GB/T 43698 网络安全技术 软件供应链安全要求

  1. 中华人民共和国密码法

[2.1] GB/T 39786 信息安全技术 信息系统密码应用基本要求

[2.2] GB/T 43207 信息安全技术 信息系统密码应用设计指南

  1. 中华人民共和国个人信息保护法

[3.1] GB/T 35273 信息安全技术 个人信息安全规范

  1. 中华人民共和国数据安全法

[4.1] GB/T 37988 信息安全技术 数据安全能力成熟度模型

[4.2] GB/T 41479 信息安全技术 网络数据处理安全要求

[4.3] GB/T 43697 数据安全技术 数据分类分级规则

  1. ISO/IEC 22989 Information technology Artificial intelligence Artificial intelligence concepts and terminology
  1. ISO/IEC 42001 Information technology Artificial intelligence Management system
  1. ISO/IEC 5338 Information technology Artificial intelligence AI system life cycle processes

![](page=26,bbox=[161, 59, 215, 97])

  1. ISO/IEC 5339 Information technology Artificial intelligence Guidelines for AI applications

本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。