I ICS 35.040 L 71 T/AI 110.1 —2020 2020 - 12 - 31发布 2020 - 12 - 31实施 中关村视听产业技术创新联盟 发布 团体标准 人工智能视觉隐私保护 第1部分：通用 技术要求 Visual privacy protection of artificial intelligenc e—— Part 1: General technical requirement s 全国团体标准信息平台 全国团体标准信息平台 T/AI 110.1—2020 I 目 次 前言 ................................ ................................ ................ II 引言 ................................ ................................ ............... III 1 范围 ................................ ................................ ............... 1 2 规范性引用文件 ................................ ................................ ..... 1 3 术语和定义 ................................ ................................ ......... 1 4 人工智能视觉隐私数据控制者 ................................ ......................... 2 4.1 义务 ................................ ................................ .......... 2 4.2 安全保障措施 ................................ ................................ .. 3 4.3 视觉隐私数据的泄露报告 ................................ ........................ 3 5 人工智能视觉数据隐私保护框架 ................................ ....................... 3 6 视觉隐私数据保护的技术要求 ................................ ......................... 4 6.1 视觉数据隐私保护基本要求 ................................ ...................... 4 6.2 通用技术要求 ................................ ................................ .. 4 6.3 安全管理要求 ................................ ................................ .. 6 6.4 风险评估要求 ................................ ................................ .. 6 6.5 其他要求 ................................ ................................ ...... 6 附 录 A （规范性） 视觉数据隐私保护定级指南 ................................ ........ 8 A.1 一级视觉数据 隐私保护系统 ................................ ....................... 8 A.2 二级视觉数据隐私保护系统 ................................ ....................... 8 A.3 三级视觉数据隐私保护系统 ................................ ....................... 8 全国团体标准信息平台 T/AI 110.1—2020 II 前 言 本文件按照 GB/T 1.1 -2020《标准化工作导则 第1部分:标准化文件的结构和起草规则》 的规定起 草。 T/AI XXX在《人工智能视觉隐私保护》的总标题下，包括以下 3个部分： ——第1部分：通用技术要求 ； ——第2部分：技术应用指南 ； ——第3部分：评估方法 。 本文件为T/AI XXX的第1部分。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由新一代人工智能产业技术创新战略联盟提出 。 本文件起草单位： 青岛海信电子产业控股股份有限公司 、青岛海信网络科技股份有限公司、天津大 学、山东大学、云从科技集团股份有限公司、科大讯飞股份有限公司、中国电子技术标准化研究院。 本文件主要起草人：陈维强、高雪松、李克秋、李玉军、胡伟凤、张淯易、孙菁、孟祥奇、 孙宗臣、 温浩、李军、马万钟、吴子扬、余明明、李婧欣、曹策 。 全国团体标准信息平台 T/AI 110.1—2020 III 引 言 人工智能技术已对人类社会生活的各个方面产生了深远的影响，如专家系统、智能机器人、机器翻 译等在交通、医疗等领域给人类带来极大的便捷。但如同任何一项新技术一样，人工智能技术在给人类 带来诸多便利的同时，也引发了一些问题，比如个人隐私保护问题。 个人隐私在实践中也被称为个人隐私数据或个人信息。长久以来 ,个人隐私保护都是各国立法关注 的核心议题。随着人工智能迅速发展，个人隐私保护问题俨然成为各方密切 关注的重点，特别是伴随着 大数据技术和人工智能技术的结合，政府和企业的决策 不断加深对大 数据分析 的依赖。大规模的数据收 集、分析和使用，使传统社会走向透明化，在万物互联、大数据和深度学习三者叠加后，个人隐私将会 成为“奢侈品” ，人类将不再有隐私可言。 在如今的人工智能时代，数据从采集到使用等各个环节都面临着新的风险。在数据采集环节，大规 模设备自动收集着成千上万的用户 数据，其中涉及到的用户人脸、姿态等视觉数据在海量汇聚后可形成 对用户的全面跟踪。在数据使用环节，人工智能技术通过用户浏览及搜索记录、设备信息、位置信息、 订单信息，提取用户的浏览、搜索偏好、行为习惯、位置信息等特征，分析出深层信息，进一步扩大了 用户隐私暴露的风险。在整个数据的 生存周期 中，由于系统安全漏洞等原因，个人视觉隐私数据还面临 着被泄露的潜在安全风险。 技术更新迭代是推动社会进步的重要力量，不能因为隐私问题阻碍人工智能技术继续前进，但人工 智能的发展也不能以牺牲隐私权为代价。因此亟需提出方案对人工智能视觉隐私 数据进行保护。 全国团体标准信息平台 全国团体标准信息平台 1 人工智能视觉隐私保护 第1部分：通用技术要求 1 范围 本文件规定了人工智能技术中涉 及视觉隐私 保护的通用技术要求，给出了隐私数据控制者的义务、 保障措施等约束行为和视觉隐私数据保护定级指南 。 本文件适用于规范涉及人工智能视觉隐私数据 的应用、服务、系统应当 进行的隐私保护 处理，也适 用于指导 本领域技术人员在 人工智能视觉 相关的开发中开展隐私保护 方案设计和实施 。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。 其中， 注日期的引用文件， 仅该日期对应的版本适用于本文件 ；不注日期的引用文件，其最新版（包括所有的修改单）适用于本文 件。 GB/T 25070 信息安全技术 网络安全等级保护安全设计技术要求 GB/T 35273 信息安全技术 个人信息安全规范 3 术语和定义 下列术语和定义适用于本文件。 3.1 人工智能视觉隐私数据 AI visual privacy data 简称视觉隐私数据， 人工智能 视觉隐私数据主体的隐私信息， 如用于人脸识别 、姿态识别 等相关的 感知和行为数据。 3.2 处理 process 对视觉隐私数据的一个或一系列操作，诸如收集、记录、存储、检索、使用、披露、传输等。 包括 但不限于将视觉隐私数据上传至服务器进行处理的行为和在端侧、边缘侧等非云端设备中