-人工智能安全标准白皮书2023版-.docx

《-人工智能安全标准白皮书2023版-.docx》由会员分享，可在线阅读，更多相关《-人工智能安全标准白皮书2023版-.docx（8页珍藏版）》请在优知文库上搜索。

1、”人工智能安全标准白皮书2023版”1、人工智能平安标准化白皮书（2023版）名目CoNTENTS一、人工智能进展现状1（一）人工智能技术特点1（二）人工智能应用趋势2（三）人工智能平安属性3二、人工智能平安风险分析5（一）用户数据用于训练，放大隐私信息泄露风险5（二）算法模型日趋简单，可解释性目标难实现5（三）牢靠性问题仍旧制约人工智能关键领域应用6（四）滥用误用人工智能，扰乱生产生活平安秩序6（五）模型和数据成为核心资产，平安爱护难度提升6（六）网络意识形态平安面临新风险7三、人工智能平安政策与标准现状8（一）国内外人工智能平安战略与政策法规8（二）国内外人工智能平安标准11四、人工智能平

2、安标准需求分析15（一）人工智能平安2、属性定义和度量指标15（二）用户输入数据平安爱护相关规范15（三）人工智能服务网络平安防护相关指南15（四）人工智能平安评估相关规范16（五）生成式人工智能平安标准16-IV名目CoNTENTS五、人工智能平安标准化工作建议17（一）持续完善人工智能平安标准体系17（二）大力开展基础共性平安标准讨论17（三）加快出台产业进展急需平安标准17附录A：标准列表19A.1国内人工智能平安相关标准列表19A.2国外人工智能平安相关标准列表22-V.一、人工智能进展现状一、人工智能进展现状过去十余年，依托全球数据、算法、算力持续突破，人工智能全面走向应用，已成为社

3、会生产生活的支柱性技术。3、2022年后,当自动驾驶、人脸识别等热门应用进展渐渐放缓、社会对人工智能整体进展预期日益冷静时，大模型技术潜力的释放以最振聋发瞧的方式宣告了人工智能第三次高速进展期远未结束，当前正是攀登进展高峰的关键时期。另一方面，当人工智能可以通过人类最严格的考试、同时执行多种工作命令、具备肯定的推理规划力量、生成以假乱真的照片、仿照人类与人谈天不被发觉时，其平安问题也更为简单麻烦，传统平安考虑以及管理方法需要重新端详。在此背景下，人工智能是否平安、如何保障平安成为全球焦点，统筹平安与进展是其中关键。（一）人工智能技术特点技术进展方面，随着谓词推理、专家系统、学问树和向量机学习等

4、传统技术的进展日趋放缓，促使4、以联结主义和概率统计等理论为基础的深度学习加速进展，迈入了以人工神经网络为基础、以大模型为典型应用的新进展阶段。在模型方面，大规模人工智能模型逐步成为业界主流。以生成式人工智能为例，具备数百亿参数的模型已非罕见，并随着模型规模增长产生了接近人类的高级力量，使人们信任通用人工智能或将到来。StableDiffusion、MidjOUrney等视觉生成模型具有类似人类的视觉创作力量，ChatGPT等文本生成模型具有高度近似人类的语言推理和规划等力量。有讨论认为，这些力量是随着模型参数达到数百亿级别后渐渐产生的，虽其-1-人工智能平安标准化白皮书（2023版）技术原理

5、尚未明晰，但进一步推5、动了模型越来越大的技术趋势。在训练方面，有人类参加的指令微调技术是近年来人工智能的另一大技术特点。指令微调主要有三种实现形式，以预训练语言模型为例：一是引入人工撰写的大量对话数据对模型进行微调训练；二是人工对微调后模型面对同一提示词生成的多个备选答案进行价值排序，训练价值评分模型；三是在价值评分模型的嘉奖信号下，微调模型进行强化学习训练，不断改进模型的表现。通过该部分技术，可将在海量语料库上训练的模型与简单的人类价值观实现对齐，期望人工智能可以生成正确、有用、无害的内容。（二）人工智能应用趋势应用进展方面，人工智能进一步与社会各方面融合。跨领域、面对通用的人工智能应用持

6、续进展，各领域处理独立任6、务的人工智能应用更加深度嵌入产业生态。将来，预期形成以通用人工智能应用为基座，专用人工智能应用环绕的新人工智能生态圈。1、人工智能与实体经济融合进展近年来，人工智能与实体经济融合愈发深化，融合形式愈发多样，对产业促进作用明显，推动新型业态逐步形成。当前人工智能在多个行业领域广泛应用，在制造领域的运营管理优化、制造过程优化等环节，智能家居领域的身份鉴别、功能掌握、平安防护等环节，智能交通领域的动态感知、自动驾驶、车路协同等方面，智能医疗领域的帮助诊断、治疗监护、疫情防控等方面，教育领域的虚拟试验室、虚拟教室、课件制作、智能判卷、教学效果分析等方面，金融领域的金融风险掌

7、握等方面，都推动了相关7、产品服务的新一轮变革。2一、人工智能进展现状2、人工智能作为助手融入新领域人工智能的进展不仅颠覆了数字内容生产方式、处理方式和消费模式，而且极大丰富了人们的数字生活，虚拟试装增加购物体验、虚拟主播增加广告效果、智能客服提升反馈效率、虚拟老师增加师生交互、智能办公助手提高各类文档的撰写效率、智能编程助手降低编程时间与人力成本、智能翻译降低沟通壁垒，人工智能应用已成为人类生产生活中必不行少的电子助手。（三）人工智能平安属性伴随着人工智能应用的常态化，人工智能平安问题的研讨也持续开展。除了网络平安基本属性，即人工智能系统及其相关数据的机密性、完整性、可用性以及系统对恶意攻击

8、的抵挡力量之外，讨8、论人工智能平安一般还需要考虑以下属性。1、牢靠性：指人工智能及其所在系统在承受不利环境或意外变化时，例如数据变化、噪声、干扰等因素，仍能根据既定的目标运行、保持结果有效的特性。牢靠性通常需要综合考虑系统的容错性、恢复性、健壮性等多个方面。2、透亮性：指人工智能在设计、训练、测试、部署过程中保持可见、可控的特性，只有具备了透亮性，用户才能够在必要时猎取模型有关信息，包括模型结构、参数、输入输出等，方可进一步实现人工智能开发过程的可审计以及可追溯。3、可解释性：描述了人工智能算法模型可被人理解其运行规律的特性。具备可解释性的人工智能，其计算过程中使用的数据、算法、参数和规律等

9、对输出结果的影响能够被9、人类理解，使人工智能更易于被人类管控、更简单被社会接受。-3-人工智能平安标准化白皮书（2023版）4、公正性：指人工智能模型在进行决策时，不偏向某个特定的个体或群体，也不卑视某个特定的个体或群体，公平对待不同性别、不同种族、不同文化背景的人群，保证处理结果的公正、中立，不引入偏见和卑视因素。5、隐私性：指人工智能在开发与运行的过程中实现了爱护隐私的特性，包括对个人信息和个人隐私的爱护、对商业隐秘的爱护等。隐私性旨在保障个人和组织的合法隐私权益，常见的隐私增加方案包括最小化数据处理范围、个人信息匿名化处理、数据加密和访问掌握等。-4二、人工智能平安风险分析一、人工智能

10、进展现状二、人工10、智能平安风险分析近年来，人工智能保持快速进展势头，但人工智能所带来的平安风险也不容忽视。（一）用户数据用于训练，放大隐私信息泄露风险当前，人工智能利用服务过程中的用户数据进行优化训练的状况较为普遍，但可能涉及在用户不知情状况下收集个人信息、个人隐私、商业隐秘等，平安风险较为突出。一方面，人工智能模型日益浩大，开发过程日益简单，数据泄露风险点更多、隐藏性更强，人工智能所使用开源库漏洞引发数据泄露的状况也很难杜绝。另一方面，交互式人工智能的应用降低了数据流入模型的门槛。用户在使用交互式人工智能时往往会放松警惕，更简单透露个人隐私、商业隐秘、科研成果等数据，例如企业员工在办公时

11、简单将商业隐秘输入人11、工智能查找答案，继而导致商业隐秘的泄露。为应对该问题，特殊是为爱护个人信息平安，部分欧洲国家甚至已开头着手禁止ChatGPT等人工智能应用。（二）算法模型日趋简单，可解释性目标难实现长期以来可解释性都是制约人工智能用在司法判决、金融信贷等关键领域的主要因素，时至今日问题尚未解决、且变得更为麻烦。由于深度模型算法的简单结构是黑盒，人工智能模型自然缺乏呈现决策规律进而使人信任决策精确性的力量。为提升可解释性，技术上也消失了降低模型简单度、突破神经网络学问表达瓶颈等方法，但现实中效果有限。主要是由于当前模型参数越来越多、结构越来越简单，解释模型、让人类理解模型的-5-人工智

12、能平安标准化白皮书（212、023版）难度变得极大，目前部分讨论正朝借助人工智能解释大模型的方向探究。同时，由于近年来人工智能算法、模型、应用进展演化速度快，如何推断人工智能是否具备可解释性始终缺乏统一认知，难以形成统一判别标准。（三）牢靠性问题仍旧制约人工智能关键领域应用由于现实场景中环境因素简单多变，人工智能难以通过有限的训练数据掩盖现实场景中的全部状况，因此模型在受到干扰或攻击等状况下会发生性能水平波动，严峻时甚至可引发平安事故。尽管可通过数据增加方法等方式提高人工智能牢靠性，然而由于现实场景的特别状况无法枚举，牢靠性至今仍旧是制约自动驾驶、全自动手术等关键领域应用广泛落地的主要因素。（

13、四）滥用误用人工智能，扰乱生13、产生活平安秩序人工智能在对加速社会进展、提升生产效率等方面产生极大促进作用的同时,也消失了被滥用误用、恶意使用的现象，引起威逼社会平安、人身平安等负面大事。近年来，滥用误用人工智能方面，消失了物业强制在社区出入口使用人脸识别、手机应用扎堆推送雷同信息构筑信息茧房等问题。恶意使用人工智能方面，消失了利用虚假视频、图像、音频进行诈骗勒索、传播色情暴力信息等问题。（五）模型和数据成为核心资产，平安爱护难度提升人工智能训练数据的猎取以及模型开发已经渐渐变成重资产投入、重人力投入的工作，算法模型、参数、加工后的训练数据已成为核心资产，不免遭到觊觎。通过模型窃取、成员推理

14、等攻击手段反向猎取模型、数据，或14、者利用人工标注、数据存储等环节的平安管理漏洞套取数据的状况时有发生。-6二、人工智能平安风险分析一、人工智能进展现状（六）网络意识形态平安面临新风险人工智能的目标是模拟、扩展和延长人类智能，假如人工智能只是单纯追求统计最优解，可能表现得不那么有“人性；相反，包含一些人类政治、伦理、道德等方面观念的人工智能会表现得更像人、更简单被人所接受。事实上，为了解决人工智能面对敏感简单问题的表现，开发者通常将包含着开发者所认为正确观念的答案加入训练过程，并通过强化学习等方式输入到模型中，当模型把握了这些观念时，能够产生更能被人接受的回答。然而，由于政治、伦理、道德等简

15、单问题往往没有全世界通用的标准15、答案，符合某一区域、人群观念推断的人工智能，可能会与另一区域、人群在政治、伦理、道德等方面有较大差异。因此，使用内嵌了违反我国社会共识以及公序良俗的人工智能，可能对我国网络意识形态平安造成冲击。7-人工智能平安标准化白皮书（2023版）三、人工智能平安政策与标准现状在人工智能技术快速进展、应用规模快速扩大的背景下，世界各国纷纷开展人工智能平安政策与标准相关工作。（一）国内外人工智能平安战略与政策法规1、联合国持续关注人工智能伦理平安联合国教科文组织于2022年11月发布人工智能伦理问题建议书，旨在为和平使用人工智能系统、防范人工智能危害供应基础。建议书提出了

16、人工智能价值观和原则，以及落16、实价值观和原则的详细政策建议，推动全球针对人工智能伦理平安问题形成共识。2023年3月31日，该组织号召各国马上执行人工智能伦理问题建议书。2、欧盟严格人工智能监管，持续推动立法进程欧盟特地立法，试图对人工智能进行整体监管。2022年4月，欧盟委员会发布了立法提案欧洲议会和理事会关于制定人工智能统一规章（人工智能法）和修订某些欧盟立法的条例（以下简称欧盟人工智能法案），在对人工智能系统进行分类监管的基础上，针对可能对个人基本权利和平安产生重大影响的人工智能系统建立全面的风险预防体系，该预防体系是在政府立法统一主导和监督下，推动企业建设内部风险管理机制，但如何推断评估人工智能系统风险等级是欧盟人点。欧盟准时填补通用目的人工智能监管空白。2023年5月11日，欧洲议会的内部市场委员会和公民自由委员会通过了关于欧盟人工智能法案-8三、人工智能平安政策与标准现状一、人工智能进展现状的谈判授权草案，新版本补充了针对通用目的人工智能和GPT等基础模型