中国社会科学院&蚂蚁集团：2024数字时代安全科技价值报告.docx

《中国社会科学院&蚂蚁集团：2024数字时代安全科技价值报告.docx》由会员分享，可在线阅读，更多相关《中国社会科学院&蚂蚁集团：2024数字时代安全科技价值报告.docx（37页珍藏版）》请在优知文库上搜索。

1、目录一、刖百AI大模型重构数字世界，安全问题质变时刻1二、数字社会进入新阶段，面临全新风险挑战3（一）数字化安全风险新形势：快迭代、高智能、全覆盖3（二）Al安全风险的紧迫性陡增5（三）有新技术的地方，就有新的安全风险7三、安全科技的关键技术能力及双重价值10（一）安全科技是一种伴生技术10（二）安全科技的五大趋势：零化、弹性化、匿名化、量子化和智能化17（三）安全科技的双重价值在放大19四、未来：安全科技必将成为新型公共品33（一）“慢起飞模型”：安全科技是技术向善的集中体现33（二）政企合作是安全科技成为公共品的核心驱动力3538（三）结语,刖百Al大模型重构数字世界，安全问题质变时亥IJ

2、2022年，全球发生数据泄露事件4,518件，数据量达到226.2亿条(FlaShPOint)。2021年，全球45%的数据泄露事件涉及个人数据(Verizon)o平均而言，只有5%的公司文件夹受到适当保护(VaronisSystems)o到2025年，全球网络犯罪每年造成的损失将达到10.5万亿美元。(CybersecurityVentures)全球约40%的人口目前处于离线状态，一旦联网，他们将很容易成为网络攻击的目标。(DataReportal)未来将会是深度数字化的。在过去二三十年的时间里，数字化已成为越来越清晰的现实。不仅仅互联网，几乎所有的行业都在数字化转型，这是由现代科技内在的逻

3、辑所决定的。只要我们仍希望凭借科技的进步，解决生活与工作中的各种问题，我们就必须做好迎接深度数字化未来的准备。这当中至关重要的一个部分，就是面对全面数字化可能带来的安全风险。当下，我们正站在安全风险的质变时刻。随着数字化的推进，新的深度智能开启。何谓深度智能?深度智能的核心是人工智能技术，在大数据的基础上，人工智能将数据建模，产生新的结论和应用，从而推开了“万物皆可智能”的大门。随着数据爆炸式增长、数字化基础架构错综复杂，网络攻击面的不断扩大，对应地安全风险也出现了新情况：此前，风险造成的影响是单点的。举个例子，如今，一辆汽车的网络安全问题都不再只影响这辆车本身，而可能影响整个城市交通；此前，

4、数字化的地图上有一些区域是“不通行”的，如今，即使发电、供水等基础设施也深度数字化运行，风险在地图上更四通八达。2023年Al大模型横空出世，大大推进了深度智能时代的到来，然而它对安全局面的影响同样可能是颠覆性的。最近引起全球关注的OPenAI公司因对Al安全的不同观点而导致的人员变动风波，很好地说明了业界对当前AI安全高风险的态度，以及它在整个深度智能的社会中投下的令人不安的阴影。因此，站在深度数字化的转折时刻，对安全科技的关注与投入已刻不容缓。安全科技的价值，既体现为“压舱石”，更重要是作为“助燃剂”：压舱石指的是守住技术的安全底线，防御可能存在的风险隐患，支撑和保障数字社会的稳步运行；助

5、燃剂是提高技术的安全上限，降低技术运行的成本，让新技术得以规模化落地，推动产业焕发新机，让更多人从中受益。数字化为何有安全风险?其实，风险自古至今都存在，只是因为产业运营、个人生活、国家组织的行为模式向数字化转型，风险也就相应地并轨转移。隐私数据泄露、商业勒索、基础设施瘫痪放眼未来，有新科技的地方，就会有新的数字化安全风险，两者是本体和阴影一样不可分割的伴生关系。我们判断，未来通用的技术有两个，一是人工智能技术，二是安全科技。人工智能作为最具颠覆性和战略性的核心关键技术，将在各行各业数字化的基础上进一步实现智能化，成为未来生产力的发动机；安全科技将作为方向盘，始终将各种新兴科技控制在向善的道路

6、上。安全与人工智能并举，双方的融合创新与发展，将是我国强国战略中不可忽视的重要助推因素。因此，这两个领域，应该成为我们最关注、投入最大的领域。过去，当人们提到安全科技时，想到的往往是防病毒软件和防火墙软件。但全球安全科技的版图和技术工具已远远超过这些。在网络安全、系统安全之外，还有数据安全、终端安全、人工智能安全、云安全等等，涉及众多技术门类，也包括了区块链、隐私计算、量子计算等前沿技术。在安全风险质变时刻的当下，提高社会对于安全科技的认知、重视与参与，非常有必要，这是本报告的核心议题。另一方面，尽管安全科技行业已有了相当的发展，但仍存在多种迫切问题。尤其是缺乏明确的生态标准来加快前沿技术的规

7、模化落地、缺乏合理的市场化机制，政企合作及生态联动方法来助推安全科技的发展等等。这也是本报告关注的关键问题。我们必须明确，未来，安全科技将成为社会的公共品，它不只是一套技术，也不是企业的运营成本，而是数字社会的优先事项之一，因为最终它保护的不是若干行业、某个业务、几段数据，而是这个社会里的每一个人，是技术真正造福于人类的可能性。我们也特别感谢中国社会科学院大学哲学院教授、中国社会科学院科学技术和社会研究中心主任段伟文，科技部“云计算十大数据”国家重点专项课题负责人、数秦科技执行总裁兼首席科学家崔伟，北京大学客座教授、蚂蚁集团首席技术安全官韦韬，浙江工业大学网络空间安全研究院院长宣琦等多位专家学

8、者在本次调研中，提出了宝贵观点和三iXoB数字社会进入新阶段面临全新风险挑战（一）数字化安全风险新形势：快迭代、高智能、全覆盖（数字化安全风险来自哪里?操作者的人为失误是其中一部分，更大的来源则是第三方攻击，也就是网络犯罪。网络犯罪，指滥用计算机或电信技术，对系统或信息进行攻击，破坏或利用网络进行其他犯罪的行为，包括常见的盗取和交易敏感信息、针对组织机构网络设施的攻击、网络霸凌、也包括利用暗网等技术手段销售毒品与人口贩运等。网络犯罪的规模目前有多大？根据联合国发展署2022年特别报告，2021年，网络犯罪造成的损失估计约为6万亿美元，如果以国家来衡量，那么网络犯罪是继美国和中国之后的世界第三大

9、经济体。同时，网络犯罪的规模自2020年以来迅速上升，亚州成为全球受攻击最严重的地区，根据IBMX-Force威胁情报指数（2022），亚洲在2021年遭受的攻击占全球攻击总数的26%。在北京冬奥会期间，仅两个月时间受到的相关网络攻击共计3.8亿起。多数人可能会对此数据感到惊讶，我们的日常生活中似乎并无相匹配的感知。一方面，这是出于不同的统计口径，并非完全从用户体验到的纬度。另一方面，日常的感知依赖于可靠的记录和曝光。举一个例子，当2013年底发生了有记录以来最大规模的数据泄露事件时，直到2016年9月此事件才被报告（Lee2016）0数字化安全风险的历史与信息技术的进步保持同步，并非最新的产

10、物。它长久以来处于公众雷达之下，本质原因是在20世纪至21世纪初期，我国上网民众基数不高。事实上，在前互联网时代，就已经有了网络攻击，因为保护位于计算机内部的数据也属于网络安全的范畴。到了1987年，第一个防病毒软件产品出现。随着互联网的民用化程度提高，越来越多的人开始上网，网络犯罪便开始有利可图，于是20世纪90年代，网络安全风险爆发，早期那些炫技的个人黑客逐渐消失，黑客活动转向牟利驱动，形成了如今仍在不断壮大的网络犯罪产业。到21世纪初，在美国等互联网较早普及的国家，网络犯罪的规模、形式和恶性程度都达到了新的程度。例如在一次攻击事件中，黑客获得了超过30亿用户的雅虎账户访问权限。在2002

11、年1月，美国记录了第一起网络犯罪谋杀案，一位罪犯通过雇佣黑客入侵医院的计算机系统，改变了他的竞争对手病人的处方(KraUSZOalker,2013)。错误的处方最终导致一名病人死于一名无辜护士手中。近20年来，网络犯罪的规模、范围、严重程度和复杂性均呈指数级增长，且日益超越地理边界，极大地挑战了传统司法系统应对挑战的效力。2021年2月初，一名黑客远程访问了美国佛罗里达州一家水处理厂的计算机系统，试图将供水中的氢氧化钠含量增加到潜在的危险水平；2022年1月，当国际油价已创近7年新高时，因遭到勒索软件的攻击，荷兰与比利时的几处港口无法完成石油装卸和转运，多艘油轮无法靠港；2022年4月，保加利

12、亚的国家邮政系统遭到网络攻击，导致柜台养老金发放业务被迫中断。能造成如此大的破坏，是因为网络犯罪如今是一个价值收入颇丰的“产业”，拥有机构化的管理结构和研发预算。攻击者能够使用人工智能等高级技术工具，并持续加快攻击生命周期，从侦察漏洞到发起攻击，仅需几天乃至几小时。这些例子清晰地表明，数字化安全风险已经进入到快迭代、高智能、全覆盖的新阶段。在这个全新阶段，对抗安全风险已经远远不是商业机构内部的IT工作，而关乎每个人的幸福指数和全社会的安全稳定。2021年1月，美国国务院批准设立新的网络空间安全和新兴技术局(CSET),3月，美国政府发布国家安全战略临时指导方针，将提升网络安全作为美国政府首要任

13、务，并鼓励私营部门与各级政府合作，同时加大基础设施投入，保卫美国免受恶意网络活动侵害。我国在2021年通过了历史上第一部“国家安全战略”国家安全战略(20212025年)，强调加快提升生物安全、网络安全、数据安全、人工智能安全等领域的治理能力，将安全提升到国家战略层面，实现国家安全战略与国民经济和社会发展规划同步。数字化安全风险的发展趋势近20年以来21世纪初期全昧网络犯罪呈指融圾城长.且日益 超越城理边界,电僖网珞诈棠形与产网络犯IR视模达新高*.攻击者使用人工智能等US工IL 大大堀为了攻击生命周期.改字化安切0世纪90年代20世纪80年代越来越多的人开始上网.M客活 动转向金利砺硝.网络

14、犯雯产业 逐渐形成.但公众对此关注不高. 主要医为这一时期上网人数较少.网络安全风除爆发H!互联网的民用化程度提高.全风险选人回快送代,全Sl 3E的新阶茨.在互联网校早普及的国家.2英 S.网练犯兼的规模、形式加黑性程展送到新高.例如,在一次 黑M攻击事件中，超过30亿用户 的联户口息池Ir 2002年1月，X 国记录了第一起网舔犯读杀案.第一个防病毒软件出现在前互联网时代，就已经右了网络攻击,因为保护位于计算机内 部的破招也于网络安全的范到了1987年,第一个防俄心软件 产品出BL(-)Al安全风险的紧迫性陡增在2022年底Al大模型横空出世后，全球业界迅速形成共识：AI安全风险陡增，这是

15、全世界需要迅捷反应、共同面对的巨大挑战。人工智能安全的三大类别AI安全内生安全衍生安全外生安全jK*t自身身技术将点、候珞、M 性产生的安全角. Al算法模室、M、环境等任 坤力 都可能蚣系蝶引入脆弱性，A1系统因其自身腌弱性被利用或不恰 当使用,引发的危及其他领域的安全 利社金安全A累减因优弱性被攻击安全事故Al星段失保可引发事故国家安全Al武if相关第军备竞交人典央金Al行为体失控电及人类人工第外网改电与比如，攻击者利用人工寓能技术突破 其原有能力边界，给防御带来新挑战Al安全风险目前来看主要可以分为三类：第一是内生安全。从人工智能内部视角看人工智能系统和一般信息系统和应用一样，由软硬件系统组成，会存在技术本身的脆弱性、对数据的依赖性等自身缺陷原因而带来的安全问题。比如人工智能过分依赖于数据与算法，如果给数据库不断投喂带有特定价值观的数据，会对人工智能系统形成严重的干扰，很容易就产生“数据偏见”、“观点霸权”等问题。这其中就涉及业界广泛关注的人工智能“价值对齐”与“决策黑盒化”问题。“价值对齐”就是应确保Al的价值观跟人类的价值观匹配，确保Al以对人类和社会有益的方式行事，不对人类的价值和权利造成干扰和伤害。目前来看，仅靠大模型技术本身不太可能实现对齐这个目标，需要有更多其他技术的介入。“决策黑盒化”指的是