数字社会建设中的算法安全风险及其化解策略.docx

《数字社会建设中的算法安全风险及其化解策略.docx》由会员分享，可在线阅读，更多相关《数字社会建设中的算法安全风险及其化解策略.docx（29页珍藏版）》请在优知文库上搜索。

1、数字社会建设中的算法安全风险及其化解策略为了适应数字技术逐渐全面融入社会交往和人们日常生活的新趋势，我国“十四五”规划和“十四五”国家信息化规划指出，要抢抓信息革命机遇，构筑国家竞争新优势，加快数字社会建设步伐，以促进公共服务和社会运行方式创新，构筑全民畅享的数字生活。2023年2月出台的数字中国建设整体布局规划也强调，要构建普惠便捷的数字社会，普及数字生活智能化,推进数字社会治理精准化。数字社会建设能够有效增强社会运行效率，变革社会生产关系，增进社会智能化、数字化水平。数字社会的运行依赖于智能技术及其内在的算法，去中心化、合逻辑性、非道德性等是算法的主要特征，以最为便捷的路径取得最大的算法效

2、益是其本质逻辑。但受算法模型不完备、算法运行社会场景变化等因素影响，在数字社会建设过程中不可避免地会遭遇算法安全问题。算法安全是一种伴随算法技术平台化应用而出现的技术安全，是一种新兴的社会安全类型，是我国总体国家安全观的重要组成部分。对算法安全及其产生的社会风险的研究关乎我国数字社会建设质量和水平，影响中国式现代化进程。因此，需要强化对数字社会建设过程中算法安全问题的研究，探讨数字社会运行的底层逻辑，分析数字社会建设过程中存在的算法安全风险，寻求算法安全风险的化解策略。一、算法安全风险：数字社会建设不可回避的技术风险随着数字技术的发展，尤其是智能数字技术社会化应用场景的增多，数字技术逐渐全面融

3、入社会交往和人们的日常生活之中，建设数字社会成为我国数字化建设目标。数字社会的建设和运行依赖于人工智能、区块链以及虚拟现实（VR）等算法技术平台，它们的运行离不开完备的算法支撑。算法的平台化应用能够为数字社会运行提供强大算力，增进社会运行的数字化和智能化水平。与此同时，受算法模型完备性、算法内在逻辑等因素影响,数字社会还存在不可避免的算法安全问题。（一）算法：支撑数字社会运行的底层逻辑过去的40年是人类社会向数字社会转型的40年，也是数字技术加速向社会扩散的40年。数字技术的扩散将人类带进了数字时代（1）邱泽奇：数字社会与计算社会学的演进，江苏社会科学2022年第1期。，形成了与工业社会具有本

4、质区别的数字技术社会形态。数字社会是一个以现代数字技术，尤其是智能数字技术为基础的社会系统，人工智能、区块链、云计算以及虚拟现实（VR）等数字技术是推动数字社会运行、影响人们社会交往、促进生产变革的技术基础。元宇宙等虚拟算法空间的建构使现实世界的伦理秩序向算法空间延伸（2）蓝江：云秩序、物体间性和虚体一一数字空间中的伦理秩序奠基，道德与文明2022年第6期。，运用数字技术建造数字化场景，将整个社会规则和社会场景数字化，借助数据赋予现实的人以虚拟的身份（3）HarcourtBernardE.,Exposed：DesireandDisobedienceintheDigitalAge,Cambrid

5、ge：HarvardUniversityPress,2015,p.1.,甚至能够通过算法迭代打造数字生命。这就赋予“人”新的内涵，并拓展了人类活动空间，使人类活动空间由传统的物理空间向数字技术应用场景下的算法空间延伸。因此，数字技术的社会化应用变革了社会生产组织方式，改变了传统的社会关系场域，数字社会的建设沟通了算法世界和物理世界，促进了虚拟算法世界和现实物理世界的融合。借助数字技术载体将原本属于虚拟算法世界的运行规则、技术伦理和数字化秩序映射进现实世界，对现实世界的运行规则、道德伦理和社会秩序产生影响，数字技术成为沟通算法空间和物理空间、算法世界和物理世界的中介（见图1）。U图1数字技术在数

6、字社会中的桥梁作用示意图数字技术的社会化应用推动了社会数字革命，实现了算法的平台化应用。算法、数据和算力成为数字革命中重要的社会要素（4）高奇琦：国家数字能力：数字革命中的国家治理能力建设，中国社会科学2023年第1期。人工智能、区块链等数字技术都围绕这些要素运行，并对人类社会产生影响。这些数字技术是支撑数字社会建构和运行的技术基础，算法和数据则是智能数字技术的基石（5）张龙辉、肖克、王寒：人工智能应用下的特大城市边缘城区治理：技术变革、价值隐忧与技术路径，电子政务2020年第9期。数字技术是数字社会形成的技术载体，是算法的平台化应用。算法是支撑数字技术运行的逻辑基础，也是算力形成的根本所在。

7、算法的平台化应用催生了算法推荐、算法分析、算法决策和算法权力，形成了信息传播新范式，重构了公众认知与生活逻辑，变革了决策模式，提升了决策效率，改变了传统的权力运行逻辑。例如，算法可以借助深度嵌入社会的数字化平台搜集信息和数据，建构社会数据化特征和数据化场景，并据此进行算法决策（6）BerkRichardA.,KuchibhotlaArunKumar,TchetgenEricTchetgen,“FairRiskAlgorithms”，AnnualReviewofstatisticsandltsApplication,Vol.10,2023,pp.165-187.；算法的精准性和公平性直接关乎算法

8、决策的结果,并与算法平台的普及和嵌入社会的程度息息相关。因此，“算法技术的平台化运用使得算法成为联结社会的基础座架”（7）张涛甫：算法“失算”与社会的结构性“失能”，上海交通大学学报（哲学社会科学版）2023年第3期。算法模型及其内在的数理逻辑规定着数字社会的运行规则、数字伦理规范、权力运行逻辑、社会交往关系以及社会结构。它不仅影响社会资源的配置，变革社会生产组织方式，还能够介入政府政治过程，影响社会格局的塑造。算法成为影响数字社会运行的底层逻辑。算法的平台化应用对社会产生了结构性影响。借助人工智能（包括生成式AI,如ChatGPT）、区块链、元宇宙等技术平台，算法及算法服务逐渐嵌入社会诸多领

9、域，推动了数字经济发展，赋予了算法权力公共性，使其成为一种社会公共权力，并催生了数据、信息等新的社会生产要素。在当代社会生活中，“算法无处不在”(8)刘河庆、梁玉成：透视算法黑箱：数字平台的算法规制与信息推送异质性，社会学研究2023年第2期。现实社会的运行和人们的行为越来越多地受到算法及其伦理规则影响：算法推荐、算法决策、算法权力、算法分析极大地改变了社会运行规则，左右了人们的思维和行动逻辑。算法推荐技术的研发催生了信息传播新范式，变革了商业营销模式，在提升信息匹配效率、降低用户信息选择成本、有效满足公众个性化需求的同时(9)吴锋、杨晓萍：算法推荐背景下用户媒介使用对“回音室”效应的影响研究

10、一一兼论媒介素养的调节作用，西南民族大学学报(人文社会科学版)2022年第5期。，使公众基于庞大的数据分析社会运行态势、经济生产趋势等，从而谋求个性化生活服务和针对性商业营销。算法权力的建构则改变了传统的权力运行逻辑，改变了传统的社会主体权力权重(10)张爱军、孙玉寻：算法权力及其国家能力形塑的主体透视，学术月刊2021年第12期。，打破了传统资本逻辑对公共权力的控制，在权力运行的资本逻辑之外出现了基于算法的数理逻辑，在传统的科层制权力结构之外形成了去中心化的技术权力结构，从而改变了社会权力结构，催生了新的权力主体。算法对社会生产生活的深度嵌入催生了新的社会经济生产主体，变革了人类社会生产关系

11、。算法及算法服务的普及推动了数字经济发展，智能机器人、智能化生产设备等成为新的经济活动参与者。智能化经济活动主体的出现在一定程度上解放了人类劳动，改变了社会生产关系，社会生产由传统的人的劳动向类人智能机器的劳动拓展，并催生了基于人与智能机器的新的社会生产关系类型。同时，借助数字生产平台能够实现市场要素的一体化，提升市场的全要素生产率，形成数字经济的规模效应(11)StephanieArnold,“DriversandBarriersofDigitalMarketIntegrationinEastAfrica：AcaseStudyofRwandaandTanzania”,PoliticsandG

12、overnance,Vol.10,No.2,2022,pp.106-115,转变社会经济发展模式。但智能机器人等智能化生产设备的普及衍生了“AI失业问题”，机器取代人成为数字社会中的劳动者,这在减少劳动者劳动时间的同时，也会带来社会经济制度的根本性变革，并引起人们对传统社会剥削制度的反思。元宇宙等虚拟算法空间的建构则拓展了人类社会活动空间，重组了人类社会活动的时空要素，使人类活动空间向时空要素可变的虚拟算法空间延伸，并在这一空间中建构基于算法规则的虚拟社会关系网络，从而推动了人类社会关系网络的重组。且随着算法逐渐成为驱动社会进步和社会运行的重要力量，算法得以借助技术平台重塑个人与社会面貌(12

13、)张敏：算法治理：21世纪的公共管理现代化与范式变革，政治学研究2022年第4期。，成为支配社会运转的一种潜在权力，并借助深嵌于社会各领域的数字技术平台和算法逻辑重新组织社会。算法的平台化应用以及社会数字化转型对数字技术的依赖还催生了智能精英主义，赋予技术专家强势权力地位（13）刘永谋：智能治理的哲学反思，中国人民大学学报2022年第3期。技术精英阶层成为数字社会中的强势阶层，他们凭借对算法资源的掌握实现了对社会治理的技术操控。（二）算法安全风险：算法平台化应用的负向效应算法的平台化应用在给社会运行和生产带来变革的同时，也引发了一定的负向效应，使数字社会建设面临风险和挑战。算法平台化应用引发的

14、第一个问题是伦理问题，主要是算法伦理对现实世界的入侵以及算法正义与社会正义的冲突问题。数字社会的伦理问题主要源于算法模型漏洞、网络技术的缺陷以及法律法规不完善等（14）朱银全：数字社会的伦理问题解析，现代情报2006年第1期。，它主要体现在算法伦理对现实世界的入侵，是算法伦理与人类社会伦理交互作用的结果。算法平台化应用丰富了人类社会伦理内涵和类型，产生了算法伦理等新的技术伦理，推动人类社会伦理由碳基伦理向硅基伦理延伸。算法伦理借助算法技术平台映射进现实世界，进而引发数字社会建设中的数据信息安全伦理风险、劳动伦理侵蚀风险以及人际关系伦理风险等伦理问题（15）田旭明：数字社会的主要伦理风险及其应对

15、，中州学刊2022年第2期。而数字社会中存在的全方位、无死角性和非遗忘性的算法监控又改变了传统舆论伦理，使现实社会的舆论伦理发生新的变化。算法平台化应用中的不确定性还会造成歧视、运行不透明等道德问题（16）KathrinHartmann,GeorgWenzelburger,“Uncertainty,RiskandtheuseofAlgorithmsinpolicyDecisions：ACaseStudyonCriminalJustiCeintheUSAv,PolicySciences,Vol.54,2021,pp.269-287.,对数字弱势群体的忽视容易带来新的社会不平等，引发社会公平正义危

16、机。算法平台化应用引发的第二个问题是权力的来源、形成和运行问题。算法技术平台的广泛应用、智能算法的深度嵌入推动了权力机制的重构，影响了权力的来源，变革了权力的生产。数字化的规则和秩序在一定程度上改写了社会中权力与权利的关系，使国家与社会的控制权之争从传统物理空间拓展到虚拟算法空间（17）周尚君：数字社会对权力机制的重新构造，华东政法大学学报2021年第5期。，并借助数字技术实现“自我赋权”，进而形成既能够采集政治权力声望，也能够获得巨大经济利益的“第五权力”（18）马克格雷厄姆、威廉H.达顿：另一个地球：互联网+社会，胡泳等译，北京：电子工业出版社，2015年，第222页。同时，权力组织的分化与冲突成为数字社会最突出的问题。数字社会的去中心化既促进了政府权力的弥散化，也产生了权力再中心化风险，推动了数字社会权力结构的变化，使数字社会的权力结构呈现权力形