2024生成式人工智能安全与全球治理报告.docx

《2024生成式人工智能安全与全球治理报告.docx》由会员分享，可在线阅读，更多相关《2024生成式人工智能安全与全球治理报告.docx（68页珍藏版）》请在优知文库上搜索。

1、-Ui三sc3csa;ess.eB9alw-Qbs-三。三耳三巴odm三西cc3三b三三三三三q三3三c3-三=?-U-CGZ三三三三三ST富g-i,三三h=nM9三!n三,3ma台OjjIftAIffl&J:ee)8JMIii52024iFlF.IJan2024SafetyandGlobalGovernanceofGenerativeAlReportHtWifitUtR&*3。Uffrt*Jll.if3f*t9.J编者的话I序言II人工智能治理：为了人工智能发展得更好更快，II以加速实现全球可持续发展目标II龚克II介绍V第一章生成式人工智能的风险与挑战1大语言模型怪兽对利维坦与法律秩序的挑

2、战1季卫东1以更积极主动的治理应对人工智能发展中的风险与挑战4段伟文4人类价值对齐难题与大模型伦理嵌入6王小红6人工智能的全球监管：主要差距和核心挑战8罗斯塔姆J诺伊维尔特(RoStamJ.Neuwirth)8生成式人工智能对全球治理的挑战与应对9孙南翔9全球人工智能风险不可避免地需要全球合作10邓肯卡斯贝格斯(DUnCanCaSS-BeggS)10第二章生成式人工智能的全球治理策略12基础模型和生成式人工智能时代全球人工智能治理的制度设计原则12尼古拉斯莫斯(NiCOlaSMOEs),尤兰达兰奎斯特(YOlanda1.annqUist),12尼基伊利亚迪斯(Nikiniadis),尼古拉斯米

3、埃赫(NiColaSMiailhe)12有关全球人工智能治理的关键政策建议14周辉14基础模型开发和部署的国际监督16罗伯特特拉格(RObertTrager),菲恩海德(FynnHeide)16协调、合作、紧迫性：国际人工智能治理的优先事项18卡洛斯伊格纳西奥古铁雷斯(Cark)SIgnacioGutierrez)18数据伦理与联合国教科文组织开放科学建议20国际科技数据委员会数据伦理工作组20通用人工智能或大型基础模型的国际治理：渐进原则与开放探索2222张鹏第三章人工智能治理助力发展中国家与全球可持续发展23发展中国家距离利用人工智能的力量还有多远？23尤金尼奥巴尔加斯加西亚(EUgeni

4、oVargaSGarCia)23推动发展中国家参与人工智能治理与可持续发展25鲁传颖25人工智能供应链与地缘政治：与全球南方国家共同治理27方淑霞(Marie-ThereSePng)27人工智能监督可以从碳排放中学到什么29夏洛特西格曼(CharIotteSiegmann),丹尼尔普里维特拉(DanielPrivitera)29人工智能治理如何促进全球经济增长与可持续发展？31廖璐31为全球大多数人的人工智能治理以东南亚为例32莉安托涅特蔡(1.yantonietteChua)32第四章工程视角下的人工智能治理34理解模型能力是全球人工智能治理的优先事项34纳撒尼尔沙拉丁(NathanielS

5、haradin)34标准化视角下的人工智能安全治理全球协作与敏捷更新36马骋昊、高万琪、范思雨36人工智能治理场再建巴比塔的革命38王俊，娜迪娅38新加坡治理生成式人工智能的方法和实践41丹尼丝王(DeniSeWong)41通过人工智能技术民主化实现人工智能对齐43伊丽莎白西格(EIiZabethSeger)43学习机器的工程智慧45布雷特卡兰(BrettKarlan),科林艾伦(COlinAlien)45多元、开放、互动：生成式人工智能模型训练所需的原则47文U纪璐(Jee1.oO1.iu)47第五章企业视角下的人工智能治理49一种负责任地扩展人工智能模型的框架49迈克尔塞利托(MiChae

6、ISellitto)49以价值对齐塑造健康可持续的大模型发展生态51司晓、曹建峰51不要让深黑盒人工智能锁定了我们文明进化的路径53韦韬53英特尔负责任的人工智能应用探索5454邹宁、王海宁致谢56免责声明56联系方式56贡献情况56编者的话本报告是由多元的作者观点汇集而成，旨在引起公众对生成式人工智能技术发展的安全性和治理问题的关注，并激发进一步的思考。我们认识到，这一领域的发展速度迅猛，伴随着许多潜在的挑战和机遇。报告中的具体观点仅代表各个作者本人，而不代表世界工程组织联合会创新技术专委会(WFEO-CErr)或深圳科学技术协会的立场。我们强调，对于生成式人工智能技术的探索和应用，需要行业

7、内外的广泛合作与持续对话，以确保科技的进步能够造福全人类，并在伦理和法律框架内得到妥善管理。通过这份报告，我们希望促进更多的交流和合作，共同探索这一前沿科技的未来。序言人工智能治理：为了人工智能发展得更好更快,以加速实现全球可持续发展目标龚克首先祝贺世界工程组织联合会创新技术专委会（WFEo-CErr）和深圳市科学技术协会共同组织编写了这份报告，做了一件很有意义的工作。在这份报告中，来自不同国家和地区、不同行业和领域的专家们，为我们带来了在不同视角下对人工智能治理的观察和思考以及有益的实践经验，他们从不同的角度提出完善人工智能治理的建议，包含了非常重要的共识：比如，加快建立人工智能全球多方共同

8、治理的机制和开展广泛的对话，将伦理作为人工智能治理的最重要的基础，将风险较高的领域作为加快建立全球治理规范的优先领域，等等。发布这个报告的时间，恰好处于联合国2030年可持续发展议程的中点。在不久前举行2023年联合国可持续发展目标峰会上，各国领导人一致呼吁要加倍努力，加速实现可持续发展目标（SDGs）o联合国秘书长古特雷斯指出，可持续发展目标不仅仅是一系列目标，它们承载着各国人民的希望、梦想、权利和期许。然而如今，只有15%的目标按预期进展，很多目标甚至出现了倒退。现在急需制定一项全球计划来挽救这些目标的实现。古特雷斯强调要在6个关键领域采取行动，其中之一就是“利用数字化转型机遇”。可以说，

9、我们急需人工智能成为推动SDG加速的实现的重要动力。人工智能是革命性的通用目的技术，是驱动第四次工业革命和经济社会数字化转型的先进生产力。无论是从全球的层面（如加速实现可持续发展转型），区域和国家的层面（如结合区域与国家实际的能源转型行动、促进经济增长和就业），行业和企业以及各种组织的层面（如提高行业的数字化转型、增进企业竞争力和组织效能），还是个人的层面（如提升职业能力、提升家庭生活的便捷性等等），人工智能都具有极大的潜力。因此，人工智能的治理无论如何都不是也不应该是阻碍人工智能发展的治理，而是促使它更好更快发展的治理。人工智能的快速发展尤其今年以来生成式人工智能的快速发展，在给人们带来前所

10、未有的体验和惊喜的同时，也加剧了人们对人工智能安全和伦理的关切，甚至出现序言了一定程度上的社会焦虑C这就凸显了完善人工智能治理、保证人工智能可控、向善的重要性和紧迫性。鉴于人工智能等新兴数字技术从本质上将是全球性的技术，这些技术不认可地缘政治边界。人工智能的发展和治理，涉及全人类的共同利益，它们产生的影响（无论是正面的或是负面的）都会产生跨越国界、跨越行业和专业的全球性、全局性影响。因此，对于人工智能的有效治理必须是全球的、多利益相关方参与的共同治理。事实上，国际组织（联合国、G20、G7、OECD,欧盟等）和各国政府以及人工智能企业已经在人工智能治理上采取行动，从这个报告中可以看到这些努力和

11、重要的治理发展以及有益的实践。然而，尽管各国、各个组织提出的这些治理原则在极大程度上是一致或相近的，但是仍然缺乏广泛的明确的全球共识，作为进一步加强全球行动的基础。在当前巳有的治理发展中，应该特别重视联合国教科文组织（UNESCO）的人工智能伦理建议书。世界工程组织联合会（WFEO）从工程促进可持续发展的使命出发，在高度重视促进人工智能发展和应用以加快双重转型的同时，也高度重视人工智能的治理。2020年WFEO-CEIt在第一个世界工程日发布了在工程中负责任应用大数据和人工智能的七项原贝k2021年WFEO支持联合国经济和社会事务部（UNDESA）和联合国秘书长技术事务特使办公室一起发布了人工

12、智能发展战略资源指南，WFEo还积极参与了UNESCO的人工智能伦理建议书的咨询工作。我们认为，饕于人工智能的发展和应用都离不开工程，而且只有工程化的人工智能才能真正在人类生产和生活中发生作用，所以，工程界应该成为人工智能共同治理中重要的、积极的一员。从工程的角度看，应该特别重视将人工智能治理的伦理原则、法律规定落实到可以检验的技术标准之中。这些标准应该是全球性的，可以互通的和具有互操作性的。而要是这些原则和标准落到实处而不是停留于纸面，应当优先发展支持治理的技术手段和工具，比如隐私计算的技术、伦理审计的技术，等等。WFEO还强调，人工智能的发展和治理离不开包括工程教育在内的广泛的能力建设，特

13、别是要采取实际行动减少与人工智能相关的数字能力鸿沟，这本身也应该成为人工智能全球治理的题中应有之义。总而言之，作为全球工程界的领导者WFEO愿意在人工智能全球共同治理中发挥积极的作用。我们相信，人工智能先进技术的发展和应用，是无可阻挡的，人工智能治理应该是促进性的治理，即以人工智能更好更快的发展为目标，最大限度发挥它的技术潜力为人类和地球的可持续发展服务；我们重申，人工智能的有效治理必须是全球的、多利益相关方参与的共同治理，当前应该的联合国的框架内组织广泛参与的对话以促进明确的治理共识，并形成常效机制(如同气候协定)，作为进一步推进共同治理行动的基础；我们强调，人工智能的治理应该是基于伦理的治

14、理，UNESCO的人工智能伦理建议书为此提供了重要的基础；我们还注意到，已经提出的治理原则和正在进行的治理实践，都采取基于风险的差异化治理，因此我们呼吁对于人工智能的风险认识应成为全球多元对象的优先事项；我们还主张，要把人工智能发展和治理的能力建设，特别是缩小人工智能能力差距，作为人工智能治理的重要方面，并在把帮助发展中国家建设人工智能能力方面，实施有力且紧迫的行动。龚克，WFEO前任主席(2019-2022),WFEo-CErr顾问。介绍2023年10月180,习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中宣布中方将提出全球人工智能治理倡议，并于同日由中央网信办正式发布，围绕

15、人工智能的发展、安全和治理阐述立场主张，表示愿同各方就全球人工智能治理开展沟通交流、务实合作，推动人工智能技术造福全人类。10月26日，联合国秘书长古特雷斯宣布，正式组建一个新的高级别人工智能咨询机构,全球39名专家共商人工智能治理，以探讨这项技术带来的风险和机遇，并为国际社会加强治理提供支持。11月1日，首届全球人工智能安全峰会在英国布莱切利园拉开帷幕。包括中国、美国在内的28个国家和欧盟，共同签署了布莱切利人工智能安全宣言，一致认为人工智能对人类构成了潜在的灾难性风险。在这个背景下，本报告汇集了全球40多位人工智能治理、科技伦理、大模型安全和对齐、通用人工智能风险等领域的政策制定者、企业家、专家学者、工程师等的29篇评论，旨在引起对生成式人工智能发展与安全与治理的关注和进一步的思考，呼吁开展广泛的合作。其中的具体观点并不代表任何主办和主编机构。按照讨论主题分为以下五章：第一章，生成式人工智能的风险与挑战从近期和长