《2024AI技术发展对未来影响.docx》由会员分享,可在线阅读,更多相关《2024AI技术发展对未来影响.docx(27页珍藏版)》请在优知文库上搜索。
1、AlGC技术发展影响2024.01社会影响:智能泛化数字伦理*就业影响伦理影响技能影响法律影响岗位替代性就业结构变化新的岗位诞生.Be*算法歧视侵犯隐私决策透明度a*新技能要求如何指导教育软技能需求a*法律适用性违规内容处理如何分配责任.*a道德危机人机关系国际关系安全影响:过度依赖AIGC面临道德退化AI价值观人机依赖社会互动认知重塑技术竞争协作军事应用数据主权.AlGC失控:网络安全威胁!数据泄露风险;人类劳动力就业影响:危中寻利职场新机;创造性影响:AIGC技术将带来高潜力新兴职业1:4(三:增强性影响:AIGC技术将增强多数岗位的工作效率和效果;渗透性影响:渗透绝大多数职业但影响程度不
2、同变革性影响:部分工作内容和方式会发生重大变革AlGC技术技能要求影响:需要大规模提升哪些技能以适应变化培训投入影响:职业培训方式将发生哪些变化互补型发展职业VB ! 1 VlB l t BM B VIV IIV BIB !(l l lllBR IlBt IVVVIB ( 11t (1 NINIB 2替代1 生影响:可替性传统职业如重复性劳动岗位过渡性影响:转型期可能出现就业结构失衡移位性影响就业类型和分布可能发生区域或全球范围的移位收入分配影响资本与劳动收入比例可能受到影响何静沈阳.基于职业替代概率模型的AlGC职业发展探究JOL图书情报知识,2023(9):1-8.计资消评算源耗估 评估训
3、练和运行模型所需的硬件资源,如GPU、TPU. CPU和内存。 分析存储训练数据、模型参数等所需的存储资源。 评做据传输、模型部署和其他网络活动所需的带宽。 考虑硬件的生产、使用和废弃阶段,评估其整体生命 周期的资源效率和环境影响。 评估训练模型所需的总能源,充分考虑训练的持续时 间、硬件效率和其他因素。 考虑到冷却、电源管理和其他相关活动,评估数据中 心的总体能源需求。 基于能源消耗和能源来源,评估AIGC系统的碳足迹 和其他温室气体排放。能源消耗评估环境影响:能源消耗排放比较文本生成方面 ChatGPT:每次查询大约排放2.2克二氧化碳当量。 BLOOM:每次查询大约排放1.6克二氧化碳当
4、量。 人类(以美国人为例)写250字(约1页)排放约1400克CO2当量。图像生成方面 DALL-E2:每次查询约排放2.2克。 Midjourney:每生成一张图排放约1.9克。 注:模型的训练排放被认为是一次性成本,例如,GPTT的训练排放约为552吨二氧化碳当量。结论:”无论是文本还是图像生成,Al的碳排放量都远小于人类活动”但这些数据引发了广泛的讨论和质疑,包括模型训练中的碳排放是否已全面考虑,以及计算方法的准确性等数据来源:TheCarbonEmissionsofWritingandIllustratingAreLowerforAIthanforHumans)认知鸿沟评价指标体系一级
5、指标二级指标知识鸿沟人们对Al基础知识、概念和功能的掌握度公众对Al的常见误解和错误观念AI技术如何影响人们的信息获取与处理态度鸿沟人们对Al的不同态度差异(如信任、担忧、好奇、怀疑)AI对社会分歧或偏见的加剧程度Al技术如何影响人们的价值观与道德认知行为鸿沟不同人群在日常行为中利用Al的差异(如购物、社交、工作)Al技术对人们决策方式的改变A技术是否导致某些人群在社交互动与人际关系中的隔离社会文化鸿沟Al技术如何影响或加剧社会结构与文化价值的差异Al在教育、健康、经济等领域中加剧的社会差异Al技术是否导致某些社会群体的边缘化经济职业鸿沟Al技术对经济结构和就业市场的分层效应A甘支术如何加剧行
6、业和职业间的鸿沟Al技术对高技能和低技能工作的替代或创新影响教育鸿沟A技术如何加剧教育资源的分配不均Al技术对教育质量与可达性的差异Al技术是否提供了新的学习机会或加剧教育不平等认知影响:知识鸿沟公正之辩 技术的飞速前进是否催生了一代人的失落感?年龄在认知鸿沟中扮演着重要角色,技术的演变速度超越了许多中老年人的学习和适应能力,同时也促使我们重新审视教育体系的灵活性,以确保人类的认知能力与科技发展保持同步。 科技应当是一种人类共享资源还是一种特权?收入作为认知鸿沟的一大影响因素,突显了科技的应用是否受限于个体的经济实力。如何构建一个更加公正与普惠的技术社会值得我们反思。 技术背后的权力动态发达国
7、家拥有丰富的创新资源,国家层面的认知鸿沟揭示了科技发展背后隐藏的全球公平问题。个体间差距扩大,群体间差距缩小Al依赖症:数字适应技术共鸣认知外包技术发展之下,人类渐将认知任务(诸如记忆、决策制定等)委外于技术,此现象既减轻大脑负荷,亦恐致某些认知能力之退化。数字适应人类适应数字环境之能力正渐变为一种新式进化压力,犹如生物适应自然环境般,技术依赖与适应能力或将成为未来人类生存与繁荣之关键要素。技术共生人类与技术之关系遂渐演化为一如生物共生之态。于此关系中,技术已非单纯之工具,而化为人类认知与生理功能之构成部分。技术依赖循环技术依赖呈现自我强化的循环现象。技术运用提升效率与便利性,进而增强技术依赖
8、性,有力推动技术进一步发展与应用,由此构成持续不断的循环。技术共鸣技术与人类之间存在一种共鸣现象,即人类情绪、思想和行为能与技术产生一种特殊的同步性,这种共鸣可能加深人们对技术的依赖。6技术依赖症,或称为“技术成瘾,是指个体对于技术(如智能手机、互联网、社交媒体等)的过度依赖,以至于影响到了日常生活、人际关系和心理健康。表现为:难以控制的使用欲望,心理依赖,人际关系受损,可能记忆力和其他认知功能等。BrantReader。OBrantReaderChatGPTisdown,andtodayIlearnedthatIforgothowtoworkwithoutit讲Mi文AF272023年3月2
9、1日1.550自我意识觉察.设定界限依赖解决思路替代活动心理咨询技术工具辅助Al认知偏差:幻引纠偏事实遮蔽主要原因AI幻觉产生相关性误差、欠拟合(对数据的拟合不足)或过拟合(过度适应训练数据)、无意义的规律模式寻找等问题语料引用谬误基于统计模型和语言模式匹配来生成的回答,在语言的多义性及复杂的上下文等情况下,可能无法准确理解和处理相关信息逆转诅咒自回归模型架构的局限性问题,因为next-tokenprediction+causallanguagemodel的本质缺陷,不能很好解决从AisB推理SJBisA的问题。知识盲区训练AIGC所使用的数据如不完整,某些特定领域或群体的数据可能被忽略或少量
10、存在,导致对某些问题的回答出现偏差上图为询问麻辣螺丝钉的做法得到的早期回答面对用户提问,AIGC可以快速生成大量回答,很多第一眼看起来是正确的答案,但由于缺乏世界上许多系统运行的硬编码规则,有时只是组织一段流利的文本,而不是一个事实。Al诈骗:精准多变追踪不易常见的Al诈骗形式#Al诈骗正在全国爆发#分享人社交工程攻击虚假客服钓鱼邮件和短信假新闻和谣言传播虚假客户和评论虚假投资交易平台lxttxxxtmtxtxxtxt%iMtxxxx今日阅读LB亿今日讨论1万详情导港:近日,包头警方发布一起利用人工智能(Al)实施电信诈骗的典型案例,福州市臬科技公司法人代表郭先生10分钟内被骗430万元。比如
11、,当AI冒充银行给用户发送短信,声称用户的账户出现异常活动,要求用户立即点击提供的恶意链接进行验证。同时提供了一个虚假的客服电话号码。这种诈骗短信的目的是引诱用户提供个人信息,进行欺诈行为。Al诈骗的特点隐蔽性AI诈骗的行为和手段往往不容易被立即察觉,且由于Al诈骗的自动化和匿名性,使得追踪和定位犯罪者变得更加困难。精准性AI诈骗能根据大量的数据分析,精确定位并选择其目标受害者,并根据受害者的个人特点和习惯,制定出精确的诈骗策略。多变性Al诈骗的手段和策略不断地变化和进化,能够高度模拟真实的人类行为和语言,识别难度逐渐增加,使得其更难以防范。大爆发性一旦Al诈骗找到了一个有效的攻击手段或策略,
12、它有可能在短时间内大规模爆发,造成大量的经济和财产损失。Al诈骗风险:数据深渊以假乱真部分资料来源:影湃新闻三星电子半导体暨装置解决方SAMSUDataleak案部门保密数据泄露事件Makg pictures ol Trump getting arrested whil watrg fp,B am近一年内Al fraud搜索热度攀升热度陵时间变化的趋势Go QleTrends数据来源侵权风险华尔街日报记者弗朗西斯科马可尼:OpenAl公司未经授权大量使用路透社、纽约时报、卫报、BBC等国外主流媒体的文章训练ChatGPT模型,但从未支付彳引可费用。用户数据泄露风险数据共享过程可能会有未经授权的
13、攻击者访问到模型相关的隐私数据,包括训练/预测数据(可能涵盖用户信息)泄露,模型架构、参数、超参数等,模型输出易获得的特点决定了Al模型隐私保护任重道远。埃利奥特希金斯使用Midjomeg生成的特朗普被捕图深度伪造风险基于深度学习的人物图像合成技术被某些群体的恶意运用,将可能导致该技术被用于生成虚假信息、使用模型来模拟某个人的语言或行为模式、进行政治干预、煽动暴力和犯罪等破坏公共利益的行为。干亿级市场监管是阻碍还是发展前提Al诈骗预防:补漏防骗筛除虚假算法治理AIGC提供商有责任在平台投入使用前对可能产生的问题进行预估、判定并制定相对应的措施强化验证提供涵盖多重身份验证、重点群体保护和算法透明服务等方式提升用户的身份安全算法备案按照互联网信息服务算法推荐管理规定履行算法备案和变更、注销备案手续事前:预防平台运营前置风险修复更新HTTPS协议和SSL证安全漏洞书保护数据和通信的安