《【研报】2024生成式AI产业落地路径研究报告-腾讯云&Gartner-2024.docx》由会员分享,可在线阅读,更多相关《【研报】2024生成式AI产业落地路径研究报告-腾讯云&Gartner-2024.docx(19页珍藏版)》请在优知文库上搜索。
1、攵)腾讯云Gartner生成式AfUigg彳三三S版权声明本报告版权因于腾讯云计算(北京)有限贡任公司,并受法律保沪。转载.摘抄或利用其他方式使用本报告文字或观点的,应注明“来源:膨讯云计更(北京)有限贡任公司违反上述声明者,公司保留追究其法律责任的权利。引言在当下新一轮科技革命和产业变革加速发展的背景下,数据已成为新的生产要紊,野力成为新的基妣能嫄,而人工智能则成为新质生产力。2024年的政府工作报告中,明确指出要深化人工智能应用,并首次提出开展“人工智能+”行动。该行动打开了新质生产力的大门,人工智能正在成为产业创新的关搜抓手.尤其是以大模型为代表的生成式A1.技术,已成为推动新一代产业变
2、革的核心动力.为抓住此次技术机遇,企业开始税极尝试将生成式AI融入工作流程,以探索各种创新可能性。生成式A1.已经成为企业各个层面关注的焦点,CEg望于新技术成为公司业绩增长的引饕,而员工则期待新技术成为他1口创意性工作的源泉。在这T变革的时代,企业不断努力将技术机遇相匕为竞争优势,不断拓展业务领域,迎接未来的挑战。对于企业而言,探索生成式A1.应用落地是一项具有挑战性的任务。本报告提出了生成式A1.应用场景矩阵,用以协助企业完善自身可落地应用场景.同时,报告还基于落地实践经脸总结出生成式AI应用落地路线,指导企业遴选适合自身情况的落地方式。结合Gartnef的产业技术研究,本报之力图为企业带
3、来腾讯云的思考、实践经给与建议,希望烟助企业捕捉这一历史性新机遇,港写第二增长曲线。生成式A1.产业最佳落地实践路女培-布砒M/46二.路侬-相It税型能力增强/48三跖线-定制化模型林佣绐、/56生成式A1.发展展望大模型数据安全保护解决方案通过分析AIGC面IiS的数据安全风险以及合规要求,对AIGC业务流程的不同阶段匹配故据安全防护策略,方案如下:注:DSGC:喇云效据安至治S中心CASe:喻云故把安朝护网关通过对大模型的用户、实体、模型文件实施分圾别的访问控制,实现极限分胸,通过数据安全治理中心、故据安全防护网关、机密计拜平台等产品施力,实现大模型业务全流程中海38教框和大模型的完整性
4、和保岔性,通过此方案可以实现如下效果:3Mt/s*生成立AI产业落腐役研究报国43项目成效旷费律所依托腾讯乐宇打造团队协作和知识管理平台,实践效果显苫:目前已在“旷更大享乐字平台”存档4万余份员工编报的指引和案例,开设了873场培训和课程,220余场认证直插。平台国高月访问达40万人次,折合每人每天平均访问10次.膨讯乐享的创新意义在于它打破了传统企业知识总埋的方式,通过AI助手,使知识的生产、获取、共享、迭代和岂埋变得更高效,不仅帮助旷出快速沉淀和传承知识,陵低人员流动带来的风险,提高团队效率和创新能力;还助力企业文化落地,打造了一支更具有学习力、凝聚力和奋斗相神的团队,让旷口更好地应对外部
5、环境的变4匕另外,映讯乐享的应用也有助于推的J5的数字匕转型,为律所行业的可持续发展注入新的活力.客户评价”借助腾讯乐宇AI助手,目前律所已形成自己的A1.知识摩。员工脚开显示,对典型问题的A1.回答满息度达93分,到凿问题准确率达91%.现在有问题就找乐学A1.聊,费内容就找乐字A1.帮忙出,腾讯乐享足旷友人的担能大学!口旷口法律集团学习与能力发展部部长龙庆2.招商银行-A1.代码助手实践项目背景及挑战客户作为头部金融机相,积极拥抱皆能化场累,率先探索AI驱动海木垠效的落地方案;面临以下痛点:1、企业安全合规要求S5,代码不可外泄;2、开源模型难以定制和峨、逐源成本较高,产生投入产出管控顽虑
6、;3、Wf乏适用的标准评测数精集;4、1DE插件板本多,统一管理与多版本莪容挑战大.产品方案解决方案代WHkS代行诊MB*K叫话项目成效1,成本险低:基于自研行业模型推理成本远低于大理型成本。2.效能提五:成功打造出性能与体验更优、安全合规目满足业务场累的行业模型,建立起适合业务开发场景的蟆型钻调评测抵准,实现开发效率30%+提升.(二)路线二标准模型能力增强1 .百川智能-S1.讯云向数据库TenCentC1.oudVectorDB项目背景及挑战大模型提供在线推理的服务背后有一个模块叫搜索憎强,这个搜索憎强服务席要向Ji数据库提供数岖检索的功能,数据规模从1亿TOO亿级别,对大规阪高性能稳定
7、性有比蛟高的妾求。100亿级单索引存储规俵,上千节点的集群管埋,对向数据库的架构设计,系统盼定性有着较高的要求。饲养员助手,为饲界员快速提供单个大姆猫或者大照痴种群的知识信息汇电和分析(合於实数据知识匕和规范知识),助力大您漏保沪。3 .中原出版柒团-1讯云大模型知识引擎项目衿景及挑战由河南省教寻厅牵头,中原出板集团奉头建设,面向河南省全省上千所中小学提供哲马教百平台,通过7x24小时全天候大模型知识助教实现因材施教,打造教师助理及学生助手,整体提升教学效率及质教育内容的准硝性至关重要,将确保大模型生成的内容不仅符合教育标准,而目还要适应不断更新的教育政策和课程要求,中原出版集团要将河南省百万
8、级的中小学教材文档导入,进行知识郴里配邂,工作IB庞大且复杂.产品方案知识引擎有现成开放接口,支持外部文档通过按口写入知识引擎文档库,无需椒型文档配a1.问答对,可针对文档is投问答。大模型支持教学大纲设计、习JS解析等场景问答,可通过探型格调提升问答准确率,提升教学效率和质是项目成效目前已在河南省郑州市部分重点中小学上线,在备课材料、教学实施、学生管理及工作事务四大场第帮助教师提升效率;在知识字习、作业联系、母考准备学习提升四大场第助力字生提升学习效率和质S1.4 .万楮信息-at讯云大模型知识引擎项目背景及挑战术能力、数触力为星础,涵盖获客+授自准入+贷中曲里+送后管理全流程的苦能风控体系
9、.面对日益庞大的市场需求和更加严SJ的合规要求,中原消金如何搭建充笆贯穿客户全生命周期、业务全流程的智能风控体系是一项持续性的挑战.传统的风控模型以专家模型和逻辑回归为代表,强调可解释性和稳定性。随着信送业务走向普患、经苗的客更加多样化,需要使用更有效的法来做信息整合和客群分层.为了更好地挖掘和发挥数据的价值,变霰使用的工级和复杂度均会大帖提升,这对风控变矍的管JiIS出史总的要求.围绕客户全生命周期的管理,模型从例重于贷前、贷中、贷后等环节的客户风险邯,扩辰到了包括5?用、电诈、消保、协商还款等场景,更多地从经苕的视角去审视侵型带来的擀益.生成KA1.产屿ienia研汽致e项目成效在双方联合
10、构建的智能风控体系的支挥下,中原消金有效降低欺诈行为的发生,并在业内率先正式推出7天无理由还款”权益,该权益是中原消费金源公司面向首次借款的用户推出的一项鼓励用户埋性消费的保脚性权益,也实现了消费金融行业产品形态从O到1的壬大突破.建模周期从原来的10天咯至3天,上线周期从传统的7天升级为小时级上城。建模周期(天)上线周期(天)传统集模效果(KS)-MaaS建模效果2 .某大模型企业项目利累及挑战客户自研文本大模型和语音大模型在上蜘,遇到了内容审核的多项难点:区别于=人聊天,用户会把A1.当做问答工乂,会涉及到历史、政治价值观等由2,平台的内容安至风险憎加”产品迅速破SS,存在少量言危用户会尝
11、试试探平台底税.由于场景的特殊,违规教IK中色情话题比例较高.当前A1.GC内容安全受到国家高度正视,监管要求AIGC技术提供阍要在数据、合规、SS法三大形态上落实合规要求,虚假、违背伦理、不适内容加了审核的维度和复杂度。而即将上线的自研文本大模型和语音大模型面临着新型A1.伪造、K未成年人等违规内容,以及A1.问答产生错误引导等内容,大大增生房式AI产业恚eiaw%s告产品方案针对AIGC技术所带来的内容风险挑战,腾讯安全依托二十余年的安全对抗经轮,为该大模型企业提供了A1.GC全链路内容安全解决方案。基于数据合规、内容合规、箕法合规等相关孜策锤求,为企业已上线的大模型平台提供包含审校服务.
12、安全专家服务、机器审核服务、版权保护服务五大能力板块,覆盖A1.GC类应用从模型训腐到内容生成到事后运管全过程的内容安全建设,确保AI大模型可信、可靠、可用。项目成效天御A1.GC内容安全解决方案覆盖T虚拟人创建、虚拟人IV1.对话nw热点话速审核”等多个场景,为企业提供十几种定制识别服务,机器审核准确率达99.99%,有效保蹿了大模型生成内容的合规,可用。3 .阅文集团-T1.平台行业大模型精调项目背景及挑战作为国内头部的网文创作公司,列文集团希望使用生成式A1.技术,在文生图/图生图场景中,面向5用户的应用需要提伙iSQPS、低模型*掰的方案。现式A1.产业SS耽密研究报告58产品方案产品
13、示例.户MX1BB1三.XBXtXWBmNHI”女CMI1.qajI加.naa力avntaa*iBSttaMViiM-!1es费0n)t!6C7aU*AB项目成效阅文基于腾讯云T1.平台搭载的ange1.推理加速引擎,推理费力平均提升30%,在文生文领域,更是把成本险低到原来的1/4。此外,T1.平台提供动态batch和自动月眸调度机制,大幅提高了服务吞吐量,模型优5口部署模块一匿加速和发布模型,支持噪型推理加速的过程中动态加载不同的1.oRA模型,极大减轻了服务吕附的维护成本.生底式A!产业第电KHy刎阳跳:第五章生成式A1.发展展望通过上一章节分析各行业的最佳落地实践,我们可以发现生成式A
14、1.技术已经取得了突破性进展,并且在各个领域得到了广泛的应用。随0不断的研究和实践,生成式A1.技术本身仍然存在者许多可以突破创新的方向.更加高效灵活的架构、覆盖模态的持续扩充、具身智能等都是可期的生成式A1.新技术趋势.这些新技术突破,必带来更多的创新成果和应用场S1.首先,我们认为新架枸是一个至关壬要的技术创新方向。本轮技术革命源头是Trans-former架构的诞生,但今已有7年之久,而且计算效率距离人酶有很大的提升空间.技术人员始终在开发下一代人工皆能架构,卡内基梅隆和普林斯顿联合研发的Mamba架构正在向TranSfOrmer发起挑战.未来势必涌现出史S5效.更灵活的架构,带来史多的
15、优野和创新,为未来生成式A1.应用犷展突定坚实基址。其次,我们关注到多楔态能力持续扩展的趋势,如基因、生物电.雷达信息等。基因组学等信息可以视为另一种ig三r,复杂度极高,生成式AI技术正在突破这拽未涉及的模态领域。这一技术趋势将带来生成式A1.在生命健康、科学研究、汽车等领域更加丰苔的应用场景,引领更多行业开台科技变革。第三,具身智能是未来数年生成式A1.又一技术突破点。只身智鎏,是指通过相生成式A1.应用到物理世界,载体可以是机器人、也可以是智鎏设备,从而实现更加智能化和个性化的互动体玲。具导智鲂延展了生成式A1.技术的应用边界,家居,交通等领域可能诞生产品价值创新的革命性变化,生成式AI技术的蓬勃发展已经为我们推开了通向通用人工智能的大门。研究人员还在不断推动技术进步,企业也1寻枳板采纳新技术,并应对应用落地过程卬的