AI终端行业专题报告.docx

《AI终端行业专题报告.docx》由会员分享，可在线阅读，更多相关《AI终端行业专题报告.docx（18页珍藏版）》请在优知文库上搜索。

1、AI终端行业专题报告：端侧算力助力AI规模化应用AIAgent元年，端侧AI支撑规模化扩张从大模型(LLM)到智能体(Agent),智能助手的下一程人工智能(AI)在用户软件使用方式上即将带来的根本性变革。比尔盖茨在今年11月提出，尽管软件已经经过了几十年的迭代，但使用方式仍然较原始，例如，当用户需要完成特定的任务时，需要告诉设备应该使用哪个应用程序。未来，用户不必再为不同的任务使用不同的应用程序,只需以日常语言告诉设备想要做什么，软件将能够因其对用户生活的深入了解而作出个性化响应。任何在线的人都将能够拥有一个Al智能体，由先进人工智能驱动的个人助手。未来，Al智能体更倾向于是一种“代理”(a

2、gents),与当前Al工具(bot)有所差异。Bot仅限于单一应用程序，并且通常只在用户输入特定单词或寻求帮助时才介入。这些工具不会记住用户历史上如何使用它们，也不会变得更好或学习用户的任何偏好。而AlAgent更加智能：1)它们是主动的，能够在用户提问之前就提出建议；2)它们能够跨应用程序完成任务；3)它会随着时间的推移而改进，因为它们记得用户的活动，并识别其行为中的意图和模式。百模大战只是起点，AlAgent完成执行落地的完整闭环。LLM初期,大家普遍认为LLM是通向通用人工智能的路径，但大模型只能被动的响应查询，可以完成对话、写故事、生成代码，比传统Al模型具有更强的理解能力和创造能力

3、，但并不能直接到达AGI(通用人工智能)的理想目标。而以AutoGPT和BabyAGI等项目为代表的LAM模型(Large-ActionModels/Large-AgentModels),将LLM作为Agent的中心，将复杂任务分解，在每个子步骤完成自主决策和执行，形成了具有多领域、多模态执行力的AlAgento图2：LLM是被动的对于智能体的构建，高领人工智能学院提出了一个由四部分组成的框架，分别是：1)表示智能体属性的配置模块(PrOfiIe),旨在识别智能体是什么角色；2)存储历史信息的记忆模块(MemOry),可将智能体置于动态环境中，使智能体能够回忆过去，帮助智能体积累经验、实现自我

4、进化，并以更加一致、合理、有效的方式完成任务；3)制定未来行动策略的规划模块(Planning),将复杂问题分解为简单的子任务，形成决策；4)执行规划决定的行动模块(ACtiorI),负责将智能体的决策转化为具体的输出。目前，基于LLM的Agent大多仍处于实验和概念验证的阶段，但相关的生态正在快速丰富，围绕Agent的研究工作也持续推进，2023年可谓是AlAgent的元年，大量Agent被推出。OpenAI推出GPTs,搭建通向AlAgent终局的桥梁GPTs在目前能力有限的Al和未来可能出现的AutonomosAlAgent之间架起了一座桥梁。2023年11月7日，OpenAI举行了首届

5、开发者日，正式发布了自定义GPTGPTSo无需代码，用户可以根据自己的指令、外部知识创建自定义版本的ChatGPT,这一功能被称为GPTSo它们允许为特定目的构建定制化Al机器人，而无需高级编码。同时，OPenAl也会在本月底上线GPTStore,让开发者们分享、发布自己创建的GPTsoGPTs加强了通用Al大模型的实用性，有望极大加速Agent领域的探索。GPTs可以连接到第三方平台上，在演示中，Altman使用ChatGPT界面在设计应用CanVa中模拟了一张海报，或是使用链接到Zapier的GPT扫描日历并查找日程安排中的冲突，然后自动返回冲突消息。未来，通过将不同的服务结合在一起，通用

6、大模型就能完成非常复杂的任务，将想象落地成真正的虚拟助理、教练、导师、律师、护士、会计师等。从自动化走向智能化，革新人机交互方式Vivo发布蓝心小V,交互方式革新，Al助手应用落地进入快车道。11月1日，Vivo举办“2023VDC开发者大会”，发布了自研通用大模型矩阵蓝心大模型，并推出基于蓝心大模型开发的首款全局智能辅助蓝心小V、自然语言对话机器人蓝心干询等全新功能应用，以及OriginoS4系统。蓝心大模型是ViVO自研的通用大模型矩阵，包含十亿、百亿、千亿三个参数量级，共5款自研大模型（蓝心大模型1B、蓝心大模型7B、蓝心大模型70B、蓝心大模型130B、蓝心大模型175B）,从而满足不

7、同的应用需求和算力条件。蓝心小V是基于蓝心大模型的全局智能辅助应用，拥有更为自然、便捷的人机交互方式、丰富多维的信息表达。蓝心小V可以通过语音或文字，甚至是拖拽的方式，接受并处理信息数据，同时设计了便捷小巧的悬浮态，不用时最小化挂起，需要时再点击打开。这种无需唤醒的陪伴交互模式，打开了用户习惯Al助手的第一步，已经和传统手机助手有所差别，更贴进agent概念。我们认为,蓝心小V的推出开启了手机Al助手迭代更新的时代，手机Al助手将越来越贴近agent概念。华为8月4日发布鸿蒙4操作系统（HarmonyOS4）,华为盘古大模型将助力鸿蒙操作系统和鸿蒙生态。盘古大模型是中国首个全栈自主的Al大模型

8、，包括“5+N+X”三层架构，分别对应Lo层5个基础大模型、Ll层N个行业大模型、以及L2层可以让用户自主训练的更多细化场景模型。其中，5个基础大模型分别为盘古NLP（NaturalLanguageProcessing,自然语言处理）大模型、盘古CV（ComputerVision,计算机视觉）大模型、盘古多模态大模型、盘古预测大模型、盘古科学计算大模型。随着5GAI进入千行百业，终端侧的生成式Al与云端的通用大模型相结合，将能更好地赋能数字化转型，赋能千行百业。HarmonyOS4新版本中的华为智慧助手小艺已经接入了盘古大模型，包括自然语言大模型、视觉大模型、多模态大模型，主要体现在多模态交互

9、以及个性化创作两大能力。新升级的小艺可以实现更自然流畅的对话交互，拥有信息检索、摘要生成、多语种翻译等能力。与此同时，三星在其第三季度财报电话会议上表示，将致力于把Al技术内置于设备中，无需连接外部云端，让Al赋予手机设备全新体验。用户能够通过简单指令访问各种服务，而无需访问互联网。2023年11月8日，三星在最新的人工智能论坛上正式发布了其自研的生成式Al产品Gauss,这款大模型由SamsungGaussLanguageSamsungGaussCode和SamsungGaussImage三个部分组成，面向Al聊天、Al代码和Al图片等领域。目前，三星表示GaUSS主要用于提高员工生产力，但

10、未来将在各种三星官方App中扩展应用范围，以提供更好的用户体验。预计Gauss未来可能在三星GalaxyS24系列中首次亮相，成为三星第一款“AIGalaxyPhone”。电脑方面，联想提出AlTwin概念，并推出全球首款AlPC。北京时间10月24日晚上，联想举行了2023联想TechWorld创新科技大会，主题是“AlforAII”。重点展示了联想在端侧大模型方面的能力，并推出了联想的首款AlPC,预计明年9月后上市。微软与联想合作打造个人级AlTwin和企业版的EnterpriseAITwino智能设备是用户的数字延伸，如同用户的双胞胎，称之为AlTWin。而EnterPriSeAITW

11、in从企业内部设备、边缘和私有云中提取相关信息，做出本地化推理，提出相应解决方案。例如可以用EnterpriseAlTwin规划供应链情况，既能保证企业数据的隐私性，又能更好的制定出匹配企业自身情况的方案。联想推出的首款AlPC,在更好地了解用户的基础上，AlPC能够创建个性化的本地知识库,通过模型压缩技术本地化运行个人大模型，实现Al自然交互。AIPC是为每个人量身定制的全新智能生产力工具，将进一步提高生产力、简化工作流程，并保护个人隐私数据安全。发布会上，联想将云端大模型和端侧大模型对比运行，端侧Al速度慢一点，但两者生成行程规划的速度并没有差别太多，且规划更加个性化，能够将家庭地址、酒店

12、偏好等考虑进去。演示中还进一步展示了端侧大模型的多模态能力，利用用户输入的提示，电脑迅速地生成了一张相关图片。考虑成本、隐私与安全，混合Al是Al应用规模化的必经之路随着AlAgent继续推进，Al应用的规模化扩张势在必行，算力成本、效率都将成为瓶颈，因此高通提出混合AL高通提出的混合Al指终端和云端协同工作，在适当的场景和时间下分配Al计算的工作负载，以提供更好的体验，并高效利用资源。在一些场景下，计算将以终端为中心，在必要时向云端分流任务。混合Al能帮助实现Al的规模化扩展并发挥其最大潜能一一正如传统计算从大型主机和客户端演变为当前云端和边缘终端相结合的模式。图15：Al处理的重心正在向边

13、缘转移为实现规模化扩展, Al处理的重心中心云边绿云终端例 混合Al 总电涝球律磨混合Al对生成式Al规模化扩展至关重要。拥有数十亿参数的众多生成式Al模型对计算基础设施提出了极高的需求。因此，无论是为Al模型优化参数的Al训练，还是执行该模型的Al推理，至今都一直受限于大型复杂模型而在云端部署。Al推理的规模远高于Al训练。尽管训练单个模型会消耗大量资源，但大型生成式Al模型预计每年仅需训练几次。然而，这些模型的推理成本将随着日活用户数量及其使用频率的增加而增加。在云端进行推理的成本极高，这将导致规模化扩展难以持续。节省成本是混合Al的主要推动因素。举例来说，据估计，每一次基于生成式Al的网

14、络搜索查询(query)其成本是传统搜索的10倍。混合Al将支持生成式Al开发者和提供商利用边缘终端的计算能力降低成本。混合Al架构可以根据模型和查询需求的复杂度等因素，选择不同方式在云端和终端侧之间分配处理负载。例如，如果模型大小、提示(PrOmPt)和生成长度小于某个限定值，并且能够提供可接受的精确度，推理即可完全在终端侧进行。如果是更复杂的任务，模型则可以跨云端和终端运行混合Al还能支持模型在终端侧和云端同时运行，也就是在终端侧运行轻量版模型时，在云端并行处理完整模型的多个标记(token),并在需要时更正终端侧的处理结果。此外，能耗、可靠性、性能和时延、隐私与安全、个性化都是混合Al的

15、优势。手机：AIAgent落地的理想载体智能手机存量竞争时代，Al智能体有望开启创新驱动周期全球智能手机市场进入存量发展阶段，用户换机周期延长。全球智能手机市场在经历了快速发展的“黄金十年”后，现已进入存量发展的阶段，根据IDC数据，全球智能手机出货量在2016年达到14.69亿部的高点，2022年出货量仅12亿部，6年CAGR为-3.31%。尽管3Q23以来，全球手机销量出现了同比复苏，但在经济增长承压、居民消费动力不足、手机创新匮乏的背景下，手机用户的平均换机周期显著延长，Counterpoint统计中国2022年手机换机周期长达43个月，全球智能手机行业面临着缺乏增长动力的问题。Al智能

16、体的出现，将显著提高手机智能化程度，颠覆现有人机交互模式。但消费电子行业是长周期行业，创新是最核心的驱动因素，Al助手升级有望开启智能手机新一轮创新周期。随着生成式Al的发展，人机交互的方式将得到进一步完善，这种全新用户体验会完全改变智能终端的用户体验。边缘侧Al技术将为Al的创新和发展打开无限想象空间，在更加广泛的消费电子产品品类中为用户带来全新的Al体验，释放生成式Al的潜能。头部芯片厂商针对性升级，旗舰机型率先适配第三代骁龙8移动平台是高通首个专为生成式Al而打造的移动平台。10月25日，高通(QUaICOmm)发布新一代旗舰平台骁龙8Gen3,其拥有面向移动终端的性能强大的NPU,并利用Al能力增强旗舰智能手机的内容创作、影像、游戏、音频和连接体验。其采用4nm工艺技术，搭载业界最快的设备端内存LPDDR5X,与前代平台相比，其Al性能提升98%、能效提升40%o第三代骁龙8率先支持多模态生成式Al模型，现已能够