AI端侧深度报告之AI手机2024：受益端侧智能体落地驱动人机交互新范式.docx

《AI端侧深度报告之AI手机2024：受益端侧智能体落地驱动人机交互新范式.docx》由会员分享，可在线阅读，更多相关《AI端侧深度报告之AI手机2024：受益端侧智能体落地驱动人机交互新范式.docx（17页珍藏版）》请在优知文库上搜索。

1、混合I架构技伍在终据制运柠l）,拢够在全球范围内带来成本.能耗、住能、E2和、安全和小性化优势.1. 成本.除着生成式的Al模型使用量和复杂性不断增长.仅在云就进什推理并不划算因数据中心的基以汉达成本，包括硬件、场兔、里托、运营、瓶外帝宽和网播传物的成本将持续增和.根据高通测算.收至2023年5月.于GPT的生成式Al技东的成本是传统拽女方法的10.从云茹非移科边境终端,可以发时云基地谈够压力并或少开支，节由成本将成为生成式Al生态的点要一环.2. 凭色支持高近Al处理的终笳能够抿供领先的能近。边缘终端粕够以很低的能托运柠生成式Al渡型,尤其是骆处理和我提传他相结合时.与云规柏比，这一能托成本

2、幺异非常相显。3. 巧拿出、ttftH-A.在正台Al架构中.终端他AI处理十分可*.能,处在云“务需和网电连接拥堵计，提供较为可病的性粕.同时，混合Al架构中终观物具有可用性的优劣，让用户无论身处何处.依然祀修正常运行.4. 3力和和安全终端1Al有助于保护用户聘私，因为查询记录和个人信息完全保例在玲咕上.无论对于企生工作场景还是消费力使用场最，不用向云例仪器保宏信息，成券外人数据和模型衣栽在堤州的安全.5. 个性化.Al幼子能够在不朽牲隐私的情况下,根据用户的表情.耳好和个性进行定制,所彩成的用户自俅他够从实行行为、价值现、病点、需求、餐总和问超不方面来为M户考虑，异口可以随行叶间拉移遗行

3、学习和茂遗.可用于用松和打选定制化的生成式Al提示，然后在终端M.松云蔚进行虻理，用户自律保留在珞站内,因此可以遇过终端翎学习不断优化和更新.根据任杀大小/臭型不同，玳云混合架构有三料不同的负般机制混合Al架构可以根据模型和支询/求的艮出度哥因病，透抒不同的方式在云院和终笳之间分配处理贪.机也高通的诧台AI是Al的卡来报告.泥台Al架构一版分为三种方氏：以终娓为中心的混合N、以于终薪感知的混合N、终端与云埼俗同处理的混合A1.1）以华端为中心的需合Al在此架的下,终院将充当用力核心，云埼仅用来处理终赛无法执行的任务，许多任务不含要复杂与理，可以在终达上充分运行.比如创作出律长也单邺件,快速响应

4、的代先火史再，即使泡成度梢右损失也不太影响用户体脸。终就值Al的低是迟反情可以让用户使用改选的提示.枭快退选代物理it,力.至茯得舄隹的脩出结果.2）A于性H8的通含Al在此架构下.边缚他运行的模型将充营云用大语3模型（类似大8）的传感鉴输入（关似眼M和耳弟）。以语音问密矣任务为例，Kji戏分配方式如下：a） 用户对首位手机发出复杂/音河堰.手机上的语音炽别类模型（小梗型）将在第仰执行.将专克风技生到的活音信号识别为文字，然后将其作为请求发送到云埼.b） 云据运行大活言模型大模型）理斛问M畀生成文字诃袅，再将该国复发团终端。O终西运柠文本生成语音蝶型（小模型）,将文本转为话音答。希话-3识别加

5、文本生成活a这夷工作员戏转移至终班执行.能有效节由云始计算成本和前五资i.畀且随我大模型向多模态进展，手机茹亦可执行计总机视.觉处理，汶疗更多矣型的任务。这种工作货我板人未来在隐秘保护方面也可择到加我。僭幼手机上用户的使用习惯和货梃沉沈，如社交媒体、电子蜘件、消息、H历寻.躅他Al桥胞更懂用户,机券用户情况提供更有针对M的吸务.并且循OIAl能够读上仿护栏.以防止“AI幻觉”。rp.广沱的升算任务“系1.TUtttrtGPU也倏冷冷臭任务NPU加速冲经弼络达“*u执行多样假任务方面有关沿性.但特4城不够再效执行并行任务比电,他柠*(序任务效毕低.高精大络式执行草皮学习相关的任务其行史高的效率融

6、世效比.低切托适利于木关广泛计*加运“处理的任方,钿OS管理，应用程序述行等造对于游戏，视”络辑.科学计算、机S学习号大熄模并行处理的场景中遗常N于移动议各中，提侯快速的图像以加、语青识别等Al功枇CStW,中限法专个It双叁壮长不!臭母的任务:CPU加GPU是传统的通用处理JS.为灵活性而议计.-f,“本取工作货货运柠操作系统、游猊和其他应用。但是这些“本枳工作”冏计也会随时限制他们运行AI工作员我的可用注量.NPU专为Al打造.通过库低部分身后程姓以实现更高的峰值性能、位效和面枳效奉，从而运行机为学习所寄的大量或法.加法和其他运JUCPuft势在顺序按制和即时41.适用于低时延、低计算量的

7、任务：GPU适合面向高精,丈格式的并什处理任务：NPU适合以低功耗实现枯炊色定的南峰值性杷。NPU擅长林量、向量和张量级学运力，由于Al工作货收支委包括由标支、向支和张支数竽妲成的林泾同络层计算，以及翻后的力我性激活AU.NPU可用于核心Al工作Sft.SA17,CPU、GP1.、NPU分别迨用于不!臭任UfiQ)HCV*。比的取决于：nR!BHana1Mn.kn定制化NPU的钟用料大幅疆介.NPU令为实现以低功耗加速Al板理而打造，畀随君新Al用例，摸电和京东的发展,而不断演透，茹切大模型不断迭代，会求子机漏鼻力升爆。从2023年开始，大语言模型(*1.lama2)和大双党模型(Stable

8、Diffusion)货能的生成式Al使樨典型的模型大小技开了一个货量嫉：除了计算需求外，还需妾考虑内杼和系统设计，通过发少内存散据传始以提高性能和能效；改着大接型在手机端例的逃队.我们现计会行时更大规模接驾加多梗龙的乞求.领先SoC厂商纷场针对NPU我架构升级。以高通式.龙8Gcn3的HexagonNPU为例.微了多方面什圾，包括珍终个NPU的微架构升优：成切片加双进一步支持史而近的生成式Al处理，降低内存号宣占用：HeXagon张贵加速Jg增加我立的电祝传检就追，让需求不丹标量、向量和张量处理规授的Al禊型祀修实现最高仕祀和奴隼：大关亭内存的节比增加一倍：基干INT4拈式做攻件加速多.实现和

9、权上代NPU,为AI君理提升98%性能和40%粕近.端恻找型的升级，哭求手如SoC在性能、功托、我军、可鲂任性和面收之间进行权期取由,而专用的定制化谀计的NPU.能够在电池续航和优效方面提供有我助力.我们侦计NPU的算力提升是未汆访那其力的空妥升嫉方向.弁构计算：利用全部处取3支#殳成式Al架构，其中也括I个Co11ex-X5趣大核（3.2GHz或更高）、3个Co11ex-A720大核（2.3GhZ或更高）、3个Co11ex-A720普洱核以及4个Cotiex-A530小核.GPU部分将塔般AMD的RDNA架构的Xlipw950GPU,NPU部分预计可获捋较大升燃，增加了TPU纨件（对比Exy

10、nw2400X有G-NPU,S-NPU）,其中TPU为三里与谷联合作，专为涉及TelUOr（多投数组的*1.JS学习任务而设计。我曾认为.主流SOC厂商2024年下半年新品均有望针HAl功能做升级，式箝偿计主委臬中在利杈升魄、IPCIi胞提升.垓架构升圾等方向.有里在下半年推广NPtl算力50TOPS以上的产M.对Al千粒的混合幕力展供较大支拈。大模型升级：弊螭手机品牌纷纷口研大模型，子机端IH模型分效量或将#至13亿2023年主泣手机战制模量参我量为704，2024年篁将分工至130亿当前手机茄倜部界的大模型的然数色假以70亿为主，如OPPOFindX7系列、采核Magk6系列等姿卓机型均实

11、现70亿或以上参我量1.1.M的本地部息.随看未来手机SoC的Al算力提升，预计埔俏能够珞战的大模熨参教董危妙持续上行.根据CounterpointK（浏.2024年本地大模型的参装上限将增长至130亿，2025年增长至170亿。SA21.手机M大模型模*增长（2O25H2-2O25）H22O2SHl2024H2202tfHI2O2SFH22O2ir黄必虎先.:CoitnjcrpMMi.或发科.中银iit随着手机端部器的大蟆型与数量提升，智能手执的大模里性能也挣得到提升。目前手机洋倒大恨5!也能执行的任务以语工本互加、理文本生成、低便米的田片陆锌与生成为主，根据CoUnKrPOintH!测，W

12、it2024年下*年的新加型在长文本生成、情境感知能力、高分例率国片生成、音频,视求编辑功能将舁到提升.2025年下率年可以选H多轮对话、步任务,多模态的工作，在智能体的计划、记忆、行动能力方面亦能有效枝升.各手也性求品聘*发布a研大模量,n恻均录用2己模笈,云他a骑北与第三方合薛多算头部手机厂商已没发布自借Al大模型,如华为的慈古大模型现有IoB至100B的不同量级的国新规模：小米的Mi1.M大模里加有1.3B和6B冬装煨模两个版本：YiVo的黄心大株型妲牌IB至13）B的4个版本：OPpO的安第斯大禊熨AngGPT为13B:荣初的魔法大模集为7B.总量增长、高潴化升级、核心本部件迭代S24

13、,IDC关于金章Al手机销浏S25.IDC关于中Al+机储量出膏杆今海:OPPO.IDC.青朴兴泳:OPPO.IDC,范量增长：Al手机出货量将取缗大幅增长.根据IDC4ttt.全球方面,预计2024年新一代Al手机的出货支将达到1.7亿部，约占将体制能手机出赁支的15%.中国方面.州计20244新一代Al手机出货量将达到4000万部,约占中国守徒手权出货堂的13.2%:预计2027年将达到1.5亿台，占中国手如市场的牝留为51.9%.高嫡化先行：IDC定义.老高千0NPUTOPS算力才算Al手机.技至2024年2月杵冬要求的伍有少数几款旗舰手机芯片.fiJkAl手机出货量增长,我们预计Al4

14、机初期仍然录象在Iii圾手机,因此高熠手机及其供应处企业将挖苦殳益.事部件升威达代：如切分析.我们Jfl计SoCAl手机最上条的皮件升嫉.为配密SoCE化.4禽、1热等加部件亦会冏步升级。力好草果产业健：高手机动力、依I魏期、产品化能力强Ijl为萃果在南始手机份籁占比高.国比我们预计羊果产小怪将会率先在业?*娓有体现.种时部分茱蛀标的日前怙依都处于近3-5年低点.有望交度AI手料的势得到怙依提升.呆然H沽革天的大模型比废A交慢.但是我们才好革果将大模型及术落地的产品化此力,看好革果未未找出Al手机推动用户接机.我幻推荐：立汉粉宏、网皋控股、获思科技、思泉新村、近特光学、飞柔达、领W曾造：盛议关

15、注信惟通信、伶音控监.中石科技。公句主要产品为防护玳埼，金属、近宝石.陶光、焚股、硬奸鲸学新材料经构件和与触控及生物识别卖模姐,其中防护成珀占营收80%以上（2017-20224-）.公司产品主要应用干电能干机与电柱、新能源汽车及智能座舱、仔能头星与T他字诙三大的战，Si*M1.X*禾奇*防欣增A*MR户山内4：防护成场3%把公亚次防护成璃，Ej1.底墙学车列产品，分为中小尺trtAXJ,itt三98%:如过化学俣化技术生产的产制.表而硬衣可达680HV以上.产孔具有质感般蒸、透明;3序、tlffi.杖括忖等#仕.套用址:中小尺寸猊皆防岁势呈娶用于手机、fttm,播放名号优拼式洸电子产工，大尺寸机密防护笄上要应W于半就电os、*