IT商业网-解读信息时代的商业变革
当前位置: 首页 > 人工智能 > 正文

手机厂商们致力于“云+端”:将直接让大模型运行在手机上

2023-08-24 17:56:04  来源:凤凰科技网    

  把大象放进冰箱,需要几步?

  这个故事里的场景,现在要在智能手机行业呈现——手机厂商们,开始忙着把大模型装进手机。

  在手机上通过云端服务器,使用类似妙鸭相机这样的AI(人工智能)大模型应用,并不是新鲜事。但现在,手机厂商们开始纷纷致力于“云+端”,不仅可以调用云端算力使用各类AI应用,还要直接让大模型运行在手机上。

  8月14日,小米集团董事长兼CEO雷军在年度演讲中就透露:小米的大模型团队在今年4月建立,其手机端侧的大模型已经初步跑通。

  三天后,小米集团高级副总裁、手机部总裁曾学忠又对媒体表示,基于和高通、联发科的深度底层技术合作和高频沟通,小米很快会推出端侧AI大模型应用。此外,他还表示,端侧AI大模型很可能是为5G而生,“5G的突破载体是AI大模型,这是智能手机的大机遇”。

  先行一步的还有华为,其大模型能力已经直接嵌入了手机的操作系统层面。此外,在上海2023MWC(世界移动通信大会)期间,荣耀CEO赵明宣称,荣耀将在智能手机端推动部署端侧大模型,以此作为新一轮产品技术攻坚的起点。

  加入了大模型的手机故事,也会产生变化。

  试想一下这样的未来:大模型加持下的智能助手,让用户可以在手机等智能终端上,做这些事情:通过自然语言,AI助手能自动管理起所有应用,帮你写邮件、写总结文档;帮你办理银行业务;在你想外出时制定行程订好机票。

  当然,手机大模型只是个起点,当智能技术逐步扩展到智能家居、智能汽车等智慧生态中,一个“超级终端”或将出现。

  大模型与终端的结合,成为了下阶段AI(人工智能)战场必争之地。

  手机疯卷大模型

  大模型的战火在今年年中,烧到了手机上。并且,从部署在云端的应用向手机终端蔓延。

  雷军年度演讲中对外界表示,小米最新的一个13亿参数大模型已经成功在手机上跑通,部分场景可以媲美60亿参数的模型在云端的运行结果。

  在这场演讲进行前,小米大模型的“横空出世”就引发了关注。不久前,小米开发的大规模预训练语言模型MiLM-6B,在C-Eval、CMMLU两个大模型测试榜单中突然现身,分别取得了第十名和第一名的成绩。在行业内,这两个榜单是目前公认比较权威的中文大语言模型评测基准。小米大模型在C-Eval评测榜中的位置,甚至排到了阿里云的通义千问之前。

  小米的这个大模型参数规模为64亿,是公司的首个GPT大模型产品。小米在今年的一季度财报电话会议中就曾透露,小米AI大模型未来或与“小爱同学”语音助手结合,并表示小爱同学是小米非常重要的IoT(Internet of Things,物联网)语音入口。

  小爱同学的月活用户目前已超过1.1亿。从8月14日起,小爱同学的大模型版本已面向多个型号的小米手机用户开启测试邀请。

  把大模型装进手机的不止小米一家。

  华为Mate60还未问世,鸿蒙HarmonyOS 4系统已在8月4日的华为开发者大会上官宣,并表示新的系统会接入大模型。华为还表示,通过盘古大模型的加持,华为智慧助手小艺将具备AI大模型能力。

  华为介绍说,接入了AI大模型的小艺,能够给用户做“个性化推荐”了。比如,你要去某地旅行,小艺会提示行程信息,并根据地点,自动给你推荐翻译功能,在到达目的地时给你展示当地的美食和导航。同时,小艺一些相关的数据和学习都是在端侧进行。

  华为常务董事、终端BG CEO、智能汽车解决方案BU CEO余承东在大会上说,“AI大模型技术的发展将会带来下一代智能终端操作系统的智慧体验。”

  其实,在今年3月的春季旗舰新品发布会上,华为就对用户推出了全新的智慧搜图功能,展示了大模型在手机端落地的一个应用场景:该功能的技术底座是多模态大模型,并在手机端对大模型进行小型化处理;用户可以唤醒“小艺”,并通过自然语言搜索出自己想要的图片。

  在雷军演讲的前一天,8月13日,OPPO官方也宣布,基于其大语言模型AndesGPT打造的全新智能助手“小布助手”,也即将启动大型体验活动。

  根据官方消息,AndesGPT是OPPO安第斯智能云团队打造的生成式大语言模型。升级后的OPPO小布助手,将拥有更强的语义理解对话能力,可以根据文案撰写用户需要的内容,而且归纳总结等AI能力也将大大增强。

  在不久前的上海MWC 2023期间,荣耀CEO赵明提到,公司正在就网络大模型方面的需求跟其他互联网公司进行合作。此外,他还在媒体采访中阐述了其想要尝试把AI大模型引入端侧的构想。赵明在主题演讲中直接剑指苹果:“千帆竞渡,告别苹果一家独大”。

  被“点名”的苹果,也坐不住了。

  原本在今年3月,海内外科技巨头们都纷纷下场入局GPT大模型时,苹果还一副稳坐钓鱼台的架势,没有透露出任何关于这方面的消息。但在7月底,苹果在包括美国加州、西雅图,法国巴黎,以及国内的北京等城市,已陆续释出了数十个岗位,给出的薪资基本在百万元年薪左右,招聘大模型技术人才,其中的重点是端侧大模型。苹果的招聘信息中透露,它想将大模型压缩到终端,未来在iPhone/iPad等产品中应用。

  在华为、小米们已经拿出了大模型的最新动态时,苹果才开始招人。从这一层面来看,这次国产手机厂商们,终于跑到了前头。但作为iPhone生产商,苹果动身入局,也让今年火爆的大模型概念,正式向“iPhone时刻”进发。

  大模型为什么要“放进”手机?

  从2019年左右开始,以智能手机为代表的消费电子产品市场就进入了瓶颈期,产品销量持续下滑。直至今年,全球的智能手机市场也仍然未能扭转颓势。根据市场分析机构Counterpoint发布的全球智能手机市场表现报告,2023年第一季度,全球智能手机出货量2.802亿部,同比下降14%,环比下降了7%。

  另据Canalys数据显示,2023年第一季度,前五手机厂商中,只有苹果的出货量实现了增长,市场份额达到21%。

  在上海MWC 2023上,赵明就曾提出,面对市场持续下行、用户换机周期延长的巨大挑战,消费电子行业最期待的是一个全新的“创新周期”,它甚至可以带领一个产业走出经济周期的影响。大模型技术以及AIGC(人工智能生成式内容)概念的爆发,对它们,无疑是一场“及时雨”。

  手机厂商们也需要对资本市场讲出更新的技术故事。在美东时间7月19日,一则苹果在秘密研发“Apple GPT”的消息,突然不胫而走。该消息传出后,当日苹果股价直线上涨,午盘其股价飙升至198.23美元,创下历史新高。

  与之相对比的是,当地时间8月3日美股盘后,苹果发布的2023财年第三季度财报显示,期内公司实现营收818亿美元,同比下滑1.4%;本季度来自iPhone的营收也较去年同期下降了2.4%。财报发布次日,苹果股价大跌4.8%,创下今年以来最大单日跌幅,市值一天之内蒸发逾1600亿美元,失守3万亿美元。

  于是,在财报发布后的电话会上,苹果CEO库克提出,截至财报发布时,公司今年的研发支出比去年增加了31.2亿美元,一大原因就是公司增加对了AIGC的投入;而在未来,这块投入还将持续加大,生成式AI技术对苹果来说“绝对至关重要”。这也是今年苹果首次公开对AIGC进行表态。

  此外,实现“万物互联”的场景,既是手机厂商们的野望,也是大模型要实现商业化落地,必然的探索方向。

  要突破手机存量市场的天花板,除了冲击高端市场之外,手机厂商们还一直在致力于打造AIoT(人工智能物联网)平台生态,连接各种互联网服务,创造更大的赛道。它们的业务范围也早已不仅限于手机。像小米已经拥有一条相对完整的智能家居生态链,还在2019年启动了“手机+AIoT”双引擎战略;华为也有智能汽车解决方案业务,并切入了全屋智能生态。

  “无论是否有大模型的出现,几大手机厂商都已在不断强化手机管理平台的智能化水平,这是必然的大趋势。”独立电信分析师付亮说。

  在移动互联网时代,AI应用就已经开始向设备端扩展。除了手机之外,包括笔记本电脑、智能家居、VR(Visual Reality,虚拟现实)/AR(Augmented Reality,增强现实)设备、汽车和其他物联网终端,都被卷入了其中。手机里的语音助手,也被看作是AIoT生态的新一代入口。

  此前,由于语音助手还不够“聪明”,人和机器的交互还存在短板。但大模型兴起后,很多人认为,实现万物“互联互通”的机会终于来了。

  目前手机厂商对AI大模型的布局,也多从语音助手入手。而大模型技术如果要在更多的场景中得到应用,以及进行市场普及,都不能离开端侧的协同。

  在大部分的万物互联场景中,部署在云端的算法,在手机这样的设备里使用时,难免会遇到时延较长、个性化应用不足的问题,成本也较高。而设备端的AI应用则能够弥补这些短板——摆脱了云端计算,大模型可以适应更多对延迟性要求高的场景,例如眼下最受消费者关注的智能汽车领域。

  此外,多家手机厂商都强调了“安全”这件事。

  自从诞生以来,AIGC应用一直伴随着关于隐私和安全性的争议。但把大模型放在设备端运行,无疑在保护数据隐私上更具有优势。

  但将大模型引入语音助手容易,而要将参数动辄百亿、千亿级的大模型,放进小小的手机端,面临的技术难度也可以想象。其中至少包含两部分:其一,将大模型进行“压缩”,降低对算力的要求;其二,在算力和功耗上实现支持。

  目前,业内比较主流的方案是将模型“小型化”,减小模型的体积。同时,在算力端,高通等芯片厂商也在研发端侧部署AI大模型的芯片。

  推动大模型实现在端侧部署,成为几乎全部科技巨头们都关注的一件事。

  今年3月,高通展示过,在没有联网的安卓手机上,运行了超过10亿参数的文生图模型,生成图片的过程只花了15秒

原标题:华为小米,争着要把大模型装进手机

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT