端侧AI经过两年多的发展,大模型正向更轻量化方向演进 。当前 ,3B模型正逐步取代7B模型,成为端侧AI应用的主流选择。
在2025 vivo开发者大会上,vivo发布了专为端侧智能体打造的3B多模态推理大模型 ,该模型具备128K长上下文处理能力,极限出词速度超过每秒200个token。OpenAI也持续布局轻量化,不久前推出的轻量语音模型GPT-realtime-mini ,适用于移动端与边缘设备 。
展望未来,手机AI与操作系统的深度融合,将为用户打造高度“个人化 ”的服务体验。然而,实现这一愿景也对手机的算力、内存和功耗提出了更高要求。此外 ,端侧AI还需进一步融入日常刚性场景,并解决安全授权等行业标准不完善等问题 。
端侧大模型从7B走向3B
vivo AI全球研究院院长周围在接受《科创板日报》采访时表示,今年vivo重点聚焦于3B模型上进行各种多模态的实现和聚合。相较13B和7B模型 ,3B模型所占用的内存更少,对高端机性能影响更小。
“去年我们做了13B和7B端侧模型的实现,发现其实只有7B勉强能上线 ,但是7B模型在手机上跑得不太理想,因为占的内存比较大。直到今年发现3B端侧模型效果不错,我们把内存做到只占2G ,并大幅度增强推理能力,几乎可以用于做意图中控和任务拆解的中台 。”
除了3B模型外,vivo还在探索更低功耗的1B模型。“3B的模型在运行时要750毫安(功耗)。而端侧大模型对手机的应用远比我们想象要广得多 ,需要一个大模型24小时都在线,实现对本机的实时监测和记忆,这可以交给1B模型 。”
周围透露,vivo正在推动图像识别 、声音识别 ,包括同传、方言识别等全部端侧化,这对于手机内存提出了更高的要求。“端侧化有一个问题,就是平台的算力要够 ,内存配置要够,至少达到8G以上的配置。如果4G内存的中低端手机,用户可能用的是云端功能 ,而云端功能在某种意义上是要消耗大量的成本 。 ”
模型参数量与性能指标如何取得平衡?
一名手机业内人士表示,大模型落地到端侧,最关键的难点在于模型的参数量与性能指标之间的平衡。“手机端的硬件资源非常有限 ,包括芯片算力、内存都很有限。而手机的功耗也是非常重要的指标 。模型参数量越大,就意味着消耗的计算量越大,对功耗也就越高。”
“如何平衡模型效果与手机上的这些体验指标 ,是一大问题。如果把模型参数量选的非常大,那么计算量就很高,直接带来的问题是速度变慢,用户体验的延迟就会非常久 。另外 ,内存占用也会很大,比如7B模型的内存占用可能在 3-4GB 左右,这会导致系统的流畅性会受到一些影响 ,功耗随之升高,手机掉电非常快,发热也会变严重。”上述业内人士称。
《科创板日报》注意到 ,为了推动AI落地,苹果最新发布的iPhone 17系列的Air 、Pro、Pro Max三款机型升级至12GB,以实现更强大的端侧AI支持。
IDC中国研究经理郭天翔表示 ,手机厂商这几年已逐渐从最开始的7B端侧模型,转换到3B模型,原因就在于该量级的模型对算力的要求、功耗 、输出速度等可以获得更好的均衡 。
AI与操作系统逐步融合
除了vivo外 ,OPPO、荣耀等厂商也在积极推动端侧AI的落地。荣耀在今年7月发布的Magic V5是搭载了阿里通义大模型和飞猪旅行、高德地图等AI智能体手机。
周围认为,端侧AI的终局是Agent(智能体) 。vivo希望进一步深化AI和操作系统的融合,深度理解用户个人情景和偏好,创造“个人化 ”服务体验。
vivo AI产品总经理关岩冰透露 ,目前正在与高德、百度 、支付宝、飞猪等互联网企业在智能体方面开展合作,未来一个月原系统 6(OriginOS 6)会有大量智能体逐步上线。
不过,智能体在安全授权方面仍存在权责界定不清的问题 ,尤其在用户隐私保护、数据使用规范以及权限边界划分等方面尚缺乏明确标准,相关行业规范仍有待逐步建立与完善 。
“当智能体,特别是手机智能体要做任务的时候 ,如果只做厂商自己的功能和应用,比如说秀一下是否流畅 、调一下亮度、连接一下Wi-Fi。都没有问题,但是想跨应用 ,那么安全授权的标准仍有待探讨。我们作为终端厂商,也在积极推动行业标准的建立 。”周围说。
此外,关岩冰也坦言 ,智能体在响应用户需求方面,尚未能有效解决用户的实际问题。“我们正将资源和精力集中于为用户解决问题的场景上,并持续加大投入 。”
郭天翔认为,端侧模型的应用将主要通过Agent来体现 ,但是对于消费者来说使用感知依然不是特别明确,并没有完全融入到日常的刚性使用场景中。他表示,未来手机AI 将与 OS完全融合 ,由一个经过训练的个性化的私人Agent作为手机使用者的助手,可以给使用者主动提出建议,执行多重复杂任务。
(文章来源:科创板日报)
股票量化app:炒股杠杆交易是什么意思-豆包调用量飙升137倍 字节AI生态下一环是硬件?这些上市公司已打入供应链
手机买股票开户软件:股票投资用什么app-爆了!天普股份走出“13连板”!上交所出手 暂停部分账户交易!
十大杠杆炒股平台:股票手机app软件-超30亿港元 南向资金爆买科技巨头!2股持股量环比翻倍
炒股票手机app软件:宁波股票配资网-出口“三连升”!集成电路、汽车同比连增 稀土连续两月环比猛涨超五成
看股票用哪个app:手机股票行情软件排名-特斯拉提供Robotaxi试运营更多细节 为何引发外界一阵担忧?
看股票的手机:配资乐股票配资网址是多少-马斯克AI大动作曝光!xAI已开源Grok 2.5模型
正规炒股配资网_正规股票配资网站提示:文章来自网络,不代表本站观点。
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
记者辛圆3月25日,博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》(以下简称《报告》...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
3月24日,业内权威专家表示,MLF(中期借贷便利)不再有统一的中标利率,标志着MLF利率的政策属性完全退出。3月24日...
记者辛圆给补贴、建平台,为了吸引更多高层次人才,各地纷纷放出“大招”。据央广网周一发布消息,湖...
国海富兰克林基金国富深化价值基金经理刘晓日前发表了对 2025 年市场的展望。刘晓指出,国内经济正处于复苏通道,市场大幅...
【隔夜行情】•周五(2025年3月21日),A股三大指数集体下跌,截至收盘,截止收盘,沪指跌1.29%,报收33...
沪深两市成交额连续第44个交易日突破1万亿,较昨日此时缩量超900亿。...
3月24日,AI眼镜概念股开盘拉升,瀛通通讯直线涨停,明月镜片涨超10%,比依股份、博士眼镜、恒玄科技、国光电器等跟涨。...
当地时间3月24日,特斯拉美股涨幅扩大至5%,现报262.055美元/股。...
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...
文/吴治邦3月24日早盘,在2024年年底压哨实施完毕重整计划的*ST花王股价继续跌停。自2025年1月...
近日,开源证券大连分公司遭大连证监局处罚,暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...