逐浪AIGC丨智能终端激战大模型:从智能手机到AI Pin的围猎与摸索
从AI PC到智能手机,再到无屏幕可穿戴设备AI Pin的推出,各类智能终端正在加速拥抱AI大模型时代。
不同于此前多是以智能语音助手落地,伴随ChatGPT开始具备智能涌现能力至今,AI在新的技术框架下,叠加硬件能力支撑,目前国产头部手机厂商已经悉数推出旗下自研大模型产品,并将功能落地在产品中。
目前手机端搭载的模型大约是在百亿规模上下,已经可以实现文本、图像处理,并打通多个软件端实现相对系统的规划或信息推送等能力。
近日举行的2023 OPPO开发者大会(ODC23)上就提到,旗下智慧跨端系统潘塔纳尔正与自训练安第斯大模型(AndesGPT)深度融合,能够从用户情境、上下文对话、正在发生事件等多维度信息中,推动系统自动融合组装自有服务与三方服务。
大模型对手机带来的裨益,对内是能让手机本身更加智能化输出,对外则是能让人们工作和生活相关软件生态也融入进来优化服务能力。从这个角度看,大模型之于手机带来了一场技术革新,当然也要面临模型压缩与迭代、算力支持、软硬件协同等难题。
不过新形态终端的出现也意味着,AI在硬件端正打开更大想象空间。
大模型落地
从ChatGPT惊艳大众约一年后,越来越多智能终端产业链厂商也在加速推动大模型的应用落地。
民生证券认为,所谓“具身智能”,本质上是所有原生大模型巨头与终端厂商都在千方百计将大模型部署于各类终端,这甚至是决定成败的“生死之战”。因为绝大部分的应用生态和交互数据都在终端;如果是只存在于云端的大模型,最终数据反馈迭代成长能力与应用空间都将很快遇到瓶颈。因此大模型重构各硬件终端的拐点来临。
2023年末,高通、联发科先后发布支持边缘AI功能的旗舰SoC主芯片,英特尔、联想等厂商积极推动AI PC的落地,苹果前资深员工创立的公司推出IoT类设备AI Pin等事件,为显得创新乏力的智能终端市场打开新发展空间,也开始显露出业界对未来新形态终端模样的思索。
手机厂商显示出兴奋态度。在“深度学习”时期开始被植入手机的智能语音助手,早期多难以实现多轮对话,且难以调用多个层面的应用,这导致语音助手很少被打开和应用。AIGC打开了新的窗口。
“AIGC是我做手机以来,最让我兴奋的一个技术创新甚至是革命。它会为移动生活的体验带来革命性变化。”OPPO高级副总裁、首席产品官刘作虎受访时表示,对此OPPO有很多投入,且应该抱以长期乐观、短期谨慎的态度。
在他看来,目前某些应用上已经可以实现类似真人对话的能力,因此未来手机一定会成为个人的超级助理。“因为它的知识超出了个体的知识,能像一个人一样理解你的语言、观察你、学习和了解你的习惯,给你最好的帮助。”他续称,OPPO旗下的端侧模型与高通、联发科都有底层合作,未来AIGC将让手机焕发出新面目。
开发者大会期间,OPPO数智工程事业部总裁刘海锋介绍,自主训练的安第斯大模型有Tiny、Turbo、Titan三大类规格,可涵盖十亿至千亿以上多种不同参数的模型,根据不同场景智能调度。AndesGPT核心能力聚焦在知识、记忆、工具、创作四个方向,具备对话增强、个性专属、端云协同三类技术特征。
“大模型是自然语言技术里程碑式的突破,技术驱动体验的时代正在到来。”他举例道,安第斯大模型正在打造记忆能力,结合交互历史、个人数据、定制化提示等形成长时记忆,再与当前上下文对话的实时记忆结合,能够及时更新对用户的理解,成为个人的知识管家,强化专属型交互。在其中,端侧与云端之间,通过分工、互补等进行能力协作与调度。
融合生态
正因为在可见的中短期内,智能手机依然是尤为重要的人机交互关键入口。手机在搭载了大模型相关能力后,将不仅限于知识相关能力的优化,也将为智能生活和生态打开新空间。
这也是目前各家手机厂商搭载的大模型都在与旗下系统深度联合调教的原因。OS串联起各类开发者和应用生态,有望借助系统调度能力,以及与大模型的智能计算调教,重塑智能硬件的落地形式。
举例来说,在出行场景中,以往通常是个人在不同定位的软件中查找路线、游记攻略、美食等内容,如果要制作自己的出行攻略还需要挨个裁剪、复制。但是基于安第斯大模型对用户的理解,潘塔纳尔系统能够向用户主动推荐 如在出发时、用户允许的前提下,会推送路况、车票、天气等卡片信息,到达目的地后,则有游玩、购票相关卡片提醒。
据称,通过这种主动提醒方式,在出行领域与航旅纵横的合作中,通过上线桌面、负一屏服务卡片,在OPPO侧整体服务调用(日)启动次数提升180%;美团外卖卡片相较以往点击率提升200%、次留率提升100%。
如果需要制作一封内容详尽的工作邮件,ColorOS 14自带的中转站功能,可以实现横跨手机、电脑、平板等多端的内容调用和集中存放功能。据介绍,OPPO与微软达成PhoneLink战略合作,手机无需额外下载任何应用即可与Windows电脑无缝互联。
当然作为一种已经高度集成化的智能终端产品,在既有手机中再添加诸多功能,无疑十分考验软硬件之间的能力匹配。
首当其冲就是计算和存储能力,这也是主要手机厂商都强调分别与高通和联发科两大平台通过定制优化实现大模型端侧商用的原因,端侧调用可以降低云服务的需求开销,但计算与存储能力需要匹配,存储器近期开始涨价可能也考验手机厂商的供应链平衡;此外就是算法本身,要把大量的计算能力集成到小型终端中,无疑需要结合硬件的条件,对大模型能力进行一定压缩,如采用蒸馏、量化等技术,以及平衡云端协同的效果;此外是数据安全和隐私保护,也需要硬件芯片和软件算法端协同。
而新型终端AI Pin的出现,对人机交互模式进行了重塑。其通过无屏幕但内置微型投影,打通投射+手势操作的模式也备受业界关注。
大模型驱动之下,智能终端新的竞速赛道和新品类,有望卷起另一场战役。