5月11日,据彭博社报道,苹果将与OpenAI签署协议,将ChatGPT相关技术用在里,直接给Siri“换脑”。
虽然“换脑”的谈判尚未达成,不过苹果已完成了“强芯”。几天前,苹果发布了最新版,这台设备最引人注目是带着M4芯片面世。
联想在四月底发布了一系列AIPC产品,但记者此前走访几家不同的联想线下门店,发现这些产品并未上架。不过,近日,随着发售日期将近,已经有部分直营店账号在社交媒体发布动态称产品开放预购和实机体验。
有门店销售人员告诉记者,目前在售设备的优化只针对部分AI功能。对AI制图、视频剪辑等有强需求的用户可以关注。“如果只是纯办公,暂时没必要在AIPC上花钱。”
而有惠普专卖店销售人员更是坦言:“询问这款产品(AIPC)的用户并不多。”
能够将云上的计算全部或部分迁移到端侧,是AIPC的一大卖点。然而,目前能够提供完整端侧智能体验的设备并不多。实地走访中,只有荣耀的销售人员明确表示,MagicBook Pro16的YOYO助理能在完全断网的情况下提供文档总结、问答对话等服务。
不过该销售人员也向记者表示,如果云端大模型能达到小学生水平,那么端侧大模型目前的表现可能只能做到幼儿园水平。“后期需要软件更新和用户更多数据的输入才能表现得更好。”
一面是宏大叙事,另一面则是消费市场相对平淡。是什么造成厂商想象与用户需求间的错位?
“说到底,AIPC发展还处在一个逐步发展的阶段。”通信行业观察家项立刚指出,这一概念在过去一年左右的时间里才逐渐兴起,技术、应用、生态的最佳实践都还处在探索期。
IDC中国高级研究经理陈舒歆认为,不论从厂商的大模型落地,还是从软件端的协同,不论是端侧还是云侧,AIPC目前都还没有进入非常成熟的阶段。
这种“摸着石头过河”的现状从围绕AIPC的标准之争就能窥见一斑。AI PC究竟是什么、能够提供什么,厂商间都还在探索。
PC“老大哥”Wintel联盟的成员各自为AI PC下了部分定义。英特尔从芯片架构出发,认为AI PC应当配备NPU、CPU和GPU;微软则倾向于认为,AI PC设备的键盘上还需要有一个Copilot的物理按钮。
目前,与传统PC在主芯片架构上采用“CPU+GPU”架构不同,AI PC采用的是“CPU+GPU+NPU”的异构方案。NPU针对性地负责处理神经网络计算相关的任务,例如深度学习推理和训练等。换言之,NPU的存在能够帮助PC在展现AI能力时更好地提升性能、控制功耗。
“如果处理器中包含NPU,就可以视作Hardware enabled AI PC。”陈舒歆认为,NPU能保证设备在端侧完成一些简单的计算。
芯片的算力也是个门槛。一颗强“芯”是AIPC运行的关键,其性能直接影响到AI PC的整体表现。怎样量化AIPC的能力,算力是一个重要的指标。
英特尔客户端计算事业部副总裁Todd Lewellen曾公开表示,进入下一代 AI PC,NPU算力要达到40TOPS。不过,如果以此为基准判断,目前市面上大多数产品都难以达到这个标准。
公开数据显示,苹果最新的M4芯片能提供38TOPS的总算力。英特尔的酷睿 Ultra系列的NPU只能提供10 TOPS的算力,在 CPU、GPU和NPU共同参与运算下的情况下,算力才能达到34 TOPS;而AMD 最新一代锐龙AI处理器,虽然总算力能到达39TOPS,但NPU算力也只有16TOPS。
只有高通的骁龙 X Elite、X Plus能满足这一要求,仅NPU的算力也能达到45TOPS。据悉,英特尔计划在今年晚些时候推出的LunarLake芯片,NPU算力将达到45 TOPS。据媒体报道,AMD预计今年下半年将推出Strix Point(Ryzen 8050系列)芯片,其算力有望达到45至50TOPS。
关于AI PC产品的迭代发展情况,时代周报记者分别咨询了英特尔、高通、AMD等芯片厂商,不过截至发稿未收到具体回应。
“当NPU的算力达到40-60TOPS,则可以被认为是Next Generation AI PC,换言之,可以支持更高参数模型的本地模型推理。”陈舒歆也表示。
“芯片厂商需要关注的是做好应用资源的配置的问题。”Omdia人工智能首席分析师苏廉节指出,有专门的AI芯片为应用提速只是第一步,如何做好CPU、GPU和NPU间的资源分配,让AI计算最高效地发生到AI芯片上,做到真正的体验优化,非常重要。
比如,华为官方就特别提到,HUAWEI MateBook X Pro与万兴喵影首发定制联合,支持调用NPU进行AI特效等创作。
“合理的算力资源分配离不开软件厂商和硬件厂商之间的相互配合。坦率来说,AI PC的生态还在逐渐成长,业界尚未达成共识。”他表示。
无论如何,概念处在成长初期带来的最直接影响是消费者对AI PC的概念认知还不够深入。“当厂商把AI PC的概念输出给用户时,其实使用者不关心PC到底有没有AI。他们需要的是实际的体验提升和改变。”苏廉节指出。
对于厂商而言,如何缩小理想与现实之间的差距,成为了他们面临的最大挑战。一方面,他们需要加大研发投入,不断提升AIPC的智能化水平;另一方面,他们也需要加强市场教育,让消费者真正了解AIPC的价值。
当端侧AI走向市场,横亘在整个行业面前的第一个问题是:对于习惯了ChatGPT等云端大模型的用户来说,部分/全部的计算在端侧完成具备怎样的优势?
AIPC在用户隐私保障方面的优势显而易见。基于PC端的模型应用理论上可以做到直接于终端设备上处理海量数据,尤其是涉及隐私的敏感数据,无需将其传输到其他地方进行处理。“这样可以尽量避免数据传输,提升用户体验。”苏廉节指出。
个性化体验或许可以有多重理解:其一,是相比对话轮数都受算力限制的云端大模型,端侧大模型能记住更多,更懂用户;其二,是不联网能进行多样化操作,本身是对使用效率的提升。
前者的原因很自然。在AI领域的Scaling Law还相当有说服力的当下,可以说,AI的智能程度与数据息息相关。IT研究与顾问咨询公司Gartner认为,到2025年,大约超过75%的数据将在边缘侧处理。未来,如果要继续提升模型能力和用户体验,更高效地开发数据成为一种必然。
对于后者,苏廉节认为,在断网情况下仍然可以继续使用AI,这对用户体验也是一种保障。现在,即使是手机上的Siri、Google Assistant或者其他智能助手在断网时也无法使用,所以将部分功能移植到终端可以提高用户体验。此外,大模型本身可以用自然语言交互的特点也能改善当前人机交互的模式。“AI可以实现更加用户与设备间更人性化的交互。”
“AI终端化已经显现出必要性和可行性。”IDC在其2024年中国PC市场十大洞察中指出。在陈舒歆看来,PC是AI普惠最适合的端侧产品。联想更是将AI PC定义为“每个人的专属助理(PersonalAI Twin)。”
由于轻量级IT部署及云端需求的增加,中小企业市场将是发展最快的领域之一。“对于商用市场尤其是中小企业市场,AIPC的工作辅助应用场景相对较为明确,PC作为办公的基础工具采购需求将持续增长。”陈舒歆指出。
IDC研究显示,中小企业市场将是发展最快的领域之一,2024年AI PC产品占比将超过60%,未来五年中小企业的复合增长将为8.4%。
“办公场景会是一个相当重要的方向。”项立刚也表示,目前文件、图片处理、会议纪要等是人工智能技术比较典型的应用场景,迁移到AI PC难度不高。
“微软的Copilot自推出后一直都很受用户欢迎。”苏廉节指出,放眼国内,字节、阿里和腾讯都有自己的办公系统。如果能在AIPC上做应用的适配,以帮助用户审稿、写电子邮件、进行市场营销等,就能为广大办公用户带来更好的体验。
在消费端,虽然目前AI PC还没有拉起一轮大的增长,但未来,在游戏、学习等需求的带动下,也有可能迎来较快发展。IDC预测,消费市场2024年AIPC占比将达到55.4%。
“对于消费市场,AIPC能做的其实也非常多。”陈舒歆指出。以游戏为例,AIPC在游戏端的应用前景、发展方向丰富。较高的处理器性能可以提供更快的运算速度,从而支持更复杂的游戏画面和更高的帧率。“用户的游戏需求会在消费端形成一定拉力。”
苏廉节也有相似的观点。“不过,游戏开发是一个相当艰难且耗时的过程,获得最佳实践需要不断调试。也许,未来一两年可能会开始看到进展。”他指出。
“AI PC不仅需要在硬件上提供独立的算力支持,还需要配合算力的软件工具,拥有自己的算力系统和软件支撑能力。”项立刚指出,硬件的能力最终还是需要由通过应用为用户带来良好的体验。
“AIPC赛道在等待类似ChatGPT的杀手级应用的出现。”苏廉节坦陈。在他看来,寻找杀手级应用,最重要的是打通硬件和软件之间的壁垒。更进一步来看,消费者教育的完成也需要应用的参与。“AIPC能做到什么——对于用户来说,一个体验更好、效率更高的应用,就是这个问题最好的答案AI设备。”
事实上,厂商已经开始从生态发力。比如,AMD就在其AI PC峰会表态,要更好地打造AI生态圈,提供业界领先的AI解决方案。
“我国和全球其他地区间存在一定的不同,比如微软的相关功能在国内并不能完整使用。”陈舒歆认为,这是中国PC厂商发展自己的智能体的机会。“如何打造中文环境下最好的用户的助手,从游戏,教育,工作,生活辅助等方面为用户进行全方位的AI加速,是值得国内厂商思考的问题。”