苹果最近发布的 Pro则搭载了专为AI打造、基于ARM架构的新一代AI PC芯片Apple Silicon M4,整场发布会含“AI量”极高。
早在今年3月份,联发科的竞争对手高通也推出了AI Hub开发套件,以便于开发者快速将大模型迁移到骁龙芯片上。
现在主流的移动芯片厂商都已经开始接受,甚至是全面拥抱AI终端。有业内观点认为,围绕AI芯片构建开发工具和生态就显得尤为重要。
“生成式AI彻底革新了终端应用的使用价值,智能终端是生成式AI普及的关键载体。”在联发科董事、总经理暨营运长陈冠州看来,生成式AI在手机上将在智能出行、游戏、新的交互体验三个方面率先落地。
日前在开发者大会上,联发科从芯片、软件工具、生态三个方面,发布了产品方案。
采用全大核CPU架构,八核CPU包含4个Cortex-X4超大核,最高频率可达3.4GHz,以及4个主频为2.0GHz的Cortex-A720大核。
据悉,该款芯片在端侧加入了AI推测解码加速技术,天玑AILoRAFusion2.0技术,并且支持支持前沿主流的生成式AI大模型,可为用户提供文字、图像、音乐等端侧生成式AI多模态体验。
在发布会上演示时,联发科技用天玑9300+芯片,在端侧运行了Llama 2的7B大模型,仅仅使用了22tokens/秒。
,通过模型的量化、编译、推理等技术,加速大模型部署,部署时间从一周减少到一天;此外,还覆盖全球主流大模型的GenAI Model Hub,提供一站式视觉化开发环境。
陈冠州认为,在构建端侧AI的生态上,更好的方式其实是将原有的智能生态转化成生成式AI,而不是重新从0开始造一套生态。
据悉,天玑AI开发者套件已覆盖智能手机、智能汽车、物联网、个人电脑等智能终端设备。
陈冠州表示,在过去一年2023年,全球AI系统的建设的支出就达到了1540亿美元,2024年生成式AI将普及到消费级市场,2027年全球智能手机端侧整体AI算力会达到50000EOPS。
当财联社记者问到,芯片厂商、终端厂商与大模型企业接触共同开发,是否造成研发方面的重复和浪费之时,李彦辑认为,芯片厂商与大模型厂商接触也主要是希望以端侧运行的能力帮助这些模型更高效地运行;终端厂商更多的是探索大模型的应用方式,二者并不冲突。
他补充道,终端厂商跟模型厂商接触完之后,最终还是需要与芯片厂商合作,一起补足芯片能力,共同把生态做好。记者了解到,联发科已经联合了阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米启动了“天玑AI先锋计划”,“争夺”全球开发者。
随着AI概念的爆火,AI终端赛道的竞争也更激烈了,开发者成了“香饽饽”。
联发科在芯片方面的另一大竞争对手高通早在今年3月份就推出了包含超过75个主流AI模型的资源中心AI Hub。
据高通透露,开发者可以简单调用AIHub实现部署,并且这些模型针对高通AI引擎进行了优化,大幅提升运行效率AI设备,处理速度最高提升4倍,更好地适应高通和骁龙的不同硬件平台,包括手机和PC。
目前,高通还在不断更新和扩展AIHub,包括最近刚刚发布的Llama3大语言模型。财联社记者了解到,开发者已经可以通过AIHub,在骁龙平台上部署和优化运行Llama3。
此前,高通CEO克里斯蒂亚诺·阿蒙曾在公司年度股东大会上表示:“我们正在引领一场变革,将生成式人工智能的能力赋予全球智能手机用户。凭借我们最新的骁龙移动平台,我们将继续巩固在高端安卓设备市场的领导地位,并提供显著增强的人工智能处理性能。”
据悉,最新发布的骁龙8s Gen3支持的模型参数最高可达100亿,并且支持多种主流AI模型,包括Baichuan-7B、Gemini Nano、Llama 2和智谱ChatGLM等。
而在刚刚结束的 Pro发布会上,苹果将 Pro也定性为“AI设备”。
苹果方面甚至表示,M4是执行基于AI的任务的完美芯片。如果没有M4,新款 Pro甚至不可能问世。
据悉,该款芯片基于台积电第二代3nm制程工艺打造,总计集成280亿只晶体管,拥有4个性能核心,能效核心增至6个,CPU运行速度相较于前代 Pro上的M2芯片提升了50%,渲染效率提升了4倍。
苹果CEO蒂姆·库克也在最后表示,接下来6月份的苹果开发者大会WWDC 2024上,将会探讨苹果各个平台的未来。
当前,越来越多的厂商加大在AI芯片和生态上投入。面对竞争,联发科技无线通信事业部生态发展资深总监章立对财联社记者表示,开发者一定是欢迎芯片厂商提供相应的解决方案的。这个时候对于厂商,比拼的是芯片自身的能力以及开发者的解决方案和服务能力。“所以无论是与友商的竞争,还是对自己的超越,我们觉得最重要的是尊重本地开发者,尊重开发者的需求。”