高通:手机芯片运行大模型,这将是“圣杯” - 市场热点 - 华西证券
logo
立即开户
  1. 华西证券
  2. 市场热点
  3. 文章详情

高通:手机芯片运行大模型,这将是“圣杯”

资讯来源:华彩人生APP
华西证券官方应用,综合性金融证券交易平台。
发布时间:2023-08-26 19:00

人工智能对于芯片的影响正逐步从云端延伸至手机端。明年,一旦搭载高通高端芯片的手机推出,普通用户将能够随时随地使用生成式人工智能。

据网络科技新闻CNET当地时间周五文章,高通产品管理高级副总裁Ziad Asghar表示,手机嵌入生成式人工智能(AIGC)的解决方案比基于云的AIGC更加个性和有用。

“我认为这将成为圣杯,” Asghar说,“这是真正的承诺,让我们对这项技术的发展前景感到非常兴奋。”

7月中旬,高通发布公告称,将和Meta合作,2024年推出 “手机版Llama 2”。

目前,高通正在将AIGC嵌入下一代高端芯片中,该芯片将于今年10月底在夏威夷举行的高通骁龙峰会上首次亮相。

在Asghar的实验室中,高通芯片能够处理70亿个参数的AI模型,虽然远远低于OpenAI GPT-3模型的1750亿个参数,但应该适合移动搜索。

“我们实际上将能够在(夏威夷)峰会上进行设备演示,” Asghar说。

报道称,本次峰会上的演示设备可能会搭载高通下一代高端芯片骁龙8 Gen3。早在今年2月份,高通就已经发布了全球首个运行在安卓手机上的图片生成软件Stable Diffusion的终端演示,该手机搭载了骁龙8 Gen2芯片。

在设备上使用生成式AI有很多好处。比如,所搜索记录和个人数据是保密的,不会通过远程服务器中转。本地AI也比云端更快,而且可以在飞机上等缺少手机服务的地区工作。

更重要的是,基于设备的解决方案还具有商业和效率意义。高通在上个月发布的白皮书中表示,随着机器学习模型变得越来越复杂,运行服务器的成本越来越高。

早在4月份,OpenAI每天要花费大约70万美元让ChatGPT回答提示,并且成本预测是基于GPT-3 模型,而不是更复杂且维护成本可能更高的GPT-4模型。

据悉,高通的解决方案不需要一个完整的服务器群,而是让设备现有的芯片大脑做所有需要的思考,因此,不需要额外的成本。

市场研究公司Techsponential分析师Avi Greengart通过电子邮件告诉CNET:“在手机上运行人工智能实际上是免费的——你预先为计算能力付费。”

而在手机端以外,高通还计划在即将举办的峰会上宣布针对PC和汽车的AIGC解决方案。

Asghar说:“对于我们这些看着《霹雳游侠》长大的人来说,KITT(《霹雳游侠》中那辆会说话的汽车)现在将成为现实。

 
 
华西证券网上快速开户通道,点此下载开户
华西证券网上快速开户通道,点此下载开户

免责声明
本文内容仅为投资者教育之目的而发布,不构成投资建议。投资者据此操作,风险自担。我司力求本文所涉信息准确可靠,但并不对其准确性、完整性和及时 性作出任何保证,对因使用本文引发的损失不承担责任。股市有风险,投资需谨慎!

更多相关文章

华西证券
×
华西证券优选
微信扫描二维码 ×
华西证券优选
微信扫描二维码 ×
华西证券优选