高通技术公司发布白皮书《混合AI是AI的未来》,深入阐述混合AI架构的领先优势,终端侧AI将如何赋能生成式AI实现规模化扩展,以及公司如何凭借终端侧AI领导力、全球化规模和生态系统赋能,让混合AI成为现实。
混合AI将支持生成式AI应用开发者和提供商利用边缘侧终端的计算能力降低成本。混合AI架构或仅在终端侧运行AI,能够在全球范围带来高性能、个性化、隐私和安全等优势。混合AI架构可以根据模型和查询需求的复杂度等因素,选择不同方式在云端和终端侧之间分配处理负载。
在以终端为中心的混合AI架构中,
云端仅用于处理终端侧无法充分运行的AI任务
随着强大的生成式AI模型不断缩小,以及终端侧处理能力的持续提升,混合AI的潜力将会进一步增长。参数超过10亿的AI模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。不久的将来,拥有100亿或更高参数的模型将能够在终端上运行。混合AI策略适用于几乎所有生成式AI应用和终端领域,对推动生成式AI规模化扩展,满足全球企业与消费者需求至关重要。
高通作为终端侧AI领导者,面向包括手机、汽车、XR头显与眼镜、PC和物联网等在内的数十亿边缘终端,提供行业领先的硬件和软件解决方案,对推动混合AI规模化扩展独具优势。
搭载骁龙平台的终端能够推动混合AI扩展至跨不同细分领域和层级的数十亿产品
高通的AI引擎和软件栈为加速终端侧AI推理提供了解决方案,并具备行业领先的性能和能效优势。凭借一系列基础研究,以及跨AI应用、模型、硬件与软件的全栈终端侧AI优化,我们的持续创新让公司始终处于终端侧AI解决方案的最前沿。
高通全栈AI研究和优化赋能技术持续改进并引领高能效解决方案发展
高通力求创造能为社会带来积极影响的AI技术。高通的终端侧AI愿景基于透明、负责、公平、管理环境影响和以人为本等原则,致力于负责任地管理AI,并采取措施以规避潜在危害。高通终端侧AI解决方案旨在赋能增强的隐私性和安全性,这对打造稳健可信的AI生态系统至关重要。高通技术公司还专注于为全球数十亿、由高通和骁龙平台支持的终端提供开发和部署的简便性,从而赋能开发者和独立软件开发商(ISV)。利用高通AI软件栈,开发者可以在我们的硬件上创建、优化和部署AI应用,一次编写即能实现跨我们芯片组解决方案的不同产品和细分领域进行部署。凭借技术领导力、全球化规模和生态系统赋能,高通技术公司正在让混合AI成为现实。
欲了解更多白皮书内容,请点击【阅读原文】。
原文标题:《混合AI是AI的未来》| 高通AI白皮书发布
文章出处:【微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。
-
高通
+关注
关注
76文章
7458浏览量
190545
原文标题:《混合AI是AI的未来》| 高通AI白皮书发布
文章出处:【微信号:Qualcomm_China,微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论