1 高通与腾讯混元达成战略合作-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

高通与腾讯混元达成战略合作

高通中国 来源:高通中国 2024-11-08 09:52 次阅读

要点

高通与腾讯混元展开合作,基于骁龙8至尊版移动平台实现腾讯混元大模型7B和3B版本的终端侧部署,进一步扩展生成式AI技术在终端侧的应用和普及。

•借助骁龙8至尊版的强大终端侧AI性能和高通AI软件栈,腾讯混元大模型能够实现出色的终端侧运行表现,为腾讯的广泛业务场景和应用提供底层端侧AI支持。

骁龙峰会期间,高通技术公司宣布与腾讯混元合作,基于骁龙8至尊版移动平台,共同推动了腾讯混元大模型7B和3B版本的终端侧部署,展示了此合作实现出色的运行表现。这将有助于腾讯混元大模型为广泛的业务场景提供技术支持,通过利用终端侧AI加速产品创新,有效降低运营成本,并进一步扩展生成式AI在终端侧的应用和普及。

骁龙8至尊版移动平台搭载全新的第二代定制高通Oryon CPU和增强的高通HexagonNPU,充分利用高通AI引擎优势,能够带来更强大的终端侧生成式AI处理能力。骁龙8至尊版的强大AI算力,结合高通AI软件栈以及行业领先的工具套件,包括高通AI模型增效工具包(AIMET)等,为模型提供了全栈优化能力。通过使用基于硬件的INT4量化技术,可以大幅提升腾讯混元大模型在终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过30 tokens/秒。

腾讯混元大模型已为腾讯内部超过700个业务场景和C端应用提供底层技术支持,包括微信输入法、腾讯手机管家、QQ、腾讯视频、QQ浏览器、企业微信、腾讯会议等,通过实现面向骁龙8至尊版的终端侧部署,能够利用终端侧生成式AI的丰富优势,更好地满足广泛的终端侧业务需求。例如,腾讯手机管家短信智能识别功能率先利用腾讯混元的终端侧模型能力,通过海量数据结合深度神经网络与预训练,让模型具备极强的语义理解能力,通过结合上下文语境信息更准确地理解短信意图,使短信召回率大幅提高将近200%,识别准确率提升20%。由于部分短信涉及用户个人敏感信息,端侧AI还可以在保证出色性能表现的同时,有效保护用户的个人信息隐私安全。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:

高通与腾讯混元大模型团队长期携手推动前沿终端侧技术创新在移动应用中的部署和推广,为广大用户和消费者打造创新的应用体验。高通公司致力于赋能广大ISV合作伙伴和开发者,利用高通强大的异构计算、行业领先的CPU、GPU、NPU和软件解决方案,在搭载骁龙平台的终端上推动生成式AI应用的普及,惠及全球更多用户。

腾讯机器学习平台部总经理,腾讯混元大模型负责人王迪表示:

腾讯混元已经构建起了全链路的大模型矩阵和应用平台。同时,腾讯混元不断完善部署生态。在云服务场景,我们通过多种技术在提升效果的同时调用价格持续降低。在智能终端场景,腾讯和高通持续深入合作,赋能不同业务对端侧模型的部署需求,并在腾讯丰富的生态中持续迭代能力,让更多的B端和C端用户获得实用大模型的非凡体验。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 高通
    +关注

    关注

    76

    文章

    7458

    浏览量

    190545
  • 骁龙
    +关注

    关注

    2

    文章

    1006

    浏览量

    36811
  • 大模型
    +关注

    关注

    2

    文章

    2423

    浏览量

    2637

原文标题:高通与腾讯混元合作,基于骁龙8至尊版共同推动腾讯混元大模型终端侧部署

文章出处:【微信号:Qualcomm_China,微信公众号:高通中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    腾讯大模型上线并开源文生视频能力

    近日,腾讯宣布其大模型正式上线,并开源了一项令人瞩目的能力——文生视频。该大模型参数量高达130亿,支持中英文双语输入,为用户提供了更为便捷和多样化的视频生成体验。 据官方介绍,腾讯
    的头像 发表于 12-04 14:06 136次阅读

    玻色量子与相干科技达成战略合作

    日前,北京玻色量子科技有限公司(以下简称“玻色量子”)与相干(北京)科技有限公司(以下简称“相干科技”)达成战略合作,并正式签署合作协议。
    的头像 发表于 11-25 09:37 282次阅读

    爱芯智与紫光展锐达成战略合作

    近日,爱芯智与紫光展锐结成战略合作伙伴关系,双方将在人工智能生态建设、人工智能应用等领域长期开展广泛和深入合作,共同构建健康、可持续的人工智能生态系统,推动AI普惠大众。爱芯
    的头像 发表于 11-21 16:54 381次阅读

    支付宝与华为终端达成战略合作

    近日,支付宝与华为终端正式宣布达成战略合作,共同致力于鸿蒙生态与碰一下生态的深度融合与发展。
    的头像 发表于 11-11 14:46 299次阅读

    腾讯Large模型及云TI平台全新上线

    近日,腾讯团队最新推出的MoE模型“Large”已正式开源上线。这一里程碑式的进展标志着腾讯
    的头像 发表于 11-08 11:03 405次阅读

    通与谷歌达成多年战略合作

    通技术公司宣布与谷歌达成旨在推动汽车行业数字化转型的多年技术合作。基于长期合作关系,双方将利用骁龙数字底盘、Android汽车OS和谷歌云三者互为补充的各类技术,打造借助生成式AI(
    的头像 发表于 11-08 09:43 202次阅读

    腾讯音乐携手中兴通讯达成战略合作

    10月23日,腾讯音乐娱乐集团与中兴通讯宣布建立战略合作伙伴关系,合作内容不仅限于音乐产品层面,更将深入音乐AI技术等多个维度,旨在全面提升用户的音乐娱乐享受。
    的头像 发表于 10-23 14:38 288次阅读

    Fujitsu与Supermicro达成战略合作

    近日,Fujitsu Limited与Supermicro, Inc宣布达成战略合作,共同开启技术与业务发展的新篇章。双方将建立长期的技术和业务战略
    的头像 发表于 10-11 17:21 423次阅读

    长电科技与Allegro MicroSystems达成战略合作

    近日,全球集成电路成品制造与技术服务领域的佼佼者——长电科技,与磁性传感器IC及功率IC行业的领先企业Allegro MicroSystems正式宣布达成深度战略合作。此次合作标志着双
    的头像 发表于 08-06 09:22 717次阅读

    腾讯云大模型价格调整:-lite、-standard免费,-pro降价

    据了解,腾讯大模型是腾讯全链路自研的万亿参数大模型,采用混合专家模型(MoE)结构,模型总体性能较上一代提升50%。
    的头像 发表于 05-23 17:05 854次阅读

    数峦云与三友科技达成战略合作,共建有色金属工业宇宙

    近日,数峦云科技与三友科技(股票代码834475)达成战略合作,双方将围绕有色金属智能制造展开深度合作,携手步入工业制造智能化新时代。
    的头像 发表于 05-21 17:38 495次阅读
    数峦云与三友科技<b class='flag-5'>达成</b><b class='flag-5'>战略</b><b class='flag-5'>合作</b>,共建有色金属工业<b class='flag-5'>元</b>宇宙

    吉利汽车否认与Foretellix达成战略合作

    以色列汽车科技初创企业Foretellix于5月7日发布声明,宣布与吉利汽车达成战略合作,旨在加速自动驾驶车辆的广泛应用,降低吉利的研发成本,提升开发效率。
    的头像 发表于 05-11 15:07 525次阅读

    兆易创新与TASKING达成战略合作

    兆易创新(GigaDevice)近日与业界知名的嵌入式软件开发工具供应商——塔斯金信息技术(上海)有限公司(TASKING)达成战略合作。根据协议,双方将携手在GD32车规级MCU芯片开发工具领域深化
    的头像 发表于 05-06 15:12 553次阅读

    研华科技宣布与通技术公司达成战略合作,共创边缘智能新未来

    今日,在世界嵌入式展览会上,研华科技宣布与通技术公司达成战略合作,携手为边缘计算领域带来变革,共创边缘人工智能生态系多元且开放的新格局。
    的头像 发表于 04-11 09:24 620次阅读

    哪吒汽车、通公司和车联天下达成战略合作

    近日,哪吒汽车、通公司和车联天下宣布达成一项具有里程碑意义的战略合作。根据协议,三方将携手基于第四代骁龙座舱平台及Snapdragon Ride Flex SoC,为哪吒汽车打造最新
    的头像 发表于 01-11 13:59 4256次阅读