商汤大装置加速大模型能力下沉，构建智能计算新生态-德赢Vwin官网网

大模型技术持续突破前沿，如何加速向产业“下沉”？

3月23~24日，2024全球开发者先锋大会（GDC）在上海成功举办。期间，商汤科技大装置执行总监成功，以及商汤科技大装置产品总监陈希受邀出席大会分论坛活动，围绕大模型前沿开发、智能计算创新等话题分享前瞻洞见，共话智能生态构建。

以体系化基础能力支撑，加速大模型向下演进

去年以来，生成式AI取得了飞跃式的发展，并不断从单一模态向多模态演进。那么，还有哪些因素是大模型发展的关键？

在GDC 2024大模型前沿论坛上，商汤科技大装置执行总监成功认为，大模型在很多场景下已经具备了强大的基础能力，但在推理和规划执行能力方面还需要继续突破。同时，效率和成本也是大模型发展的关键因素，需要以更低的成本、更快的速度触达应用并形成闭环。

其一是多模态融合的挑战，需要有效地将更多不同模态进行深度融合，提高模型对多模态数据的理解和处理能力。

其二是模型性能与成本平衡的挑战，需要在模型小型化的同时尽可能保持原有模型性能，特别是满足个人场景下端侧模型、端云协同的应用需求。

此外，随着大模型尺度的提升和训练数据的增加，行业还需要一套高效的大规模基础设施，以提供包括高质量的数据管线、全面的评价体系、完善的工具链等体系化的底层支撑。

成功表示，SenseCore 商汤大装置沉淀了整套大模型基础设施能力，不仅可服务于众多企业和科研院所的开发者，很快也会向个人开发者全面开放。

在AI基础设施之上，SenseCore 商汤大装置将推出全新升级的大模型服务平台和开发者工具，并向社区免费提供千万级算力补贴、万亿token大模型调用资源。商汤希望通过大装置激发整个社区的力量，携手更多开发者共同探索大模型能力前沿，拓展技术边界。

高效率、低成本智算基础设施

赋能AI生产新范式

大模型时代，计算量、模型参数和数据集规模都在快速增长从而不断推升模型的“智能”水平，其背后遵循的就是尺度定律。同时，随着AI在各行各业的落地向深水区挺进，人工智能基础设施化已成为必然趋势。

在GDC 2024曙光智能计算开发者讲坛上，商汤科技大装置产品总监陈希分享了依托SenseCore商汤大装置，商汤科技在智能计算领域的探索和实践。

第一，加速国产算力布局。通过与众多国产算力厂商合作，商汤与上下游产业伙伴共同推动国产生态建设，完成多款芯片与框架适配，落地1500P国产算力集群，积极推进芯片评价标准和体系的完善，加速整个国产算力商业化进程。

第二，持续探索尺度定律边界。随着大模型的参数量朝向万亿以上级别激增，稳定、高效的超大规模算力调度和训推引擎成为核心基石。 SenseCore 商汤大装置拥有万卡规模异构算力池，可满足万亿参数大模型训推需求，实现分钟级容错以达成30天以上大规模长时间训练不间断。另外在推理侧，自研推理引擎在大语言、多模态模型性能表现提升2倍；通过训练、微调、推理混部，资源利用率提升40%，为用户提供极致性价比服务。

第三，建设面向开发者友好的AI基础设施。面对愈发高频次、高效率的模型迭代需求，SenseCore商汤大装置拥有领先的AI 原生云算力产品体系，为客户打造0门槛，一站式的极致开发体验，缩短大模型开发周期。

根据国际知名调研机构弗若斯特沙利文（Frost & Sullivan）联合头豹研究院发布的《2023年中国AI开发平台市场报告》，商汤大装置成为AI开发平台领军者，市场综合竞争表现国内第一，全球位居第二，仅次于亚马逊云。以人工智能大模型开发、生产、应用为核心，商汤致力于通过高效率、低成本、规模化的下一代的人工智能基础设施与服务，深化AI算力生态建设，助力发展数字经济产业全生态。

审核编辑：刘清

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

人工智能

人工智能

+关注

关注
1791

文章
47182

浏览量
238198
商汤科技

商汤科技

+关注

关注
8

文章
508

浏览量
36083
大模型

大模型

+关注

关注
2

文章
2423

浏览量
2637
生成式AI

生成式AI

+关注

关注
0

文章
502

浏览量
471

原文标题：GDC 2024 | 商汤大装置加速大模型能力下沉，构建智能计算新生态

文章出处：【微信号：SenseTime2017，微信公众号：商汤科技SenseTime】欢迎添加关注！文章转载请注明出处。

商汤医疗联合成立上海公共服务MaaS训练及成果转化联盟

助力构建全链条大模型训练及成果转化体系，打通产学研医合作生态，商汤医疗再拓“医疗大模型朋友圈”。

发表于 11-28 10:57 •290次阅读

中兴通讯AI创新生态论坛成功举办

日前，以“全栈智算，打造高效基座；开放合作，构建繁荣生态”为主题的2024世界人工智能大会中兴通讯AI创新生态论坛在沪成功举办。论坛汇聚顶尖专家学者，GPU厂家、

发表于 09-05 15:34 •470次阅读

康耐视智能智造解决方案助力施耐德电气构建智能基地新生态

在消费者需求日益多元化、绿色生产政策日益严格以及全球工业竞争日益激烈的背景下，施耐德电气，作为能源管理与自动化领域的领航者，正积极拥抱物联网、大数据、云计算及人工智能等新兴技术，全力构建智能

发表于 08-08 11:29 •613次阅读

商汤日日新大模型中标上海电信订单

近日，中国电信上海公司公布《产数开发代码助手》项目采购结果：凭借「日日新」大模型出色的代码能力，商汤科技中标。由「商汤•小浣熊家族」系列产品团队提供相关业务产品服务支持。

发表于 07-29 14:25 •532次阅读

商汤科技加入中国移动人工智能大模型评测联盟

WAIC 2024期间，中国移动发起成立人工智能大模型评测联盟（弈衡），商汤科技作为初创成员受邀加入联盟。人工智能实现突破发展，“AI+”评测正成为关键一环。人工

发表于 07-12 14:20 •651次阅读

产研联合破题，AI大模型下沉行业应用加速

商汤科技流式多模态交互大模型「日日新SenseNova 5.5」惊艳亮相，日日新大模型全面赋能WAIC大会，带来超燃AI体验。

发表于 07-08 15:35 •510次阅读

商汤科技发布日日新5.5大模型体系

商汤科技近日震撼发布其最新的日日新5.5大模型体系，标志着人工智能领域又迈出了坚实的一步。该体系以6000亿参数的超大规模基础模型——日日新5.5为核心，性能较上一代实现了显著提升，高

发表于 07-08 15:05 •555次阅读

商汤科技发布粤语大模型，推动香港人工智能生态系统发展

商汤科技董事长兼 CEO 徐立表示，此次推出商量粤语版具有重要意义，希望借助日日新大模型 5.0 系列的创新产品和巨大潜力，助力香港人工智能生态系统的发展。

发表于 05-31 11:11 •592次阅读

商汤科技即将推出日日新大模型5.0粤语版本

在盛大的“新质企业家联合会”成立典礼上，商汤科技副总裁、智慧城市与商业事业群总裁张果琲宣布了一项重要消息。商汤科技即将推出日日新大模型5.0的粤语版本，这一新版本将基于大装置和强大的技

发表于 05-13 10:58 •579次阅读

商汤将发布日日新大模型5.0粤语版本

商汤科技即将迎来一项重要更新，他们将发布日日新大模型5.0的粤语版本。这一版本是基于商汤科技现有的大装置和日日新大模型5.0的先进

发表于 05-08 09:33 •492次阅读

商汤科技发布5.0多模态大模型，综合能力全面对标GPT-4 Turbo

商汤科技发布5.0多模态大模型，综合能力全面对标GPT-4 Turbo 4月23日，商汤科技董事长兼CEO徐立在2024商汤技术交流日上发布

发表于 04-24 16:49 •1098次阅读

商汤科技作亮相2024全球开发者先锋大会

2024全球开发者先锋大会（GDC）在上海圆满落幕。商汤科技作为业内翘楚，其大装置执行总监成功和产品总监陈希受邀参加了此次大会的分论坛活动，就大模型前沿开发、智能

发表于 03-29 10:24 •612次阅读

商汤与华为昇腾共筑人工智能产业新生态

近日，华为对SenseCore商汤大装置AI云及商汤日日新·商量SenseChat大语言模型进行了全面评测，结果喜人。这两款产品均成功通过华为Atlas系列服务器的兼容性测试，并荣获H

发表于 03-25 09:36 •1430次阅读

商汤科技与库醇科技达成合作为垂域大模型构建高质量大规模的领域微调数据

近日，商汤科技与库醇科技（StockVins）达成合作，双方将基于商汤领先的算法能力和库醇在葡萄酒行业的深厚积累，共同打造智能化葡萄酒管理、仓储和推荐系统，革新大众体验葡萄酒的方

发表于 01-10 09:46 •703次阅读

什么是加速计算？加速计算的应用场景和解决方案

前所未有的处理能力，在云基础设施中发挥着核心作用，因为它有助于更高效、更有效地管理数据中心的海量信息。此外，加速计算还能提供必要的计算能力和

发表于 12-28 10:07 •2173次阅读

搜索历史

商汤大装置加速大模型能力下沉，构建智能计算新生态

评论

商汤医疗联合成立上海公共服务MaaS训练及成果转化联盟

中兴通讯AI创新生态论坛成功举办

康耐视智能智造解决方案助力施耐德电气构建智能基地新生态

商汤日日新大模型中标上海电信订单

商汤科技加入中国移动人工智能大模型评测联盟

产研联合破题，AI大模型下沉行业应用加速

商汤科技发布日日新5.5大模型体系

商汤科技发布粤语大模型，推动香港人工智能生态系统发展

商汤科技即将推出日日新大模型5.0粤语版本

商汤将发布日日新大模型5.0粤语版本

商汤科技发布5.0多模态大模型，综合能力全面对标GPT-4 Turbo

商汤科技作亮相2024全球开发者先锋大会

商汤与华为昇腾共筑人工智能产业新生态

商汤科技与库醇科技达成合作为垂域大模型构建高质量大规模的领域微调数据

什么是加速计算？加速计算的应用场景和解决方案