大模型时代，商汤大装置重构AI基础设施与服务-德赢Vwin官网网

大模型时代，怎样的基础设施与服务才能满足行业所需？

4月9~11日，第十二届中国电子信息博览会（CITE 2024）在深圳举行，商汤科技大装置事业群首席运营官梁守星受邀参加博览会期间的“2024 AI算力产业大会”，分享了商汤大装置在AI基础设施与服务领域的探索和实践成果。

打造“数据、算力、算法”

三位一体的AI基础设施

数据、模型、算力的量变，引发了AI行业的质变。

比如，大模型的语料规模5年间翻了1000倍，模型参数量更是百万倍的增长，而算力也呈现数十万倍的增长趋势。

在这一趋势下，以基础算力、网络、存储服务为核心的传统云架构，已难以满足AI行业的需求。AI时代的基础设施，需要做到“数据、算力、算法”三要素的一体化。

数据管理是一项复杂而重要的任务，涉及接入、采集、标注等体系化流程。而且相较英文，中文语料的变量更加多样，增加一个标点就可能改变整个语境，进一步增加了数据管理难题。

对此，商汤大装置打造了百亿级非结构化的AI数据管理平台，并支持秒级的数据可视检索，同时还提供数据安全整套解决方案和优质公开数据集，让数据管理更便捷、模型训练更高效。

在算力层面，商汤前瞻布局SenseCore商汤大装置，拥有高达12,000 petaFLOPS的算力规模，超过4.5万块GPU，为商汤自身大模型研发提供了丰沛算力的同时，也支持外部客户训练大模型和应用部署，国内主流大模型客户达30家以上。

基于商汤大装置及长期经验积累，商汤构建了高效、完备、易用的大模型生产工具链，实现了基础层、模型层、串联层、应用层的标准化体系。

不仅如此，商汤还提供涵盖从训练系统优化、模型训练、技术咨询的全链条AI专家服务体系，满足各行各业不断涌现的大模型开发和应用需求。

在商汤大装置的支持下，商汤在算法层面也实现了高效迭代。“日日新SenseNova 4.0”在代码编写、数据分析和医疗问答等多个场景中，达到了与GPT-4相匹配的能力水平。本月，商汤日日新大模型体系还将发布最新更新。

助力各行各业

降本增效、产业升级

根据国际知名调研机构弗若斯特沙利文（Frost & Sullivan）联合头豹研究院发布的《2023年中国AI开发平台市场报告》，商汤大装置成为AI开发平台领军者，市场综合竞争表现国内第一，全球位居第二，仅次于亚马逊云。

作为AI原生时代稀缺的大模型基础设施，商汤大装置正在助力各行各业客户实现降本增效和产业升级：

例如，助力某大模型客户在1个月内完成500B tokens、千亿规模参数LLM预训练，显著提升自动应答质量提升。

助力某电力客户优化电力生产和运维流程、降低客户生产成本和运维难度、提升电网运行效率和稳定性，促进新能源集成和消纳。

此外，商汤还与重庆南岸区联合打造重庆AIDC，助力重庆AIDC成为国产化示范点，赋能当地政务、民生、经济等领域数字化应用及西南地区重点产业升级。

商汤大装置致力于打造高效率、低成本、规模化的下一代AI基础设施产品与服务，构建丰富的产业上下游生态，共建、共创AI未来发展。

审核编辑：刘清

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

GPU芯片

GPU芯片

+关注

关注
1

文章
303

浏览量
5804
商汤科技

商汤科技

+关注

关注
8

文章
508

浏览量
36083
大模型

大模型

+关注

关注
2

文章
2423

浏览量
2637

原文标题：2024 AI算力产业大会 | 大模型时代，商汤大装置重构AI基础设施与服务

文章出处：【微信号：SenseTime2017，微信公众号：商汤科技SenseTime】欢迎添加关注！文章转载请注明出处。

商汤科技完成战略组织架构重组

了全新的“1+X”架构模式。其中，“1”代表公司的核心业务，即全力打造行业领先的AI云平台。该平台将实现大装置、基础模型与AI应用之间的无缝集成，为用户提供更为便捷、高效的

发表于 12-13 14:09 •153次阅读

NVIDIA助力印度打造AI基础设施

在孟买举办的 NVIDIA AI Summit 上，黄仁勋和穆克什·安巴尼（Mukesh Ambani）探讨了关于 AI 基础设施的投资，这些投资有望为各行各业带来变革。

发表于 10-27 09:44 •268次阅读

【「大模型时代的基础架构」阅读体验】+ 未知领域的感受

国庆前就收到《大模型时代的基础架构》一书，感谢德赢Vwin官网论坛。欢度国庆之余，今天才静下心来体验此书，书不厚，200余页，彩色图例，印刷精美！当初申请此书，主要是看到副标题“大模型算力中心建设指南

发表于 10-08 10:40

如何选择AI即服务平台

AI即服务（AIaaS）平台通过提供预构建的AI模型、开发工具、基础设施以及专业支持，帮助企业快速实现A

发表于 10-08 10:40 •161次阅读

AI驱动下的数字经济：智能社会基础设施与算力革新

AI驱动下的数字经济：智能社会基础设施与算力革新随着数字经济的迅猛发展，人工智能（AI）技术已成为推动经济和社会高质量发展的新引擎。根据中国信息通信研究院的数据，2022年我国人工智能核心产业规模

发表于 08-21 16:01 •370次阅读

大模型时代的算力需求

现在AI已进入大模型时代，各企业都争相部署大模型，但如何保证大模型的算力，以及相关的稳定性和性能，是一个极为重要的问题，带着这个极为重要的问

发表于 08-20 09:04

商汤AI大模型与中国国家篮球队达成战略合作

商汤科技与中国国家篮球队达成战略合作，将基于商汤“日日新SenseNova5.5”大模型技术共同打造AI大模型篮球产品，推动

发表于 07-17 09:58 •695次阅读

商汤科技与泰国DTGO集团联合发布泰语大模型

「日日新」出海了！ 7月10日，商汤联合泰国DTGO集团及旗下Quinnnova共同发布「东风」泰语大模型 (DTLM)，成为全球首个能在泰文、中文、英文三种语言环境下高效工作的AI大语言

发表于 07-11 19:57 •1117次阅读

商汤大装置算力服务获国家级认证

商汤大装置算力服务获国家级认证！近日，经过中国电子技术标准化研究院专家审核，商汤科技通过算力服务能力成熟度（CPMM）增强级评估，并成为首

发表于 06-22 10:59 •606次阅读

软通动力受邀参加华为举办的“昇思AI框架及大模型技术论坛”

5月11日，鲲鹏昇腾开发者大会2024期间，华为举办“昇思AI框架及大模型技术论坛”，软通动力数字基础设施与集成事业部总经理谢睿受邀出席、软通动力数字基础设施与集成事业部技术总监单继岭

发表于 05-13 09:30 •582次阅读

DPU技术赋能下一代AI算力基础设施

4月19日，在以“重构世界奔赴未来”为主题的2024中国生成式AI大会上，中科驭数作为DPU新型算力基础设施代表，受邀出席了中国智算中心创新论坛，发表了题为《以网络为中心的AI算力底

发表于 04-20 11:31 •836次阅读

安筱鹏：AI大模型重构产业竞争力的五种模式

今天讨论AI大模型，最重要的一个议题是，AI对一个产品、服务、产业意味着什么？对于一个个体、企业、区域、国家的竞争力意味着什么？未来3-5年，哪些产业的竞争力会被

发表于 04-08 09:29 •1414次阅读

商汤大装置加速大模型能力下沉，构建智能计算新生态

3月23~24日，2024全球开发者先锋大会（GDC）在上海成功举办。期间，商汤科技大装置执行总监成功，以及商汤科技大装置产品总监陈希受邀出席大会分论坛活动，围绕大

发表于 03-29 15:21 •564次阅读

垂直起降机场：飞行基础设施的未来是绿色的

因成本考虑而停止的区域航空服务。远程 eVTOL 可能需要在现有机场、绿地或其他现有基础设施上安装垂直起降机场、独立航站楼、维护、维修和大修（MRO）操作以及充电设施。作为一种更快的旅行方式

发表于 03-25 06:59

商汤SenseChat大模型成功通过与华为Atlas服务器的相互兼容性测试

近日，经华为综合评测，SenseCore商汤大装置AI云、商汤日日新·商量SenseChat大语言模型成功通过与华为Atlas系列

发表于 03-22 13:38 •658次阅读