1 新一代AI基础设施成为AI 2.0时代“新基建”-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

新一代AI基础设施成为AI 2.0时代“新基建”

商汤科技SenseTime 来源:商汤科技SenseTime 2024-01-04 09:41 次阅读

2023年,大模型、生成式AI的发展带动了人工智能领域的范式转换,人工智能从传统的“分类器”进化成“生成器”,催生了千行百业的规模化需求。

那么怎样的基础设施,才能更好地支撑AI产业进入2.0时代?

近日,商汤科技智能产业研究院与中国信息通信研究院云计算与大数据研究所,中国智能算力产业联盟,人工智能算力产业生态联盟,联合发布《新一代人工智能基础设施白皮书》(以下简称《白皮书》)。

《白皮书》不仅明确了“新一代AI基础设施”的定义、特点和价值,还首次提出“新一代AI基础设施评估体系”,为AI 2.0时代智算产业发展提供重要参考。

新一代AI基础设施

成为AI 2.0时代“新基建”

数据显示,过去四年,大模型参数量以年均400%复合增长,AI算力需求增长超过15万倍,远超摩尔定律。

CPU中心的传统计算基础设施已无法满足大模型、生成式AI的新要求。

大模型训练对数据质量和效率的需求,企业应用生成式AI对于MaaS(大模型即服务)的需求,也都给AI基础设施提出了全新要求。

而新一代AI基础设施绝非传统云的AI化,两者具有明显差别。传统云计算基础设施主要支持互联网应用、SAAS等服务,而新一代AI基础设施提供大模型训练与推理、生成式AI部署、区域/行业创新孵化等服务。

何为新一代AI基础设施?《白皮书》给出了明确定义:

以大模型能力输出为核心平台,集成算力资源、数据服务和云服务,专门设计用于最大限度提升大模型和生成式AI应用的表现:数据准备与管理、大模型训练、推理、模型能力调用、生成式AI应用部署。企业通过新一代AI基础设施开发和运行生成式AI业务和客户应用程序,以及基模型和行业模型的训练与微调。 《白皮书》指出,新一代AI基础设施的建设将降低大模型开发和应用门槛,在政企服务、产业和科研创新等方面创造更大社会价值。

面向产业,将加快推进传统产业上下游各个环节的智能化转型,催生新业态、新模式的不断涌现。

面向科研,可加速科学实验的自动化和智能化,激发人工智能驱动科学研究(AI for Science)的新范式。

面向政务,将原本分散、碎片化的政务应用,通过“一模通办” 为政务服务提质增效。

首次提出

新一代AI基础设施评估体系

当前,新一代AI基础设施市场处于高速竞争的初级阶段,云计算、AI原生、硬件系统等各类厂商均有各自优势。

为了给企业用户提供AI基础设施选型的可靠性指导,《白皮书》首次提出了“新一代AI基础设施评估体系”。

通过产品技术、战略愿景、市场生态三大维度、十二个评估指标,对AI基础设施厂商综合能力进行定性和定量的全面评估。

《白皮书》选取了十二家最具代表性的AI基础设施厂商。商汤科技的新一代AI基础设施 -SenseCore商汤大装置,在各个评估指标的得分均超过厂商平均分,并在市场响应、市场认知、产品战略、工程化建设四个评估指标拿到满分,成为新一代AI基础设施市场的领导者。

1a9ed3d8-a6ea-11ee-8b88-92fbcf53809c.png

SenseCore商汤大装置

在新一代AI基础设施评估体系的评分

《白皮书》指出,商汤在产品服务能力呈现出较强的产品实力和技术积累,不仅超前布局了算力基础设施,还在MaaS平台以及自身大模型业务的加持下,形成了整套AI基础设施产品架构,满足客户大模型训练、生成式AI应用的大规模落地需求。

SenseCore商汤大装置作为商汤推出的AI基础设施产品与解决方案,总体算力规模目前已达6800P,在支持商汤自身大模型研发的同时,也支持外部客户训练大模型和应用部署。

今年以来,共有超1000个参数量数十亿至上千亿的大模型在大装置上完成训练,实现了领跑行业的技术迭代进度,并支持了数十款生成式AI应用。

1aae6fe6-a6ea-11ee-8b88-92fbcf53809c.png

激发“智能基建革新”

加速大模型和生成式AI落地

从大模型的训练到生成式AI应用的部署,再到区域智算中心的建设与运营,《白皮书》列举了商汤基于大装置的多场景实践案例,激发AI的商业创新价值。例如:

大模型训练场景

商汤大装置为商汤自研“日日新SenseNova”大模型体系的训练迭代提供了强大算力支撑,以及1.5万亿token和6000亿中文高质量数据,推出了商量大语言模型,AIGC等大模型,并在多个权威大模型测评榜单中位居前列。

商汤还助力某业界领先的认知智能公司打造了高性能算力平台,提高模型训练速度和效率,已成功推出了400亿参数量的大模型,快速满足不同领域和场景需求。

生成式AI应用场景

依托商汤大装置,商汤联合中公教育发布虚拟数字讲师“小鹿老师”,相比传统人工直播,不仅降低了80%录课成本,还提高了2~3倍的课程丰富度,实现教学质量和效率双重提升。

商汤还助力微博打造“营销大模型”,让每位博主都能拥有自己的AI营销助手,短短数月便有超7000位微博达人采用AIGC生成69万篇文案,采用率高达95%。

智算中心建设与运营

商汤与重庆南岸区携手打造的“重庆人工智能计算中心(AIDC)”,以国产化算力为核心,首期建设峰值算力达100Petaflops,为西南地区的各行各业、科研机构提供AI算力、大模型训练、推理部署和应用开发等服务。

商汤助力打造福建省大数据算力平台,第一阶段已建成125Petaflops算力规模,并有多家数字生态领军企业入驻,有望推动生成式AI技术在医疗、金融、制造等各个产业中的落地。

《白皮书》最后指出,随着新一代AI基础设施的边际成本持续下降、边际效益持续增长,AI将普惠每一个人。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30728

    浏览量

    268875
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238213
  • 大模型
    +关注

    关注

    2

    文章

    2423

    浏览量

    2640

原文标题:AI 2.0时代需要怎样的AI基础设施?《新一代人工智能基础设施白皮书》给出答案

文章出处:【微信号:SenseTime2017,微信公众号:商汤科技SenseTime】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    英伟达新一代AI芯片过热问题引关注

    近日,英伟达新一代Blackwell AI芯片遭遇过热问题,这消息引发了业界的广泛关注。据悉,搭载该芯片的服务器在运行过程中存在过热现象,可能影响其正常交付,这令谷歌、微软等潜在客户感到担忧。
    的头像 发表于 11-19 16:15 233次阅读

    NVIDIA助力印度打造AI基础设施

    在孟买举办的 NVIDIA AI Summit 上,黄仁勋和穆克什·安巴尼(Mukesh Ambani)探讨了关于 AI 基础设施的投资,这些投资有望为各行各业带来变革。
    的头像 发表于 10-27 09:44 269次阅读

    Arm携手三星开拓新一代通信技术

    的实用技术,需处理的数据量将呈指数级增长。数据量的激增给网络运营商带来了巨大压力,它们不仅要维护现有网络,还要为下一代网络进行技术创新。为此,它们对节能且可扩展的计算基础设施的迫切需求更胜以往。 高效计算在新一代通信技术和
    的头像 发表于 08-26 09:48 725次阅读

    一代高功能新一代AI加速器(DRP-AI3):10x在高级AI系统高级AI中更快的嵌入处理

    德赢Vwin官网 网站提供《下一代高功能新一代AI加速器(DRP-AI3):10x在高级AI系统高级AI
    发表于 08-15 11:06 0次下载
    下<b class='flag-5'>一代</b>高功能<b class='flag-5'>新一代</b><b class='flag-5'>AI</b>加速器(DRP-<b class='flag-5'>AI</b>3):10x在高级<b class='flag-5'>AI</b>系统高级<b class='flag-5'>AI</b>中更快的嵌入处理

    蚂蚁数科发布新一代融合AI风控引擎“AIR Engine”

    在数字化浪潮的推动下,金融科技领域的风控技术正迎来新的突破。近日,蚂蚁数科旗下的蚁盾风控团队正式发布了新一代融合AI风控引擎——“AIR Engine(AIFUSERiskEngine)”,该引擎在原有的决策式AI架构基础上,创
    的头像 发表于 06-26 18:20 1236次阅读

    DPU技术赋能下一代AI算力基础设施

    4月19日,在以“重构世界 奔赴未来”为主题的2024中国生成式AI大会上,中科驭数作为DPU新型算力基础设施代表,受邀出席了中国智算中心创新论坛,发表了题为《以网络为中心的AI算力底座构建之路》主题演讲,勾勒出在通往AGI之路
    的头像 发表于 04-20 11:31 837次阅读

    群英讲堂 | 英飞凌PA栅压管理解决方案助力新一代通讯基础设施

    新一代移动通信技术,是在4G的基础上进化而来的项全新技术。它具有更高的数据传输速度,更低的延迟和更广的覆盖范围,可以实现更加安全、可靠、高效的通信体验。相较于4G,新一代通讯网络不仅能够为人们带来更好的通信体验,也将推动物联网
    的头像 发表于 04-19 14:49 395次阅读
    群英讲堂 | 英飞凌PA栅压管理解决方案助力<b class='flag-5'>新一代</b>通讯<b class='flag-5'>基础设施</b>

    Arm发布新一代Ethos-U AI加速器 Arm旨在瞄准国产CPU市场

    Arm发布的新一代Ethos-U AI加速器确实在业界引起了广泛关注。
    的头像 发表于 04-18 15:59 741次阅读

    大模型时代,商汤大装置重构AI基础设施与服务

    大模型时代,怎样的基础设施与服务才能满足行业所需?
    的头像 发表于 04-12 11:47 732次阅读
    大模型<b class='flag-5'>时代</b>,商汤大装置重构<b class='flag-5'>AI</b><b class='flag-5'>基础设施</b>与服务

    商汤科技董事长兼CEO徐立:AI 2.0时代的“新质生产力工具”

    AI 2.0时代,生成式AI被视为推动生产力进步的重要技术,如果能在知识、推理、执行三层能力上实现突破,将真正带来整个社会生产力的跨越式发展。”
    的头像 发表于 03-25 09:41 393次阅读
    商汤科技董事长兼CEO徐立:<b class='flag-5'>AI</b> <b class='flag-5'>2.0</b><b class='flag-5'>时代</b>的“新质生产力工具”

    商汤科技:AI 2.0时代的“新质生产力工具”

    2024年全球开发者先锋大会(GDC)在上海盛大开幕,汇聚了全球顶尖的开发者与科技创新者。商汤科技董事长兼CEO徐立受邀出席,并发表了题为《AI 2.0时代的“新质生产力工具”》的主旨演讲,引发了广泛关注和深度思考。
    的头像 发表于 03-25 09:28 621次阅读

    惠普推出新一代AI游戏本,并计划推出首个AI PC本地AI解决方案

    近日,惠普发布了新一代AI游戏笔记本电脑,这些新款笔记本在性能和AI功能方面都有显著提升。其中,14英寸暗影精灵10 SLIM被公认为惠普目前最轻的游戏笔记本,它搭载了酷睿Ultra 7-155H处理器和RTX 4060/407
    的头像 发表于 01-22 15:58 904次阅读

    智谱AI推出新一代基座大模型GLM-4

    智谱AI近日宣布推出新一代基座大模型GLM-4。这模型在整体性能上相较上一代实现了大幅提升,其表现已逼近GPT-4。
    的头像 发表于 01-17 15:29 1039次阅读

    商汤科技发布新一代大语言模型书生·浦语2.0

    1月17日,商汤科技与上海AI实验室联合香港中文大学和复旦大学正式发布新一代大语言模型书⽣·浦语2.0(InternLM2)。
    的头像 发表于 01-17 15:03 821次阅读
    商汤科技发布<b class='flag-5'>新一代</b>大语言模型书生·浦语<b class='flag-5'>2.0</b>

    2024 AI智算产业趋势报告

    当下智算时代虽然在初级阶段,依托AI大模型形成的新一代算力基础设施AI应用已经在诸多领域崭露头角。 数字中国愿景的实现,基石在于夯实数字化
    发表于 01-17 09:40 490次阅读
    2024 <b class='flag-5'>AI</b>智算产业趋势报告