浪潮信息NF5468服务器LLaMA训练性能
浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40SGPU，可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明，搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力，客户可以进行下单采购。
本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器，包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号，产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络，从而满足大模型计算对高算力、高互联的极致性能需求。在软件上，产品支持浪潮信息最新推出的OGAI大模型智算软件栈，为客户提供高效的大模型生产力支撑。
针对业界广泛使用的LLaMA开源大型语言模型，浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试，得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验，L40S GPU的强大性能得以充分发挥，实际测试数据表明LLaMA大模型微调训练性能优异。
浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务，并具备良好的性能扩展，将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态，加速生成式AI的产业创新和发展。
审核编辑：汤梓红
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
- 服务器
+关注
关注
12文章
8605浏览量
84253 - 浪潮
+关注
关注
1文章
440浏览量
23693 - AI
+关注
关注
87文章
28468浏览量
265753 - 大模型
+关注
关注
2文章
2054浏览量
1789
发布评论请先登录
相关推荐
让服务器开机远离飞机起飞！浪潮信息首创3秒智能控温技术，降噪30.4%
？而且，伴随着风扇的呼啸声，
服务器启动"龟速"，开机时间要3、5分钟甚至更久，严重影响了
服务器运维部署效率。 通过BMC Linux/RTOS异构双系统并行管理技术，
浪潮信息首创「开机3秒智能控温技术」，能够在
浪潮信息元脑®服务器率先支持英特尔®至强®6处理器
北京2024年6月7日 /美通社/ -- 6月6日，英特尔在全球范围内发布了英特尔®至强®6处理
器，
浪潮信息
服务器产品线总经理赵帅受邀参会并发表演讲。会上，
浪潮信息多款元脑
浪潮信息推出业界首个支持50℃进液温度的服务器
近日，
浪潮信息再次突破技术边界，其旗舰产品
NF5180G7
服务器成为业界瞩目焦点。这款
服务器不仅实现了1U空间内的超高密度设计，更在散热技术上取得了革命性进展，成为首个支持浸没式液冷5
浪潮信息突破浸没式液冷服务器设计极限 业界首个支持50℃进液温度
北京2024年5月6日 /美通社/ -- 近日，
浪潮信息旗下产品
NF5180G7成为业界首个可支持浸没式液冷50℃进液温度的
服务器。
NF5180G7是一款超高密度
浪潮信息服务器NF5180G7荣获SPECjbb2015性能冠军
近日，国际权威的标准
性能评测机构（SPEC）公布了SPECjbb2015榜单，
浪潮信息
服务器
NF5180G7凭借每秒558,626次企业应用业务处理的卓越成绩，蝉联
浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计
北京2024年1月19日 /美通社/ -- 1月18日，
浪潮信息与英特尔联合发布全球首个全液冷冷板
服务器参考设计，并面向业界开放，为全球液冷产业链上下游提供极具价值的参考样板，推动先进全液冷冷板
浪潮信息八路服务器创SAP SD评测最高性能
北京2024年1月17日 /美通社/ -- 1月15日，据全球领先的企业应用软件提供商SAP发布的最新SAP SD评测结果，
浪潮信息TS860G7
服务器创下1,659,970 SAPS的最高
性能
浪潮信息EIS400自动驾驶域控制器结构体系解读
汽车的高
性能运算可以算是边缘计算，
浪潮信息是国内边缘计算
服务器排名第一的厂家，自然也延伸到汽车自动驾驶领域。
发表于01-12 10:45
•
736次阅读
IDC:浪潮信息居全球服务器份额第二
下降22.8%。在全球
服务器市场增长乏力的背景下，
浪潮信息
服务器以21.8%的销售额增速，实现逆势增长，出货量和销售额均位居全球第二。
浪潮信息长期赋能MAXIEYE实现云数据中心部署
近日，AI驱动的自动驾驶全栈创新
服务商上海智驾汽车科技有限公司（下简称“智驾科技MAXIEYE”）与全球领先的AI
服务器厂商
浪潮电子
信息产业股份有限公司（下简称“
大普微与keyarchOS完成浪潮信息澎湃技术认证
服务器操作系统keyarchOS满足兼容认证要求，整体运行稳定，在功能、
性能及兼容性方面表现良好。
浪潮信息澎湃技术认证是基于多元、创新的通用计算平台，与供应链及软件
服务等生态
国际权威算力评测SPEC榜单公布浪潮信息创四路服务器整型和浮点性能纪录
北京2023年10月8日 /美通社/ -- 近日，国际标准
性能评估组织SPEC发布最新整机
性能测试结果，
浪潮信息
NF8260G7在4大类43个测试场景中表现优异，打破了SPEC CPU
浪潮信息澎湃认证：浪潮信息集中式存储携手达梦数据库管理系统V8完成兼容性认证
，满足功能需求，系统运行可靠稳定，
性能表现优异。
浪潮信息澎湃技术认证 是
浪潮信息基于自身多元、创新的通用计算平台，与供应链及软件
服务等生态合作伙伴共同构建的产品兼容性认证体系，包含“
东芝 MG10系列企业级SATA HDD获得浪潮信息澎湃技术兼容性认证
点击蓝字 关注我们 近日，TOSHIBA（东芝） MG10系列企业级SATA HDD (MG10ACA) 完成与
浪潮信息
NF5280M6
服务器平台的兼容性适配认证，获得
浪潮信息澎湃
浪潮信息NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU
的
浪潮信息
NF5468
服务器大幅提升了
LLaMA大模型的微调
训练
性能。目前该产品已具备交付能力，
工商网监
评论