首页 > 科技快讯 > 英伟达发布 L40S GPU:AI 推理性能较 A100 高 1.2 倍

英伟达发布 L40S GPU:AI 推理性能较 A100 高 1.2 倍

IT之家 8 月 10 日消息,英伟达日前发布了全新的 NVIDIA L40S GPU,以及搭载该 GPU 的 OVX 服务器系统,IT之家的小伙伴们可以在这里找到相应技术文档。

▲ 图源 英伟达官网

据悉,这款 L40S GPU 搭配最新发布的 OVX 服务器,可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途,相比 A100 GPU,这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力,并满足不断增长的算力需求”。

IT之家经过查询得知,L40S GPU 是英伟达此前 L40 GPU 的升级版本,配备 48GB GDDR6 ECC 显存,该 GPU 基于 Ada Lovelace 架构,搭载第四代 Tensor Core 和 FP8 转换引擎,运算速度是上一代的 5 倍。但依然不支持 NVLink。

英伟达声称,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训练性能高 1.7 倍,英伟达表示,对于“具有数十亿个参数和多种数据模式的复杂 AI 工作而言”,L40S 的效能更加突出。

英伟达表示,英伟达 L40S GPU 将在今年秋季上市,每台英伟达 OVX 服务器系统最多可搭载 8 个 L40S 加速卡,不过英伟达并没有透露该 GPU 的定价.

英伟达同时表示,华硕、戴尔、技嘉、HPE、联想、QCT 和美超微等厂商,将“很快推出”搭载 L40S GPU 的 OVX 服务器系统。

发布于:山东

相关推荐

英伟达发布 L40S GPU:AI 推理性能较 A100 高 1.2 倍
最前线 | 英伟达发布GPU旗舰A100,采用7nma工艺,性能提升20倍
黄仁勋的「厨房演讲」,熬制的却是英伟达 GPU 史上最大性能飞跃
焦点分析 | 英伟达推出“算力怪兽” A100 , 国产云端AI芯片们如何破局
争夺 AI 入场券:中国大公司竞逐 GPU
对标英伟达A100 国产GPU成功点亮:5小时完成芯片测试
不再靠你买显卡充值信仰,英伟达已经变了
争夺AI入场券:BAT、字节美团们竞逐GPU
英特尔挤爆牙膏:新AI训练芯片性能超A100,笔记本CPU首上16核5GHz
英特尔甩出视觉推理新杀器,性能超英伟达,大秀首款云端AI商用芯

网址: 英伟达发布 L40S GPU:AI 推理性能较 A100 高 1.2 倍 http://m.xishuta.com/newsview86472.html

所属分类:行业热点