【事项】
5 月29 日,英伟达在当日的COMPUTEX 大会推出了NVIDIA DGX GH200人工智能(AI)超级计算机,这款计算机由NVIDIA GH200 Grace Hopper超级芯片和NVIDIA NVLink Switch System 提供支持。DGX GH200 集成了256 颗GH200 Grace Hopper 超级芯片,拥有144TB 共享内存,可以为大型生成式人工智能模型以及其他应用提供高达1exaflop 的计算能力。英伟达CEO 黄仁勋在大会上宣布,公司的Grace Hopper超级芯片现已全面投产。
黄仁勋表示,DGX GH200 AI 超级计算机集成了英伟达最先进的加速计算和网络技术,以拓展人工智能的前沿领域。同时,英伟达正致力于使DGX GH200 在今年年底上市。谷歌云、Meta 和微软将会是首批有望获得DGX GH200 访问权的公司。
【资料图】
【评论】
自去年年底OpenAI 发布ChatGPT 以来,生成式人工智能逐渐确定成为新趋势,而创建文本、图像、视频等内容需要通过超强算力来实现,算力已经成为AI 的刚需,芯片巨头英伟达生产的人工智能芯片在该领域至关重要。此前,英伟达在AI 训练端先后推出了V100、A100、H100 三款芯片,以及为了满足美国标准,向中国大陆销售的A100 和H100 的带宽缩减版产品A800 和H800。
DGX GH200 人工智能超级计算平台是英伟达针对最高端的人工智能和高性能计算工作负载而设计的系统和参考架构,目前的 DGX A100 系统只能将八个 A100 GPU 联合起来作为一个单元,考虑到生成型人工智能的爆炸式增长,英伟达的客户迫切需要更大、更强大的系统,DGXGH200 就是为了提供最大的吞吐量和可扩展性而设计的,它通过使用英伟达的定制 NVLink Switch 芯片来避免标准集群连接选项(如InfiniBand 和以太网)的限制。通过256 块超级芯片组成的DGX GH200显然有着超越前代产品DGX A100 的计算能力。而且,英伟达也正在打造基于DGX GH200 的大型AI 超级计算机NVIDIA Helios,其中采用4 个DGX GH200 系统、1024 颗Grace Hopper 超级芯片,每个都将与英伟达Quantum-2 InfiniBand 网络连接,带宽高达400Gb/s,预计于今年年底上线。
芯片巨头的算力迭代极其迅速,说明下游云厂商以及企业侧对于生成式AI 技术具备强烈需求,相关算力板块(包括GPU、服务器、光模块、数据中心等)有望具备较大业绩弹性。
AI 芯片是AI 算力的根基。需求逐渐爆发,数据海量增长,大模型参数趋多,对计算性能要求愈发严格。GPU 相较于CPU,优势在于并行计算。在大会上,黄仁勋向传统CPU 服务器集群发起“挑战”,直言在人工智能和加速计算这一未来方向上,GPU 服务器有着更为强大的优势。随着需要大量计算能力的AI 应用出现,GPU 将成为主角,英伟达主导了当前全球AI GPU 市场。举例来说,训练一个LLM 大语言模型,将需要960 个CPU 组成的服务器集群,这将耗费大约1000 万美元(约合人民币7070 万元),并消耗11 千兆瓦时的电力。相比之下,同样以1000 万美元的成本去组建GPU 服务器集群,将以仅3.2 千兆瓦时的电力消耗,训练44 个LLM 大模型。如果同样消耗11 千兆瓦时的电量,那么GPU 服务器集群能够实现150 倍的加速,训练150 个LLM大模型,且占地面积更小。而当用户仅仅想训练一个LLM 大模型时,则只需要一个40 万美元左右,消耗0.13 千兆瓦时电力的GPU 服务器即可。相比CPU 服务器,GPU 服务器能够以4%的成本和1.2%的电力消耗来训练一个LLM,这将带来巨大的成本节省。在大模型时代背景和高景气的需求带动下,GPU 将会成为算力产业链中至关重要不可或缺的一环。
建议关注:
算力芯片:景嘉微、寒武纪、海光信息(电子组覆盖)、云天励飞等算力服务:中科曙光、浪潮信息、中国长城等
边缘算力:网宿科技、首都在线、润泽科技(未覆盖)、优刻得(未覆盖)等
【风险提示】
人工智能技术落地应用不及预期;
竞争格局恶化;
信创不及预期。
为您推荐
- (2023-05-31)世界动态:信息技术行业动态点评:英伟达发布AI超级计算机 智能算力浪潮汹涌
- (2023-05-31)宏观数据预测月报:信贷周期继续放缓 出口增速回落
- (2023-05-31)5月PMI:需求维持收缩趋势 库存去化有所加速 全球热点评
- (2023-05-31)山西汾酒(600809):管理动能持续向上 清香龙头引领复兴 环球实时
- (2023-05-31)今日视点:先抑后扬宽幅震荡 多空争夺日趋激烈
- (2023-05-31)午盘解读:三大指数齐跌 机器视觉概念领涨
- (2023-05-31)喜临门(603008):降本增效有望逐步修复盈利空间
最近更新
- (2023-05-31)盘面震荡阴跌,AIGC冲高回落,机器人逆势走强、鼎智科技涨近12%|天天视讯
- (2023-05-31)bb5碟刹_关于bb5碟刹的介绍
- (2023-05-31)gray鍦ㄩ煩鍥絟iphop鍦颁綅(Gray 韩国Hiphop歌手) 天天快讯
- (2023-05-31)【全球播资讯】第3代电子计算机使用的电子器件是什么(第3代电子计算机使用的电子元件是)
- (2023-05-31)“小切口”撬动“大发展”,象山县“微改造精提升”点亮全域旅游新风景!_聚看点
- (2023-05-31)PC版《瑞奇与叮当:分离》预告 展示各项特性_世界热消息
- (2023-05-31)《熟年》倪伟强和春梅离婚的原因找到了,原来婆婆比他更重要!
- (2023-05-31)北交所早盘收评:盘面震荡阴跌,AIGC冲高回落,机器人逆势走强、鼎智科技涨逾8%-看点
- (2023-05-31)爱克股份:5月30日融资买入65.31万元,融资融券余额2835.16万元
- (2023-05-31)男子高速调头逆行两次 高速上演生死时速 吓坏同行女子|当前视讯
- (2023-05-31)当前速讯:火速奔赴 深夜驰援 上汽红岩获吉林卡友点赞
- (2023-05-31)大连重工:5月30日融券卖出金额5.12万元,占当日流出金额的0.16%
- (2023-05-31)2023端午节放假通知来了 网友:请不要调休谢谢!!
- (2023-05-31)2023年“齐鲁最美科技工作者”发布
- (2023-05-31)外汇交易提醒:市场获利了结致美元下跌,日本当局称“适当时候出手”提振日元_快讯
- (2023-05-31)债务违约风波暂息 美国经济压力仍存
- (2023-05-31)国内首款医疗大语言模型发布,如何赋能数字医疗?
- (2023-05-31)全力攻坚二季度 多地出招稳需求提振制造业|报道
- (2023-05-31)汇丰环球私人银行:预计中国2023年GDP增速将达6.3%,看好亚洲资产_天天微资讯
- (2023-05-31)每日看点!上海黄金交易所黄金T+D 5月31日(周三)早盘盘初上涨0.77%报447.43元/克
- (2023-05-31)E选车丨奔驰EQE SUV:顶配比GLE入门还便宜 想买选低配就够了_世界观焦点
- (2023-05-31)观天下!如何办理银行一类卡(银行卡什么是一类卡)
- (2023-05-31)2023年6月十大转债:调整中转债债底支撑凸显6月配置关注反弹板块
- (2023-05-31)怎么通过pe进入桌面(如何用pe进入电脑)
- (2023-05-31)天天通讯!新股上市之星昊医药:消化药+神经药双线发展,募资加强创新药研发能力
- (2023-05-31)泓淋电力(301439):5月30日北向资金减持35万股
- (2023-05-31)微信积分兑换商城_微信积分兑换
- (2023-05-31)计算机专业比较好的大学有哪些(计算机专业比较好的大学)
- (2023-05-31)当前观点:外地购买二手新能源车 在天津如何申请牌照?
- (2023-05-31)创业板市盈率处历史低位 优质高成长股价值凸显