首页 - 股票 - 研报 - 行业研究 - 正文

通信周跟踪:英伟达新推H200,推理性能飞跃

来源:山西证券 作者:高宇洋 2023-11-20 17:31:00
关注证券之星官方微博:
(以下内容从山西证券《通信周跟踪:英伟达新推H200,推理性能飞跃》研报附件原文摘录)
投资要点
市场整体:本周(2023.11.13-2023.11.19)市场整体上涨,申万通信指数+3.20%,上证综指+0.51%,科创板指数+0.18%,深圳成指+0.01%,沪深300-0.51%,创业板指数-0.93%。细分板块中,周涨幅最高的前三板块为物联网(+7.67%)、连接器(+4.54%)、工业互联网(+4.26%)。从个股情况看,美格智能、剑桥科技、瑞可达、新易盛、博创科技涨幅领先,涨幅分别为+15.60%、+12.64%、+12.53%、+9.93%、+8.47%。源杰科技、中国电信、中国卫通、金山办公、中国移动跌幅居前,分别为-4.96%、-3.25%、-1.86%、-1.74%、-1.51%。
行业动向:英伟达新推H200,推理性能飞跃
事件:14日美股盘前,英伟达宣布推出新一代AI芯片H200,并将于2024Q2正式发货。
作为H100的升级产品,两者相同之处在于均基于英伟达Hopper架构打造,即两款芯片可以互相兼容,且可与GH200兼容,且算力方面,同精度下两者算力能力保持一致;升级之处在于,1)H200是英伟达首款使用HBM3e内存的芯片;2)相较H100,H200的内存容量由80GB提升至141GB,带宽由3.35TB/s增加到4.8TB/s。
从表现上来看,H200性能升级主要体现在在大模型推理和HPC访问速度的显著提升:1)大模型推理方面,H200在1750亿参数的GPT-3上推理速度提升60%,700亿参数的Llama2大模型上的推理速度提升90%;2)显存密集型HPC应用方面,H200访问与操作速度可提升至CPU的110倍。
点评:随AI应用端落地推理侧性能要求将快速提高,此次H200性能提升主要集中在推理侧而非训练侧,有望在继续加快AI应用落地和打开应用场景。此外,根据英伟达公布的芯片路线图,2024/25年将会陆续推出基于Blackwell架构的B100及再之后的X100芯片等,算力板块将长期处于高速发展态势。
风险提示:
下游需求不及预期,技术突破不及预期,产能瓶颈,外部制裁升级。





微信
扫描二维码
关注
证券之星微信
APP下载
好投资评级:
好价格评级:
证券之星估值分析提示山西证券盈利能力较差,未来营收成长性良好。综合基本面各维度看,股价合理。 更多>>
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-