模型材料

存储芯片行业深度报告算力拉动,拐点提前

发布时间:2023/12/22 15:12:32   

(报告出品方/作者:国盛证券,郑震湘、佘凌星)

一、AI带动存力芯片用量快速提升

1.1AI带动算力及存力需求快速提升

ChatGPT是OpenAI开发的一款聊天机器人,能够更高层次理解人类需求并解决复杂问题。ChatGPT基于Transformer架构算法,可用于处理序列数据模型,通过连接真实世界中大量的语料库来训练模型,可进行语言理解并通过文本输出,做到与真正人类几乎无异的聊天场景进行交流。ChatGPT应用场景广泛,海外已有龙头落地成功案例:1)文字创意的生成:快速生成文章段落结构。2)客服系统:与客户更流畅的交流。)虚拟人物对话:传统虚拟人物会设定对话标准答案,ChatGPT能够更自然真实地与人对话。4)结合Office软件:生成文档、表格、PPT等。5)搜索:替代部分搜索需求。6)提供值得思考或探索的方向。ChatGPT海外已有应用方案落地:为BuzzFeed提供个性化测试服务以及为Amazon解决工程师技术难题等。

ChatGPT带动算力需求飙升,存算侧硬件全面增量需求。据NVIDIA估算,训练GPT,假设单个机器的显存/内存容量足够的前提下,8张V显卡训练时长预计达6年,张80GBA显卡完整训练GPT-的时长为1个月,算力侧硬件需求全面增长。

ChatGPT4多模态演绎,算力需求进一步激增。ChatGPT4为多模态模型,使用图像、视频等多媒体数据进行训练,文件大小远超文字,进一步驱动算力需求飙升。以LAION5B图文数据集为例,其包含58.5亿个CLIP过滤的图像文本数据集,我们认为图像、视频类训练数据将驱动算力需求进一步飙升。此外,大模型训练需要海量数据传输,由此将对以服务器交换机为代表的数据传输设备产生更多需求,相关高算力芯片需求量将相应增长。

高算力时代,Chiplet助力突破芯片制程瓶颈。在速度方面,采取D封装技术的chiplet缩短了线路传输距离,指令的响应速度得到大幅提升,寄生性电容和电感也得以降低,此外,更多更密集的I/O接点数,电路密度提升将提高功率密度。D封装由于采用更细小、更密集的电路,信号传输不需要过多的电信号,从而功耗也会相应降低。

整体来看,ChatGPT将从算力侧和数据传输端全面带动显卡及高算力芯片需求,由此将从算力芯片、应用端、存算一体、先进封装、封装设备、IC载板等多个领域带动硬件市场增量需求。

1.2AI服务器需求快速增长,有望带动存储行业困境修复

根据中商产业研究院数据,年全球服务器出货量达万台,同比增长7.8%,对应全球市场规模达亿美元。根据Counterpoint预计,年全球服务器市场规模有望达到亿美元,同比增长17.0%。预计云服务提供商数据中心扩张增长驱动力主要来自于汽车、5G、云游戏和高性能计算。

AI服务器渗透率依旧较低,增长空间巨大。根据TrendForce数据,截止年全球搭载GPGPU的AI服务器(推理)出货量占整体服务器比重约1%,同时TrendForce预测年伴随AI相关应用加持,年出货量增速达到8%,~6年CAGR为10.8%。根据TrendForce数据,年全球AI服务器采购中,Microsoft、Google、Meta、AWS为前四大采购商,合计占比66.2%。中国地区ByteDance(字节跳动)采购比例最高,达到6.2%。

人工智能已成为解决艰巨业务挑战的首选解决方案。AI正在为各行各业的企业组织开辟创新之路,从改善客户服务、优化供应链、获取商业智能,到设计新产品和服务等。NVIDIA作为AI基础架构的先行者,NVIDIADGX系统可提供更强大、完整的AI平台,将企业组织的核心想法付诸实践。目前AI大规模训练方面,NVIDIA推出的最新DGX系统包括A、H、BasePOD、SuperPOD四款产品,其中,DGXA、DGXH为英伟达当前服务于AI领域的服务器产品。

H采用先进工艺芯片采用台积电4N工艺+台积电CoWoS2.5D封装,有亿个晶体管对比A有亿个晶体管,同时搭载了HBM显存,可实现近5TB/s的外部互联带宽。H是首款支持PCIe5.0的GPU,也是首款采用HBM标准的GPU,单个H可支持40Tb/s的IO带宽,实现TB/s的显存带宽。

DGXH带来性能的快速飞跃,通过全新张量处理格式FP8实现。其中FP8算力是4PetaFLOPS,FP16达2PetaFLOPS,TF2算力为1PetaFLOPS,FP64和FP2算力为60TeraFLOPS。在DGXH系统中,拥有8颗HGPU,整体系统显存带宽达24TB/s,硬件上支持系统内存2TB,及支持2块1.9TB的NVMeM.2硬盘作为操作系统及8块.84TBNVMeM.2硬盘作为内部存储。根据

转载请注明:http://www.aideyishus.com/lkjg/6048.html

------分隔线----------------------------