AI SSD市场迎来爆发式增长:2024年预计破45EB大关 - 闲芯交易网
AI SSD市场迎来爆发式增长:2024年预计破45EB大关

随着人工智能(AI)技术的飞速发展,AI服务器对企业级固态硬盘(SSD)的需求在过去两个季度显著增加。TrendForce的报告指出,为了满足AI应用对高速、大容量存储需求的不断增长,上游供应商正在加快工艺升级,并规划于2025年投入大规模生产的2YY产品。

由于AI在模型训练过程中对SSD的依赖性极高,SSD在此过程中主要用于存储模型参数,包括不断演化的权重和偏差。此外,SSD在创建检查点、定期保存AI模型训练进度中发挥着关键作用,以便在中断后能从特定点恢复。因此,考虑到快速数据传输和优异的写入耐用性的需求,客户通常会选择4TB/8TB TLC SSD来满足训练过程中的苛刻要求。

TrendForce还观察到,AI服务器客户对企业级SSD的增加订单已导致该类别的合同价格在2023年第四季度至2024年第三季度上涨超过80%。这反映了SSD在AI发展中扮演的关键角色。

在AI推理服务器中,SSD用于在推理过程中调整和优化AI模型,特别是可以实时更新数据以微调推理模型的结果。AI推理主要提供检索增强生成(RAG)和大型语言模型(LLM)服务。SSD存储RAG和LLM用于生成更丰富响应的参考文档和知识库。随着越来越多的信息以视频或图像形式展示,对存储容量的需求也不断增加,高容量SSD如TLC/QLC 16TB或更大成为AI推理应用的首选。

展望2024年,AI服务器SSD需求市场将在第二季度开始显著增加对超过16TB产品的需求。随着NVIDIA的H100、H20以及H200系列产品的推出,客户开始进一步增加对4TB和8TB TLC企业级SSD的订单。TrendForce估计,今年AI相关的SSD采购容量将超过45EB。在未来几年中,AI服务器预计将推动SSD需求的平均年增长率超过60%,AI SSD的需求可能从2024年的NAND Flash总消耗量的5%增长到2025年的9%。

预计AI推理服务器将继续采用高容量SSD产品。供应商已经开始加速工艺升级,目标是从2025年第一季度开始,大规模生产2YY/3XX层产品,并最终生产出120TB的企业级SSD产品。

---

英特尔 Optane 适用于高性能计算
三星 PM9A3 适用于数据中心
西部数据 Ultrastar 适用于企业存储
海力士 PE8000 适用于人工智能训练
美光 5300 PRO 适用于云计算服务
Toshiba HK6 适用于高速缓存解决方案
热门标签
热门文章
24亿美元砸下,长鑫存储打造上海先进封装工厂
2024-06-29
闲芯小叨:拜登给韩国芯片巨头开绿灯:在华工厂可暂时摆脱出口管制
2023-05-05
闲芯小叨:台积电欧洲拓展新战略:联手汽车电子巨头抢占市场
2023-05-05
供过于求的困境即将结束?半导体市场的明天大反弹
2023-04-27
闲芯:芯片纳米越小的好处有哪些
2022-02-16
独立自主!长江存储计划采用国产设备取代进口设备
2023-04-25
电子代工大厂纬创泰州厂将停产,百名员工受影响!
2023-04-24
AMD:从低谷重生,新产品引领翻盘之战?
2023-05-04
逆势而上:电子厂采购人员必读——联电公司近况一揽子解析
2023-04-27
"2024年内存价格显现反弹趋势"
2024-01-05
半导体行业2025年展望:重要趋势与预测
2025-01-04
半导体行业的产能预测:企业装傻扮猪吃老虎?反市场情绪或是转折信号!
2023-04-24
Netlist在官司中胜诉,三星要赔约4000亿韩元
2023-04-25
Arm惊人野心:要打造自己的芯片,但是否会损及公司信誉令人担忧
2023-04-24
德州仪器2023年第一季度财报:营收下滑11%,盈利同比减少25%
2023-04-26
闲芯:最先进的中国芯片是多少纳米
2022-02-16
Google竭力追赶英伟达在AI竞争中的领先地位,但命运多舛
2023-04-24
闲芯分享8399芯片的知识
2022-02-19
英特尔面临挑战:2023年第一季度个人计算业务收入预计大幅下滑
2023-04-26
三星LSI事业部行动处理器出货量增长15%超过联发科
2023-04-21
美光被中國禁售,美国竟然要求韩国不要替补市场缺口!
2023-04-24
闲芯小叨:NXP S32K系列需求回升,价格小涨
2023-11-07
马斯克的脑机接口植入人体,将科幻变为现实
2024-01-30
标题:武汉敏声打造高端射频滤波器生产线,投资30亿推动产能提升
2024-01-09
"欧洲芯片法案引领创新与供应链弹性:SEMI ISS Europe 2024探索洞见"
2024-01-17
闲芯平台:芯片有哪些作用
2022-02-14
闲芯:IC芯片的常见种类及主要用途
2022-02-22
闲芯小叨:美国再次对4家中国企业实行SDN制裁,限制财产权益和贷款
2023-04-20
闲芯:2022年还会缺芯片吗
2022-02-19
探索电源管理芯片核心技术:BCD工艺的魅力之旅
2024-07-04