ChatGPT呼唤高性能内存芯片 HBM报价飞涨 三星、海力士接单量大增
CHATGPT等新兴AI产品对高性能存储芯片的呼唤高海力需求与日俱增。据韩国经济日报报道,性能芯片受惠于ChatGPT,内存三星、价飞SK海力士高带宽内存(high bandwidth memory,涨星HBM)接单量大增。士接
HBM是单量大增一种基于3D堆叠工艺的DRAM内存芯片,它就像摩天大厦中的呼唤高海力楼层一样可以垂直堆叠。基于这种设计,性能芯片信息交换的内存时间将会缩短。这些堆叠的价飞数颗DRAM芯片通过称为“中介层(Interposer)”的超快速互联方式连接至CPU或GPU,最后可将组装好的涨星模块连接至电路板。
HBM的单量大增架构 图源:AMD
HBM重新调整了内存的功耗效率,能大幅提高数据处理速度,呼唤高海力是当下速度最快的DRAM产品,其每瓦带宽比GDDR5高出3倍还多,且HBM比GDDR5节省了94%的表面积。
目前,HBM主要被安装在GPU、网络交换及转发设备(如路由器、交换器)、AI加速器、超级计算机及高效能服务器上。
首尔业界消息称,SK海力士为英伟达供应第三代HBM,搭配英伟达的A100 GPU供ChatGPT使用。另外,英伟达已经将SK海力士的第四代HBM安装至H100,而H100已开始供应ChatGPT服务器所需。
另一方面,三星已开发出具运算能力的HBM,不但能储存数据、还能运算数据。三星已在2022年10月向AMD供应该产品,用于AI加速器。
首尔业界透露,如今第三代HBM报价飞涨,已是效能最高的DRAM产品的五倍之多,其市场成长率是三星、SK海力士原本预测的两倍以上。
▌高算力AI应用呼唤高性能内存芯片
ChatGPT等高算力AI应用的火爆将基础设施端逐渐推向前台。
三星内存副总裁Kim Jae-joon曾说,ChatGPT等基于自然语言技术的交互式AI应用的发展有利于提升内存需求。高效且大量的运算能力、高容量的内存,是AI学习与推论模型的根基。
目前,搭载于新兴AI应用的内存芯片亟待升级。
首先,ChatGPT这类生成式AI应用需要在海量的训练数据中进行学习,才能实现高质量的生成输出。为了实现关键词识别、图像识别等功能,AI模型需要存储大量的图片和音频信息。
其次,面向C端用户的AI应用必须具备快速处理数据的能力,才能向用户实时输出AI计算结果,因此也对内存芯片的数据传输速度提出了更高要求。
与此同时,随着人工智能技术的进一步普及,越来越多的AI应用发生在移动设备和物联网终端设备上,而这些设备大多采用电池供电或充电,对功耗十分敏感。
如此一来,以HBM为代表的超高带宽内存技术有望成为相关加速芯片的必然选择,同时生成类模型也会加速HBM内存进一步增大容量和增大带宽。
除了HBM之外,CXL(计算快速链接)等新的存储技术加上软件的优化也有将在这类应用中增加本地存储的容量和性能,估计会从生成类模型的崛起中获得更多的工业界采用。
据《科创板日报》不完全统计,A股已有澜起科技(行情688008,诊股)、国芯科技(行情688262,诊股)、通富微电(行情002156,诊股)等厂商有相关技术布局。
- ·北京发布2022年薪酬大数据报告,各行业薪酬水平整体上涨
- ·金砖合作再次指向“中国时刻”,这场峰会有哪些看点?
- ·上海加强中风险地区管控:区域封闭、足不出户、服务上门
- ·关联交易剪不断, 机械九院难独立
- ·比亚迪:近期对固态电池、钠离子电池的传言均为不实信息
- ·李大霄:十迹象步入小牛市 最是橙黄橘绿时
- ·重庆促进高校毕业生就业创业
- ·拉加德:加息前需要先结束资产净购买的承诺是在“另一个时期”做出的
- ·平台回应直播间售卖猫皮大衣:消费者感到不适可自行举报 平台无明确规定不让卖
- ·国务院进一步释放汽车消费潜力:研究免征新能源汽车购置税政策延期问题
- ·巴拿马总统确诊罕见血液病 将继续履行日常职责
- ·最高检:严厉打击行业“内鬼”泄露公民个人信息违法犯罪
- ·主要股东反对默多克将新闻集团与福克斯公司合并,倾向拆分等替代方案
- ·【育儿科普】皮肤受伤经美容缝合就会不留疤是真的吗
- ·无视失信,强行投资,监管责令小村资产暂停半年
- ·美国加息难抑通胀