“AI的IPHONE时刻”系列15:COWOS实现HBM和GPU高速互连
财智飞扬
2024-06-22 00:01:30
0

  核心观点:  先进封装提升数据传输带宽,释放HPC 芯片算力。英伟达发布基于Grace Hopper 芯片的超级计算机GH200。  Grace Hopper 使用NVLink C2C 技术实现CPU 与GPU 间900 GB/s 带宽高速互连;Hopper GPU 使用CoWoS技术集成HBM3 内存,内存带宽高达3000 GB/s。后摩尔时代,芯片晶体管密度提升接近极限,芯片尺寸放大也受到掩模版极限的限制,晶圆制造工艺对芯片算力的提升趋于放缓。长期以来,芯片封装技术的进步速度慢于晶圆制造技术,这导致芯片数据传输速率的提升低于芯片算力的提升,传输带宽已经成为限制芯片性能的瓶颈之一。因此各种2.5D、3D 先进封装技术将成为AI 等高性能计算场景中算力提升的关键。  台积电CoWoS-S 技术是目前HBM 与CPU/GPU 处理器集成的主流方案。HBM 是一种新型内存,通过垂直堆叠DRAM 芯片以缩短内存和处理器间通信的距离,从而提升数据传输带宽。相比于常见的DRAM DIMM,HBM最大的优势在于DRAM 芯片之间以及内存和处理器之间的带宽更高,尺寸更小。目前HBM 已经迭代至HBM3,代替DRAM DIMM 成为先进高性能计算芯片的首选内存方案。HBM 与处理器之间的集成需要使用2.5D 先进封装技术。英伟达P100、V100、A100、H100、Grace Hopper 等高性能数据中心芯片均采用台积电CoWoS-S技术实现HBM 与GPU 的封装。CoWoS-S 是台积电3D Fabric 平台下的2.5D 封装技术平台,使用硅晶圆作为中介层构造芯片-晶圆-基板(Chip-on-Wafer-on-Substrate)结构,实现处理器与HBM 之间高密度、高带宽互连,成为目前HBM 与CPU/GPU 处理器集成的主流方案,除英伟达外,CoWoS 的用户还包括Broadcom、Google TPU、Amazon Trainium 等头部厂商。  投资建议。AIGC 推动AI 服务器需求增长,建议关注:算力:海光信息、寒武纪(计算机组覆盖)、工业富联、芯原股份、龙芯中科等;连接:源杰科技、澜起科技、裕太微、聚辰股份、帝奥微等;PCB:胜宏科技、沪电股份;存储:深科技、北京君正、兆易创新、东芯股份等;电源:杰华特;制造:中芯国际、长电科技、通富微电、甬矽电子等;应用:海康威视、大华股份、韦尔股份、思特威、格科微、恒玄科技、晶晨股份、全志科技、瑞芯微等。  风险提示。AIGC 发展不及预期; AI 服务器出货量不及预期; 国产厂商技术和产品进展不及预期。

【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

相关内容

阿东说金:黄金夯实底部,日...
阿东说金:5.29黄金夯实底部,日内2347反复多本周明确提示金价...
2024-07-24 23:04:03
“AI的IPHONE时刻”...
  核心观点:  先进封装提升数据传输带宽,释放HPC 芯片算力。...
2024-06-22 00:01:30
金康精工IPO:创新引领发...
常州⾦康精⼯机械股份有限公司(证券简称:⾦康精⼯,证券代码:831...
2024-06-22 00:01:26
今天安安静静, 几乎没人。
今天安安静静,几乎没人。雨是大了点,等着吧。确认是网上看到的特警,...
2024-06-10 21:59:36
中东股市|沙特股指连涨13...
周一(2月19日),沙特证交所全股指数收涨0.74%,报12594...
2024-05-27 22:36:33

热门资讯

新春送祝福!蕉岭县退役军人事务...   为营造欢乐喜庆的新春氛围,弘扬拥军优属光荣传统,2月4日,蕉岭县退役军人事务局会同县爱国拥军促进...
Shake Shack(SHA... 金吾财讯 | 截至发稿,Shake Shack(SHAK)盘前涨超3%,报59美元。消息面上,Sha...
散裂中子源二期、先进阿秒激光设...   东莞持续重磅布局重大科技基础设施建设,进一步提升城市科创能级。东莞近日公布2024年重大项目计划...
冬季气候干燥,又到了这几种疾病... 最近气温骤降,王女士看气温变化有点大,于是就赶紧给自己2岁的宝宝加了一件厚外套。可是即便如此,宝宝还...
首销23分钟打破行业记录,2亿... 虽然我们都知道手机摄影无法和专业单反相机比拼影像,但我们在入手一款手机时,还是会关注这款手机的摄影能...
小摩:维持中国旺旺(00151... 摩根大通发布研究报告称,维持中国旺旺(00151)“中性”评级,受惠于原料奶及奶粉价格下跌,预测20...
供需关系有望迎来优化 功率半导... 近日,多家芯片厂商陆续宣布涨价。记者采访多家芯片原厂、分销商获悉,大容量存储芯片真正开启了涨价通道,...
华锋转债下跌209%,转股溢价... (原标题:华锋转债下跌2.09%,转股溢价率36.25%)3月4日,华锋转债盘中下跌2.09%,报1...
38家公募2023财报 过半净... 2023年年报披露季进入最后一个月。据不完全统计,截至4月3日,已有38家基金公司去年的财务数据随控...
北交所基金此消彼长 机构专注“...   北交所主题基金份额出现两极分化,指数型基金更受青睐,而主动型基金份额出现不同程度下降。数据显示,...