삼성전자가 업계 최초로 36GB(기가바이트) HBM3E 12H D램을 개발했다. 삼성전자는 27일 보도자료를 통해 업계 최초 36GB 용량의 HBM3E 12H D램 개발에 성공하고 고용량 HBM 시장 선점에 나선다고 밝혔다. 
이번에 개발한 신제품은 삼성전자의 24Gb(기가비트) D램 칩을 TSV(Through-Silicon Via, 실리콘 관통 전극) 기술로 12단까지 적층하여 업계 최대 용량인 36GB HBM3E 12H를 구현했다. 5세대 HBM인 HBM3E 12H는 최대 1,280GB/s의 대역폭과 현존 최대 용량인 36GB를 제공하여 성능과 용량 모두 전작인 HBM3 8H(4세대 HBM 8단 적층) 대비 50% 개선된 것이 특징이다. 삼성전자는 신제품에 HBM 적층 수 증가에 따른 칩 휘어짐 현상을 최소화 할 수 있는 'Advanced TC NCF(Thermal Compression Nod Conductive Film, 열압착 비전도성 필름) 기술을 적용하여 12단 적층(12H) 제품을 기존 8단(8H) 제품과 동일한 높이로 구현해 HBM 패키지 규격을 만족시켰으며, NCF 소재 두께도 지속적으로 낮춤으로써 업계 최소 칩간 간격인 7마이크로미터(㎛)를 구현하고 이를 통해 기존 HBM3 8H 대비 20% 이상 향상된 수직 집적도를 실현했다고 설명했다. 특히 칩과 칩 사이를 접합하는 공정에서 신호 특성이 필요한 곳은 작은 범프(Bump)를, 열 방출 특성이 필요한 곳에는 큰 범프를 목적에 맞게 사이즈를 맞춰 적용해 열 특성을 강화하는 동시에 수율도 극대화했다. 또 NCF로 코팅하고 칩을 접합해 범프 사이즈를 다양하게 하는 동시에 공극(Void) 없이 적층하는 업계 최고 수준의 기술력도 선보였다. 삼성전자는 이번에 개발한 HBM3E 12H가 AI 서비스의 고도화로 데이터 처리량이 급증하는 상황 속에서 AI 플랫폼을 활용하는 다양한 기업들에게 최고의 솔루션이 될 것으로 기대했다. 특히, 성능과 용량이 증가한 신제품을 사용할 경우 GPU 사용량이 줄어 기업들의 총 소유 비용(TCO)를 절감할 수 있는 등 리소스 관리를 유연하게 할 수 있다고 언급했다. 예를 들어 서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때보다 평균 34% AI 학습 훈련 속도 향상이 가능하며, 추론의 경우에는 최대 11.5배 많은 AI 사용자 서비스가 가능하다. 삼성전자는 HBM3E 12H 샘플을 고객사에게 제공하기 시작했으며 올해 상반기 양산할 예정이다. | 
