NVIDIA H100 family — GH100 die photograph

X 원문 게시물을 불러오는 중…
NVIDIA H100 family — GH100 die photographHiEQ @HiEq_2005 · X 원문 게시물 보기
SILICON DESIGN / 2022

NVIDIA GH100 full GPU design

NVIDIA가 공개한 전체 GH100 설계는 H100 제품의 실리콘 기반입니다. 다이의 수치를 모든 H100 SKU의 보드 용량·모듈 클록·활성 유닛 수로 해석해서는 안 됩니다.

관련 기술 탐색

Identity & fabrication
Record year
Manufacturer / primary sourceNVIDIA

Scope: GPU design

Source date: 2022-03-22

Year basis: announced. This is distinct from source publication and record update.

Foundry process
Manufacturer / primary sourceNVIDIA

Scope: GPU design

Source date: 2022-03-22

Process label
Manufacturer / primary sourceNVIDIA Technical Blog

Scope: Full GH100 GPU silicon design

Source date: 2022-03-22

Packaging, power & physical analysis
Transistors
Manufacturer / primary sourceNVIDIA

Scope: GPU design

Source date: 2022-03-22

Die area
Manufacturer / primary sourceNVIDIA

Scope: One full GH100 silicon die powering H100

Source date: 2022-03-22

Excludes HBM dies, interposer, substrate and SXM/PCIe board. Full silicon die area is not an area proportional to enabled SM count.

Transistors
Manufacturer / primary sourceNVIDIA Technical Blog

Scope: Full GH100 GPU silicon design

Source date: 2022-03-22

Die area
Manufacturer / primary sourceNVIDIA Technical Blog

Scope: Full GH100 GPU silicon design; excludes HBM stacks, interposer, substrate and board

Source date: 2022-03-22

Additional specifications
Specialized engine
Manufacturer / primary sourceNVIDIA

Scope: GPU design

Source date: 2022-03-22

Full-design SM count
Manufacturer / primary sourceNVIDIA Technical Blog

Scope: Full GH100 GPU design; not an enabled H100 product count

Source date: 2022-03-22

작성자가 X에 공유한 다이 사진입니다. 원문에서 사진과 토론을 자세히 볼 수 있습니다.

HiEQ · @HiEq_2005 · 위의 게시물 보기 ↑

TECHNICAL ARTICLE

GH100 and H100: preserve the boundary between a full die and a shipped configuration

NVIDIA는 144 SM의 전체 GH100 설계를 공개하고, H100 SXM5의 활성 자원과 HBM3 구성을 별도로 문서화합니다.

하나의 아키텍처, 구분해야 할 범위

NVIDIA의 Hopper 기술 문서는 전체 GH100 GPU를 TSMC 4N 설계, 트랜지스터 800억 개, 다이 면적 814 mm²로 명시합니다. 전체 구성에는 GPC 8개·TPC 72개·SM 144개가 들어갑니다. 이는 실리콘 설계 수치입니다. 814 mm²에는 외부 HBM 스택·인터포저·기판·SXM 보드가 포함되지 않으며, 144 SM도 모든 제품의 활성 수가 아닙니다. NVIDIA는 H100 SXM5 보드 폼팩터를 별도로 GPC 8개·TPC 66개·SM 132개·HBM3 80 GB·HBM3 스택 5개로 제시합니다. 같은 자료에서 PCIe H100은 SM 114개로 구분되므로, H100이라는 이름만으로 공통 활성 SM 수나 메모리 용량을 정할 수 없습니다. 이 기록은 전체 설계를 GH100, SXM5 구성을 별개로 모델링합니다. 따라서 SXM5의 메모리와 활성 자원을 완전한 다이의 속성으로 옮기지 않습니다. NVIDIA의 출시 발표도 H100의 TSMC 4N·트랜지스터 800억 개를 독립적으로 언급합니다. 여기의 출처는 응용 성능 실측 결과로 사용하지 않습니다.

근거가 있는 연결 따라가기

기록의 신원과 범위

silicon design · NVIDIA GH100 full GPU design