2편. AI 데이터센터 구조 총정리 | GPU·HBM4·NVLink

AI 데이터센터 총정리GPU·HBM4·NVLink 260925

 

📚 [시리즈] 젠슨 황이 말하는 AI 데이터센터

1편. AI 데이터센터란? AI 팩토리·토큰 뜻

2편. AI 데이터센터 구조 총정리 | GPU·HBM4·NVLink (현재 글)

3편. AI 데이터센터와 광통신 | 800G·1.6T 광모듈·CPO (작성 예정)

4편. AI 데이터센터 전력 전쟁 | 액체냉각·변압기·전력반도체 (작성 예정)

5편. 엔비디아 AI 팩토리 관련주 총정리 (작성 예정)

✅ 바쁜 분을 위한 3줄 요약

1. AI 데이터센터는 GPU(계산) + HBM4(기억) + NVLink(연결) 세 가지가 성능을 좌우합니다.

2. 2026년 하반기 본격 출하되는 엔비디아 ‘베라 루빈’은 GPU 72개를 NVLink 6로 묶어 랙 하나를 거대한 GPU 1개처럼 씁니다.

3. 병목은 HBM4와 패키징입니다. 그래서 SK하이닉스·삼성전자·한미반도체·이수페타시스가 자주 거론됩니다. 단, 추정치가 많으니 공시로 꼭 확인하세요.

1편에서 AI 데이터센터를 “토큰을 찍어내는 AI 공장(AI 팩토리)”이라고 설명드렸죠.

그럼 이 공장 안에는 실제로 뭐가 들어 있을까요?

오늘은 AI 데이터센터 관련 뉴스에 매일 나오는 GPU·HBM4·NVLink가 각각 무슨 일을 하는지, 그리고 왜 이 세 단어에 한국 기업 주가가 출렁이는지 쉽게 정리해 드립니다.

GPU계산·HBM4기억·NVLink연결_베라루빈 설명
GPU계산·HBM4기억·NVLink연결_베라루빈 설명

1. AI 데이터센터 구조, 공장에 비유하면 끝

어렵게 느껴지면 공장을 떠올리면 됩니다.

GPU 일하는 작업자. 실제 계산을 합니다.
HBM4 작업자 바로 옆 작업대. 재료(데이터)를 쌓아 두고 바로 꺼내 씁니다.
NVLink 작업자끼리 잇는 초고속 컨베이어벨트. GPU끼리 데이터를 주고받습니다.
랙(Rack) 작업자 72명이 한 팀으로 움직이는 생산 라인 1개.

작업자가 아무리 빨라도 작업대가 작거나, 벨트가 느리면 공장 전체가 멈춥니다.

그래서 요즘 AI 경쟁은 “GPU 하나가 얼마나 빠르냐”보다 “셋이 얼마나 균형 있게 빠르냐”의 싸움입니다.

📐 크기 순서로 보면 이렇습니다

칩(GPU 다이 + HBM4) → 패키지(루빈 GPU 1개) → 트레이(서버 판) → 랙(GPU 72개) → 데이터센터(랙 수천 개)

2. GPU: AI 공장의 작업자

GPU는 수천 개의 작은 계산기를 동시에 돌리는 칩입니다.

AI는 곱셈·덧셈을 어마어마하게 반복하기 때문에, 한 번에 여러 개를 처리하는 GPU가 제격입니다.

2026년 주인공은 엔비디아의 루빈(Rubin) GPU입니다. 블랙웰의 후속작이에요.

루빈 GPU 핵심만
· 칩 2개(다이)를 한 패키지에 붙인 구조
· 추론 성능 50 PFLOPS(NVFP4 기준, 블랙웰의 약 5배)
· 메모리 HBM4 288GB 탑재
· 짝꿍 CPU는 ‘베라(Vera)’, 88코어

여기서 하나 헷갈리는 게 있습니다. NVL144와 NVL72는 같은 제품이에요.

처음엔 칩(다이) 수로 세서 ‘NVL144’라 불렀지만, 지금은 패키지 수로 세서 공식 명칭이 ‘VR200 NVL72’입니다.

뉴스마다 이름이 달라도 같은 랙이라고 보시면 됩니다.

🔗 공식 설명: 엔비디아 기술 블로그 – 베라 루빈 플랫폼 6종 칩 구성

 




3. HBM4: 한국이 쥐고 있는 핵심 부품

HBM은 D램을 아파트처럼 여러 층 쌓고, 층마다 구멍(TSV)을 뚫어 연결한 메모리입니다.

GPU 바로 옆에 붙어서 데이터를 빠르게 공급합니다.

왜 중요하냐면, 요즘 AI는 계산보다 데이터를 가져오는 속도에서 막히는 경우가 많기 때문입니다. 이걸 ‘메모리 병목’이라고 부릅니다.

HBM4, 이것만 알면 됩니다
· 6세대 HBM. 데이터 통로(인터페이스)가 2048비트로 이전 세대의 2배
· 루빈 GPU 1개당 HBM4 288GB, 대역폭 22TB/s
· 12단(층) 제품이 주력, 16단(48GB)도 출하 시작 보도
· 주요 공급사: SK하이닉스, 삼성전자 (마이크론은 비중 작거나 없다는 분석)

SK하이닉스는 2월부터 루빈용 12단 HBM4를 출하했고, 삼성전자는 6월부터 루빈에 양산 공급을 시작했다는 보도가 나왔습니다.

젠슨 황이 올해 6월 컴퓨텍스에서 SK하이닉스 HBM4E 웨이퍼에 “Please Make More(더 만들어 달라)”라고 적은 장면은 지금 공급이 얼마나 빠듯한지 보여줍니다.

점유율은 증권가에서 SK하이닉스 약 70%, 삼성전자 약 30%로 보는 시각이 많습니다. 다만 엔비디아가 공식 발표한 숫자는 아닙니다.

AI 데이터 센터의 확장 개념 상세 설명
AI 데이터 센터의 확장 개념 상세 설명

4. NVLink: GPU 72개를 하나로 묶는 고속도로

요즘 AI 모델은 너무 커서 GPU 한 개에 다 들어가지 않습니다.

그래서 여러 GPU가 나눠 계산하고, 결과를 쉴 새 없이 주고받아야 합니다.

이때 쓰는 엔비디아 전용 연결 기술이 NVLink입니다.

NVLink 6 핵심
· GPU 1개당 3.6TB/s, 이전 세대(NVLink 5)의 약 2배
· 랙 안의 GPU 72개를 모두 서로 직접 연결
· 덕분에 랙 1개가 거대한 GPU 1개처럼 동작

알아두면 좋은 구분이 하나 있습니다.

스케일업 (랙 안)
NVLink 6
구리선 위주, 초고속
스케일아웃 (랙 밖)
ConnectX-9, 이더넷 스위치
광통신·광모듈 사용

랙 밖을 잇는 광모듈·CPO 이야기는 3편에서 자세히 다룹니다.

5. 숨은 변수: 랙 하나가 먹는 전기

성능이 오르면 전기도 더 먹습니다.

블랙웰 GB200 랙은 약 120~130kW였는데, 루빈 VR200 NVL72는 구성에 따라 약 190~230kW로 추정됩니다.

그래서 액체냉각과 전력 설비가 반드시 따라붙습니다. 이 부분은 4편 ‘전력 전쟁’에서 이어갑니다.

📋 한눈에 보는 요약표

구분 2026 최신 사양 관련 기업
GPU
작업자
루빈, 50 PFLOPS(NVFP4)
TSMC 3나노
엔비디아, TSMC
HBM4
작업대
GPU당 288GB, 22TB/s
12단 주력, 16단 시작
SK하이닉스, 삼성전자, 한미반도체(장비)
NVLink
컨베이어
6세대, GPU당 3.6TB/s
GPU 72개 직결
엔비디아, 이수페타시스(기판)
랙
생산 라인
VR200 NVL72
약 190~230kW(추정)
폭스콘 등 서버 조립사

🔎 바로 확인하는 곳 (정보 발급·사용처)

뉴스나 유튜브 말만 믿지 말고, 아래 원문에서 직접 확인하는 습관이 가장 큰 무기입니다.

이럴 때 여기서 확인
수주·공급계약 사실 확인 DART 전자공시 → 회사명 검색 → ‘단일판매·공급계약’
조회공시·거래소 공지 KIND 한국거래소 공시
GPU·NVLink 공식 사양 엔비디아 뉴스룸
HBM4 공식 발표 SK하이닉스 뉴스룸 / 삼성전자 뉴스룸
📅 이렇게 활용하세요
· 증권사 앱 관심종목에 ‘HBM’ 테마를 묶어 두기
· 9월 30일 예정 마이크론 실적 발표에서 HBM 공급·가격 코멘트 확인
· 한국 기업은 10월 말 3분기 실적 발표에서 HBM4 매출 비중 체크




💡 구조로 보는 관련 수혜주 4곳

‘왜 오르는지’ 연결고리를 알고 보면 뉴스가 훨씬 잘 읽힙니다.

① SK하이닉스 HBM4 1위 공급사
연결고리: 루빈용 HBM4 최대 공급사. 3분기 16단(48GB) 대량 출하 개시 보도.
체크포인트: 16단 출하는 공급망 분석 기반이며 회사 공식 발표는 아님.
📰 16단 HBM4 양산 선점 기사 (9월)
📰 HBM4 엔비디아 첫 출하 기사 (2월)
② 삼성전자 HBM4 추격자
연결고리: 6월 루빈향 HBM4 양산 공급 시작 보도. 스택당 최대 3.3TB/s 성능 발표.
체크포인트: 엔비디아향 점유율은 아직 2위권 전망. 메모리 외 사업 비중이 커 HBM 효과가 희석될 수 있음.
📰 삼성 HBM4, 루빈 양산 공급 기사 (6월)
📰 “SK·삼성만 루빈에 HBM4 공급” 전망 기사
③ 한미반도체 HBM 쌓는 장비
연결고리: D램을 층층이 붙이는 TC본더 공급. 6월 SK하이닉스에서 HBM4용 442억원 수주 공시.
체크포인트: 세대 교체 구간에 수주 공백이 생겨 1분기 영업이익이 크게 줄었던 전례가 있음.
📰 442억 HBM4 본더 수주 기사 (헤럴드경제)
📰 SK하이닉스 TC본더 발주 기사 (이투데이)
④ 이수페타시스 AI 서버용 고다층 기판
연결고리: GPU와 NVLink 신호가 지나가는 고다층 기판(MLB) 공급. 루빈으로 기판 사양이 올라가 단가 상승 기대.
체크포인트: 엔비디아 매출 비중이 40%를 넘는다는 분석이 있어 고객 집중 위험. 주가가 이미 크게 오른 상태.
📰 서버 기판 공급 확대 분석 기사
📰 루빈 반영 ASP 상승 전망 기사

광모듈·전력·냉각 관련주는 3·4편, 전체 밸류체인 관련주는 5편에서 따로 정리합니다.

⚠️ 꼭 알아야 할 단점·제한조건

좋은 얘기만 하면 믿을 수 없죠. 솔직한 한계도 정리합니다.

1. 숫자 상당수가 ‘추정치’
HBM 점유율(70:30), 16단 출하, 랙 전력 등은 증권가·분석업체 추정입니다. 엔비디아는 공급사별 배분을 공개하지 않습니다.

2. 병목은 기회이자 위험
HBM·패키징이 부족하면 가격엔 좋지만, 루빈 출하가 늦어지면 관련 기업 실적도 함께 밀립니다.

3. 전력이 성장 속도를 제한
랙당 전력이 크게 늘어 전력망·냉각이 안 받쳐주면 데이터센터 건설 자체가 늦어질 수 있습니다.

4. 이미 주가에 반영됐을 가능성
‘좋은 뉴스 = 주가 상승’이 아닙니다. 기대가 먼저 반영돼 발표 후 오히려 떨어지는 경우도 흔합니다.

5. 기술 경쟁 변수
구글 TPU 같은 자체 칩, 엔비디아의 추론 전용 제품 확대 등으로 수요 구조가 바뀔 수 있습니다.

📌 투자 전 주의사항

✔ 기사 제목보다 공시 원문을 먼저 확인하세요.

✔ ‘관련주’ 이름만 보고 사지 말고, 해당 사업의 매출 비중을 확인하세요.

✔ 테마주는 변동성이 큽니다. 분할 매수·손절 기준을 미리 정하세요.

✔ 이 글은 정보 제공용이며 특정 종목 매수·매도 권유가 아닙니다.

❓ 자주 묻는 질문 (FAQ)

Q. GPU랑 CPU는 뭐가 달라요?
CPU는 복잡한 일을 순서대로 처리하는 ‘팀장’, GPU는 단순 계산을 수천 개 동시에 하는 ‘작업자 부대’입니다. AI 계산은 GPU가 맡고, CPU는 전체를 관리합니다.
Q. HBM4와 일반 D램은 뭐가 달라요?
같은 D램이지만 여러 층을 쌓고 GPU 바로 옆에 붙여 데이터 통로를 크게 넓힌 제품입니다. 만들기 어려워 값도 훨씬 비쌉니다.
Q. NVL72와 NVL144, 다른 제품인가요?
같은 랙입니다. 칩(다이) 수로 세면 144, GPU 패키지 수로 세면 72입니다. 현재 공식 명칭은 VR200 NVL72입니다.
Q. 마이크론은 왜 빠져 있나요?
루빈용 HBM4에서 마이크론 비중이 매우 작거나 없다는 분석이 나왔습니다. 다만 분석마다 차이가 있어, 9월 30일 실적 발표 코멘트를 확인해 보는 게 좋습니다.
Q. 개인이 이 흐름에 투자하는 방법은?
개별 종목 외에 반도체·AI 반도체 ETF로 분산하는 방법도 있습니다. 어느 쪽이든 최종 판단과 책임은 본인에게 있습니다.

🧾 마지막 핵심 정리

■ GPU = 계산하는 작업자 (엔비디아 루빈)
■ HBM4 = 바로 옆 작업대 (SK하이닉스·삼성전자)
■ NVLink = GPU 72개를 잇는 고속도로→ 셋 중 가장 부족한 곳(현재는 HBM4·패키징)에 돈이 몰립니다.
→ 단, 추정치가 많으니 공시로 확인하고 분산 투자하세요.

다음 3편에서는 랙과 랙을 잇는 광통신(800G·1.6T 광모듈·CPO)을 다룹니다.

GPU가 아무리 빨라도 랙 밖으로 나가는 길이 막히면 소용없겠죠? 다음 편도 기대해 주세요 🙂

※ 본 글은 2026년 9월 25일 기준 공개 자료와 언론 보도를 바탕으로 작성했습니다. 이후 사양·일정은 바뀔 수 있습니다.

※ 투자 권유가 아니며, 투자 판단과 책임은 투자자 본인에게 있습니다.

 

 

같이 읽으면 좋은 글 

AI 데이터센터란? 젠슨 황이 말한 ‘AI 팩토리·토큰’ 뜻 쉽게 정리

2026 HBM4·HBM4E·HBM5 양산 일정 총정리|HBM·HBF·HBS 차이와 AI 메모리 전망

 

 

 

Leave a Comment

error: Content is protected !!