CXL이 뭐길래 HBM 다음 AI 메모리 기술로 주목받나

AI 반도체를 공부하다 보면 HBM이라는 단어를 지나서 또 하나의 낯선 용어를 만나게 됩니다.

바로 CXL입니다.

HBM은 AI 반도체의 핵심 메모리로 자리 잡았는데, 최근에는 CXL 역시 AI 서버와 데이터센터의 메모리 구조를 바꿀 수 있는 기술로 주목받고 있습니다.

그렇다면 CXL은 무엇일까요?

그리고 왜 HBM 다음으로 CXL을 공부해야 할까요?

먼저 결론부터 말하면 CXL은 HBM을 대체하는 메모리가 아닙니다.

둘의 역할이 다릅니다.

HBM이 GPU와 가까운 곳에서 엄청난 양의 데이터를 빠르게 공급하는 역할을 한다면,

CXL은 CPU와 메모리·가속기 등의 장치를 연결해 서버 전체의 메모리를 보다 유연하게 활용하도록 돕는 인터페이스 기술에 가깝습니다.

AI 데이터센터가 커질수록 이 차이가 중요해집니다.

CXL이란 무엇인가?

CXL은 Compute Express Link의 약자입니다.

쉽게 설명하면 CPU와 메모리, 가속기 등의 컴퓨팅 장치를 연결하기 위한 고속 인터페이스 기술입니다.

CXL은 PCIe(PCI Express)를 기반으로 발전한 표준으로, CPU와 다른 장치가 메모리를 보다 효율적으로 공유하거나 접근할 수 있도록 하는 것이 핵심입니다.

기존 서버에서는 CPU에 직접 연결된 메모리와 각종 장치 사이의 구조가 비교적 고정되어 있었습니다.

하지만 AI 서버는 상황이 다릅니다.

AI 모델이 커지면서 필요한 메모리 용량도 계속 증가하고 있습니다.

그렇다고 CPU에 메모리를 무작정 추가하는 것도 쉽지 않습니다.

이때 CXL이 등장합니다.

AI 시대에는 왜 메모리가 부족할까?

앞서 HBM을 공부하면서 가장 많이 들었던 말이 있습니다.

AI는 데이터를 엄청나게 많이 필요로 한다.

AI 모델이 커질수록 데이터를 저장하고 불러오는 데 필요한 메모리 용량과 대역폭도 중요해집니다.

특히 AI 데이터센터에서는 GPU만 중요한 것이 아닙니다.

CPU와 GPU, AI 가속기, 메모리, 저장장치 등이 서로 연결되어 하나의 시스템을 구성합니다.

여기서 문제가 발생합니다.

메모리는 비싸다.

메모리 용량에는 물리적인 한계가 있다.

모든 데이터를 GPU의 고속 메모리에 넣을 필요도 없다.

결국 중요한 것은 메모리를 얼마나 많이 가지고 있느냐뿐 아니라 필요한 곳에서 얼마나 효율적으로 사용할 수 있느냐입니다.

CXL이 주목받는 이유가 여기에 있습니다.

HBM과 CXL은 무엇이 다를까?

이 부분이 가장 중요합니다.

HBM과 CXL을 같은 종류의 메모리 기술이라고 생각하면 안 됩니다.

HBM

HBM은 High Bandwidth Memory입니다.

여러 개의 DRAM을 수직으로 쌓아 높은 대역폭을 확보하고 GPU나 AI 가속기 가까이에 배치합니다.

주요 목적은

매우 빠른 데이터 공급

입니다.

즉,

GPU가 연산할 데이터를 빠르게 공급하는 메모리

라고 생각하면 쉽습니다.

CXL

CXL은 메모리 그 자체라기보다 CPU와 메모리·가속기 등을 연결하고 메모리를 효율적으로 활용하도록 하는 인터페이스 표준입니다.

따라서 CXL의 핵심은

메모리 확장과 공유, 자원 활용의 유연성

이라고 볼 수 있습니다.

간단하게 비교하면 다음과 같습니다.

구분HBMCXL

정체	고대역폭 메모리	고속 연결 인터페이스
주요 역할	빠른 데이터 공급	메모리 확장·공유·연결
주요 사용처	GPU·AI 가속기	CPU·메모리·가속기·서버
핵심 가치	대역폭	메모리 자원 활용 효율
대표 시장	AI 가속기	서버·데이터센터

따라서 HBM과 CXL은 경쟁 관계라기보다 보완 관계에 가깝습니다.

CXL에는 여러 종류가 있다

CXL을 공부하다 보면 CXL 1.1, CXL 2.0, CXL 3.0 등의 숫자를 만나게 됩니다.

세대가 올라가면서 메모리 공유와 확장, 장치 연결 기능 등이 발전해왔습니다.

특히 CXL 2.0에서는 메모리 풀링과 스위칭 같은 기능이 중요해졌습니다.

여기서 메모리 풀링이라는 개념이 등장합니다.

메모리 풀링이란?

쉽게 생각하면 여러 서버가 사용할 수 있는 공용 메모리 공간을 만드는 개념입니다.

기존 서버에서는 각 서버가 자신에게 할당된 메모리를 사용하는 구조가 일반적이었습니다.

그런데 서버마다 메모리 사용량이 항상 똑같지는 않습니다.

어떤 서버는 메모리가 부족한데 다른 서버에는 메모리가 남아 있을 수도 있습니다.

이렇게 되면 자원이 효율적으로 사용되지 않습니다.

CXL을 활용하면 메모리를 보다 유연하게 연결하고 공유하는 구조를 만들 수 있습니다.

예를 들어

서버 A → 메모리 100GB 필요

서버 B → 메모리 50GB 필요

그런데 서버에 각각 고정된 메모리를 넣어두면 남는 자원이 발생할 수 있습니다.

메모리를 풀(pool) 형태로 구성하면 필요한 서버가 필요한 만큼 활용하는 방향으로 시스템을 설계할 수 있습니다.

물론 실제 데이터센터에서는 운영체제, 하드웨어, 소프트웨어, 보안, 지연시간 등 다양한 조건이 필요하기 때문에 단순히 메모리를 하나로 합치는 것과는 다릅니다.

AI 데이터센터에서 CXL이 중요한 이유

AI 데이터센터가 커질수록 서버 한 대의 성능만 보는 것이 아니라 전체 데이터센터의 자원 활용률이 중요해집니다.

AI 작업마다 필요한 메모리 용량이 다르기 때문입니다.

예를 들어 어떤 작업은 GPU 성능이 중요하고,

어떤 작업은 메모리 용량이 중요할 수 있습니다.

또 AI 학습과 추론 작업도 메모리 요구사항이 다릅니다.

이때 모든 서버에 최고 사양의 메모리를 고정적으로 장착한다면 비용 부담이 커질 수 있습니다.

CXL은 이러한 메모리 자원을 보다 유연하게 구성할 수 있는 방법 중 하나입니다.

그래서 CXL은 단순한 메모리 기술이 아니라 AI 데이터센터의 메모리 아키텍처를 바꾸는 기술로 볼 필요가 있습니다.

HBM이 있는데 CXL이 필요한 이유

그렇다면 이런 질문이 생깁니다.

"HBM이 그렇게 빠르다면 그냥 HBM을 많이 사용하면 되는 것 아닌가?"

그렇지 않습니다.

HBM은 매우 높은 대역폭이 장점이지만 가격과 패키징, 용량, 전력, 발열 등의 문제가 함께 따라옵니다.

모든 데이터를 가장 비싼 고속 메모리에 넣는 것이 효율적인 것은 아닙니다.

데이터의 중요도와 사용 빈도에 따라 메모리 계층을 구성하는 것이 필요합니다.

예를 들어 개념적으로 보면

HBM → 매우 빠른 메모리

DDR → 일반적인 서버 메모리

CXL 메모리 → 필요에 따라 확장·공유하는 메모리 자원

처럼 역할을 나눌 수 있습니다.

실제 시스템에서는 제품과 구성에 따라 구조가 달라지지만, 핵심은 메모리 계층을 효율적으로 구성하는 것입니다.

CXL이 '메모리의 새로운 길'로 불리는 이유

AI 서버에서 중요한 것은 메모리의 속도만이 아닙니다.

용량

대역폭

지연시간

전력

비용

확장성

을 모두 고려해야 합니다.

HBM은 속도와 대역폭에서 강점을 가지고 있습니다.

반면 CXL은 메모리 자원을 보다 유연하게 확장하고 연결하는 방향에서 의미가 있습니다.

그래서 앞으로의 AI 서버에서는

HBM + DDR + CXL

처럼 여러 종류의 메모리를 함께 활용하는 구조가 중요해질 가능성이 있습니다.

CXL 시장에서 주목받는 기업들

CXL 생태계는 특정 한 기업만의 시장이 아닙니다.

메모리 기업과 CPU 기업, 서버 기업, 반도체 설계 기업 등이 함께 참여해야 합니다.

메모리 분야에서는 삼성전자와 SK하이닉스 등이 CXL 메모리 제품을 개발하고 있습니다.

CPU 분야에서는 인텔과 AMD 등이 CXL 생태계와 관련된 제품 및 플랫폼을 개발해왔습니다.

또 서버 제조사와 데이터센터 사업자, 소프트웨어 업체도 중요한 역할을 합니다.

이 때문에 CXL 시장을 볼 때는 단순히

"어느 회사가 CXL 제품을 만들었나?"

만 볼 것이 아니라

실제 서버에 얼마나 채택되는가

를 확인하는 것이 중요합니다.

CXL의 가장 큰 과제는 무엇일까?

CXL이 주목받는다고 해서 바로 대규모 시장이 만들어지는 것은 아닙니다.

몇 가지 과제가 있습니다.

1. 실제 시스템 도입

기술 표준이 있다고 해서 모든 서버가 바로 CXL 구조로 바뀌는 것은 아닙니다.

서버 설계와 CPU, 메모리, 운영체제, 소프트웨어 등이 함께 지원해야 합니다.

2. 비용

CXL 메모리 장치와 스위치 등 새로운 하드웨어가 추가되면 시스템 비용도 발생합니다.

메모리 효율 개선으로 얻는 효과가 추가 비용보다 커야 합니다.

3. 지연시간

CXL로 연결된 메모리는 CPU에 직접 연결된 메모리와 동일한 특성을 갖는다고 볼 수 없습니다.

연결 구조가 복잡해질수록 지연시간과 성능을 고려해야 합니다.

따라서 어떤 데이터를 어떤 메모리에 배치할 것인지가 중요합니다.

4. 소프트웨어 생태계

하드웨어만 바뀐다고 끝나는 것이 아닙니다.

운영체제와 가상화, 데이터센터 소프트웨어 등이 CXL 환경을 효율적으로 활용할 수 있어야 합니다.

CXL 3.0 이후에는 무엇이 달라질까?

CXL은 세대가 올라가면서 연결 구조와 메모리 공유 기능이 발전하고 있습니다.

특히 CXL 3.x 계열에서는 더 많은 장치를 연결하고 메모리 공유 및 패브릭 구성 등을 확장하는 방향이 중요해졌습니다.

결국 장기적으로는 개별 서버 안에서만 메모리를 확장하는 것을 넘어 여러 컴퓨팅 자원을 연결해 하나의 거대한 자원 풀처럼 활용하는 방향이 중요해질 수 있습니다.

이것이 AI 데이터센터가 CXL을 주목하는 이유 중 하나입니다.

HBM 다음이 CXL이라는 표현은 정확할까?

여기서 제목을 다시 생각해볼 필요가 있습니다.

"CXL이 HBM을 이어받는다."

라고 표현하면 정확하지 않습니다.

CXL이 HBM을 대체하는 것이 아니기 때문입니다.

오히려 앞으로의 AI 서버는

HBM의 고대역폭

DDR의 범용성

CXL의 확장성과 공유

를 함께 활용하는 방향으로 발전할 가능성이 있습니다.

따라서 저는 CXL을

'HBM 다음 메모리'라기보다 'HBM과 함께 공부해야 할 AI 메모리 인프라 기술'

이라고 보는 것이 더 정확하다고 생각합니다.

투자자가 CXL을 볼 때 체크할 것

CXL 관련주를 찾는다면 단순히 회사 이름에 CXL이 들어간다고 투자해서는 안 됩니다.

다음 항목을 확인하는 것이 좋습니다.

① 실제 제품이 있는가

개발 계획인지 실제 제품 판매가 이루어지고 있는지 구분해야 합니다.

② 고객사가 있는가

서버 업체나 데이터센터에서 실제 채택되는지가 중요합니다.

③ CXL 세대가 무엇인가

CXL 1.x인지 2.x인지 3.x인지 확인할 필요가 있습니다.

④ 메모리 용량과 대역폭은 어떤가

단순히 CXL이라는 이름보다 실제 제품 성능을 봐야 합니다.

⑤ 서버 시장의 채택 속도는 어떤가

CXL은 데이터센터 인프라와 관련된 기술이기 때문에 시장 확산 속도가 중요합니다.

⑥ 기존 메모리 시장에 어떤 영향을 주는가

CXL 시장이 성장한다고 해서 기존 DDR이나 HBM 시장이 반드시 줄어드는 것은 아닙니다.

오히려 여러 메모리 계층을 함께 사용하는 방향으로 발전할 가능성도 있습니다.

AI 반도체 공부는 이제 메모리 구조까지 봐야 한다

처음 AI 반도체를 공부할 때는 엔비디아 GPU만 보게 됩니다.

그러다 HBM을 알게 되고,

HBM을 공부하다 보면 첨단 패키징을 만나게 됩니다.

그리고 이제 CXL까지 등장합니다.

이렇게 하나씩 연결해보면 AI 반도체 산업이 훨씬 선명하게 보입니다.

GPU → HBM → 첨단 패키징 → CXL → 서버·데이터센터

각각의 기술이 서로 다른 역할을 하면서 하나의 AI 인프라를 구성하는 것입니다.

마무리

CXL은 이름부터 어렵습니다.

하지만 핵심 개념은 생각보다 간단합니다.

HBM이 '빠르게 데이터를 공급하는 메모리'라면, CXL은 '메모리와 컴퓨팅 자원을 보다 유연하게 연결하고 확장하는 인터페이스'입니다.

AI 모델이 커지고 데이터센터가 대형화될수록 메모리를 무조건 많이 넣는 것보다 필요한 곳에 필요한 만큼 효율적으로 배치하는 것이 중요해질 수 있습니다.

그래서 CXL이 주목받고 있습니다.

다만 아직은 기술이 주목받는 것과 실제 시장에서 대규모로 채택되는 것은 다른 문제입니다.

앞으로 CXL을 볼 때는 기술 발표보다

실제 서버 채택

메모리 제품 판매

데이터센터 적용

CXL 생태계 확대

기업 실적

을 확인하는 것이 중요합니다.

저도 HBM을 공부하면서 자연스럽게 CXL까지 넘어오게 됐는데, 반도체는 하나를 알면 또 다른 기술이 연결되어 나오는 것 같습니다.

그래서 이제는 특정 종목의 뉴스만 보기보다 AI 반도체 전체 밸류체인을 공부하는 방식으로 접근하려고 합니다.

 

※ 이 글은 개인적인 주식 공부 및 정보 제공을 위한 글이며 특정 종목의 매수 또는 매도를 권유하지 않습니다. CXL의 실제 시장 적용과 제품 채택 속도는 기업 및 데이터센터별로 차이가 있을 수 있으므로 투자 판단 전 최신 공시와 기업 자료를 확인하시기 바랍니다.