AI 반도체 경쟁 (PIM, CXL, 차세대메모리)

솔직히 저는 얼마 전까지 AI 반도체 경쟁이 곧 HBM 경쟁이라고 단순하게 생각했습니다. 그런데 최근 FMS 2026 행사 소식을 접하면서 그 생각이 완전히 틀렸다는 걸 깨달았습니다. 삼성전자와 SK하이닉스는 이미 PIM과 CXL이라는 전혀 다른 판을 벌이고 있었고, 미국·중국·일본·대만 기업들도 각자의 방식으로 HBM의 빈자리를 파고들고 있었습니다. 단순히 "누가 더 빠른 메모리를 만드냐"의 싸움이 아니었습니다.

 

PIM, 메모리가 스스로 계산한다는 게 무슨 뜻일까

컴퓨터공학을 공부하는 저도 PIM이라는 단어를 처음 들었을 때는 개념이 잘 안 잡혔습니다. 그냥 "빠른 메모리" 아닌가 싶었는데, 실제로 파고들어 보니 구조 자체가 다른 이야기였습니다.

프로세싱인메모리(PIM)란 D램 안에 작은 연산장치를 내장해서, 데이터를 CPU나 GPU로 옮기지 않고 메모리 내부에서 바로 연산을 처리하는 기술을 의미합니다. 기존 방식에서는 AI 연산을 할 때마다 메모리에서 데이터를 꺼내 GPU로 보내고, 처리가 끝나면 다시 저장하는 과정을 반복합니다. 그런데 AI 모델이 커질수록 이 데이터 이동 자체가 병목이 되고, 전력도 엄청나게 소모됩니다. PIM은 이 이동 거리를 근본적으로 줄이는 접근입니다.

삼성전자는 2026년 8월 FMS 2026에서 업계 최초로 LPDDR5X-PIM을 공개했습니다. 이는 최신 저전력 D램인 LPDDR5X에 PIM 기능을 결합한 제품으로, 다음 달 핫칩스 학회에서 구체적인 스펙이 공개될 예정입니다. SK하이닉스도 CES 2026에서 AiMX, CuD, CMM-Ax 등 다양한 PIM 시제품을 빅테크 고객들에게 이미 선보였습니다. 미국 마이크론 역시 "PIM 아키텍처를 연구 중"이라고 공식적으로 밝혔습니다(출처: 서울경제 2026.08.05).

제가 이 부분에서 솔직히 놀란 건, 삼성전자가 단순히 시제품을 발표한 게 아니라 이미 빅테크 고객사를 대상으로 세일즈 단계에 들어갔다는 점이었습니다. 학계 발표에서 상업화 단계로 넘어가는 속도가 예상보다 훨씬 빨랐습니다. 다만 제 생각에는 PIM이 실제로 시장에 뿌리내리려면 기존 AI 프레임워크와 소프트웨어가 PIM 구조에 맞게 함께 바뀌어야 하는 과제가 남아 있습니다. 좋은 기술이 나왔다고 해서 바로 데이터센터에 들어가는 건 아니니까요.

요약: PIM은 메모리 내부에서 연산을 처리해 데이터 이동을 줄이는 기술로, 삼성·SK하이닉스가 이미 빅테크 고객 유치 단계에 들어섰습니다.

 

CXL이 왜 HBM의 빈자리를 채울 수 있는가

HBM이 워낙 화제였던 탓에 CXL은 상대적으로 덜 알려진 느낌이었는데, 제가 직접 관련 자료를 찾아보면서 "아, 이게 진짜 숨겨진 경쟁지구나"라는 생각이 들었습니다.

컴퓨트익스프레스링크(CXL)란 CPU, GPU, 메모리, 가속기 사이를 고속으로 연결하는 인터페이스 표준입니다. 쉽게 말해 서버 안에서 여러 부품들이 데이터를 주고받는 고속도로를 새로 까는 기술입니다. HBM이 GPU 바로 옆에 붙어서 초고속 데이터를 공급하는 방식이라면, CXL은 서버 전체에서 메모리를 더 유연하게 배치하고 공유할 수 있게 해줍니다. AI 데이터가 폭증하면서 HBM 용량만으로 감당이 어려워지는 상황에서 CXL이 새로운 해법으로 주목받는 이유가 여기 있습니다.

삼성전자는 CXL 3.2 기반 메모리의 연내 양산을 준비 중입니다. SK하이닉스도 동급 메모리 샘플을 최근 공개했고, 마이크론은 FMS 2026에서 자사 CXL 메모리를 AI 시스템에 적용했을 때 연산 성능이 기존 대비 5~10배 향상됐다고 발표하며 본격적으로 경쟁에 뛰어들었습니다. CXL 시장이 메모리 3사의 또 다른 격전지가 된 것입니다.

제 경험상 이런 인터페이스 표준 경쟁은 기술 성능 못지않게 표준 선점과 생태계 확장이 승부를 가릅니다. 아무리 빠른 연결 기술이라도 주요 서버 업체와 빅테크가 해당 표준을 채택하지 않으면 시장이 열리지 않습니다. CXL도 마찬가지입니다. 호환성과 안정성을 먼저 확보하는 기업이 결국 유리한 위치를 잡을 것입니다.

• 삼성전자: CXL 3.2 기반 메모리 연내 양산 준비
• SK하이닉스: CXL 3.2 동급 메모리 샘플 공개
• 마이크론: CXL 적용 시 AI 연산 성능 5~10배 향상 발표
• 핵심 과제: 서버 생태계 표준화 및 빅테크 채택 확보

요약: CXL은 HBM의 용량 한계를 보완하는 메모리 연결 기술로, 삼성·SK하이닉스·마이크론 3사가 동시에 경쟁에 뛰어든 핵심 전장입니다.

 

차세대메모리 경쟁, 한국만 잘한다고 끝나지 않는다

이번 FMS 2026을 들여다보면서 솔직히 이건 예상 밖이었습니다. 경쟁의 그림이 단순히 메모리 3사 간 싸움이 아니라, 반도체 설계·제조·패키징·인터페이스·소프트웨어 생태계를 아우르는 총력전으로 펼쳐지고 있었으니까요.

일본 키옥시아는 독자 기술 XL 플래시를 적용한 SSD 신제품 GP1 시리즈를 공개했습니다. 이 제품은 HBM을 거치지 않고 GPU 연산을 직접 보조할 수 있다는 점에서 구조적으로 다른 접근을 취하고 있습니다. 인텔은 크로스배치메모리(XBM) 특허를 출원했는데, 여기서 XBM이란 HBM과 GPU를 연결하는 실리콘 인터포저를 없애고 더 단순한 연결 방식으로 기술 난도를 낮추는 설계 방식을 말합니다. 퀄컴은 고대역폭컴퓨트(HBC)를 탑재한 AI 칩을 올해 말 출시할 계획인데, D램과 GPU를 수직으로 연결하는 방식이 삼성전자의 zHBM과 유사한 구조입니다(출처: 서울경제 2026.08.05).

중국 CXMT의 움직임도 무시하기 어렵습니다. 올해 하반기 LPDDR6 양산 가능성이 제기되고 있는데, LPDDR6란 스마트폰과 온디바이스 AI에 쓰이는 차세대 저전력 D램 규격입니다. 범용 메모리에서 시작한 중국의 기술 추격이 차세대 D램 영역까지 올라오고 있다는 신호입니다. TSMC는 실리콘포토닉스 기반 제조·패키징 플랫폼 쿠페를 빅테크들과 협력해 하반기 상용화할 계획입니다. 실리콘포토닉스란 빛(광신호)을 이용해 칩 간 데이터를 전송하는 기술로, 전기 신호의 속도·전력 한계를 돌파하는 새로운 접근 방식입니다.

이 모든 흐름을 보면서 제가 내린 결론은 이렇습니다. AI 반도체 경쟁의 핵심은 "메모리 하나"가 아니라 "메모리와 연산과 연결과 패키징을 누가 더 효율적으로 묶느냐"로 이동하고 있습니다. 삼성전자와 SK하이닉스가 메모리 강국이라는 토대 위에서 PIM과 CXL까지 선점하려는 것은 분명 좋은 방향입니다. 하지만 기술 발표만으로는 부족하고, 고객 채택과 양산 안정성, 그리고 소프트웨어 생태계까지 함께 잡아야 진짜 경쟁력이 완성된다고 봅니다.

요약: 미·중·일·대만 기업들이 각자의 방식으로 HBM 의존도를 줄이며 차세대 AI 반도체 구조를 재편하고 있어, 기술 발표를 넘어 생태계 확보가 관건입니다.

 

자주 묻는 질문

Q. PIM이랑 HBM은 어떻게 다른 건가요?

A. HBM은 GPU 옆에 쌓아 올린 초고속 메모리로, 데이터를 빠르게 공급하는 역할을 합니다. 반면 PIM은 메모리 내부에 연산 기능을 넣어, 데이터를 GPU로 보내지 않고 메모리 안에서 일부 계산까지 처리하는 구조입니다. HBM이 고속도로라면, PIM은 고속도로 위에 주유소와 정비소를 함께 올린 개념으로 이해하면 쉽습니다.

 

Q. CXL 메모리가 HBM을 완전히 대체할 수 있나요?

A. 완전한 대체보다는 보완에 가깝습니다. HBM은 GPU 바로 옆에서 초고속·고대역폭을 제공하는 데 특화되어 있고, CXL은 서버 전체 메모리를 유연하게 확장하고 공유하는 데 강점이 있습니다. AI 데이터가 폭증하면서 HBM만으로 용량이 부족해지는 상황에서 CXL이 그 빈자리를 채우는 역할을 하게 될 가능성이 높습니다.

 

Q. 중국 CXMT가 LPDDR6를 양산하면 한국 기업에 타격이 큰가요?

A. LPDDR6는 스마트폰과 온디바이스 AI에 쓰이는 범용 저전력 D램이기 때문에, 만약 중국이 양산에 성공하면 가격 경쟁 압력이 생길 수 있습니다. 다만 최첨단 HBM이나 CXL 3.2 수준의 고성능 서버 메모리에서는 아직 기술 격차가 있습니다. 삼성전자와 SK하이닉스 입장에서는 범용 메모리보다 고부가가치 AI 메모리에 집중 투자하는 전략이 더 중요해지는 이유입니다.

 

Q. 삼성전자 LPDDR5X-PIM은 언제 정식 출시되나요?

A. 삼성전자는 FMS 2026에서 기술 완성을 알리고 빅테크 고객사 유치를 위한 세일즈 단계에 들어간 것으로 전해졌습니다. 2026년 9월 미국에서 열리는 핫칩스 학회에서 구체적인 스펙을 공개할 예정입니다. 양산 일정은 아직 공식 발표되지 않았으며, 빅테크의 실제 채택 여부에 따라 상용화 속도가 달라질 가능성이 있습니다.

 

결론

HBM 하나로만 보던 AI 반도체 경쟁을 PIM, CXL, 실리콘포토닉스, XBM, HBC까지 넓혀 보면 판이 완전히 달라 보입니다. 삼성전자와 SK하이닉스가 앞서 나가고 있는 건 맞지만, 진짜 승부는 기술 발표가 아니라 고객 채택과 표준 선점, 양산 안정성, 소프트웨어 생태계 확보에서 갈릴 것입니다. AI 서버 시장이 커질수록 메모리 단독 경쟁력보다 시스템 전체를 최적화하는 역량이 기업의 위상을 결정하게 될 것입니다.

이 흐름에 관심 있으시다면 다음 달 핫칩스 2026에서 삼성전자의 LPDDR5X-PIM 발표를 직접 챙겨 보시길 권합니다. AI 메모리가 어디까지 진화할 수 있는지 구체적인 데이터를 확인할 수 있는 자리가 될 것입니다.

참고: https://n.news.naver.com/mnews/article/011/0004648924