• 삼성전자 영업이익 9배 증가, DS 부문이 견인

• GPU 강자 엔비디아, AI반도체 강자로 우뚝

• 삼성전자, AI 추론칩 ‘마하 시리즈’ 개발 집중

• SK하이닉스, 美 설비 투자로 최첨단 패키징 힘줘

삼성전자가 4월 5일 실적 발표에서 올해 1분기(1~3월) ‘어닝 서프라이즈(시장 전망치를 뛰어넘은 실적)’를 기록했다. 업계는 그 원동력으로 인공지능(AI)을 더욱 빠르고 정확하게 구현토록 해주는 핵심 반도체인 고대역폭메모리(HBM·High Bandwidth Memory)를 지목했다.

삼성전자는 HBM을 만들어 AI 칩을 개발하는 고객사에 납품하고 있다. 3월 21일에는 AI칩 개발 경쟁에서 선두를 달리는 엔비디아의 젠슨 황 최고경영자(CEO)가 미국 캘리포니아주 새너제이에서 열린 연례 개발자 콘퍼런스 ‘GTC(GPU Tehcnology Conference) 2024’에서 “삼성전자의 HBM을 테스트하고 있다”고 말하며 파트너십 가능성을 언급해 삼성전자의 주가가 크게 뛴 일도 있었다.

삼성전자의 영업이익은 6조6000억 원으로 지난해 동기보다 약 9배 이상(931.25%) 늘었다. 부문별로는 공개되지 않았는데, 증권가에선 이 가운데 HBM 등 반도체 사업을 담당하는 디바이스솔루션(DS) 부문이 약 7000억~1조 원을 견인했을 것으로 본다.

HBM 등 메모리 반도체를 주력으로 만드는 미국의 마이크론도 2024년 2분기(지난해 12월~올해 2월)에 매출이 전년 동기보다 57% 늘어난 깜짝 실적을 3월 21일 발표해서 시장을 놀라게 했다. 4월 22~26일 중 실적을 발표할 것으로 전해진 SK하이닉스도 HBM 호황으로 전망치를 크게 뛰어넘는 호실적을 발표할 것이란 전망이 우세하다.

세 기업을 꿰뚫는 공통분모는 HBM이다. HBM은 AI칩에 핵심 요소로 지목된 반도체로, AI 개발 열풍이 불고 있는 시대 흐름에 순응하고, 생산에 최적화된 제품을 발굴하고자 한 기업들의 노력이 빚어낸 결과다.



반도체는 이제 AI를 빼놓고는 말할 수 없다. 현재를 ‘AI 반도체의 시대’라 하는 이유다. 같은 반도체를 만들더라도 AI와 연관돼 있지 않다면 시장에서 도태되는 경우도 많이 목격된다. 반면 AI에 혁신을 만들 반도체를 만들어낸다면 세상의 모든 조명을 받는 시대다.

AI를 만나 되찾은 ‘반도체의 봄’

반도체 시장은 지난 한 해 동안 글로벌 경기침체, 미국과 중국의 무역 갈등, 러시아와 우크라이나 전쟁 등의 영향으로 불황을 겪었다. 반도체 기업들은 일부 생산량을 줄이는 ‘감산’을 결정하는 등 허리띠를 졸라매는 수준에까지 이르렀다. 하지만 올해 초부터 분위기가 바뀌었다. 글로벌 빅테크 기업들 사이에서 AI 개발 열풍이 불면서 반등하기 시작했다.

특히 글로벌 기업의 주요 인사들은 1월 9~12일 미국 라스베이거스에서 열린 세계 최대 가전·IT 박람회 ‘CES 2024’에서 일상생활에서 쓰는 가전제품에 AI가 접목된 결과물들을 목도하고 “AI에 미래가 있다”는 확신을 가진 것으로 전해진다. 이후 너도나도 AI 개발에 뛰어들며 자연스럽게 AI 구동에 필요한 반도체의 수요도 동반해서 올랐다.

반도체는 그동안 AI의 핵심 두뇌 역할을 해오던 중앙처리장치(CPU), 그래픽처리장치(GPU)의 자리를 이미 대체했고, 이어 AI에 특화된 AI 반도체가 개발되기에 이르렀다. AI 반도체는 AI 서비스 구현에 필요한 대규모 연산을 초고속, 초전력으로 실행하는 효율성 측면에 맞춰져서 만들어졌다. 좁게는 AI 작업을 진행하는 비메모리 반도체, 넓게는 AI 작업 과정에 들어가는 메모리, 비메모리 반도체를 통칭한다.

현재 AI 반도체 시장은 공장 없이 반도체 설계를 전문으로 하는 ‘팹리스’, 팹리스의 설계를 받아서 반도체를 만들어주는 ‘파운드리(반도체 수탁생산)’, HBM과 같은 고성능 D램을 묶어 하나의 칩처럼 작동하게 하는 ‘최첨단 패키징’으로 나뉜다. 기업들은 각자의 규모, 여건 등을 고려해 세 가지를 모두 소화하거나, 한 가지에 집중하고 있다. AI 반도체 시장규모는 올해 특히 비약적으로 성장해 3년 안에 100조 원을 넘길 것이란 전망도 나온다. 시장조사업체 가드너는 2027년 AI 반도체 시장이 1194억 달러(약 155조 원)로 성장할 것으로 예측했다.

미국의 엔비디아는 AI칩 개발을 둘러싼 세계 경쟁에서 가장 앞서가고 있다. 이는 GPU 덕분이다. AI 개발이 시작된 후 GPU가 ‘AI의 연산 작업을 가장 잘 수행할 수 있는 반도체’로 주목받으면서 엔비디아가 만드는 GPU의 수요가 기하급수적으로 증가했다.

이전까지 대부분의 PC 등에선 어려운 작업을 정확하게 해낼 수 있는 CPU가 연산을 도맡았다. 하지만 AI가 방대한 정보를 빠르게 연산할 수 있도록 개발되면서 CPU보다 많은 정보를 한꺼번에 처리할 수 있는 GPU가 각광받기 시작했다. GPU는 그래픽 처리 때 화면에 띄울 수만 개 픽셀(화소)을 단번에 표현하는 장치다. 이와 같은 방식으로 많은 정보를 처리할 수 있어 AI 구현에 적합했다.

이를 간파한 엔비디아는 2016년부터 게임 그래픽카드 사업에서 AI GPU 디자인 사업을 주력으로 삼았고, 전체 GPU 시장의 약 98%를 점유하며 AI 칩 개발에서도 선두주자로 도약했다. 창업주로 30년 넘게 회사를 지킨 젠슨 황 CEO의 경영 리더십을 빼고는 설명하기 힘든 성과다. 대만계 미국인인 그는 엔지니어 출신이라곤 믿기 힘든, 탁월한 수완과 시각으로 회사를 경영, GPU 판매량을 높이고 최대 수익을 창출했다.

젠슨 황의 건재로 30년간 회사 주인이 교체될 일이 없었던 엔비디아는 ‘리더십 리스크’ 없이 안정적 경영체제를 구축하면서 GPU와 AI 개발에 집중할 수 있었던 것으로도 보인다. 1대 1 보고 없이 직원들의 7~8시간 난상 토론을 통해 회사의 현안을 처리토록 한 특유의 근무 환경도 엔비디아를 일으킨 힘으로 평가받는다.

올해 초 경쟁사 AMD와 인텔이 신제품을 출시하면서 경쟁을 예고하기도 했지만 아직까진 엔비디아를 추격하기엔 역부족이란 평가가 지배적이다. 엔비디아는 주로 반도체를 설계하고 공정은 타 기업의 파운드리에 맡기는 ‘팹리스’의 대표 격으로 불린다. 이런 구조적 요인으로 많은 자본이 연구와 개발에 투자되고 타 기업들보다 한발 앞선 AI 칩들을 내놓고 있다.

엔비디아는 3월 19일 ‘GTC 2024’에서 차세대 AI칩 ‘B100’을 공개했다. 이 칩은 새로운 GPU 블랙웰을 기반으로 만들어졌다. 블랙웰은 2년 전 발표된 엔비디아 호퍼(Hopper) 아키텍처의 후속 기술이다. 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원에 입회한 데이비드 해럴드 블랙웰을 기리기 위해 붙여진 이름이다. B100은 현존하는 최신 AI 칩으로 평가받는 엔비디아 H100의 추론 성능을 30배 뛰어넘는다고 엔비디아는 설명했다. 젠슨 황 CEO는 “블랙웰은 모든 산업에서 AI를 구현시키며, 우리 회사 역사상 가장 성공적 제품이 될 것”이라고 강조했다.

삼성·SK의 힘은 ‘매뉴팩처링’

엔비디아는 한국 기업들의 핵심 고객이다. SK하이닉스는 엔비디아에 HBM을 공급하고 있고, 삼성전자는 엔비디아로부터 칩 제작을 위탁받아 생산하고 있다. 이 때문에 엔비디아의 사업 성패는 SK하이닉스, 삼성전자에도 상당한 영향을 준다. 겉으로 보기엔 엔비디아에 HBM을 납품, 위탁 생산하는 우리 기업들의 현황이 다소 불안해 보이는 면이 있다. 기업의 운명이 엔비디아에 의해 좌우되는, 능동적이지 못한 사업 구조로 비칠 수 있어서다. 실제 주주들이나 일부 관계자 사이에선 이런 우려가 적지 않은 것으로 전해진다.

하지만 자세한 배경과 사정을 살펴보면 ‘제조업’에 강점이 있는 우리 기업들의 특성이 반영된 최적의 상황이란 사실을 알게 된다. 10년 가까이 삼성전자에서 일한 이종철 법무법인 율촌 변호사는 3월 기자와 인터뷰하면서 “삼성전자는 오랜 기간 소프트웨어에 비해 ‘매뉴팩처링(제조 및 생산)’ 기술에 강점을 보여왔다”고 말했다. AI를 예로 든다면, AI의 두뇌보다는 AI 서비스 작업을 하는 장치를 만드는 데 더 강하다는 뜻이다.

삼성전자, SK하이닉스가 시장점유율에서 상위권에 위치한 HBM도 두뇌보다 장치에 가깝다. HBM은 AI의 연산장치 가까이에 위치해 정보를 누구보다 빠르게 전달할 수 있는 ‘니어 메모리(Near Memory)’ 중 하나다. 정보가 오가는 출입구인 핀의 개수가 적은 D램을 여러 개 모아 수직으로 쌓은 후에 1000개가 넘는 구멍을 중앙에 뚫어서 정보의 출입 통로를 확대한 획기적 메모리 반도체다.

HBM의 성능은 D램을 몇 개까지 쌓을 수 있느냐가 관건이다. HBM은 SK하이닉스가 2013년 처음 만들었고, 삼성전자와 함께 나란히 D램을 12단까지 쌓은 5세대 HBM ‘HBM3E’ 실물을 공개하고 최근 양산을 시작하기 위한 작업에 들어갔다. 이 장치에서만큼은 한국 기업들이 타의 추종을 불허하고 있다. HBM은 AI칩 하나에 최소 4개가 들어가는 점을 고려하면 대량생산이 필요한 장비란 특성도 있다. 공장을 운영하면서 고성능의 장비를 대량으로 생산하는 데 능한 한국 기업들로선 HBM이 AI 반도체 시장에서 영향력을 보일 최적의 수단이 됐다고 볼 수 있다.

HBM에서 보이는 우리 기업들의 우위는 전통적으로 제조업에 강한 우리 산업의 특색이 그대로 반영된 결과라는 말도 나온다. 오랜 기간 안착된 제조업 생태계는 자동차, 2차전지 등에서 한국 기업들이 두각을 나타낼 수 있는 밑거름이 되기도 했다. HBM 역시 마찬가지다. 이런 가운데 우리 기업들은 HBM을 지속적으로 연구하며 한 차원씩 더 높이는 개발도 이뤄내 세계시장을 선도하고 있다. 제조업이 강한 한국 기업과 HBM의 궁합은 최상이라고 봐도 무방한 셈이다.
영원한 동지도, 적도 없다

모든 분야가 그렇듯, AI 반도체 시장 역시 영원한 적도, 동지도 없다. 경쟁 구도는 언제든지 재편될 가능성이 있다. 현재 그 열쇠를 삼성전자가 쥐려하고 있어 업계의 이목이 집중된다. 삼성전자는 AI 추론칩 ‘마하-1’과 ‘마하-2’를 연이어 개발하겠단 의지를 보였다.

마하-1은 3월 20일 정기주주총회에서, 마하-2는 경계현 삼성전자 DS부문장(사장)이 자신의 사회관계망서비스(SNS) 계정에서 개발 계획을 밝혔다. 경 사장은 “일부 고객은 1T 파라미터(사용자가 원하는 방식으로 자료가 처리되도록 명령어를 입력할 때 추가하거나 변경하는 수치 정보) 이상의 큰 애플리케이션에 마하를 쓰고 싶어 한다”면서 “생각보다 빠르게 마하-2 개발이 필요한 이유가 생겼다. 준비를 해야 겠다”고 썼다.

마하-1과 마하-2는 모두 AI 추론칩이다. AI 칩은 데이터를 배우고 익히는 학습과 배운 것을 바탕으로 판단하는 추론으로 나뉘는데, 삼성전자는 둘 중 추론을 선택해서 집중하겠단 전략으로 마하 시리즈 개발에 나선 것이다. HBM 등 현재 개발 중인 반도체 패러다임에 국한하지 않고 AI 칩을 직접 개발, 생산함으로써 엔비디아 등 경쟁 주자들의 아성에 대한 도전도 게을리하지 않겠단 의지로 풀이된다.

추론칩 시장에 대한 긍정적 전망도 삼성전자의 선택을 앞당긴 것으로 보인다. 김동원 KB증권 연구원은 “2030년 추론용 AI 칩 시장은 1430억 달러(193조 원)로 2023년(60억 달러) 대비 7년 만에 24배 성장이 예상된다”고 내다봤다.

SK하이닉스는 현재 선점한 최첨단 패키징에 조금 더 힘을 보태는 행보를 보일 것으로 전망된다. 4월 4일에는 2028년 하반기 양산을 목표로, 미국 인디애나주 웨스트라피엣에 38억7000만달러(약 5조2000억 원)를 들여 AI 메모리용 최첨단 패키징 생산기지를 세우고, 현지에 있는 퍼듀대 등 연구기관과 반도체 연구·개발에 협력하기로 했다고 발표했다.

미국에 AI용 어드밴스드 패키징 생산기지를 짓는 것은 반도체업계 최초다. 곽노정 SK하이닉스 사장은 “이번 투자를 통해 당사는 갈수록 고도화하는 고객 요구와 기대에 부응해 맞춤형 메모리 제품을 공급해 나갈 것”이라고 말했다.