하이브리드 본딩, HBM이 16단을 넘어 32단으로 가는 길

인공지능(AI) 모델이 점점 더 똑똑해지면서, 데이터를 실어 나르는 메모리의 속도가 AI 칩 전체의 성능을 좌우하는 시대가 왔습니다. 이 문제를 해결하기 위해 등장한 것이 HBM(High Bandwidth Memory, 고대역폭 메모리)입니다. HBM은 여러 개의 메모리 칩(Die)을 아파트처럼 수직으로 착착 쌓아 올려, 데이터가 오가는 통로를 한 번에 수백, 수천 개로 넓힌 초고속 메모리입니다.

현재 시장의 주력인 HBM3E를 넘어 차세대 HBM4로 가면서, 메모리 회사들은 12단을 넘어 16단이라는 전례 없는 높이의 아파트를 지으려 하고 있습니다 counterpointresearch.… · 001nomadsemi.com · 002. 하지만 기존의 건축 공법으로는 더 이상 높이 올라가기 어려운, 세 가지 거대한 벽에 부딪혔습니다.

첫째는 전기적 한계입니다. 기존 방식은 각 층을 '마이크로 범프'라는 아주 작은 납땜 공(솔더볼)으로 연결합니다. 16단 HBM4는 데이터 통로(I/O)를 2,048개로 늘려야 하는데, 이 많은 통로를 연결할 납땜 공을 칩 위에 다 올릴 공간이 부족합니다 siliconanalysts.com · 003kynix.com · 004. 공들을 너무 가깝게 붙이면 납이 녹을 때 서로 붙어버려 합선(short)이 일어나기 때문입니다 36kr.com · 005. 현재 기술로는 이 납땜 공들의 간격(Pitch)을 40마이크로미터(µm) 이하로 줄이기 어렵습니다 nomadsemi.com · 002photoncap.net · 006.

둘째는 물리적 한계입니다. 반도체 업계 표준 기구(JEDEC)는 HBM 패키지 전체 높이를 720µm(머리카락 굵기 약 7개)로 제한해왔습니다 nomadsemi.com · 002TrendForce · 007. 이 안에 16층을 쌓으려면 각 층의 두께를 30µm 이하, 즉 기존의 절반 수준으로 종이보다 얇게 깎아내야 합니다 photoncap.net · 006. 이렇게 얇아진 칩은 감자칩처럼 쉽게 휘거나(Warpage) 깨져버려 불량률이 치솟습니다 patsnap.com · 008. 납땜 공과 그 사이를 메우는 보호재(언더필) 자체도 층마다 공간을 차지해 문제를 더 어렵게 만듭니다.

셋째는 열(熱)의 한계입니다. 16개 층이 한꺼번에 작동하면 엄청난 열이 발생합니다. 그런데 납땜 공 사이를 채우는 보호재는 열전도율이 매우 낮아, 마치 각 층 사이에 단열재를 끼워 넣은 것과 같습니다 mdpi.com · 009TrendForce · 007. 열이 밖으로 빠져나가지 못하고 중간층에 갇히면서 칩이 과열되고, 결국 성능이 저하되거나 데이터 오류를 일으킬 수 있습니다 mdpi.com · 009kynix.com · 004.

기존 방식이 마주한 세 개의 벽을 한 번에 허물 수 있는 기술로 주목받는 것이 바로 '하이브리드 본딩(Hybrid Bonding)'입니다. 이 기술의 핵심은 아주 간단합니다. 칩과 칩을 연결하던 납땜 공(솔더볼)과 그 사이를 메우던 보호재(언더필)를 완전히 없애는 것입니다.

납땜 대신, 두 칩의 표면에 있는 구리(Cu) 배선과 그 주변을 감싸는 절연막(산화막)을 원자 단위에서 직접 맞붙여 하나로 합쳐버립니다 Applied Materials IR · 010techinsights.com · 011mdpi.com · 009. 마치 두 개의 완벽하게 매끄러운 유리판에 물을 살짝 묻혀 붙이면 찰싹 달라붙어 떨어지지 않는 것과 비슷한 원리입니다. 구리 배선은 구리 배선끼리, 절연막은 절연막끼리 직접 연결되는 '무납땜' 방식인 셈입니다.

이처럼 중간 매개체 없이(Bumpless) 칩과 칩을 직접 연결하기 때문에, 하이브리드 본딩은 기존 기술의 한계를 근본적으로 해결할 수 있는 게임 체인저로 불립니다.

하이브리드 본딩이 왜 HBM의 미래에 필수적인지, 앞서 언급된 세 가지 한계를 어떻게 해결하는지 살펴보면 명확해집니다.

• 더 빠르게 (I/O 밀도 극대화): 납땜 공이 사라지면서 데이터 통로인 구리 패드 간의 간격(Pitch)을 10µm 이하로 획기적으로 좁힐 수 있습니다 counterpointresearch.… · 001photoncap.net · 006. 기존 40µm 대비 4배 이상 촘촘해지는 것으로, 같은 면적으로 치면 16배가 넘는 데이터 통로를 만들 수 있다는 뜻입니다. HBM4가 요구하는 2,048개의 넓은 데이터 길을 여유롭게 확보할 수 있게 됩니다.

• 더 얇게 (폼팩터 문제 해결): 층마다 약 20µm의 공간을 차지하던 납땜 공과 보호재 틈새가 사라집니다 jtheil.com · 012. 칩과 칩이 완벽하게 밀착되면서 16단을 쌓아도 전체 높이를 15% 이상 줄일 수 있습니다 mdpi.com · 009photoncap.net · 006. 덕분에 칩을 극한까지 얇게 깎아내지 않아도 되어, 칩이 휘거나 깨지는 문제에서 훨씬 자유로워집니다.

• 더 시원하게 (방열 문제 해결): 열을 가두던 단열재 역할의 보호재가 없어지면서, 칩에서 발생한 열이 수직 방향으로 훨씬 원활하게 빠져나갑니다. 시뮬레이션 결과, 하이브리드 본딩은 칩과 칩 사이의 열 저항을 기존 대비 최대 47%까지 낮출 수 있는 것으로 나타났습니다 mdpi.com · 009. 이는 칩의 과열을 막고 안정적인 최고 성능을 유지하는 데 결정적입니다.

여기에 더해, 신호가 거쳐가야 할 중간 저항(납땜 공)이 없어지면서 전력 효율도 크게 개선됩니다. 같은 양의 데이터를 보낼 때 더 적은 힘을 쓰게 되어, 와트당 데이터 처리 성능을 최대 40%까지 향상시킬 수 있습니다 Applied Materials IR · 010kynix.com · 004.

하이브리드 본딩은 개념은 단순하지만, 실제 공정은 나노미터(10억 분의 1미터) 단위의 정밀도를 요구하는 첨단 기술의 집약체입니다. 크게 3단계로 이루어집니다.

1. 표면 준비 (평탄화 및 활성화): 먼저 붙이고자 하는 두 칩의 표면을 거울처럼 매끄럽게 만듭니다. '화학적 기계적 연마(CMP)'라는 공정을 통해 원자 단위의 흠집도 없이 완벽한 평면으로 깎아냅니다 counterpointresearch.… · 001mks.com · 013. 이때 구리 배선 부분만 주변 절연막보다 아주 살짝(수 나노미터) 오목하게 파내는 '디싱(Dishing)'이라는 고난도 기술이 적용됩니다. 그 후, 플라즈마를 이용해 표면을 깨끗하게 처리하고 원자들이 서로 잘 달라붙을 수 있는 상태로 '활성화'시킵니다 mks.com · 013.
2. 상온 접합 (정렬 및 부착): 초정밀 로봇 팔(본더)이 두 칩을 머리카락 굵기의 수백 분의 일 오차 범위 내로 정밀하게 정렬한 뒤, 상온에서 그대로 맞붙입니다 jtheil.com · 012jtheil.com · 014. 그러면 표면의 원자들 사이에 작용하는 약한 인력(반데르발스 힘, 수소 결합)에 의해 두 칩이 1차적으로 단단히 고정됩니다.
3. 열처리 (어닐링 및 최종 결합): 1차 접합된 칩 스택을 오븐에 넣고 200~400°C의 비교적 낮은 온도로 가열합니다 mks.com · 013SemiAnalysis · 015. 이때 구리는 주변 절연막보다 열에 더 많이 팽창하는 성질이 있습니다. 이 성질 때문에 1단계에서 살짝 오목하게 파두었던 구리 배선이 부풀어 오르면서 위아래 층의 구리 배선과 강하게 맞닿게 되고, 구리 원자들이 서로 섞이며 완벽한 하나의 금속으로 합쳐집니다. 이로써 수천 개의 전기적 연결이 동시에 완성됩니다.

이론적으로 완벽해 보이는 하이브리드 본딩이지만, 양산 현장에서는 작은 티끌 하나가 수백억 원짜리 웨이퍼 전체를 버리게 만들 수 있는 극도로 까다로운 기술입니다. 수율을 가로막는 가장 큰 3대 기술적 허들은 다음과 같습니다.

첫째, 파티클 오염입니다. 칩 표면을 원자 단위에서 붙이는 만큼, 눈에 보이지 않는 100나노미터 크기의 먼지 한 톨만 있어도 그 주변 수십 개의 연결이 실패하는 연쇄 불량을 일으킵니다 jtheil.com · 014. 이 때문에 하이브리드 본딩 공정은 반도체 전공정 중에서도 가장 깨끗한 환경을 요구하는 극자외선(EUV) 노광 공정과 맞먹는 ISO 3 등급의 초고청정실에서 진행되어야 합니다 jtheil.com · 014asmpt.com · 016.

둘째, 초정밀 정렬입니다. 녹은 납이 스스로 자리를 찾아가며 약간의 오차를 보정해주던 기존 방식과 달리, 하이브리드 본딩은 그런 '셀프 교정' 효과가 전혀 없습니다 36kr.com · 005. 10µm 이하의 촘촘한 간격에서 위아래 층의 구리 배선을 정확히 맞추려면, 칩을 옮겨 붙이는 본딩 장비의 정렬 오차는 200~500나노미터 수준으로 극도로 엄격하게 제어되어야 합니다 jtheil.com · 014.

셋째, 표면 손상입니다. 칩을 쌓기 전에는 반드시 전기 테스트를 통해 양품인지 불량품인지 가려내야 합니다. 그런데 이 테스트 과정에서 뾰족한 탐침(Probe)이 거울 같던 구리 표면에 미세한 흠집을 남길 수 있고, 이 흠집이 본딩 실패의 직접적인 원인이 됩니다 patsnap.com · 017. 테스트를 안 할 수도, 해서 흠집을 낼 수도 없는 딜레마인 셈입니다. 이를 해결하기 위해 테스트 전용 패드를 따로 만드는 등의 복잡한 설계 변경이 필요합니다.

결국 하이브리드 본딩 시대의 수율은 단순히 칩을 붙이는 후공정 장비의 성능만으로 결정되지 않습니다. 웨이퍼 표면을 나노 단위로 매끄럽게 깎고(CMP), 오염을 막고(세정), 3차원으로 정밀하게 측정하는 전공정 기술의 역량이 후공정의 성패를 좌우하는, 전·후공정의 경계가 허물어지는 현상이 본격화되고 있습니다 counterpointresearch.… · 001nomadsemi.com · 002.

시장은 종종 하이브리드 본딩의 수혜를 BESI와 같은 특정 본더 장비 회사에 집중하지만, 실제 생태계는 훨씬 더 복잡하고 유기적으로 얽혀있습니다 36kr.com · 018. 이 기술 혁신은 특정 장비 하나가 아닌, 여러 분야의 전문 기업들이 협력해야만 완성될 수 있는 거대한 퍼즐과 같습니다.

• BESI (본딩 시장의 절대 강자): 네덜란드의 BESI는 200nm 수준의 초정밀 배치 정확도를 자랑하는 장비로 TSMC, 인텔 등 선두 업체들의 양산 라인을 장악하며 시장의 표준을 만들었습니다 jtheil.com · 014besi.com · 019. AI와 HBM 수요가 폭발하며 2026년 1분기 수주액이 전년 대비 104.5% 급증하는 등 가장 직접적인 수혜를 입고 있습니다 investing.com · 020finnhub.io · 021.

• Applied Materials (AMAT, 전공정의 거인): 하이브리드 본딩 수율의 90%가 표면 상태에 달려있다고 해도 과언이 아닙니다. 세계 최대급 반도체 장비사인 AMAT의 CMP(화학기계연마) 장비와 절연막 증착 기술은 이 분야에서 대체 불가능한 경쟁력을 가집니다 Applied Materials IR · 010. 특히 AMAT는 BESI와 기술 동맹을 맺고, 세정-계측-본딩 등 여러 공정을 하나의 장비 안에서 처리하는 통합 시스템 'Kinex'를 출시해 파티클 오염 문제를 원천 차단하는 혁신을 보여주었습니다 counterpointresearch.… · 001photoncap.net · 006.

• Onto Innovation & Camtek (수율을 지키는 눈): 보이지 않는 표면의 미세한 높낮이 차이나 칩 내부의 결함을 찾아내는 3D 계측 및 검사 장비는 하이브리드 본딩의 숨은 심장입니다. 이들 없이는 수율을 논할 수 없습니다. Onto Innovation과 Camtek은 이 시장을 주도하며 AI 패키징 투자 확대의 핵심 수혜주로 떠올랐습니다 insightaceanalytic.com · 022.

• ASMPT (현실적 대안에서 차세대 주자로): 홍콩의 ASMPT는 기존 열압착 본딩(TCB) 시장의 강자이면서, 차세대 하이브리드 본딩 장비 'LITHOBOLT G2'를 통해 BESI의 가장 강력한 경쟁자로 부상하고 있습니다 asmpt.com · 016semiconductorpackagin… · 024.

이처럼 하이브리드 본딩은 어느 한 회사의 독주가 아닌, 여러 전문 분야의 기술력이 톱니바퀴처럼 맞물려 돌아가야 하는 새로운 협력의 시대를 열고 있습니다.

하이브리드 본딩이 HBM의 미래를 바꿀 궁극적인 기술이라는 점에는 의심의 여지가 없습니다. 하지만 '언제' 우리 눈앞의 제품에 적용될 것인가 하는 질문에는 신중한 접근이 필요합니다.

당초 시장은 16단 HBM4가 나오는 2026년을 하이브리드 본딩이 전면 도입되는 원년으로 기대했습니다. 그러나 10%대에 머무는 낮은 초기 수율과 천문학적인 설비 투자 비용은 메모리 회사들에게 큰 부담으로 작용했습니다 photoncap.net · 006. 때마침 반도체 표준 기구 JEDEC이 HBM4의 패키지 높이 제한을 기존 720µm에서 775µm로 완화해 확정했습니다 nomadsemi.com · 002TrendForce · 007. 다음 세대인 HBM4E부터는 이 기준을 900µm 안팎까지 더 풀어주는 논의도 진행 중입니다 TrendForce · 026.

이 규격 완화는 기존의 마이크로 범프 기술에게 한두 세대 더 생존할 수 있는 '숨 쉴 공간'을 마련해 주었습니다. SK하이닉스가 자사의 개량형 MR-MUF 기술을 HBM4의 주력으로 유지하고, 삼성전자 역시 하이브리드 본딩의 수율 안정화에 총력을 기울이면서도 기존 공정을 병행하는 이유입니다 36kr.com · 005photoncap.net · 006.

개인적으로는 시장이 기대했던 2026년의 '빅뱅'은 일어나기 어렵다고 봅니다. 하이브리드 본딩이 HBM 시장의 주류 기술로 자리 잡는 현실적인 시점은, 20단 이상을 쌓아야 하는 HBM5 세대(2029년경) 또는 기술 성숙도가 더 필요한 HBM4E 세대(2027~2028년)가 될 가능성이 높습니다 (분석 해석). 기술의 방향성은 정해졌지만, 경제성과 양산 안정성이라는 현실의 벽을 넘는 데에는 시간이 더 필요해 보입니다.

따라서 앞으로 이 기술의 향방을 읽기 위해 주목해야 할 포인트는 단순히 BESI 같은 본더 회사의 주가나 수주 소식이 아닙니다. 오히려 더 중요한 신호는 다음과 같습니다.

• 수율 데이터: 삼성전자나 SK하이닉스가 하이브리드 본딩으로 만든 HBM 샘플의 수율이 70~80%를 안정적으로 넘었다는 소식이 들려오는가?
• 생태계 전반의 움직임: AMAT의 CMP 장비나 Onto Innovation의 계측 장비에 대한 대규모 발주가 메모리 회사로부터 나오는가?
• JEDEC의 최종 결정: 차세대 HBM의 높이 규격이 최종적으로 어디까지 완화되는가?

이러한 신호들이 모여야 비로소 하이브리드 본딩이라는 거대한 패러다임 전환이 본격적인 양산 궤도에 올랐다고 판단할 수 있을 것입니다. 기술의 이상과 생산의 현실 사이의 간극이 좁혀지는 과정을 차분히 지켜봐야 할 때입니다.

본 보고서는 정보 제공 목적이며, 특정 종목의 매수·매도를 권유하지 않습니다. 모든 투자 판단과 책임은 투자자 본인에게 있습니다.

데이터: Finnhub / yfinance