엔비디아 주가가 1년 만에 두 배 가까이 뛰었던 2024년, AI 칩 커뮤니티에서 가장 많이 나온 말이 있어요.
"엔비디아 말고 대안이 없나?"
실제로 반도체 관련 포럼이나 데이터센터 엔지니어 커뮤니티를 보면 같은 질문이 반복됩니다. GPU 하나 쓰려면 대기 줄이 길고, 가격은 천정부지인데 경쟁사는 왜 이렇게 안 치고 들어오냐는 거예요. 근데 2025~2026년을 지나오면서 판이 조금씩 달라지고 있어요. AI 칩 반도체 시장에 무슨 일이 벌어지는지, 지금부터 살펴볼게요.
AI 칩 시장 규모, 엔비디아 독주 체제는 얼마나 갈까요
2024년 기준 글로벌 AI 칩 시장 규모는 약 529억 달러(약 75조 원)였어요. 2030년에는 2,955억 달러(약 420조 원) 수준이 될 거라는 전망이 나옵니다. 연평균 성장률이 33%라는 얘기예요. (출처: NextMSC)
그 중심에 엔비디아가 있어요. 2025년 말 기준으로 AI 가속기 시장의 약 86~92%를 엔비디아가 차지하고 있거든요. 데이터센터 매출만 해도 FY2025 기준 1,152억 달러였고, 전년 대비 142%나 성장했습니다. 골드만삭스는 2026년 한 해만 해도 엔비디아 GPU 판매가 전년 대비 78% 증가한 3,830억 달러를 기록할 거라고 추산했어요. (출처: Silicon Analysts, 블로터)
그런데 여기서 중요한 게 있어요. 절대적인 매출은 계속 늘어날 거지만, 점유율은 조금씩 깎인다는 점이에요. 2026년에는 75% 수준으로 떨어질 수 있다는 분석이 나옵니다. 왜냐면 빅테크들이 본격적으로 자체 칩을 쓰기 시작했거든요.
AMD는 AI GPU 시장의 5~7%를 가져가며 2025년 70~80억 달러 규모의 매출을 올렸어요. 작아 보여도 AMD는 실질적인 2위예요. 그런데 더 무서운 경쟁자는 AMD가 아니라 구글, AWS, 메타 같은 하이퍼스케일러들이라는 게 전문가들의 공통된 시각이에요.
GPU vs ASIC, 엔비디아 Blackwell과 AMD MI350의 스펙 전쟁
엔비디아의 현재 최신 플래그십은 Blackwell 아키텍처의 B200이에요. 2025년 출시된 이 칩의 스펙이 꽤 충격적인 수준입니다.
| 제품 | 메모리 | 대역폭 | 학습 성능 향상 | 추론 성능 향상 |
|---|---|---|---|---|
| H100 (2022) | HBM3 80GB | 3.35 TB/s | 기준 | 기준 |
| H200 (2024) | HBM3e 141GB | 4.8 TB/s | 약 1.5x | 약 1.5x |
| B200 (2025) | HBM3e 192GB | 8 TB/s | 약 2.5x | 최대 15x |
B200은 TSMC 4NP 공정에 듀얼다이 설계를 채택했어요. LLM 추론 처리량 기준으로 H100 대비 11~15배 빠르다는 검증된 데이터도 있습니다. 가격은 GPU당 약 4만 달러 수준이고, TDP는 1,000W로 H100(700W)보다 43% 높아요. 2026년에는 Rubin 아키텍처를 준비 중이기도 합니다. (출처: Runpod, Civo)
반면 AMD의 MI350X는 2025년 6월 출시됐는데, 메모리가 288GB HBM3e예요. B200의 192GB보다 많죠. 가격은 엔비디아 대비 15~25% 저렴한 수준(ASP 약 3만 달러)이고요. 2026년 하반기에는 TSMC 2nm 공정을 적용한 MI400 시리즈도 예정되어 있어요. GPU 최초 2nm 공정입니다. OpenAI와 대규모 구매 계약(6GW 딜)도 체결했다고 알려졌습니다. (출처: Silicon Analysts, Tech-Insider)
솔직히 스펙만 놓고 보면 AMD도 충분히 경쟁력이 있어요. 문제는 CUDA 생태계예요. 학습 쪽에서 엔비디아의 CUDA 생태계는 10년 넘게 쌓인 거라, 개발자들이 "그냥 엔비디아 쓰겠다"는 관성이 아직 강합니다.
구글 TPU, 아마존 Trainium, 메타 MTIA, 각자의 전략
빅테크 자체 칩의 시대가 진짜로 오고 있어요.
구글 TPU Ironwood(v7)는 2025년 4월 Cloud Next에서 공개됐어요. 칩당 FP8 성능이 4,614 TFLOPS고, 메모리는 HBM3E 192GB에 7.37 TB/s 대역폭이에요. 9,216개 칩을 묶은 풀 Ironwood 파드는 무려 42.5 엑사플롭스의 AI 성능을 냅니다. 구글은 8세대에서 훈련·추론 칩을 분리할 계획도 밝혔고, TSMC 2nm 공정도 예고했어요. (출처: Tom's Hardware, The Next Web)
아마존 Trainium3는 2025년 12월 re:Invent에서 정식 출시됐는데, AWS 최초 3nm 공정이에요. 칩당 FP8 2.517 페타플롭스, HBM3E 144GB 메모리에 4.9 TB/s 대역폭이고요. Trn3 UltraServer는 144개 칩을 묶어서 362 페타플롭스를 냅니다. 전세대 대비 4.4배 향상된 수치예요. (출처: CNBC, Oplexa)
메타 MTIA는 좀 더 공격적인 로드맵을 발표했어요. 2025년 3월에 MTIA 100~500 시리즈(2027년까지 전개)를 공개했는데, MTIA 400 기준으로 FP8 6 페타플롭스에 HBM 288GB, 대역폭 9.2 Tbps 스펙이에요. 흥미로운 건 메타가 엔비디아에서 벗어나려고 자체 칩을 만들면서도, 동시에 구글 TPU를 수십억 달러 규모로 도입하는 방안까지 검토하고 있다는 점이에요. (출처: Tom's Hardware, CIO Korea)
마이크로소프트 Maia 100은 TSMC 5nm에 1,050억 트랜지스터, HBM2E 64GB 스펙이에요. 차이점은 외부 판매를 하지 않는다는 거예요. Azure OpenAI와 Copilot 내부 워크로드에만 씁니다. 사실 MS 입장에서는 오픈AI와의 관계가 깊기도 하고, 엔비디아와의 관계도 유지해야 하는 상황이라 전략적으로 조심스러운 위치예요.
커뮤니티에서 이 대목을 두고 재미있는 시각이 있어요. "빅테크들이 엔비디아를 대체하려는 게 아니라, 협상력을 높이려는 것"이라는 해석이에요. 자체 칩이 있으면 "우리 이걸 쓸 수도 있어"라고 협상 카드를 쓸 수 있거든요.
엔비디아가 안 흔들리는 진짜 이유
이쯤에서 의문이 생길 수 있어요. 구글도 자체 칩 있고, 아마존도 있고, 메타도 있는데 왜 엔비디아는 여전히 90% 가까운 점유율일까요?
답은 두 가지예요. CUDA 생태계와 공급망입니다.
AI 모델 개발자들이 CUDA로 짠 코드를 AMD나 구글 TPU로 옮기려면 상당한 공수가 들어요. 빅테크들은 내부적으로 엔지니어링 리소스가 충분하니까 가능하지만, 중소 스타트업이나 연구자들은 그럴 여유가 없어요. 엔비디아의 생태계가 10년 동안 쌓인 게 단순한 스펙 숫자로는 못 뛰어넘는 거예요.
공급망 측면에서는 엔비디아 칩을 만드는 데 TSMC의 첨단 패키징 공정 'CoWoS(Chip on Wafer on Substrate)'가 필수인데, 엔비디아가 이 공정 물량의 상당 부분을 선점하고 있어요. 경쟁자들이 비슷한 공정을 확보하는 데도 시간이 걸립니다. (출처: 삼성SDS 인사이트)
그리고 추론(Inference) 쪽에서 ASIC 칩들이 치고 올라오고 있긴 한데, 2025년 기준으로 ASIC이 전체 추론 배포의 약 37%를 가져간다는 분석이 있어요. 2028년에는 45%까지 올라갈 수 있다고 하고요. 훈련(Training)은 아직 GPU가 장악하고 있지만, 추론 시장에서의 잠식은 시작됐습니다.
결국 엔비디아 입장에서 진짜 위협은 "AMD가 더 좋은 GPU를 만드는 것"이 아니라, "빅테크들이 추론 워크로드를 자체 ASIC으로 돌리는 것"인 거예요.
이 구조가 어디로 향할지, 2026년이 하나의 분기점이 될 것 같습니다.
참고: CNBC (2025.11), Tom's Hardware (2026.05), Silicon Analysts (2026), NextMSC, 블로터 (2025), 삼성SDS 인사이트