GPU
-
![[Local LLM 구축하기 04] GPU·CPU와 VRAM, PC 사양 읽는 법](https://blog.maruops.com/wp-content/uploads/2026/10/maruops-photo-045-768x512.jpg)
[Local LLM 구축하기 04] GPU·CPU와 VRAM, PC 사양 읽는 법
로컬 LLM용 PC 사양을 볼 때는 모델이 메모리에 들어가는지부터 확인합니다. GPU가 빨라도 VRAM이 모자라면 일부 가중치를 시스템 RAM으로 옮겨야 해요. 그때 생기는 병목은 게임 성능표만으로 판단하기 어렵습니다.
-
NVIDIA GPU 비교: 워크스테이션·서버 사양, vGPU·MIG와 가격
GPU(그래픽 처리 장치)를 비교할 때는 전용 메모리(VRAM)의 용량 다음으로 대역폭과 설치 조건을 살펴봅니다. 같은 80GB여도 A100 PCIe와 H100 SXM의 대역폭은 달라요. RTX PRO 6000도 워크스테이션용인지 서버용인지에 따라 전력과 냉각 조건을 따로 확인해야…