Local LLM 구축하기 · 10/30 · 개발 환경
WSL2를 설치하면 Windows PC에서 Linux 도구를 사용할 수 있습니다. 터미널을 오가다 보면 같은 파일이나 localhost를 보고 있다고 생각하기 쉬워요. 파일이 어디에 저장되고 서버가 어느 환경에서 실행되는지부터 나눠 보겠습니다.
WSL 설치 단계에는 Windows 관리자 권한을 사용합니다. 평소 실습은 필요한 권한만 사용하고, 실행 중인 작업은 재시작 전에 저장해 둡니다.
WSL2와 Ubuntu 설치
wsl --install -d Ubuntu
# 재시작이 필요하다는 안내가 나오면 재부팅 후 Ubuntu 초기 설정
wsl --status
wsl --list --verbose
Ubuntu를 처음 열면 Linux 사용자 이름과 비밀번호를 만듭니다. WSL 목록에서는 VERSION이 2인지 확인합니다. 설치가 막히면 BIOS 가상화 설정과 지원되는 Windows 상태를 Microsoft 문서에 따라 점검합니다. 보안 기능을 한꺼번에 끄는 방식으로 우회하지 않습니다.
Windows·Linux의 파일 위치
pwd
uname -a
which python3
which node
ls /mnt/c/Users
다음 명령은 Ubuntu 터미널에서 실행합니다. Windows의 C 드라이브는 보통 /mnt/c로 보이고, Linux 홈은 별도 파일 시스템에 있어요. Linux 패키지를 많이 다루는 프로젝트라면 ~/projects처럼 Linux 쪽 경로에 두는 편이 효율적입니다. .venv도 Windows용과 Linux용을 따로 만듭니다.
연재의 기본 Ollama는 Windows에서 계속 실행합니다. WSL에도 설치하면 서버와 모델 저장소가 하나씩 더 생겨요. 지금은 서버를 늘리기보다 Windows 쪽 서버에 어디서 접속하는지 확인하는 데 집중합니다.
NAT·mirrored와 localhost
기본 NAT 모드에서 WSL의 127.0.0.1을 Windows의 같은 주소와 동일하게 취급하면 안 됩니다. Microsoft가 지원하는 mirrored 모드에서는 localhost로 상호 접근할 수 있지만, Windows 버전과 설정 조건을 확인해야 합니다. 연결이 안 된다는 이유로 Ollama를 바로 0.0.0.0에 공개하지 않습니다.
curl --max-time 5 http://127.0.0.1:11434/api/version
ip route
앞의 실습은 Windows PowerShell에서 그대로 이어 가도 됩니다. WSL에서 Windows의 Ollama를 호출해야 할 때 mirrored 지원 여부와 적용 방법을 검토합니다. wsl –shutdown은 실행 중인 모든 WSL 작업을 멈추므로 저장을 마친 뒤 사용합니다.
WSL의 GPU 드라이버
WSL에서 NVIDIA CUDA를 사용할 때에는 Windows 호스트의 WSL 지원 드라이버를 기준으로 준비합니다. 일반 Linux 서버의 디스플레이 드라이버를 WSL에 다시 설치하는 절차로 혼동하지 않도록 주의합니다. Docker Desktop의 GPU 전달도 WSL2 백엔드와 GPU 지원 조건을 별도로 확인합니다.
WSL을 종료하면 그 안의 서비스도 영향을 받습니다. Windows의 앱이 켜져 있는지와 Linux 서버가 실행 중인지는 각각 확인해야 해요. 우선 어느 터미널에서 어떤 서버를 실행했는지 적어 두세요. 운영 단계에서는 그 기록에 시작 방법과 데이터 위치를 더하면 됩니다.
참고 자료
문서·모델 태그 확인 기준: 2026년 10월 18일. 기본 실습 환경: Windows 11 x64.




답글 남기기