Local LLM 구축하기 — MaruOps 30편 실습 파일
문서 확인 기준: 2026-10-18 / 기본 환경: Windows 11 x64

중요: 파일 전체를 한 번에 실행하지 마세요. 글의 순서와 전제조건을 따릅니다.
이 ZIP에는 모델 가중치, 키, 실제 업무 문서, Windows 설치 프로그램이 없습니다.
공식 문서 확인 및 예제 문법·모의 HTTP 흐름 검사와 실제 장비의 모델 품질 검증은 다릅니다.
Windows GUI 설치, GPU 추론, CUDA 학습은 독자 환경에서 검증해야 합니다.

8편: Python 3.12 venv를 프로젝트 폴더에 만들기
13편: llm_http.py — 기본 Windows Ollama http://127.0.0.1:11434
14편: prompt_demo.py / 15편: structured_demo.py
16편: ollama pull embeddinggemma:300m -> semantic_search.py --build
      docs/*.txt는 UTF-8 가상 자료. PDF 입력 미지원.
17편: rag_answer.py / 18편: evaluation-template.csv (빈 기록 양식)
21편: tool_loop.py (별도로 qwen3:8b 필요, 가상 재고만 조회)
23편: Modelfile.agent (16K 연결 확인용, 장기 에이전트 권장 설정 아님)
24편: openrouter_demo.py (외부 전송·유료 호출 가능, 독자 계정과 키 필요)
25편: hybrid_chat.py (기본 로컬, --cloud --public일 때만 외부)
26편: benchmark.py (직접 측정용, 측정 결과를 포함하지 않음)
28편: training/ — CUDA Linux의 별도 환경에서만 선택 실행
      데이터 3개·5스텝은 연결 확인용이며 실무 품질 개선 목적이 아님
30편: backup-lab.ps1 / runbook.txt

12편 webui/compose.yaml은 독립 구성입니다.
Windows Ollama와 모델을 공유하지 않으며 기본 CPU 추론입니다.
webui 폴더에서 docker compose up -d 후 컨테이너 안에 모델을 받습니다.
첫 관리자 계정 생성 후 관리자 설정에서 추가 회원가입을 제한합니다.
docker compose down -v는 계정·대화·모델 볼륨을 삭제할 수 있으므로 사용에 유의합니다.

코드에는 외부 의존성 자동 설치, 키 자동 발급, 운영 서버 변경이 포함되지 않습니다.
학습용 코드이며 공유 서비스로 확장하려면 사용자 인증·접근 제어·동시성 제한을 추가해야 합니다.
