Local LLM 구축하기 · 29/30 · 심화와 운영
모델을 PC에서 실행한 뒤에도 확인할 곳은 남아 있습니다. API가 듣는 주소, 로그에 쌓이는 원문, 외부 도구와 파일 권한을 살펴봐야 해요. 지금까지 만든 구성에서 데이터가 이동하는 경계를 정리해 보겠습니다.
실행 중인 개인 실습 구성을 사용합니다. 네트워크 주소와 데이터 위치, 도구가 접근할 범위를 적어 가며 점검합니다.
수신 주소와 API 접근
Get-NetTCPConnection -State Listen | Where-Object {$_.LocalPort -in 11434,1234,18789,3000} | Select-Object LocalAddress,LocalPort,OwningProcess127.0.0.1은 해당 환경의 루프백이고 0.0.0.0은 모든 IPv4 인터페이스에서 수신한다는 뜻입니다. Windows·WSL·컨테이너의 경계를 나눠 보고 Docker 게시 포트도 확인합니다. 로컬 기본 Ollama를 사용자 인증이 갖춰진 공유 서비스처럼 취급하지 않습니다.
여러 사람이 사용할 때에는 인증된 프록시와 접근 제어, 요청 크기·동시성 제한, TLS 등을 설계해야 합니다. 공유기의 포트 전달만 설정해 원시 추론 API를 인터넷에 공개하는 절차는 이 개인 실습에 포함하지 않습니다.
OLLAMA_NO_CLOUD의 적용 범위
Ollama의 클라우드 모델·웹 검색 기능은 현재 FAQ의 OLLAMA_NO_CLOUD 설정으로 제어할 수 있습니다. 아래는 Windows 사용자 환경변수 예입니다. 적용 후 앱을 완전히 종료했다가 다시 시작합니다.
[Environment]::SetEnvironmentVariable("OLLAMA_NO_CLOUD", "1", "User")이 설정으로 다른 앱의 외부 연결까지 막히지는 않습니다. OpenRouter 스크립트와 Hermes의 다른 제공자, 메신저·브라우저 도구는 별도로 확인해야 해요. 정책으로 외부 전송을 금지하는 환경에서는 OS 네트워크 정책과 연결 기록도 점검합니다.
원문·인덱스·백업 위치
| 자산 | 점검할 것 |
|---|---|
| 원문·인덱스 | 사용자별 읽기 권한, 삭제 후 재인덱싱 |
| 대화·기억 | 저장 경로, 보관 기간, 지우는 방법 |
| 로그 | 원문·키 포함 여부, 접근 권한 |
| API 키 | 전용 키·한도·폐기 절차 |
| 모델·확장 패키지 | 공식 출처, 라이선스, 버전 기록 |
임베딩을 원문의 익명화 결과로 취급하지 않습니다. 예제의 index.json에는 원문 조각도 들어 있습니다. 백업 역시 원본과 같은 기준으로 보호해야 합니다. 모델과 플러그인을 받을 때에도 실행 파일과 외부 코드의 출처를 확인합니다.
도구 권한과 중단 방법
문서 속 지시를 따르지 말라는 프롬프트와 실제 실행 권한을 구분합니다. 도구 허용 목록, 인수 검사, 파일 권한과 격리, 승인 단계로 제한을 둡니다. 읽기와 외부 발송 권한을 분리하고 필요하지 않은 도구나 메신저는 연결하지 않습니다.
문제가 생겼을 때 멈출 방법도 적어 둡니다. Gateway 중지, 키 폐기, 설정 백업과 마지막 정상 버전을 확인해 두세요. 모델이나 도구, 확장을 교체하면 해당 점검도 다시 진행합니다.
참고 자료
문서·모델 태그 확인 기준: 2026년 10월 18일. 기본 실습 환경: Windows 11 x64.
답글 남기기