[Local LLM 구축하기 23] OpenClaw의 Ollama 주소와 도구 호출 점검

Local LLM 구축하기 · 23/30 · 에이전트와 연결

전체 연재와 학습 순서 · 실습 코드 ZIP

채팅은 되는데 도구 호출이 안 된다면 제공자 설정과 API 경로부터 확인해 보세요. 현재 OpenClaw의 Ollama 제공자는 네이티브 API를 사용합니다. Hermes에서 썼던 주소를 그대로 복사하면 경로가 맞지 않을 수 있습니다.

22편의 설치를 마친 상태에서 도구 지원 모델을 준비합니다. 모델과 문맥 캐시를 적재할 메모리도 확인합니다.

Ollama 네이티브 API 주소

baseUrl은 http://127.0.0.1:11434, api 유형은 ollama로 지정합니다. /v1은 붙이지 않습니다. Hermes의 Custom endpoint와 다른 부분이에요. 도구 호출 JSON이 일반 답변처럼 출력되면 이 두 값을 먼저 살펴봅니다.

Invoke-RestMethod http://127.0.0.1:11434/api/tags
openclaw onboard --classic

Ollama → Local only를 선택해 Windows의 로컬 주소를 지정합니다. 목록에 모델이 없으면 정확한 태그로 직접 고르는 안내를 따릅니다. 자동 발견은 디스크의 파일뿐 아니라 메모리 적재 상태와 도구·문맥 지원 조건도 확인할 수 있어, 다운로드만 했다고 항상 보이는 것은 아닙니다.

실행 문맥과 메모리

Ollama 통합 문서는 OpenClaw에 최소 64K 문맥을 권장합니다. 모델 가중치와 함께 KV 캐시를 담을 메모리가 필요합니다. 아래 16K 설정은 작은 요청의 연결 확인용입니다. 긴 에이전트 작업의 권장 사양으로 사용하지 않습니다.

FROM qwen3:4b-instruct
PARAMETER num_ctx 16384
PARAMETER temperature 0.2

ollama create lab-qwen-16k -f .\Modelfile.agent
ollama run lab-qwen-16k "연결 확인이라고만 답해 줘."
ollama ps

온보딩에서 이 모델을 선택하고 짧은 조회부터 실행합니다. 시스템 지시와 도구 정의만으로 문맥이 찬다면 작업을 줄이거나 더 큰 문맥을 실행할 자원을 마련해야 합니다. 설정에 지원하지 않는 최대값을 적어 넣어도 모델의 한도가 늘어나지는 않습니다.

모델 발견과 도구 호출

openclaw models list --provider ollama
openclaw gateway status
openclaw dashboard

메모 요약이 되면 민감하지 않은 폴더에서 읽기 전용 도구 하나를 시험합니다. 대시보드 기록에 요청과 결과가 남았는지 직접 확인하세요. “파일을 읽었다”는 모델의 설명만으로 실제 실행을 판단하지 않습니다.

권한은 현재 버전의 도구 승인·sandbox 설정에서 제한합니다. 단순히 프롬프트로 “읽기만 해라”라고 적는 것으로 실제 쓰기 권한이 사라지지 않습니다. 명령 실행이나 외부 발송은 실행 내용을 검토할 수 있게 설정합니다.

웹 검색·fallback 연결 확인

Ollama의 launch openclaw 경로에서 웹 검색이 자동 설정될 수 있습니다. 이 실습에서는 웹 검색과 외부 채널을 사용하지 않습니다. fallback 제공자와 보조 임베딩 주소도 함께 확인해 로컬 추론 외에 어떤 기능이 연결되는지 살펴봅니다.

openclaw configure --section web
openclaw gateway stop

클라우드 기능을 사용하지 않는 구성이라면 29편의 OLLAMA_NO_CLOUD 설정도 검토합니다. 다만 다른 앱의 외부 통신까지 막는 설정은 아닙니다. 변경 후에는 로컬 답변과 도구 호출이 여전히 동작하는지 다시 확인합니다.

참고 자료

• OpenClaw Ollama 제공자
• 제공자 온보딩·발견 조건
• Ollama 제공자 설정
• Ollama OpenClaw 통합

문서·모델 태그 확인 기준: 2026년 10월 18일. 기본 실습 환경: Windows 11 x64.

---