🔷 13. 트러블슈팅: Ollama Streaming

Ollama 사용 시 JSON Parse error: Unexpected EOF가 나는 문제를 원인-해결 순서로 다룹니다.

빠르게 실행 (복붙)

{"provider":"ollama","model":"qwen3-coder","stream":false}
curl -s http://localhost:11434/api/chat -d ...

flowchart TD
A[stream=true] --> B[NDJSON]
B --> C[JSON 파싱 실패]
C --> D[Unexpected EOF]
D --> E[stream=false]

단계별 적용

1) 증상 확인

• 설명: tool call 시 Unexpected EOF가 발생하면 이 케이스를 의심합니다.
• 실행 예시: {"provider":"ollama","model":"qwen3-coder","stream":false}

2) 원인 파악

• 설명: Ollama는 stream=true에서 NDJSON을 반환하고, SDK는 단일 JSON 기대로 파싱 실패합니다.
• 실행 예시: curl -s http://localhost:11434/api/chat -d ...

3) 즉시 해결

• 설명: provider 설정에 stream:false를 적용합니다.
• 실행 예시: curl -s http://localhost:11434/api/chat -d ...

4) 검증

• 설명: curl 테스트로 tool call 응답을 확인합니다.
• 실행 예시: curl -s http://localhost:11434/api/chat -d ...

5) 장기 대응

• 설명: SDK 이슈 트래커를 구독하고 버전 업데이트를 확인합니다.
• 실행 예시: curl -s http://localhost:11434/api/chat -d ...

부록) 원문 코드 스니펫 (검수용, 초보자는 건너뛰기)

{"message":{"tool_calls":[{"function":{"name":"read","arguments":{"filePath":"README.md"}}}]}, "done":false}
{"message":{"content":""}, "done":true}

{
  "provider": "ollama",
  "model": "qwen3-coder",
  "stream": false
}

# Test with curl (should work with stream: false)
curl -s http://localhost:11434/api/chat \
  -d '{
    "model": "qwen3-coder",
    "messages": [{"role": "user", "content": "Read file README.md"}],
    "stream": false,
    "tools": [{"type": "function", "function": {"name": "read", "description": "Read a file", "parameters": {"type": "object", "properties": {"filePath": {"type": "string"}}, "required": ["filePath"]}}}]
  }'

마무리 체크

• 위 “빠르게 실행” 명령을 최소 1개 실행했다.
• 실패 시 “원문 실행 코드 확장”의 관련 코드를 사용해 재검증했다.
• 원본 항목 대조 인덱스에서 빠진 기능이 없는지 확인했다.

---

출처

• 원문(로컬): oh-my-opencode/docs/troubleshooting/ollama-streaming-issue.md
• 원문(GitHub): https://github.com/code-yeongyu/oh-my-opencode/blob/dev/docs/troubleshooting/ollama-streaming-issue.md