Codex 와 Local LLM 연결하기

Local LLM 시리즈

1. (Local LLM) Ollama 시작하기
2. Codex 와 Local LLM 연결하기

---

Codex 와 Local LLM 연결하기

Codex 를 Local LLM 로 서빙하는 API End point 에 연동해 사용하는 방법을 정리 요약한다.

1. codexcli: 0.134 (20260526 설치)
2. client: Ausus A14 / RTX 4060 8GB
3. server: RTX 3080ti

---

설치와 시작

codex 를 설치하고 프로젝트 폴더에서 codex를 실행한다.

프로젝트를 시작하면 .codex/ 폴더의 config.toml 설정 파일에 [projects.] 섹션이 생성된다.

프로젝트 섹션에 codex 를 시작한 폴더가 설정된다.

# .codex/config.toml
personality = "pragmatic"

[projects."/home/user/My_Project"]
trust_level = "trusted"

[tui.model_availability_nux]
"gpt-5.5" = 4

---

모델 Provider 설정

config.toml 의 [model_providers.] 섹션에 LLM endpoint 를 명시적으로 설정할 수 있다.

# .codex/config.toml
personality = "pragmatic"

[projects."/home/user/My_Project"]
trust_level = "trusted"

[model_providers.goyangi]
name = "openai"                      # openai chat
base_url = "http://192.168.0.3:8001" # llama-server
wire_api = "responses"
requires_openai_auth = false

[model_providers.local_llm]
name = "openai"
base_url = "http://localhost:11434/v1"   # openai endpoint /v1 지정 필요
wire_api = "responses"
requires_openai_auth = false


[tui.model_availability_nux]
"gpt-5.5" = 4

• wire_api = "responses" : 최신 버전의 codex 는 response 로 지정해야 한다고 한다.

모델에 대한 provider 설정을 알아보자.

---

프로파일 설정

config.toml 의 model_providers 의 선언한 provider 이름은 별도의 동일한 파일로 설정한다.

해당 provider 의 동일 이름의 .codex/PROFILENAME.tomy 파일을 참조하게 된다.

이곳에 LLM endpoiint 의 세부 모델에 대한 파라미터를 선언한다.

예를 들의 위의 goyangi_coder 는 다음 같이 구성된다.

#.codex/goyangi_coder.config.toml
model_provider = "goyangi"
model = "gpt-5"
approvals_reviewer = "user"
# 필요 시 추가 옵션
# max_tokens = 2048
# context_length = 8192

다른 프로바이더 local_llm 프로파일은 다음 같이 구성된다.

#.codex/local_llm.config.toml
model_provider = "local_llm"
model = "gemma-4"                  # 서비스가 제공하는 정확안 모델 이름
approvals_reviewer = "user"
# 필요 시 추가 옵션
# max_tokens = 2048
# context_length = 8192

시작

프로파일을 사용해서 codex 를 시작할 수 있다.

codex --profile local_llm

---

테스트

curl http://192.168.0.3:8001/v1/models

반환된 JSON 결과의 id 값이 "gemma-4"가 아니라 파일명 전체(예: "gemma-4-it-Q4_K_M.gguf")로 되어 있다면, 그 값을 그대로 model 필드에 적어주어야 매칭 실패 에러가 나지 않습니다.

---

한국어

Linux에서 Codex 한글 설정
Linux는 시스템 로케일이 UTF-8이면 추가 설정 없이 정상 작동합니다. locale 명령으로 확인하세요.

locale

LANG=ko_KR.UTF-8 또는 en_US.UTF-8이면 정상

만약 UTF-8이 아니라면:

sudo locale-gen ko_KR.UTF-8

sudo update-locale LANG=ko_KR.UTF-8