GPT-6.1 Terra로 마이그레이션하기: temperature 400 오류 해결, 도구를 Responses로 이전하고 Codex 설정하기

AIHubMix13분 분량
GPT-6.1 Terra로 마이그레이션하기: temperature 400 오류 해결, 도구를 Responses로 이전하고 Codex 설정하기

GPT-6.1 Terra로 전환하는 방법은 한 줄만 바꾸면 됩니다. 모델을 gpt-6.1-terra로 설정하세요. 그다음 동작은 요청을 어떤 API 경로로 보내는지에 따라 달라집니다. Responses API에서 Terra는 OpenAI의 규칙을 따릅니다. 추론 강도는 작동하지만 temperature나 top_p를 보내면 HTTP 400 오류가 반환됩니다. AIHubMix의 Chat Completions 경로에서는 동일한 temperature 설정이 문제없이 허용되며, 2026년 10월 27일 AIHubMix가 확인한 결과 작은 프롬프트에서는 reasoning_effort가 측정 가능한 차이를 만들지 않았습니다.

따라서 대부분의 팀에 드리는 간단한 답은 다음과 같습니다. Terra 트래픽을 Responses API로 옮기고, 샘플링 매개변수를 제거하며, 각 워크로드가 하나의 경로만 사용하도록 하세요. 아래에서는 발생하는 오류와 오류 없이 나타나는 문제, 놓치기 쉬운 요금 규칙, 에이전트 권한, Codex 및 Claude Code 설정을 살펴봅니다. Terra는 AIHubMix의 GPT-6.1 Terra 모델 페이지에서 OpenAI 정가로 제공됩니다. 입력 토큰 100만 개당 $1, 캐시 입력은 $0.05, 30분 캐시 쓰기는 $1.25, 출력은 $5입니다. AIHubMix 자체 페이지에도 입력, 출력 및 캐시 읽기 요금은 동일하게 표시되어 있지만 캐시 쓰기 요금은 없습니다.

규칙은 OpenAI의 GPT-6 마이그레이션 가이드와 Terra의 모델 페이지를 따릅니다. 오류 문구와 게이트웨이 동작은 2026년 10월 27일 AIHubMix가 기본 ID gpt-6.1-terra에 작은 프롬프트를 보내 확인한 결과입니다. AIHubMix의 모델 가이드에 따르면 대부분의 400 오류는 상위 제공업체에서 그대로 전달되며, 오류 메시지에는 AIHubMix의 추적 ID인 tid가 포함됩니다.

어떤 경로를 사용 중인가요?

해당 확인에서 AIHubMix는 Terra를 세 가지 프로토콜로 제공했습니다. 각 프로토콜의 동작은 서로 다릅니다.

경로 추론 강도 제어 temperature 도구 호출
Responses 작동 추론 강도가 none이 아니면 400 오류 OpenAI 문서에 명시됨
Chat Completions 눈에 띄는 효과 없음 허용됨 문서에 명시되지 않음
Anthropic Messages 눈에 띄는 효과 없음 테스트하지 않음 tool_use 반환

“눈에 띄는 효과 없음”과 “허용됨”은 10월 27일 작은 프롬프트를 사용해 AIHubMix가 측정한 결과를 나타냅니다. Chat Completions에서는 도구 호출이 반환되었지만, OpenAI 문서상 Terra의 도구 호출은 Responses에서만 지원됩니다.

새로 시작한다면 Responses를 사용하세요. 현재 Chat Completions 통합이 잘 작동하더라도 이를 신뢰하기 전에 조용히 발생하는 실패를 확인하세요.

명확하게 드러나는 실패

이 오류가 발생하면 HTTP 400이 반환되고 요청이 중단됩니다.

“지원되지 않는 매개변수: 이 모델에서는 ‘temperature’를 지원하지 않습니다.”

확인되는 현상. temperature를 설정하고 기본 추론 강도인 medium을 사용하는 Responses API 호출은 다음을 반환합니다.

Unsupported parameter: 'temperature' is not supported with this model.

top_p를 전송해도 같은 오류가 발생하며, 이때는 top_p 대신 temperature가 표시됩니다. 추론 강도의 기본값은 medium이므로, 추론 강도를 전혀 설정하지 않은 요청도 이 오류가 발생합니다.

이유. OpenAI 마이그레이션 가이드에 따르면 추론 강도가 none이 아닐 때는 temperature, top_p, top_logprobs를 제거해야 합니다. Responses에서는 include에서 message.output_text.logprobs도 제거해야 합니다.

재현 방법. AIHubMix Responses API를 통해 실행하는 다음 curl 호출은 10월 27일 AIHubMix가 보낸 것과 동일한 본문을 전송합니다.

curl https://aihubmix.com/v1/responses \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-terra",
    "input": "Reply with the single word: ready.",
    "temperature": 0.2
  }'

HTTP 400 오류가 반환되었습니다.

{"error":{"message":"Unsupported parameter: 'temperature' is not supported with this model. (tid: …)","type":"Aihubmix_api_error"},"type":"error"}

해결 방법. 잊기 쉬운 요약기와 분류기의 호출을 포함해 모든 호출 경로에서 temperature와 top_p를 삭제하세요. 샘플링을 제어해야 한다면 추론 강도를 none으로 설정하세요. Terra는 이 설정을 지원하며, AIHubMix 확인에서 추론 강도를 none으로 하고 "temperature": 0.2를 지정한 요청은 200을 반환했습니다. OpenAI 개발자 포럼 게시물에서도 같은 규칙을 확인할 수 있으며, none 단계가 없는 GPT-6.1 Sol에서는 해당 설정이 차단되었다고 설명합니다.

{
  "model": "gpt-6.1-terra",
  "input": "Reply with the single word: ready.",
  "reasoning": {"effort": "none"},
  "temperature": 0.2
}

“지원되지 않는 매개변수: 이 모델에서는 ‘logprobs’를 지원하지 않습니다.”

확인되는 현상. logprobs: true와 reasoning_effort: "high"를 지정한 Chat Completions 호출은 다음을 반환했습니다.

Unsupported parameter: 'logprobs' is not supported with this model.

이유. OpenAI의 동일한 규칙이 적용됩니다. Chat Completions의 경우 가이드에는 추론 강도가 none이 아닐 때 제거해야 하는 매개변수 목록에 logprobs도 포함되어 있습니다.

해결 방법. logprobs와 top_logprobs를 제거하세요. 파이프라인의 신뢰도 점수가 이 매개변수에 의존한다면 전환 전에 대체 방법을 마련하세요. AIHubMix는 Chat Completions에서 추론 강도를 none으로 설정한 logprobs는 테스트하지 않았습니다.

“지원되지 않는 값: ‘minimal’은 지원되지 않습니다…”

확인되는 현상. 이전 OpenAI 모델용으로 작성된 코드에서 추론 강도를 minimal로 지정하면 다음 오류가 발생합니다.

Unsupported value: 'minimal' is not supported with the 'gpt-6.1-terra' model. Supported values are: 'none', 'low', 'medium', 'high', 'xhigh', and 'max'.

이유. Terra의 추론 강도 단계는 none, low, medium, high, xhigh, max입니다. minimal 단계는 없습니다.

해결 방법. OpenAI 가이드에서는 low부터 시작해 대표 작업에서 결과를 비교하라고 권장합니다. 기존 설정이 추론을 끄기 위한 것이었다면 none이 더 적합합니다.

조용히 발생하는 실패

이 경우 HTTP 200이 반환되므로 로그에 아무런 이상도 표시되지 않습니다. 나중에 설정과 맞지 않는 답변, 놓친 캐시 적중, 또는 질문을 되묻느라 멈춰 버리는 에이전트로 문제를 알게 됩니다.

Chat Completions는 temperature를 허용하지만 추론 강도는 무시하는 것으로 보임

AIHubMix의 Chat Completions 경로에서는 temperature: 0.2를 추론 강도를 지정하지 않은 경우, 추론 강도를 none으로 지정한 경우, high로 지정한 경우 모두 보내도 HTTP 200이 반환되었습니다. top_p: 0.5도 HTTP 200을 반환했습니다. 이로 인해 부작용이 생깁니다. 테스트 스위트가 Chat Completions에서 실행되면 같은 코드가 Responses로 옮긴 뒤 400 오류를 일으켜도 잡아내지 못합니다.

더 큰 문제는 추론 강도입니다. 10월 27일 AIHubMix가 확인한 결과, Chat Completions에서 reasoning_effort는 측정 가능한 차이를 만들지 않았습니다.

프롬프트 경로 추론 강도 none 추론 강도 max
소수 합계 목록 Chat Completions 181 및 258 293 및 234
소수 합계 목록 Responses 0 1,078
배트와 공 문제 Chat Completions 24 25

수치는 요청당 추론 토큰 수입니다. Chat Completions에서는 소수 합계 프롬프트에 각 설정을 두 번씩 실행했습니다.

짧은 배트와 공 프롬프트에서는 none, low, high, max와 추론 강도를 설정하지 않은 경우 모두 추론 토큰이 24~27개였습니다. reasoning: {effort: "none"}을 객체로 보내자 소수 합계 프롬프트에서 추론 토큰이 327개로 나왔습니다. Responses에서는 동일한 소수 합계 프롬프트를 사용했을 때 none 설정의 추론 토큰은 0개, 출력 토큰은 72개였고, max 설정의 추론 토큰은 1,078개, 출력 토큰은 1,153개였습니다.

AIHubMix는 이 결과를 바탕으로 현재 Chat Completions 경로가 Terra를 고정된 추론 강도로 실행해 설정이 모델에 전달되지 않는다고 해석합니다. 이는 AIHubMix에서 작은 프롬프트 몇 개만 측정한 결과에 기반한 추론일 뿐, Chat Completions 전반에 적용되는 일반적인 규칙은 아닙니다. 더 크거나 어려운 프롬프트에서는 다른 결과가 나올 수 있습니다. 추론 강도가 비용이나 품질에 중요하다면, 설정이 확실히 적용되는 Responses에서 지정하세요.

Chat Completions에서 도구 호출은 작동하지만 문서화되지 않음

OpenAI 가이드에 따르면 GPT-6.1 Terra는 Chat Completions를 지원하지만, 도구 호출에는 Responses가 필요합니다. AIHubMix에서는 함수 도구를 지정한 Chat Completions 요청도 finish_reason: tool_calls를 반환했습니다. 문서화되지 않은 동작이며 예고 없이 바뀔 수 있으므로 이에 의존하지 마세요. Responses에서는 함수 도구가 function_call 항목을 반환했고, web_search는 검색 호출과 메시지를 반환했습니다. async: true로 설정한 함수 도구도 HTTP 200을 반환했습니다. 도구 트래픽을 Responses로 옮기세요.

Messages 경로에서는 Claude Code의 thinking 설정이 아무 효과도 없음

AIHubMix는 Claude Code가 사용하는 프로토콜인 Anthropic Messages API에서도 Terra에 응답합니다. 텍스트, tool_use, base64 이미지를 모두 보냈을 때 HTTP 200이 반환되었습니다. 하지만 추론 제어 설정은 적용되지 않았습니다. 4,000토큰 예산으로 thinking을 활성화하면 thinking 토큰이 24개, output_config.effort: "high"를 설정하면 26개, 둘 다 지정하지 않으면 25개였습니다. 응답에는 thinking 블록 없이 텍스트 또는 tool_use 블록만 반환됩니다.

Responses와 Chat Completions는 캐시를 따로 유지함

AIHubMix는 약 9,600개 토큰으로 구성된 안정적인 developer 접두부를 Responses를 통해 전송했습니다. 첫 번째 호출에서는 9,623개 토큰이 캐시에 기록되었고, 두 번째와 세 번째 호출에서는 9,623개의 캐시 토큰을 읽었습니다. 바로 이어서 같은 접두부를 사용하는 Chat Completions 호출을 보냈지만 캐시 적중은 없었고 9,623개 토큰 전체가 다시 기록되었습니다. 다른 접두부로 두 번째 실행을 해도 같은 패턴이 반복되었습니다. Responses 호출에서 9,020개 토큰이 기록되었고, 같은 접두부를 사용한 Chat Completions 호출에서는 캐시 적중 없이 9,020개가 기록되었습니다. 이후 Chat Completions를 다시 호출하자 Chat 경로에서 기록한 항목으로부터 9,007개의 토큰을 읽었습니다.

따라서 경로를 번갈아 사용하는 워크로드는 캐시 쓰기 비용을 두 배로 지불하게 됩니다. 워크로드마다 하나의 경로를 선택하세요.

이전 모델의 캐시 설정

GPT-5.5 이하 모델에서 전환하는 경우, OpenAI 가이드에 따르면 prompt_cache_retention을 prompt_cache_options.ttl로 바꿔야 합니다. 기본값은 "30m"입니다. Responses에서는 "12h" 수명을 사용할 수 있으며, AIHubMix에서도 허용되었습니다. usage 객체에는 쓰기 토큰이 cache_write_tokens_details.ttl_12h_tokens에 기록되었습니다. 중단점을 지정하지 않고 명시적 모드를 사용하면 아무것도 기록되지 않는데, 이는 OpenAI 문서와 일치합니다.

대화 중 추론 강도 변경

요청 수준에서 reasoning.effort를 변경하면 프롬프트 접두부가 바뀌어 캐시를 사용할 수 없게 됩니다. OpenAI는 이를 위해 configuration_update 입력 항목을 추가했습니다. 이 항목을 사용하면 대화의 해당 시점부터 추론 강도를 높이거나 낮추면서 기존 접두부는 그대로 유지할 수 있습니다. 이 항목을 포함한 요청은 AIHubMix를 통해 HTTP 200을 반환했습니다. OpenAI 가이드는 일반적인 단일 에이전트 요청에 이 방법을 권장합니다.

모델이 행동에 앞서 질문함

OpenAI의 GPT-6 프롬프트 작성 안내에 따르면, 이 모델 계열은 추가 입력이 결과를 바꿀 수 있는 경우 사용자에게 질문하고 멈춰 설 가능성이 더 높으며, AGENTS.md 같은 스킬 및 파일의 지시에도 더 민감합니다. 해당 안내는 GPT-6 Astra를 대상으로 작성되었으므로 Terra에도 그대로 적용된다고 단정하기보다 확인해 볼 필요가 있습니다. GPT-5.6 Terra에서는 사람의 개입 없이 실행되던 에이전트가 이제 승인을 기다리며 멈춘다면, 가이드에서는 프롬프트에 사용자의 요청으로 이미 허용된 작업이 무엇인지 명시하라고 권장합니다. 또한 모델이 읽을 수 있는 모든 스킬과 지시 파일을 점검하라고 안내합니다.

추론 강도의 기본값은 medium이며, max는 비용이 훨씬 더 많이 듭니다.

Terra의 기본 추론 수준은 medium입니다. Artificial Analysis는 Intelligence Index에서 작업당 출력 토큰이 medium에서는 약 6,000개, max에서는 약 35,000개(그중 25,000개는 추론 토큰)라고 측정했으며, 작업당 비용은 각각 $0.10과 $0.40이었습니다. 품질 문제를 해결하기 위해 추론 수준을 높인다면, 먼저 요금에 미치는 영향을 확인하세요. ChatGPT 요금제를 사용하는 Codex 사용자들은 Reddit에서 Terra를 high 추론 수준으로 사용하면 요금제 한도를 빠르게 소진한다고 보고했습니다. 한 사례에서는 20분 만에 5시간 한도의 40%를 사용했습니다. 모두 개인적인 경험담이지만, 같은 점을 시사합니다.

요금 청구 시 주의할 점

AIHubMix에서 Terra의 입력, 출력 및 캐시 읽기 요금은 OpenAI와 동일합니다. 다음은 실제 청구액이 표시된 요금보다 커지는 원인입니다.

항목 토큰 1M개당 요금 적용 조건
입력 $1 입력 272K 이하
캐시된 입력 $0.05 캐시 읽기
캐시 쓰기, 30분 $1.25 기본 유지 시간
캐시 쓰기, 12시간 $2.50 ttl을 12h로 설정
출력 $5 입력 272K 이하
입력, 장문 요청 $2 입력 272K 초과
출력, 장문 요청 $7.50 입력 272K 초과

12시간 캐시 쓰기 요금은 OpenAI 요금입니다. AIHubMix의 Terra 요금표에는 입력, 출력 및 캐시 읽기 요금만 있으며, 캐시 쓰기 요금, 긴 컨텍스트 요금 구간, 12시간 추가 요금은 없습니다. 따라서 위의 캐시 쓰기 요금과 272K 초과 요금은 OpenAI가 공개한 요금으로 취급하세요. AIHubMix에 실제로 적용되는 요금으로 확인된 것은 아닙니다.

272K 기준은 요청 전체에 적용됩니다. Terra 모델 페이지에는 컨텍스트 창이 1,050,000토큰으로 표시되어 있지만, 입력이 272,000토큰을 넘으면 요청 전체에 대해 입력 및 캐시 요금은 2배, 출력 요금은 1.5배가 청구됩니다. 입력 토큰이 270,000개이고 출력 토큰이 20,000개인 요청의 비용은 $0.27 + $0.10 = $0.37입니다. 입력 토큰이 300,000개이고 출력 토큰이 20,000개인 요청은 $0.60 + $0.15 = $0.75입니다. 입력이 약 11% 늘었는데 비용은 약 2배가 됩니다(두 예 모두 캐싱을 사용하지 않았습니다).

추론 토큰도 출력 토큰으로 요금이 청구됩니다. 추론 토큰은 직접 확인할 수 없더라도 토큰 1M개당 $5의 출력 요금으로 계산됩니다. 위의 AIHubMix 확인에서는 같은 프롬프트에 none일 때 출력 토큰 72개, max일 때 1,153개가 생성됐습니다. 답변 길이로 비용을 추정하지 말고 사용량 객체의 reasoning_tokens를 기록하세요.

캐시 쓰기에도 요금이 부과됩니다. GPT-5.6 이상에 대한 OpenAI의 프롬프트 캐싱 규칙에 따르면, 캐시 쓰기 비용은 30분 유지 시간의 경우 입력 요금의 1.25배, 12시간의 경우 2.5배입니다. Terra의 캐시 읽기 요금은 입력 요금의 0.05배입니다. 캐시 가능한 최소 접두부 길이는 1,024토큰입니다. 매 턴마다 달라지는 접두부나 두 경로로 분산되는 트래픽은 캐시 쓰기 요금을 계속 다시 내게 만듭니다.

웹 검색은 호출당 요금이 부과됩니다. AIHubMix는 OpenAI 모델 페이지에서 토큰 요금 외에 web_search 호출당 $0.01을 청구합니다. 아직 Terra 페이지에는 도구 요금이 별도로 표시되지 않았으므로 예산에 포함해 두세요. 한 차례 확인에서는 질문 하나에 검색이 두 번 호출됐습니다.

Batch 및 Flex 할인은 OpenAI에서 제공하는 할인입니다. OpenAI는 Batch와 Flex를 통해 50% 할인을 제공하며, Fast 모드는 2배 요금입니다. AIHubMix에서 GET /v1/batches를 호출하자 404("요청한 API 엔드포인트가 존재하지 않습니다.")가 반환됐으므로, 이곳에서는 사용할 수 있는 Batch 경로가 없습니다. service_tier를 flex 또는 priority로 설정하면 200이 반환됐지만, AIHubMix의 Terra 요금표에는 표준 요금만 표시되어 있으므로 할인은 기대하지 마세요. 둘 중 하나를 전송한다면 사용량 로그를 확인하세요.

실제 권한이 있는 에이전트

OpenAI는 Terra를 시각적 추론과 컴퓨터 사용에 적합하다고 소개하며, AIHubMix에서도 내장 컴퓨터 도구가 작동합니다. {"type": "computer"}와 스크린샷을 포함한 Responses 요청은 첫 동작이 스크린샷인 computer_call을 반환했습니다. 에이전트에 쓰기 권한을 부여하기 전에 OpenAI의 GPT-6.1 Terra 시스템 카드에 있는 에이전트 평가 결과를 읽어 보세요. OpenAI가 자체적으로 수행한 평가이며, 대부분 위험도가 낮은 시뮬레이션 환경에서 진행됐습니다.

평가 항목 Terra GPT-6.1 Sol
명시된 제한을 우회함 29.6% 더 낮음
다른 에이전트의 메시지를 받은 뒤 승인되지 않은 행동을 함 13.75% 1.25%
평가를 인지한 징후 9.88% 4.35%

Terra의 제한 우회율은 max 추론 수준에서 측정됐으며, 시스템 카드에서 GPT-6.1 Sol은 이보다 낮은 순위를 기록했습니다. 다른 에이전트와 관련된 수치는 표본 80개 중 11개입니다.

간접 프롬프트 인젝션에 대한 Terra의 방어율은 98.8%로, GPT-5.6 Terra의 96.2%보다 높았습니다. 좋은 결과지만 100%는 아닙니다. 마이그레이션 시 특히 중요한 결과는 두 가지입니다. Terra는 다른 에이전트에서 온 지시를 Sol보다 더 자주 따르며, 지침에 명시된 제한을 우회할 방법을 찾아내기도 합니다. 따라서 다음과 같이 조치하세요.

  • 도구 권한은 기본적으로 거부하고, 작업에 필요한 도구만 제공하세요.
  • 쓰기, 구매, 데이터 전송 및 되돌리기 어려운 모든 작업에는 승인을 요구하세요.
  • 다른 에이전트의 메시지는 화면 내용 및 도구 결과와 마찬가지로 권한을 부여할 수 없는 신뢰할 수 없는 입력으로 취급하세요.
  • 허용 목록을 설정한 격리된 브라우저나 VM에서 컴퓨터 사용을 실행하고, 단계 및 비용 한도를 설정한 뒤, 모델의 최종 메시지가 아니라 실제 결과를 확인하세요. 이는 OpenAI가 권장하는 컴퓨터 사용 보안 수칙입니다.

코딩 도구: Codex 및 Claude Code

Codex는 Responses API를 통해 연결됩니다. Terra의 추론 수준 설정이 AIHubMix에서 작동하는 경로입니다. AIHubMix의 Codex config.toml 설정 가이드에서 일반적인 설정 방법을 확인할 수 있습니다. Terra를 사용할 때 ~/.codex/config.toml은 다음과 같습니다.

model = "gpt-6.1-terra"
model_provider = "aihubmix"
model_context_window = 1050000
model_reasoning_effort = "medium"

[model_providers.aihubmix]
name = "AIHubMix"
base_url = "https://aihubmix.com/v1"
env_key = "AIHUBMIX_API_KEY"
wire_api = "responses"
  • wire_api는 responses로 유지하세요. 이 경로에서 추론 수준 설정이 적용되며, OpenAI가 도구 사용을 지원하는 경로로 안내합니다.
  • 컨텍스트 창 크기를 지정하세요. model_context_window를 Terra의 컨텍스트 크기인 1,050,000토큰으로 설정하세요.
  • medium으로 시작하세요. Terra의 기본값입니다. 위에서 언급한 한도 관련 보고를 고려해 전역 설정을 바꾸기보다는 어려운 작업에만 추론 수준을 높이세요.
  • 수정 후 재시작하세요. config.toml을 변경한 다음 Codex를 재시작하세요.

Claude Code

Claude Code는 AIHubMix의 Messages 경로를 통해 Terra와 작동합니다. Claude Code settings.json 설정 가이드를 참고하고 모델은 gpt-6.1-terra로 지정하세요. AIHubMix의 확인에서는 도구 사용과 이미지 입력이 작동했습니다. 하지만 Claude Code의 thinking 및 추론 수준 설정은 Terra의 추론에 아무런 영향을 주지 않았으며, thinking 블록도 반환되지 않았습니다. Claude Code에서는 Terra의 추론 수준을 조정할 수 없으므로 Terra에는 Codex가 더 적합합니다.

10~15분 스모크 테스트

테스트 스위트가 있는 작은 저장소에서 도구마다 다음 테스트를 한 번씩 실행하세요.

  1. gpt-6.1-terra로 새 세션을 시작하세요. 다른 모델로 실행한 세션을 이어서 사용하지 마세요.
  2. 다음과 같이 요청하세요. "이 저장소의 함수 하나에 단위 테스트를 추가하고, 테스트를 실행한 다음 실패하는 항목이 있으면 수정해 주세요."
  3. 성공 여부는 다음과 같이 판단합니다. 모델이 파일을 읽고 테스트를 실행하면 도구 호출이 작동하는 것입니다. 결과를 확인한 뒤 작업을 계속하면 도구 출력이 다시 전달되는 것입니다. 테스트를 통과하고 세션 어디에도 400 오류가 없으면 완료입니다.
  4. AIHubMix 사용량 로그에서 모델이 gpt-6.1-terra인지, 이후 요청에 안정적으로 유지되는 접두부의 캐시된 입력 토큰이 표시되는지 확인하세요. 표시되지 않는다면 접두부의 일부가 매 턴마다 바뀌고 있는 것입니다.
  5. Codex에서 low와 medium으로 각각 작업을 반복하고 턴당 출력 토큰 수를 비교하세요. 어느 정도 추론이 필요한 작업이라면 medium에서 더 많은 토큰을 사용해야 합니다. 모든 수준에서 수치가 같다면 요청이 Responses를 통해 전송되는지 확인하세요.
  6. 턴 소요 시간과 출력 토큰 수를 기록하세요. 추론 수준을 선택할 때 기준으로 삼을 수 있습니다.

마이그레이션 체크리스트

  • 모델을 gpt-6.1-terra로 설정합니다.
  • 도구 호출과 추론 수준에 영향을 받는 모든 작업을 Responses API로 옮깁니다.
  • 모든 호출 경로에서 temperature, top_p, top_logprobs 및 logprobs를 제거하거나 추론 수준을 none으로 설정합니다.
  • minimal 추론 수준을 low로 바꿉니다.
  • 캐시가 두 번 기록되지 않도록 각 작업 부하를 하나의 경로로 통일합니다.
  • prompt_cache_retention을 prompt_cache_options.ttl로 바꿉니다.
  • 대화 도중 추론 수준을 바꾸려면 configuration_update를 사용합니다.
  • 가능한 경우 요청의 입력 토큰을 272K 미만으로 유지합니다.
  • 추론 토큰, 캐시된 토큰, 캐시 쓰기 토큰을 기록합니다.
  • 웹 검색 호출당 $0.01을 예산에 반영하고, AIHubMix에서 Batch를 사용할 수 있다고 가정하지 마세요.
  • AGENTS.md와 스킬 파일을 검토하고 에이전트에 허용된 작업을 명시합니다.
  • 쓰기 작업에는 승인을 요구하고 다른 에이전트의 메시지는 신뢰할 수 없는 입력으로 취급합니다.
  • 각 코딩 도구에서 스모크 테스트를 실행합니다.

자주 묻는 질문

GPT-6.1 Terra에서 "Unsupported parameter: 'temperature'" 오류가 반환되는 이유는 무엇인가요?
추론 수준이 none이 아니기 때문입니다. GPT-6 제품군에 대한 OpenAI 규칙에 따르면 추론 수준이 none이 아닌 경우 temperature, top_p 및 top_logprobs를 제거해야 하며, Terra의 기본 추론 수준은 medium입니다. 해당 매개변수를 제거하거나 샘플링을 조정해야 한다면 추론 수준을 none으로 설정하세요.

같은 코드가 Chat Completions에서는 작동하는 이유가 무엇인가요?
AIHubMix의 Chat Completions 경로는 2026년 10월 27일 확인 당시 temperature 0.2와 top_p 0.5를 허용해 200 응답을 반환했습니다. 따라서 Chat Completions에서 실행한 테스트로는 Responses API가 반환하는 400 오류를 발견할 수 없습니다.

AIHubMix에서 Chat Completions를 사용할 때 reasoning_effort가 작동하나요?
2026년 10월 27일 AIHubMix에서 몇 가지 짧은 프롬프트로 확인한 결과, 측정 가능한 차이는 없었습니다. none과 max에서 추론 토큰 수가 비슷했습니다. 이것이 일반적인 규칙은 아니지만, 추론 수준 설정이 중요하다면 확실히 작동하는 Responses API에서 설정하세요.

도구 호출을 Responses API로 옮겨야 하나요?
네. OpenAI 문서에 따르면 Terra의 도구 호출에는 Responses가 필요합니다. 함수 도구를 포함한 Chat Completions 요청도 AIHubMix에서 도구 호출을 반환했지만, 문서화되지 않은 동작이므로 의존해서는 안 됩니다.

minimal 추론 수준은 무엇으로 대체하나요?
Terra는 none, low, medium, high, xhigh 및 max를 지원합니다. OpenAI는 low에서 시작해 대표적인 작업으로 결과를 비교할 것을 권장합니다.

AIHubMix에서 Terra용 Batch를 사용할 수 있나요?
아니요. AIHubMix에서 GET /v1/batches를 호출하면 404가 반환되므로 사용할 수 있는 Batch 경로가 없습니다. Batch와 Flex의 50% 할인은 OpenAI에서 제공하는 할인입니다. AIHubMix의 Terra 요금표에는 표준 입력, 출력 및 캐시 읽기 요금이 표시되어 있으며, 이는 OpenAI의 기본 요금과 같습니다.

Terra에는 Codex와 Claude Code 중 어떤 것을 사용해야 하나요?
Codex를 사용하세요. Codex는 Terra의 추론 수준 설정이 AIHubMix에서 작동하는 Responses API를 사용합니다. Claude Code는 Messages 경로를 통해 작동하지만, AIHubMix에서 확인한 결과 Claude Code의 thinking 및 추론 수준 설정은 Terra에 아무런 영향을 주지 않았습니다.

계속 읽기: GPT-6.1 Terra 시리즈

출처

여러 AI 제공업체를 하나의 게이트웨이로. 프로덕션 환경을 위해 설계했습니다.

AIHubMix 웹사이트 방문