제미니 4 아르곤 사고 수준 및 긴 디코드: 기본값, 비용 및 각 사용 시기

AIHubMix8분 분량
제미니 4 아르곤 사고 수준 및 긴 디코드: 기본값, 비용 및 각 사용 시기

제미니 4 아르곤은 2026년 10월 13일에 일반에 공개되었으며, 구글은 아르곤 요청의 비용과 소요 시간을 결정하는 두 가지 설정인 사고 수준과 출력 한도를 문서화했습니다. 아르곤은 낮음, 중간 및 높음의 세 가지 사고 수준을 제공하며 기본값은 중간입니다. 응답은 긴 디코드를 활성화하지 않으면 64K 토큰에서 중단되며, 긴 디코드를 활성화하면 단일 응답이 1M 토큰까지 실행될 수 있습니다.

기본값에는 함정이 있습니다. 발표된 모든 아르곤 벤치마크는 높은 수준에서 실행되었습니다: 구글은 이를 "가장 높은 사고 설정으로 평가했습니다", 인공지능 분석은 높은 수준에서 테스트했으며, 발스 AI는 높은 수준에서 실행했습니다. 수준을 설정하지 않은 요청은 중간에서 실행되므로, 이는 해당 점수가 설명하는 구성과 일치하지 않습니다.

이 게시물에서는 세 가지 수준과 각 수준에 대한 구글의 조언, 높은 수준에서의 비용과 시간, 응답이 비어 있지 않도록 출력 한도를 설정하는 방법, 긴 디코드가 작동하는 방식과 청구되는 방식을 다룹니다. 마지막으로 AIHubMix에 대한 코드를 포함합니다.

간단한 버전

  • 아르곤은 세 가지 사고 수준을 가지고 있습니다: 낮음, 중간(기본값) 및 높음. 사고는 끌 수 없습니다.
  • 발표된 모든 벤치마크는 높은 수준을 사용했습니다. 중간이나 낮은 수준에서의 결과는 발표된 바가 없습니다.
  • max_output_tokens는 사고와 응답을 함께 제한합니다. 최소 32,768로 설정해야 하며, 그렇지 않으면 하드 프롬프트가 전체 예산을 사고에 소비하고 아무것도 반환하지 않을 수 있습니다.
  • 긴 디코드가 없으면 응답은 65,536 토큰에서 중단됩니다. 긴 디코드가 활성화되면 응답은 입력을 제외한 1,048,576 토큰까지 실행될 수 있습니다.
  • 긴 디코드는 64K "홉"마다 모든 토큰을 청구하며, 각 홉은 지금까지 작성된 모든 내용을 입력으로 다시 읽습니다. 이는 암묵적 캐싱으로 95% 할인됩니다.

세 가지 수준

구글의 제미니 4 아르곤의 새로운 기능 가이드는 수준을 다음과 같이 설명합니다:

수준 토큰 사용 구글의 추천 용도
낮음 가장 적은 토큰, 가장 낮은 대기 시간 더 간단하고 비용에 민감한 작업
중간(기본값) 균형 잡힘 대부분의 작업, 복잡한 코드 및 에이전트 포함
높음 가장 많은 토큰, 가장 느린 첫 번째 토큰 가장 어려운 추론, 수학 및 코드

구글은 낮은 수준에서 "어려운 작업에서 품질이 떨어질 수 있다"고 경고하며, 선택에 대한 조언은 간단합니다: "모든 세 가지 수준에서 평가를 실행한 다음, 품질 기준을 충족하는 가장 낮은 수준을 선택하세요."

네이티브 API에서 설정은 thinking_level이며, 제미니 사고 가이드에 문서화되어 있습니다. OpenAI 호환 엔드포인트를 통해서는 reasoning_effort입니다. 구글의 OpenAI 호환성 가이드는 아르곤의 값을 매핑합니다: 최소 및 낮음은 모두 낮음이 되고, 중간은 중간으로 유지되며, 높음은 높음으로 유지되고, 생략하면 기본값인 중간이 됩니다. 사고를 끄는 수준은 없습니다.

기본값은 중간입니다. 벤치마크는 높습니다.

구글, 인공지능 분석 및 발스는 모두 아르곤을 높은 수준에서 보고합니다. 발스는 또한 262,144 토큰의 출력 한도를 설정했습니다. 따라서 여러분이 본 점수는 아르곤의 최고 수준을 설명하며, 수준이 설정되지 않은 요청은 한 단계 낮은 수준에서 실행됩니다.

그것이 반드시 문제는 아닙니다. 중간은 구글이 대부분의 작업, 복잡한 코드 및 에이전트에 대해 추천하는 수준이며, 높은 수준보다 적은 토큰을 사용합니다. 그러나 중간이나 낮은 수준이 얼마나 많은 정확성을 포기하는지, 또는 얼마나 많은 토큰을 절약하는지에 대한 발표는 없습니다. [TBD: 사고 수준별 정확도 및 토큰]

비교를 위해 한 가지 더 중요한 세부 사항이 있습니다. GPT-6 아스트라와 GPT-6.1 솔은 "최대"라는 높은 수준 위에서 테스트되었습니다. "아르곤(높음)"과 "아스트라(최대)" 간의 동점은 각 모델이 자신의 한계에 도달했음을 의미하며, 설정이 일치하는 것은 아닙니다.

높음의 비용

여기 수치는 인공지능 분석에서 가져온 것으로, 제공자 속도 테스트를 포함하며, 발스 AI에서 가져온 것입니다. 모두 아르곤을 높은 수준에서 실행했습니다.

측정 제미니 4 아르곤 (높음) 비교를 위한
AA 작업당 출력 토큰 ~62k GPT-6 아스트라 (최대): ~27k
AA 지수의 출력 토큰 110M 중간 모델: 85M
출력 속도 99.5–116.5 토큰/초 AI 스튜디오 / 버텍스 AI
첫 번째 응답 토큰까지의 시간 ~45 초 사고 시간을 포함합니다
Vals 지수 테스트당 시간 46 분 33 초 —

사고 토큰은 출력으로 청구됩니다: 구글은 아르곤의 출력 가격을 "사고 토큰을 포함하여" 나열하며, 사용 데이터는 이를 total_thought_tokens로 보고합니다. 작업당 ~62k 출력 토큰에서, 작업 비용은 구글의 소개 가격인 백만당 $10에서 약 $0.62이며, 백만당 $20에서 약 $1.24입니다. 이는 12월 1일부터의 가격입니다.

시간은 토큰을 따릅니다. 초당 99.5에서 116.5 토큰에서 62k 토큰을 생성하는 데 대략 9에서 10분이 소요되며, 첫 번째 응답 토큰을 기다리는 데 약 45초가 소요됩니다. 대화형 제품은 높은 수준에서 스트리밍 및 진행 표시기가 필요하거나 낮은 수준에서 필요합니다.

출력 한도 설정

max_output_tokens는 사고와 응답을 함께 제한하는 하드 한도입니다. 응답이 이 한도에 도달하면 상태는 "불완전"이며 텍스트는 잘리거나 비어 돌아오며, 사고 토큰은 여전히 청구됩니다. 구글의 안내:

  • 앱이 32K 이하의 한도를 설정하면 최소 32,768로 올리세요. 아르곤은 이전 모델보다 사고에 더 많은 한도를 사용할 수 있습니다.
  • 더 적게 사용하려면 작은 한도를 설정하는 대신 사고 수준을 낮추세요.
  • 긴 디코드가 없으면 기본값과 최대값은 65,536 토큰입니다. 긴 디코드 없이 더 많은 것을 요청하면 400 오류가 반환됩니다.
  • 입력, 사고 및 출력은 하나의 1,048,576 토큰 창을 공유합니다. 입력과 max_output_tokens의 합이 이를 초과하면 출력 한도가 맞춰서 줄어듭니다.

제미니 3에서의 두 가지 변경 사항이 더 있습니다. 온도, top_p 및 top_k는 아르곤에서 무시되므로 조정해도 아무런 효과가 없습니다. 하드 프롬프트는 몇 분이 걸릴 수 있으므로 구글은 최소 15분의 HTTP 클라이언트 타임아웃을 권장합니다.

긴 디코드: 64K 토큰을 초과하는 응답

긴 디코드는 구글이 출시 시 발표한 긴 디코드 연속입니다. 긴 디코드 가이드는 이를 실행하는 두 가지 방법을 설명합니다.

백그라운드 실행 (상호작용 API). background=True 및 max_output_tokens를 65,536 이상으로 설정하여 상호작용을 생성합니다. 백그라운드 실행은 store=true가 필요합니다. 서버는 응답을 최대 64K 토큰의 홉으로 작성하며, 각 홉은 마지막이 중단된 곳에서 계속됩니다. 최대 24시간 동안 가능합니다. 각 홉은 model_output 단계를 추가하므로 상호작용이 완료되면 이를 결합합니다. background=True를 설정하고 max_output_tokens를 올리지 않으면 64K에서 중단됩니다.

클라이언트 측 연속 (generateContent API). 각 홉은 스트리밍 또는 SDK를 통해 최대 64K 토큰을 반환하며, 비스트리밍 REST 호출의 경우 32K입니다. 한 홉이 한도에 도달하면 finish_reason: CONTINUATION 및 continuation_token으로 끝나며, 다음 요청은 동일한 입력과 토큰을 보냅니다. 최근 SDK는 이를 자동으로 처리합니다: Python google-genai 2.30.1 및 JavaScript @google/genai 2.29.1 이상. 각 요청은 20분의 한도가 있습니다.

긴 디코드를 스트리밍할 때는 상호작용 ID와 최신 event_id를 저장하고, 스트림이 중단되면 last_event_id로 다시 연결하며, 읽기 타임아웃을 15에서 20분으로 설정합니다. 첫 64K 토큰 이후에는 스트림이 약 5,000 토큰의 청크로 도착하며 그 사이에 일시 정지가 있습니다.

구글은 언제 긴 디코드가 가치가 있는지 명확히 합니다:

작업량 긴 디코드?
어려운 수학, 과학 및 증명 예
가장 어려운 코딩 및 에이전트 작업 예
한도에서 중단되는 평가 하네스 예
채팅, Q&A, 요약, 추출 아니요, 32K 이하에서 완료됩니다
고정 길이 요청 아니요, 길이 목표는 무시됩니다
짧은 도구 회전이 많은 에이전트 아니요
1M 입력 한도에 가까운 프롬프트 아니요
지연에 민감한 호출 아니요

더 높은 한도는 모델이 사고할 공간을 제공합니다; 이는 일반적인 응답을 더 길게 만들지 않습니다. 모델은 얼마나 쓸지를 결정하며, 단어 또는 토큰 목표를 따르지 않습니다.

긴 디코드가 청구되는 방식

모든 홉에서 모든 토큰에 대해 비용을 지불합니다. 사고만 포함된 홉도 포함됩니다. 각 홉은 프롬프트와 지금까지 생성된 모든 내용을 모델에 입력으로 다시 보냅니다. 구글의 예: 1,000 토큰의 프롬프트가 200,000 토큰의 사고 및 출력을 생성하는 데는 네 개의 홉이 필요합니다.

홉 모델에 전송된 입력 입력 토큰
1 프롬프트 1,000
2 프롬프트 + 홉 1 66,536
3 프롬프트 + 홉 1–2 132,072
4 프롬프트 + 홉 1–3 197,608
총계 397,216

사용 데이터는 약 397,000 입력 토큰을 보고하지만, 실제 컨텍스트는 약 201,000만 담고 있습니다. 암묵적 캐싱은 반복된 입력을 95% 할인하므로 비용이 저렴합니다: 소개 가격에서 200,000 출력 토큰은 $2.00이며, 약 396,000 반복 입력 토큰은 백만당 $0.10에서 약 $0.04가 추가됩니다. 출력이 여전히 청구서에서 우세합니다.

두 가지 부작용이 있습니다. total_input_tokens를 사용하여 대화를 잘라내거나 요약할 시점을 결정하지 마세요. 이는 컨텍스트를 과대 평가하므로, 대신 출력 및 사고 총계에 프롬프트 크기를 추가하세요. 그리고 취소되거나 실패한 상호작용은 중단되기 전에 수행된 모든 작업을 청구합니다.

작업량에 따른 시작 지점

이들은 구글의 수준 안내를 따릅니다; 각 수준별 정확도에 대한 발표는 없습니다.

작업량 시작 수준 이유
가장 어려운 수학, 과학 및 코드 높음 발표된 벤치마크와 일치합니다
복잡한 코드 및 에이전트 중간 구글의 추천 기본값
법률 및 재무 분석 높음 발표된 결과는 높음에서 이루어졌습니다
추출 및 분류 낮음 더 간단하고 비용에 민감한 작업
채팅 및 지원 낮음 가장 낮은 대기 시간

그런 다음 한 단계 낮은 수준에서 테스트하세요. 더 저렴한 수준이 자체 평가 세트에서 기준을 충족하면 유지하세요.

세션 내에서 수준을 고정하세요. 아르곤은 암묵적으로 캐시되며, 4,096 토큰 이상의 프롬프트에 대해 반복된 입력을 95% 할인합니다. AIHubMix 제미니 가이드는 캐시 적중이 동일한 콘텐츠, 모델 및 매개변수를 필요로 한다고 언급합니다. 턴 간에 수준을 전환하면 캐시된 입력이 다시 전체 가격의 입력으로 변환될 수 있습니다.

AIHubMix에서 수준 및 한도 설정

아르곤은 gemini-4-argon으로 AIHubMix에 있으며, OpenAI 호환 엔드포인트 및 네이티브 구글 GenAI SDK를 통해 사용할 수 있습니다. 대부분의 요청에 대해 수준과 한도를 명시적으로 설정하세요:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,  # 하드 프롬프트는 몇 분이 걸릴 수 있습니다
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",  # 아르곤의 기본값; 벤치마크는 "높음"을 사용했습니다
    max_tokens=32768,           # 사고와 응답을 함께 제한합니다
    messages=[
        {"role": "user", "content": "이 결제 서비스의 재시도 논리에서 경쟁 조건을 검토하세요.\n\n<소스 코드>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

긴 디코드를 위해서는 AIHubMix의 제미니 엔드포인트를 가리키는 네이티브 SDK를 사용하세요. AIHubMix의 가이드는 여기에서 상호작용 API를 문서화하며, 백그라운드 모드를 포함하여 google-genai 2.0.0 이상을 사용합니다. 아래 패턴은 구글이 문서화한 것이며, 아직 AIHubMix를 통해 테스트되지 않았습니다. [TBD: AIHubMix를 통한 긴 디코드]

import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="이 결제 모듈에 대한 전체 테스트 스위트를 작성하세요. 모든 엣지 케이스에 대한 테스트를 포함합니다.\n\n<소스 코드>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

# 각 홉은 model_output 단계를 추가합니다; 모두 결합합니다.
text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

아르곤의 AIHubMix 모델 페이지는 지원되는 입력, 기능 및 현재 가격을 나열합니다.

자주 묻는 질문

제미니 4 아르곤은 어떤 사고 수준을 지원하나요?
낮음, 중간 및 높음. 기본값은 중간이며, 사고는 끌 수 없습니다.

아르곤의 벤치마크는 어떤 수준에서 실행되었나요?
높음. 구글, 인공지능 분석 및 발스 AI 모두 아르곤을 높은 수준에서 보고하며, 중간이나 낮은 수준에서의 결과는 발표된 바가 없습니다.

OpenAI SDK를 통해 수준을 어떻게 설정하나요?
reasoning_effort를 사용하세요. 아르곤의 경우, 최소 및 낮음은 낮음으로 매핑되고, 중간은 중간으로, 높음은 높음으로 매핑됩니다. 생략하면 중간이 됩니다.

아르곤이 빈 응답을 반환한 이유는 무엇인가요?
아마도 전체 max_output_tokens 예산을 사고에 소비했기 때문입니다. 응답은 불완전하게 돌아오며 사고 토큰은 여전히 청구됩니다. 한도를 최소 32,768로 올리거나 사고 수준을 낮추세요.

64K 출력 토큰을 초과하려면 어떻게 하나요?
긴 디코드를 사용하세요. 상호작용 API에서 background를 true로 설정하고 max_output_tokens를 65,536 이상으로 설정하세요. generateContent에서는 최근 SDK를 사용하여 홉을 자동으로 계속합니다.

긴 디코드는 어떻게 청구되나요?
모든 홉에서 모든 토큰에 대해 비용을 지불합니다. 각 홉은 프롬프트와 지금까지 생성된 모든 내용을 입력으로 다시 보내며, 암묵적 캐싱은 반복된 입력을 95% 할인합니다. 취소되거나 실패한 실행은 이미 수행된 작업을 청구합니다.

제미니 4 아르곤에서 온도는 여전히 작동하나요?
아니요. 온도, top_p 및 top_k는 무시되므로 이를 제거하고 사고 수준을 사용하여 행동을 제어하세요.

계속 읽기: 제미니 4 아르곤 시리즈

출처