Gemini 4 Argon: Poziomy myślenia i długie dekodowanie: domyślne ustawienia, koszty i kiedy używać każdego z nich

AIHubMix8 min czytania
Gemini 4 Argon: Poziomy myślenia i długie dekodowanie: domyślne ustawienia, koszty i kiedy używać każdego z nich

Gemini 4 Argon stał się ogólnie dostępny 13 października 2026 roku, a wraz z nim Google udokumentował dwa ustawienia, które decydują o kosztach żądania Argon i czasie jego realizacji: poziom myślenia i limit wyjścia. Argon oferuje trzy poziomy myślenia: niski, średni i wysoki, przy czym domyślnym jest średni. Odpowiedzi zatrzymują się na 64K tokenów, chyba że włączysz długie dekodowanie, które pozwala na pojedynczą odpowiedź do 1M tokenów.

Jest jednak haczyk w domyślnych ustawieniach. Każdy opublikowany benchmark Argon działał na poziomie wysokim: Google ocenił go "z najwyższymi ustawieniami myślenia", Artificial Analysis przetestował go na poziomie wysokim, a Vals AI również uruchomił go na poziomie wysokim. Żądanie, które nie ustawia poziomu, działa na poziomie średnim, więc nie jest to konfiguracja, którą opisują te wyniki.

Ten post omawia trzy poziomy oraz zalecenia Google dotyczące każdego z nich, jakie są koszty wysokiego poziomu w tokenach i czasie, jak ustawić limit wyjścia, aby odpowiedzi nie były puste oraz jak działa długie dekodowanie i jak jest rozliczane. Kończy się kodem dla AIHubMix.

Krótka wersja

  • Argon ma trzy poziomy myślenia: niski, średni (domyślny) i wysoki. Myślenie nie może być wyłączone.
  • Każdy opublikowany benchmark używał poziomu wysokiego. Nikt nie opublikował wyników na poziomie średnim lub niskim.
  • max_output_tokens łączy myślenie i odpowiedź. Ustaw go na co najmniej 32,768, ponieważ twardy prompt może wydać cały budżet na myślenie i nie zwrócić nic.
  • Bez długiego dekodowania odpowiedź zatrzymuje się na 65,536 tokenów. Z nim odpowiedź może wynosić do 1,048,576 tokenów minus twój input.
  • Długie dekodowanie rozlicza każdy token każdego "skoku" 64K, a każdy skok ponownie odczytuje wszystko, co zostało napisane do tej pory jako input, z 95% zniżką dzięki implicit caching.

Trzy poziomy

Przewodnik Google Co nowego w Gemini 4 Argon opisuje poziomy w ten sposób:

Poziom Użycie tokenów Google zaleca do
niski Najmniej tokenów, najniższa latencja Prostsze i wrażliwe na koszty prace
średni (domyślny) Zrównoważony Większość zadań, w tym złożony kod i agenci
wysoki Najwięcej tokenów, najwolniejszy pierwszy token Najtrudniejsze rozumowanie, matematyka i kod

Google ostrzega, że na poziomie niskim "jakość może spaść w trudnych zadaniach", a jego zalecenie dotyczące wyboru jest proste: "Przeprowadź swoje oceny na wszystkich trzech poziomach, a następnie wybierz najniższy poziom, który spełnia twoje wymagania jakościowe."

W natywnej API ustawienie to thinking_level, udokumentowane w przewodniku po myśleniu Gemini. Przez punkt końcowy zgodny z OpenAI to reasoning_effort. Przewodnik Google zgodności z OpenAI mapuje wartości dla Argon: minimalny i niski stają się niskie, średni pozostaje średni, wysoki pozostaje wysoki, a pominięcie go daje domyślny, średni. Nie ma poziomu, który wyłącza myślenie.

Domyślny to średni. Benchmarki są wysokie.

Google, Artificial Analysis i Vals wszystkie raportują Argon na poziomie wysokim. Vals również ustawił limit wyjścia na 262,144 tokenów. Tak więc wyniki, które widziałeś, opisują Argon na jego najwyższym poziomie, a żądanie bez ustawionego poziomu działa na jednym poziomie niżej.

To niekoniecznie jest problem. Średni to poziom, który Google zaleca do większości prac, w tym złożonego kodu i agentów, i wykorzystuje mniej tokenów niż wysoki. Ale nikt nie opublikował, ile dokładności traci średni lub niski, ani ile tokenów oszczędzają. [TBD: dokładność i tokeny według poziomu myślenia]

Jedna więcej szczegółowa kwestia ma znaczenie dla porównań. GPT-6 Astra i GPT-6.1 Sol były testowane na "max", poziomie powyżej wysokiego. Remis między "Argon (wysoki)" a "Astra (max)" to każdy model na swoim suficie, a nie na odpowiadających sobie ustawieniach.

Jakie są koszty wysokiego poziomu

Dane tutaj pochodzą z Artificial Analysis, w tym jego testy prędkości dostawców, oraz z Vals AI. Wszystkie z nich uruchomiły Argon na poziomie wysokim.

Miara Gemini 4 Argon (wysoki) Dla porównania
Tokeny wyjściowe na zadanie AA ~62k GPT-6 Astra (max): ~27k
Tokeny wyjściowe dla indeksu AA 110M Model mediany: 85M
Prędkość wyjścia 99.5–116.5 tokenów/s AI Studio / Vertex AI
Czas do pierwszego tokena odpowiedzi ~45 s Zawiera czas myślenia
Czas indeksu Vals na test 46 min 33 s —

Tokeny myślenia są rozliczane jako wyjście: Google podaje cenę wyjścia Argon "w tym tokeny myślenia", a dane o użyciu raportują je jako total_thought_tokens. Przy ~62k tokenów wyjściowych na zadanie, koszt zadania wynosi około 0,62 USD tylko za wyjście przy wprowadzającej cenie Google 10 USD za milion, a około 1,24 USD przy 20 USD za milion, cenie od 1 grudnia.

Czas podąża za tokenami. Przy 99,5 do 116,5 tokenów na sekundę, 62k tokenów zajmuje około 9 do 10 minut na wygenerowanie, po oczekiwaniu około 45 sekund na pierwszy token odpowiedzi. Produkty interaktywne potrzebują strumieniowania i wskaźnika postępu na wysokim poziomie lub niższym.

Ustawienie limitu wyjścia

max_output_tokens to twardy limit na myślenie i odpowiedź razem. Gdy odpowiedź osiągnie ten limit, status jest "niekompletny", a tekst wraca obcięty lub pusty, a tokeny myślenia są nadal rozliczane. Zalecenia Google:

  • Jeśli twoja aplikacja ustawia limit poniżej 32K, zwiększ go do co najmniej 32,768. Argon może wydać więcej z limitu na myślenie niż wcześniejsze modele.
  • Aby wydać mniej, obniż poziom myślenia zamiast ustawiać mały limit.
  • Bez długiego dekodowania domyślny i maksymalny limit wynosi 65,536 tokenów. Żądanie większej liczby tokenów bez długiego dekodowania zwraca błąd 400.
  • Input, myślenie i wyjście dzielą jeden okno 1,048,576 tokenów. Jeśli twój input plus max_output_tokens przekracza ten limit, limit wyjścia zmniejsza się, aby się zmieścić.

Dwie dodatkowe zmiany w porównaniu do Gemini 3. Temperatura, top_p i top_k są ignorowane w Argon, więc ich dostosowanie nic nie daje. A twarde prompty mogą zająć kilka minut, więc Google zaleca limity czasu klienta HTTP wynoszące co najmniej 15 minut.

Długie dekodowanie: odpowiedzi powyżej 64K tokenów

Długie dekodowanie to to, co Google ogłosił przy uruchomieniu jako Długie Dekodowanie Kontynuacji. Przewodnik długiego dekodowania opisuje dwa sposoby jego uruchomienia.

Wykonanie w tle (API Interakcji). Utwórz interakcję z background=True i max_output_tokens powyżej 65,536. Wykonanie w tle wymaga store=true. Serwer zapisuje odpowiedź w skokach do 64K tokenów, każdy kontynuuje tam, gdzie ostatni się zatrzymał, przez maksymalnie 24 godziny. Każdy skok dodaje krok model_output, więc połącz je, gdy interakcja się zakończy. Ustaw background=True bez zwiększania max_output_tokens, a zatrzyma się na 64K.

Kontynuacja po stronie klienta (API generateContent). Każdy skok zwraca do 64K tokenów podczas strumieniowania lub przez SDK, 32K dla nie-strumieniowego wywołania REST. Skok, który osiąga swój limit, kończy się z finish_reason: CONTINUATION i continuation_token, a następne żądanie wysyła ten sam input plus token. Ostatnie SDK robią to za ciebie: Python google-genai 2.30.1 i JavaScript @google/genai 2.29.1 lub nowsze. Każde żądanie ma limit 20 minut.

Podczas strumieniowania długiego dekodowania, zapisz identyfikator interakcji i najnowszy event_id, ponownie połącz się z last_event_id, gdy strumień się przerwie, i ustaw limity czasu odczytu na 15 do 20 minut. Po pierwszych 64K tokenów strumień przychodzi w kawałkach około 5,000 tokenów z przerwami między nimi.

Google jasno określa, kiedy warto to zrobić:

Obciążenie Długie dekodowanie?
Trudna matematyka, nauka i dowody Tak
Najtrudniejsze zadania kodowania i agenci Tak
Zestawy oceny, które zatrzymują się na limicie Tak
Czat, Q&A, podsumowania, ekstrakcja Nie, kończą się poniżej 32K
Żądania o stałej długości Nie, cele długości są ignorowane
Agenci z wieloma krótkimi obrotami narzędzi Nie
Prompty bliskie limitowi 1M inputu Nie
Wywołania wrażliwe na latencję Nie

Wyższy limit daje modelowi przestrzeń do myślenia; nie sprawia, że normalne odpowiedzi są dłuższe. Model decyduje, ile napisać, i nie podąża za celami słów lub tokenów.

Jak rozliczane jest długie dekodowanie

Płacisz za każdy token w każdym skoku, w tym skoki, które zawierają tylko myślenie. Każdy skok również wysyła twój prompt oraz wszystko wygenerowane do tej pory z powrotem do modelu jako input, więc te tokeny liczą się ponownie. Przykład Google: prompt o długości 1,000 tokenów, który produkuje 200,000 tokenów myślenia i wyjścia, zajmuje cztery skoki.

Skok Input wysłany do modelu Tokeny inputu
1 Prompt 1,000
2 Prompt + skok 1 66,536
3 Prompt + skoki 1–2 132,072
4 Prompt + skoki 1–3 197,608
Razem 397,216

Dane o użyciu raportują około 397,000 tokenów inputu, mimo że kontekst mieści tylko około 201,000. Implicit caching zniża powtarzany input o 95%, więc jest to tanie: przy wprowadzających cenach, 200,000 tokenów wyjściowych kosztuje 2,00 USD, a około 396,000 powtarzanych tokenów inputu przy 0,10 USD za milion dodaje około 0,04 USD. Wyjście nadal dominuje w rachunku.

Dwa efekty uboczne. Nie używaj total_input_tokens, aby zdecydować, kiedy przyciąć lub podsumować rozmowę, ponieważ zawyża kontekst; dodaj rozmiar swojego promptu do wyjścia i myślenia. A anulowane lub nieudane interakcje rozliczają całą pracę wykonaną przed ich zatrzymaniem.

Gdzie zacząć, według obciążenia

Te wskazówki opierają się na zaleceniach poziomów Google; nie ma opublikowanej dokładności na poziomie, aby je doprecyzować.

Obciążenie Zacznij od Dlaczego
Najtrudniejsza matematyka, nauka i kod Wysoki Zgadza się z opublikowanymi benchmarkami
Złożony kod i agenci Średni Zalecany domyślny przez Google
Analiza prawna i finansowa Wysoki Opublikowane wyniki są na poziomie wysokim
Ekstrakcja i klasyfikacja Niski Prostsze, wrażliwe na koszty prace
Czat i wsparcie Niski Najniższa latencja

Następnie przetestuj jeden poziom niżej. Jeśli tańszy poziom spełnia twoje wymagania w twoim własnym zestawie oceny, zachowaj go.

Utrzymuj poziom stały w ramach sesji. Argon implicitnie buforuje, zniżając powtarzany input o 95% dla promptów o długości co najmniej 4,096 tokenów, a przewodnik AIHubMix Gemini zauważa, że trafienie w pamięci podręcznej wymaga tej samej treści, modelu i parametrów. Zmiana poziomów między turami może przekształcić buforowany input z powrotem w input pełnopłatny.

Ustawienie poziomu i limitu na AIHubMix

Argon jest dostępny na AIHubMix jako gemini-4-argon, na punkcie końcowym zgodnym z OpenAI i przez natywny SDK Google GenAI. Dla większości żądań ustaw poziom i limit jawnie:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://aihubmix.com/v1",
    api_key=os.environ["AIHUBMIX_API_KEY"],
    timeout=900,  # twarde prompty mogą zająć kilka minut
)

resp = client.chat.completions.create(
    model="gemini-4-argon",
    reasoning_effort="medium",  # domyślny Argon; benchmarki używały "wysokiego"
    max_tokens=32768,           # ogranicza myślenie i odpowiedź razem
    messages=[
        {"role": "user", "content": "Przejrzyj tę usługę płatności pod kątem warunków wyścigu w jej logice ponownego próbowania.\n\n<source code>"},
    ],
)
print(resp.choices[0].message.content)
print(resp.usage)

Aby uzyskać długie dekodowanie, użyj natywnego SDK skierowanego na punkt końcowy Gemini AIHubMix. Przewodnik AIHubMix dokumentuje API Interakcji, w tym tryb w tle, z google-genai 2.0.0 lub nowszym. Poniższy wzór to dokumentowany przez Google; nie został jeszcze przetestowany przez AIHubMix. [TBD: długie dekodowanie przez AIHubMix]

import os
import time
from google import genai

client = genai.Client(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    http_options={"base_url": "https://aihubmix.com/gemini"},
)

interaction = client.interactions.create(
    model="gemini-4-argon",
    input="Napisz pełny zestaw testów dla tego modułu płatności, z testem dla każdego przypadku brzegowego.\n\n<source code>",
    background=True,
    generation_config={"max_output_tokens": 262144, "thinking_level": "high"},
)
while interaction.status in ("in_progress", "queued"):
    time.sleep(5)
    interaction = client.interactions.get(id=interaction.id)

# Każdy skok dodaje krok model_output; połącz je wszystkie.
text = "".join(
    part.text
    for step in interaction.steps
    if step.type == "model_output"
    for part in step.content
    if part.type == "text"
)
print(interaction.status, interaction.usage)

Strona modelu Argon AIHubMix wymienia jego obsługiwane wejścia, możliwości i aktualną cenę.

FAQ

Jakie poziomy myślenia obsługuje Gemini 4 Argon?
Niski, średni i wysoki. Domyślny to średni, a myślenie nie może być wyłączone.

Na którym poziomie przeprowadzono benchmarki Argon?
Wysoki. Google, Artificial Analysis i Vals AI wszystkie raportują Argon na poziomie wysokim, a nikt nie opublikował wyników na poziomie średnim lub niskim.

Jak ustawić poziom przez SDK OpenAI?
Użyj reasoning_effort. Dla Argon minimalny i niski mapują na niski, średni na średni, a wysoki na wysoki. Pominięcie go daje średni.

Dlaczego Argon zwrócił pustą odpowiedź?
Prawdopodobnie wydał cały budżet max_output_tokens na myślenie. Odpowiedź wraca niekompletna, a tokeny myślenia są nadal rozliczane. Zwiększ limit do co najmniej 32,768 lub obniż poziom myślenia.

Jak uzyskać więcej niż 64K tokenów wyjściowych?
Użyj długiego dekodowania. W API Interakcji ustaw background na true i max_output_tokens powyżej 65,536. W generateContent użyj niedawnego SDK, które kontynuuje automatycznie przez skoki.

Jak rozliczane jest długie dekodowanie?
Płacisz za każdy token w każdym skoku. Każdy skok ponownie wysyła prompt i wszystko wygenerowane do tej pory jako input, a implicit caching zniża ten powtarzany input o 95%. Anulowane lub nieudane uruchomienia rozliczają wykonaną już pracę.

Czy temperatura nadal działa w Gemini 4 Argon?
Nie. Temperatura, top_p i top_k są ignorowane, więc usuń je i użyj poziomu myślenia do kontrolowania zachowania.

Czytaj dalej: seria Gemini 4 Argon

Źródła