Мигриране към GPT-6.1 Sol: 9 неща, които могат да се объркат

Преминаването от GPT-6 Sol към 6.1 Sol изглежда като промяна на един ред, а цената е същата. Но има няколко несъвместими промени и някои промени в поведението, така че ако смените само името на модела, може да получите грешки, неочаквана сметка или агент, който се държи различно. Ръководството на OpenAI за миграция към GPT-6 обхваща повечето официални промени. Тази публикация добавя нещата, които често създават проблеми на практика.

Подредени са от „грешките са очевидни“ до „грешките остават незабелязани“.

1. reasoning_effort: "none" връща грешка 400

Какво ще видите: Заявката е отхвърлена.

Защо: 6.1 Sol не поддържа none или minimal. Най-ниското ниво е low. GPT-6 Sol и Luna все още приемат none, затова старият ви код е работил с тях.

Решение:

• Препоръката на OpenAI е да замените none с low. За minimal започнете с low и сравнете резултатите.
• low е по-бавен и по-скъп от none, защото генерира токени за разсъждение. За пътища, при които латентността е от решаващо значение, като автодовършване или класификация в реално време, по-добре може да е да останете на GPT-6 Sol или да преминете към Luna.

2. Извикването на инструменти в Chat Completions спира да работи

Какво ще видите: Заявките към Chat Completions, които включват tools, се провалят.

Защо: GPT-6 Sol позволяваше извикване на функции в Chat Completions само когато reasoning_effort беше зададен на none, а много проекти разчитаха на тази комбинация за евтино извикване на инструменти. След премахването на none Chat Completions с 6.1 Sol работи само за заявки без инструменти. За инструменти трябва да използвате Responses API. Ръководството на OpenAI за мигриране към Responses API обяснява как.

Решение: Преминете към /v1/responses. AIHubMix също го поддържа; вижте документацията на AIHubMix за Responses API за параметрите.

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

resp = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "low"},          # nested, not reasoning_effort
    tools=[{
        "type": "function",
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    }],
    input="What's the weather in Shanghai today?",
)
print(resp.output)

Лесно е да пропуснете следното:

• В Responses параметърът е reasoning.effort. Ако изпратите reasoning_effort, ще получите Unsupported parameter.
• При използване на инструменти в няколко хода изпращайте обратно всички елементи reasoning, function_call и function_call_output след последното потребителско съобщение, а не само резултатите от функциите.
• При store: false или ZDR елементите за разсъждение включват encrypted_content по подразбиране. Възпроизведете цялата история и всичко ще работи.

3. Параметрите за семплиране трябва да бъдат премахнати

Какво ще видите: Заявките с temperature или top_p се провалят.

Защо: Тези параметри са разрешени само когато effort е none. 6.1 Sol няма none, така че не можете да ги използвате с този модел.

Премахнете:

• temperature, top_p, top_logprobs
• logprobs в Chat Completions
• message.output_text.logprobs от include в Responses

Ако сте използвали logprobs за оценка на увереността или прагове за класификация, ще ви е необходим нов подход. Единият вариант е структурирани изходи, при които поискате от модела да отчете увереността си директно. Другият е тези задачи да останат на модел, който поддържа none.

4. Кеширането работи различно и сметката ви може да нарасне

Това е най-лесното за пропускане, особено при мигриране от GPT-5.5 или по-стари модели. Всичко по-долу е взето от ръководството на OpenAI за кеширане на подкани.

Параметърът е преименуван. prompt_cache_retention вече е prompt_cache_options.ttl, а единствената поддържана стойност е "30m".

Записите в кеша се таксуват. Те струват 1.25× цената за входни токени ($2.50 на милион при 6.1 Sol). Дълъг префикс, който използвате само веднъж, сега струва с 25% повече при кеширане, отколкото без него.

Контролните точки са преместени. При по-старите модели те бяха на фиксирани интервали (на всеки 2,048 токена при GPT-5.5). В неявен режим вече се поставя една контролна точка в края на последното отговарящо на условията съобщение. В резултат по-къс префикс, споделен между заявките, не се използва повторно автоматично. Ако много заявки споделят системна подкана, последвана от различен потребителски вход, добавете изрична контролна точка непосредствено след системната подкана.

Добавянето на текст към съществуващо съобщение прекъсва кеша. Крайният маркер на кешираното съдържание се оказва в средата на по-дълго съобщение и не може да бъде съпоставен. Вместо това добавете ново съобщение.

Промяната на effort за разсъждение прекъсва кеша. reasoning.effort е част от префикса. Сменяйте го по средата на разговора с configuration_update (вижте част 2). Имайте предвид, че не може да се комбинира с автоматично уплътняване или съкращаване, а /responses/compact отхвърля истории, които съдържат такава промяна.

Големият трафик може да намали процента на попадения в кеша. Кешовете се намират на отделни машини. При повече от приблизително 15 заявки в минута със същия префикс може да се стигне до прехвърляне към други машини и пропуск в кеша. Кешираните токени продължават да се броят към лимита ви за TPM.

Преди и след миграцията сравнете cached_tokens, cache_write_tokens, латентността и разхода за задача.

5. Надхвърлянето на 272K входни токена удвоява цената

Контекстният прозорец от 1.05M е примамлив, но след като входът надхвърли 272K токена, цялата заявка се таксува по 2× за входните токени и 1.5× за изходните. Увеличаването на входа от 270K на 280K вдига цената на една заявка от $0.64 на $1.27 (изчисленията са в част 3).

Дългите сесии с агенти продължават да нарастват, така че лесно може да преминете този праг, без да забележите. Настройте предупреждение от страна на клиента при около 250K и задействайте уплътняване, когато то се активира.

6. Малка стойност на max_output_tokens ви оставя с празен отговор

Какво ще видите: status: incomplete с причина max_output_tokens, без видим изход, но разходът пак ще ви бъде начислен.

Защо: max_output_tokens включва токените за разсъждение. Лимит, който е бил достатъчен при none, може да бъде изчерпан изцяло от разсъжденията при low или по-високо ниво.

Решение: В ръководството на OpenAI за разсъждение се препоръчва да заделите поне 25,000 токена. Потърсете твърдо зададени лимити, особено стойности, пренесени от Chat Completions max_tokens. Например в примерния код на страницата на AIHubMix за модела се използва 1024. Това е достатъчно за кратка демонстрация с текст, но увеличете стойността за реални натоварвания.

7. Поведението на агента се е променило — преразгледайте разрешенията

Като цяло 6.1 Sol се държи по-добре от 6 Sol: тежките инциденти са намалели с една трета, а моделът е много по-склонен да ви каже, когато даден инструмент не работи. Все пак няколко показателя заслужават внимание (данни на OpenAI, обобщени от DataCamp):

6.1 Sol е по-настоятелен. Когато го блокират, опитва повече заобиколни решения и е по-склонен да разговаря с други агенти. Обикновено това е желаното поведение при агент за автоматизация, но рискът нараства, когато агентът има широки разрешения.

Какво да направите:

• Налагайте ограниченията за достъп чрез пясъчници и списъци с разрешени елементи, а не само чрез инструкции в подканата.
• Изисквайте одобрение от човек за чувствителни действия: изтривания, внедрявания, плащания и всичко, което засяга идентификационни данни.
• Съхранявайте пълни регистри на извикванията на инструменти и проверявайте на случаен принцип твърдения като „тестовете минават“ или „поправено“.
• В настройки с множество агенти определете точно какво могат да споделят помежду си.

8. Може да се наложи да настроите подканите си

В ръководството на OpenAI за миграция към GPT-6 са посочени няколко промени в поведението. Те са описани за Astra, но 6.1 Sol е от същото семейство и се представя сходно, така че проверете дали се отнасят и за вас:

• Задава повече въпроси. Може да спре, за да поиска потвърждение, когато очаквате да продължи. Кажете му да предпочита действието и да довършва задачата, както и че формулировки като „можеш ли…“ са молба да извърши действието.
• Следва инструкциите по-буквално. Обръща повече внимание на файловете AGENTS.md и SKILL.md, затова остаряло правило може изведнъж да започне да се прилага. OpenAI настоятелно препоръчва да проверите тези файлове и изрично да посочите, че потребителските инструкции имат предимство пред уменията.
• Често използва Markdown, списъци и таблици и повтаря стандартни фрази. Ако предпочитате проза, кажете го изрично.
• Тества прекомерно дребните промени. Кажете му, че при промени с нисък риск и лесни за отмяна не е необходимо да изпълнява пълен набор от тестове.
• Делегира по-рядко на подагенти, отколкото бихте искали. Ако искате паралелна работа, уточнете кога задачите трябва да се разделят.

9. Ограничения за наличност и внедряване

• Все още не е наличен в обикновените чатове в ChatGPT. Наличен е само в ChatGPT Work и Codex. Администраторите на Enterprise и Edu трябва да го активират.
• Бързият режим не работи при резидентност на данните в ЕС. Ultrafast поддържа само резидентност в САЩ и глобална обработка.
• Крайната дата на знанията е 30 април 2026 г. За по-нови библиотеки, API или новини използвайте уеб търсене или RAG.
• Не се поддържат: фина настройка, Predicted Outputs, аудио и видео вход, както и Realtime и Assistants API.
• Лимитите за заявки са същите като при 6 Sol: от 500 RPM / 500K TPM при Tier 1 до 15,000 RPM / 40M TPM при Tier 5. В AIHubMix заявките могат да минават през OpenAI или Azure, като при отказ или забавяне на единия доставчик автоматично се опитва другият.

Контролен списък за миграция

• [ ] Заменете none и minimal с low и проверете латентността
• [ ] Преместете заявките с извикване на инструменти от Chat Completions към Responses API
• [ ] Използвайте вложения параметър reasoning.effort
• [ ] Премахнете temperature, top_p и logprobs, а също така преработете логиката, която зависи от logprobs
• [ ] Заменете prompt_cache_retention с prompt_cache_options.ttl: "30m"
• [ ] Добавете изрична контролна точка след споделените префикси и се уверете, че съдържат поне 1,024 токена
• [ ] Използвайте configuration_update за промени в effort по средата на разговора
• [ ] Добавете предупреждение при 272K входни токена
• [ ] Задайте max_output_tokens на поне 25,000
• [ ] Проверете AGENTS.md, SKILL.md и системните подкани
• Прегледайте разрешенията на изолираната среда, стъпките за одобрение и регистрирането на извикванията към инструменти
• Сравнете процента на успешните изпълнения, cached_tokens, reasoning_tokens и разхода за задача преди и след миграцията

Ако използвате Codex, командата $openai-docs migrate this project to the GPT-6 model family ще извърши повечето механични промени. Все пак прегледайте списъка сами.

Често задавани въпроси

Какво е най-необходимото, което трябва да променя, за да премина от GPT-6 Sol към 6.1 Sol? Три неща: името на модела; замяната на none и minimal с low; и премахването на temperature, top_p и всичко, свързано с logprobs. Ако извиквате инструменти чрез Chat Completions, ще трябва да преминете и към Responses API.

Мога ли все още да използвам Chat Completions за обикновен текст? Да. Докато заявката не съдържа tools, Chat Completions работи. Примерът на страницата на модела в AIHubMix е точно такъв тип извикване.

AIHubMix поддържа ли Responses API? Да. Задайте base_url на https://aihubmix.com/v1 и извикайте client.responses.create.

Процентът на попаденията в кеша спадна след надстройката. Какво да проверя? Три неща: дали след споделените префикси има изрично зададена точка на прекъсване, дали добавяте към вече съществуващи съобщения и дали променяте reasoning.effort по време на разговора. След това сравнете cached_tokens и cache_write_tokens преди и след.

Закъснението се увеличи след надстройката. Очаквано ли е? Ако сте използвали none, да. low все още генерира токени за разсъждение. За критични по отношение на закъснението потоци останете на GPT-6 Sol или Luna или поискайте от модела кратко въведение, за да получавате първия токен по-бързо.

По-вероятно ли е 6.1 Sol да надхвърли разрешенията си в сравнение с 6 Sol? Като цяло — не. Сериозните инциденти са намалели с една трета, а делът на случаите, в които моделът действително предприема неразрешено действие, е спаднал от 11% на 3%. Малко по-вероятно е да се свърже с други агенти и да действа измамно при задачи за програмиране, затова налагайте ограниченията чрез изолирана среда, вместо да разчитате на подкани.

Ще продължат ли да работят съществуващите ми AGENTS.md и системни подкани? Ще се изпълняват, но ги прегледайте. Семейството GPT-6 следва инструкциите по-стриктно, затова остарелите или противоречиви правила може да карат модела по-често да спира и да задава въпроси или да прави нещо, което не сте искали.

Продължете с поредицата за GPT-6.1 Sol

• Не сте сигурни дали си струва да преминете? Вижте в какво 6.1 Sol превъзхожда 6 Sol и колко изостава от Astra: GPT-6.1 Sol срещу GPT-6 Sol: едноседмична надстройка, която почти догонва Astra.
• Заменихте none с low. А какво да правите с останалите настройки? Препоръки според случая на употреба и процес за настройка: Избор на ниво на разсъждение за GPT-6.1 Sol: от low до max.
• Проверете сметката си след миграцията. Обяснение на попаденията в кеша, прага от 272K и токените за разсъждение: Каква е действителната цена на GPT-6.1 Sol: отвъд цената от $2 / $10.

Източници

• OpenAI: Ръководство за миграция към GPT-6
• OpenAI: Мигриране към Responses API
• OpenAI: Ръководство за кеширане на подкани
• AIHubMix: Документация за Responses API
• AIHubMix: GPT-6.1 Sol