Міграція на GPT-6.1 Sol: 9 речей, які можуть піти не так

Перехід з GPT-6 Sol на 6.1 Sol виглядає як зміна в одному рядку, і ціна залишається такою ж. Але є кілька критичних змін і деякі зміни в поведінці, тому зміна лише назви моделі може призвести до помилок, несподіваних рахунків або агента, який поводиться інакше. Посібник з міграції GPT-6 від OpenAI охоплює більшість офіційних змін. Ця стаття додає речі, які зазвичай викликають проблеми на практиці.

Вони впорядковані від "гучних збоїв" до "тихих збоїв."

1. reasoning_effort: "none" повертає 400

Що ви побачите: Запит відхиляється.

Чому: 6.1 Sol не підтримує none або minimal. Найнижчий рівень - це low. GPT-6 Sol і Luna все ще приймають none, тому ваш старий код працював там.

Виправлення:

• Картографування OpenAI полягає в заміні none на low. Для minimal почніть з low і порівняйте.
• low повільніший і дорожчий, ніж none, оскільки генерує токени міркування. Для дійсно чутливих до затримки шляхів, таких як автозаповнення або класифікація в реальному часі, краще залишитися на GPT-6 Sol або перейти на Luna.

2. Виклик інструментів у Chat Completions перестає працювати

Що ви побачите: Запити Chat Completions, які включають tools не вдаються.

Чому: GPT-6 Sol дозволяв виклик функцій у Chat Completions лише тоді, коли reasoning_effort був none, і багато проектів покладалися на цю комбінацію для дешевих викликів інструментів. Оскільки none зник, Chat Completions на 6.1 Sol працює лише для запитів без інструментів. Для інструментів потрібно використовувати API Responses. Посібник OpenAI з міграції на API Responses пояснює це.

Виправлення: Перейдіть на /v1/responses. AIHubMix також підтримує це; дивіться документацію AIHubMix Responses API для параметрів.

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

resp = client.responses.create(
    model="gpt-6.1-sol",
    reasoning={"effort": "low"},          # вкладене, не reasoning_effort
    tools=[{
        "type": "function",
        "name": "get_weather",
        "description": "Отримати поточну погоду для міста",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    }],
    input="Яка погода в Шанхаї сьогодні?",
)
print(resp.output)

Легкі речі, які можна пропустити:

• У Responses параметр - це reasoning.effort. Відправка reasoning_effort призведе до Unsupported parameter.
• У багатоповторному використанні інструментів відправляйте назад кожен елемент reasoning, function_call і function_call_output з моменту останнього повідомлення користувача, а не лише результати функції.
• З store: false або ZDR, елементи reasoning за замовчуванням включають encrypted_content. Відтворіть всю історію, і це просто працює.

3. Параметри вибірки повинні зникнути

Що ви побачите: Запити з temperature або top_p не вдаються.

Чому: Ці параметри дозволені лише тоді, коли зусилля none. 6.1 Sol не має none, тому ви ніколи не зможете використовувати їх з цією моделлю.

Видалити:

• temperature, top_p, top_logprobs
• logprobs в Chat Completions
• message.output_text.logprobs з include в Responses

Якщо ви використовували logprobs для оцінки впевненості або порогів класифікації, вам знадобиться новий підхід. Один з варіантів - структуровані виходи, які просять модель повідомити про свою впевненість безпосередньо. Інший - зберігати ці завдання на моделі, яка підтримує none.

4. Кешування працює інакше, і ваш рахунок може зрости

Це найпростіше, що можна пропустити, особливо при міграції з GPT-5.5 або раніше. Все нижче походить з посібника OpenAI з кешування запитів.

Параметр був перейменований. prompt_cache_retention тепер prompt_cache_options.ttl, і єдиним підтримуваним значенням є "30m".

Записи кешу підлягають оплаті. Вони коштують 1.25× від ставки вводу (2.50 доларів за мільйон на 6.1 Sol). Довгий префікс, який ви використовуєте лише один раз, тепер коштує на 25% більше з кешуванням, ніж без.

Переломні точки змістилися. Старі моделі розміщували переломні точки на фіксованих інтервалах (кожні 2,048 токенів на GPT-5.5). Імпліцитний режим тепер розміщує одну переломну точку в кінці останнього допустимого повідомлення. В результаті коротший префікс, спільний для запитів, не повторно використовується автоматично. Якщо багато запитів ділять системний запит, за яким слідує різний ввід користувача, додайте явну переломну точку відразу після системного запиту.

Додавання до існуючого повідомлення порушує кеш. Кешований кінцевий пункт опиняється посеред довшого повідомлення і не може бути співвіднесений. Додайте нове повідомлення замість цього.

Зміна зусиль міркування порушує кеш. reasoning.effort є частиною префікса. Перемикайтеся в середині розмови з configuration_update (див. Частина 2). Зверніть увагу, що це не можна поєднувати з автоматичною компакцією або скороченням, і /responses/compact відхиляє історії, які містять одне з них.

Високий трафік може знизити частоту попадань. Кеші живуть на окремих машинах. Більше ніж 15 запитів на хвилину з одним і тим же префіксом можуть переповнити інші машини і пропустити. Кешовані токени також все ще враховуються у вашому ліміті TPM.

Перед і після міграції порівняйте cached_tokens, cache_write_tokens, затримку та вартість за завдання.

5. Перевищення 272K вводу подвоює ціну

Вікно контексту 1.05M спокушає, але якщо ввід перевищує 272K токенів, весь запит оплачується за 2× ввід і 1.5× вихід. Перехід з 270K до 280K вводу підвищує вартість запиту з 0.64 доларів до 1.27 доларів (частина 3 містить розрахунки).

Довгі сесії агентів продовжують зростати, тому легко перетнути цю межу, не помітивши. Встановіть сповіщення на стороні клієнта близько 250K і активуйте компакцію, коли воно спрацює.

6. Маленький max_output_tokens дає вам порожню відповідь

Що ви побачите: status: incomplete з причини max_output_tokens, без видимого виходу, і ви все ще оплачуєте.

Чому: max_output_tokens включає токени міркування. Ліміт, який був прийнятним для none може бути повністю використаний міркуванням на low або вище.

Виправлення: Посібник OpenAI з міркування рекомендує резервувати принаймні 25,000 токенів. Шукайте жорстко закодовані обмеження, особливо значення, перенесені з Chat Completions max_tokens. Наприклад, зразковий код на сторінці моделі AIHubMix використовує 1024. Це підходить для швидкої демонстрації тексту, але підвищте його для реальних навантажень.

7. Поведінка агента змінилася, тому перегляньте дозволи

В цілому 6.1 Sol поводиться краще, ніж 6 Sol: серйозні інциденти зменшилися на третину, і він набагато частіше повідомляє вам, коли інструмент зламаний. Декілька цифр все ще заслуговують на увагу (дані OpenAI, зібрані DataCamp):

6.1 Sol є більш наполегливим. Він намагається більше обходити, коли його блокують, і більш охоче спілкується з іншими агентами. Це зазвичай те, що ви хочете від автоматизаційного агента, але це підвищує ризики, коли агент має широкі дозволи.

Що робити:

• Забезпечте дотримання дозволів за допомогою пісочниць і білого списку, а не лише інструкцій у запиті.
• Вимагайте схвалення людини для чутливих дій: видалення, розгортання, платежі та все, що стосується облікових даних.
• Зберігайте повні журнали викликів інструментів і перевіряйте заяви, такі як "тести пройдені" або "виправлено".
• У багатогранних налаштуваннях визначте, що саме агенти можуть ділитися один з одним.

8. Ваші запити можуть потребувати налаштування

Посібник з міграції GPT-6 від OpenAI перераховує кілька змін у поведінці. Вони написані про Astra, але 6.1 Sol належить до тієї ж родини і працює близько до неї, тому перевірте їх:

• Він ставить більше запитань. Він може зупинитися, щоб підтвердити, де ви б очікували, що він продовжить. Скажіть йому, щоб він схилявся до дій і завершував завдання, і що фрази на кшталт "чи можете ви..." є запитом на виконання дії.
• Він дотримується інструкцій більш буквально. Він більше звертає увагу на AGENTS.md і SKILL.md файли, тому застаріле правило може раптом почати виконуватися. OpenAI настійно рекомендує перевірити ці файли та зазначити, що інструкції користувача мають перевагу над навичками.
• Він спирається на Markdown, списки та таблиці, і повторно використовує стандартні фрази. Якщо ви хочете прозу, скажіть про це явно.
• Він надто тестує невеликі зміни. Скажіть йому, що зміни з низьким ризиком, які можна скасувати, не потребують повного тестування.
• Він менше делегує підагентам, ніж ви могли б хотіти. Якщо ви хочете паралельної роботи, чітко вкажіть, коли розділити завдання.

9. Обмеження доступності та розгортання

• Ще не в звичайному чаті ChatGPT. Тільки ChatGPT Work і Codex. Адміністратори Enterprise та Edu повинні активувати це.
• Швидкий режим не працює з резидентністю даних ЄС. Ультрашвидкий режим підтримує лише резидентність у США та глобальну обробку.
• Кінцевий термін знань - 30 квітня 2026 року. Для новіших бібліотек, API або новин використовуйте веб-пошук або RAG.
• Не підтримується: тонке налаштування, передбачувані виходи, аудіо- та відеовхід, а також API Realtime і Assistants.
• Ліміти швидкості відповідають 6 Sol: від 500 RPM / 500K TPM на рівні 1 до 15,000 RPM / 40M TPM на рівні 5. На AIHubMix запити можуть проходити через OpenAI або Azure, з автоматичним повтором на іншого постачальника, якщо один з них не вдається або сповільнюється.

Контрольний список міграції

• [ ] Замініть none і minimal на low, і перевірте затримку
• [ ] Перенесіть запити на виклик інструментів з Chat Completions на API Responses
• [ ] Використовуйте вкладений reasoning.effort параметр
• [ ] Видаліть temperature, top_p, і logprobs, і переробіть будь-яку логіку, яка залежала від logprobs
• [ ] Замініть prompt_cache_retention на prompt_cache_options.ttl: "30m"
• [ ] Додайте явну переломну точку після спільних префіксів і підтверджуйте, що вони містять принаймні 1,024 токенів
• [ ] Використовуйте configuration_update для зміни зусиль у середині розмови
• [ ] Додайте сповіщення про ввід 272K
• [ ] Встановіть max_output_tokens на принаймні 25,000
• [ ] Перевірте AGENTS.md, SKILL.md, і системні запити
• [ ] Перегляньте дозволи пісочниці, шлюзи схвалення та ведення журналу інструментів
• [ ] Порівняйте частоту успіху, cached_tokens, reasoning_tokens, і вартість за завдання до і після

Якщо ви використовуєте Codex, виконання $openai-docs migrate this project to the GPT-6 model family зробить більшість механічних змін. Проте все ще пройдіть контрольний список самостійно.

Часті запитання

Що мінімально потрібно змінити, щоб перейти з GPT-6 Sol на 6.1 Sol? Три речі: назва моделі; заміна none і minimal на low; і видалення temperature, top_p, і всього, що пов'язане з logprobs. Якщо ви викликаєте інструменти через Chat Completions, вам також потрібно буде перейти на API Responses.

Чи можу я все ще використовувати Chat Completions для простого тексту? Так. Якщо запит не містить tools, Chat Completions працює. Зразок на сторінці моделі AIHubMix є саме таким викликом.

Чи підтримує AIHubMix API Responses? Так. Встановіть base_url на https://aihubmix.com/v1 і викликайте client.responses.create.

Моя частота попадань у кеш знизилася після оновлення. Що мені перевірити? Три речі: чи мають спільні префікси явну переломну точку після них, чи додаєте ви до існуючих повідомлень, і чи змінюєте reasoning.effort в середині розмови. Потім порівняйте cached_tokens і cache_write_tokens до і після.

Затримка зросла після оновлення. Чи це очікувано? Якщо ви використовували none, так. low все ще генерує токени міркування. Для шляхів, чутливих до затримки, залишайтеся на GPT-6 Sol або Luna, або запитайте модель про короткий вступ, щоб швидше отримати перший токен.

Чи є 6.1 Sol більш ймовірним, ніж 6 Sol, щоб перевищити свої дозволи? В цілому, ні. Серйозні інциденти зменшилися на третину, а частота фактичного виконання несанкціонованої дії зменшилася з 11% до 3%. Він дещо більш ймовірний, щоб зв'язатися з іншими агентами і бути обманливим у кодових завданнях, тому забезпечте дотримання дозволів за допомогою пісочниці, а не покладаючись на запити.

Чи будуть мої існуючі AGENTS.md і системні запити все ще працювати? Вони працюватимуть, але перегляньте їх. Сімейство GPT-6 дотримується інструкцій більш строго, тому застарілі або суперечливі правила можуть змусити модель частіше зупинятися, щоб запитати більше, або робити щось, що ви не мали на увазі.

Продовжуйте читати: серія GPT-6.1 Sol

• Не впевнені, що перехід вартий того? Дивіться, де 6.1 Sol перевершує 6 Sol і наскільки далеко він відстає від Astra: GPT-6.1 Sol проти GPT-6 Sol: Оновлення за тиждень, яке майже наздоганяє Astra.
• Ви замінили none на low. Що з усім іншим? Рекомендації за випадками використання та процес налаштування: Вибір зусиль міркування для GPT-6.1 Sol: від низького до максимального.
• Перевірте свій рахунок після міграції. Попадання в кеш, поріг 272K і токени міркування пояснені: Справжня вартість GPT-6.1 Sol: понад цінник $2 / $10.

Джерела

• OpenAI: Посібник з міграції GPT-6
• OpenAI: Міграція на API Responses
• OpenAI: Посібник з кешування запитів
• AIHubMix: Документація API Responses
• AIHubMix: GPT-6.1 Sol