Claude Haiku 5.5 Pricing: 100K границата зад 90% намалението

AIHubMix8 мин четене
Claude Haiku 5.5 Pricing: 100K границата зад 90% намалението

Claude Haiku 5.5 струва $0.10 за милион входни токена и $0.50 за милион изходни токена, една десета от цените на Haiku 4.5, които са $1 и $5. Това важи за промпти до 100 000 токена. Над тази граница цялата заявка се таксува по $0.50 и $2.50, което е половината от цената на Haiku 4.5, а не една десета.

Anthropic дава типичното спестяване около 75%, а не 90%, и разликата идва от три неща, които този пост разглежда: къде попадат промптите ви спрямо границата от 100K, колко токена за размисъл генерират настройките по подразбиране и новият токенизатор, който брои същия текст с около 30% повече токени. По-долу са два примера с изчисления, които показват как се формира реална сметка.

Ценоразпис

Цени за милион токена, от публикацията за пускането на Haiku 5.5 и страницата с цените на Anthropic:

Вид токен Haiku 5.5, кратък Haiku 5.5, дълъг Haiku 4.5 Sonnet 5.5
Вход $0.10 $0.50 $1.00 $2.00
Изход $0.50 $2.50 $5.00 $10.00
Четене от кеш $0.01 $0.05 $0.10 $0.10
Запис в кеш, 5 минути $0.125 $0.625 $1.25 $2.50
Запис в кеш, 1 час $0.20 $1.00 $2.00 $4.00

„Кратък“ означава промпт от 100 000 токена или по-малко; „дълъг“ означава над 100 000. Batch API предоставя 50% отстъпка за входа и изхода. Цената за четене от кеш на Sonnet 5.5 беше намалена от $0.20 на $0.10 в същия ден.

Страницата за Haiku 5.5 в AIHubMix показва същите две ценови нива, с търсене в уеб за $0.01 на заявка.

Правила за таксуване, които лесно се пропускат

Променя се нивото на цялата заявка, не само на превишението. Anthropic таксува Haiku 5.5 по две ценови таблици, избирани според дължината на промпта. Промпт от 100 000 токена плаща $0.0100 за входа си; промпт от 100 001 токен плаща $0.0500, а изходът му струва пет пъти повече. Haiku 5.5 е изключение: другите текущи модели на Anthropic с 1M контекст таксуват целия прозорец по стандартните си цени.

Границата се достига по-рано, отколкото показват старите ви табла. Haiku 5.5 използва по-нов токенизатор и същият текст дава около 30% повече токени, отколкото на Haiku 4.5. Ако разделим 100 000 на 1.3, границата е близо до 77 000 токена според броенето на Haiku 4.5. Промпт от 78 000 токена на старото ви табло става приблизително 101 000 токена на Haiku 5.5 и се таксува по дългата цена. Това изчисление се основава на 30% от ръководството за миграция на Anthropic; точното увеличение зависи от съдържанието, затова преброявайте реалните промптове на новия модел.

Размисълът е включен по подразбиране и се таксува като изход. Haiku 4.5 мислеше само когато го помолиш. Haiku 5.5 работи с адаптивен режим на размисъл с усилие medium, освен ако не го промените, така че маршрут, който преди връщаше 200 изходни токена, може да върне няколко стотин повече.

Кратките промпти вече могат да се кешират. Минималният кешируем промпт пада от 4 096 токена при Haiku 4.5 до 512 при Haiku 5.5, според ръководството за миграция на Anthropic. Системен промпт от 3 000 токена, който при Haiku 4.5 никога не можеше да се кешира, вече може, а четенето от кеш струва една десета от входната цена.

Priority Tier не е наличен. Ако имате ангажимент за Priority Tier при Haiku 4.5, той не се пренася към Haiku 5.5. Планирайте капацитета отделно.

Кешираните токени и границата от 100K: приемете, че се броят. Anthropic посочва отделна цена за четене от кеш за всяко ниво, което подсказва, че целият промпт, кеширан или не, определя нивото. Anthropic не е уточнил това изрично, затова безопасното предположение е, че префикс от 95K в кеша плюс въпрос от 6K е дълъг промпт.

Пример 1: класификатор на заявки в поддръжката

Предположения, в броене на Haiku 4.5: системен промпт от 3 000 токена с дефиниции на инструменти, билет от 1 000 токена, отговор от 200 токена и 1 милион заявки на месец. Haiku 4.5 работи с изключен размисъл.

При Haiku 5.5 същият текст става 3 900 + 1 300 входни токена и отговор от 260 токена. Приема се, че размисълът добавя 300 токена при усилие low и 800 при medium. Тези стойности за размисъл са предположения; измерете вашите.

Настройка На заявка На месец
Haiku 4.5 $0.00500 $5,000
Haiku 5.5, low, без кеш $0.00080 $800
Haiku 5.5, low, кеширан префикс $0.00045 $453
Haiku 5.5, medium, кеширан префикс $0.00070 $703
Sonnet 5.5, medium, кеширан префикс $0.01359 $13,674

Месечните редове с кеширане включват около $4 за записи в кеш при Haiku 5.5 и около $84 при Sonnet 5.5, при предположение за един 5-минутен запис на всеки пет минути. Sonnet 5.5 използва същите предположения за токените като Haiku при medium.

Как се получава редът за кеширания low: 3 900 кеширани токена по $0.01 за милион ($0.000039), плюс 1 300 свежи входни токена по $0.10 ($0.00013), плюс 560 изходни токена по $0.50 ($0.00028), общо $0.000449 на заявка.

Закономерността: кеширането и усилието заедно свалят сметката от 16% от старата цена (без кеш, low) до 9% (кеширан, low). Ако оставим усилието по подразбиране вместо low, при този обем се добавят около $250 месечно. Нито едно от двете не е от голямо значение в абсолютни стойности спрямо $5 000 за Haiku 4.5, и затова случаят с класификатора е мястото, където намалението от 90% е реално.

Пример 2: преглед на договор, който минава границата

Предположения, в броене на Haiku 4.5: договор с инструкции от 70 000 токена, отговор от 1 500 токена, без кеширане. При Haiku 5.5 това става 91 000 входни токена, отговор от 1 950 токена и предположени 2 000 токена за размисъл при medium, или общо 3 950 изходни токена.

Сега нека договорът е с 14% по-дълъг: 80 000 токена при Haiku 4.5, 104 000 при Haiku 5.5.

Размер на договора (броене на Haiku 4.5) Haiku 4.5 Haiku 5.5 Промяна
70 000 токена $0.0775 $0.0111 с 86% по-ниско
80 000 токена $0.0875 $0.0619 с 29% по-ниско

Вторият ред: 104 000 входни токена по $0.50 за милион ($0.052) плюс 3 950 изходни токена по $2.50 ($0.0099). С 14% повече текст той струва 5.6 пъти повече на Haiku 5.5.

Решението е да останете под границата. Разделянето на по-дългия договор на две извиквания от около 53 000 токена всяко (половината от договора плюс инструкциите във всяко) струва общо около $0.015 по краткото ниво, под една четвърт от цената на едното дълго извикване. Дали разделянето работи, зависи от задачата: преглед клауза по клауза се разделя чисто, а въпрос, който изисква целия документ наведнъж, не.

Как се сравнява цената на задача

Спрямо Sonnet 5.5, Haiku 5.5 е около една двадесета от цената на токен при кратки промпти. Но цената на токен не е цената на завършена задача. При сложно агентно кодиране Sonnet 5.5 получава 70.6% в Terminal-Bench 4.0 срещу 39.2% за Haiku 5.5, според докладваните от Anthropic резултати, а по-евтина заявка, която се провали и се повтаря или се преработва от по-голям модел, не е по-евтина. Съветът на самия Anthropic е да сравните със Sonnet 5.5, преди да пускате Haiku при xhigh или max. Sonnet 5.5 също поевтиня същия ден: цената му за четене от кеш беше намалена наполовина, което според Anthropic намалява с около 20% повечето агентни задачи.

Спрямо GPT-6 Luna, цените по списък при кратките промпти са еднакви, включително за четене от кеш. Разликата е правилото за дълги промпти. Дългосрочната цена на Luna започва над 272 000 входни токена и е $0.20 / $0.75, докато тази на Haiku 5.5 започва над 100 000 и е $0.50 / $2.50. За работно натоварване между 100K и 272K токена Luna е далеч по-евтина по цена по списък. Двата модела използват различни токенизатори, затова сравнявайте измерени сметки, а не броя токени.

Изчисленията за границата от 100K и ефекта на токенизатора са разгледани и от Roo's Newsletter, чиято аритметика съвпада с примерите по-горе.

Стъпки за намаляване на сметката

  1. Броете токени на новия модел и задавайте сигнал преди 100K. Записвайте пълния размер на промпта при всяка заявка и задавайте сигнал около 90 000 токена, за да се изрязват или разделят промптовете, които растат, преди да сменят нивото.
  2. Кеширайте стабилния префикс. Първо системният промпт и дефинициите на инструментите, а променливото съдържание – последно. С минимум от 512 токена повечето продуктивни системни промптове вече се квалифицират. Ръководството на AIHubMix за кеширане на промптове за Claude показва формата на заявката.
  3. Задавайте усилието изрично. Използвайте low за маршрути с голям обем и прости задачи. Стойността по подразбиране medium струва повече при всяка заявка, независимо дали маршрутът се нуждае от нея.
  4. Задавайте max_tokens според размисъла плюс отговора. Ако е твърде малък, плащате за размисъл, който завършва без отговор.
  5. Групирайте това, което може да почака. Batch API намалява наполовина входните и изходните цени.
  6. Насочвайте нагоре, вместо да повтаряте надолу. Ако даден тип задача често се проваля при Haiku, първо я изпратете към Sonnet 5.5, вместо да плащате за опити с Haiku плюс резервен вариант.

Пример за логване за стъпки 1 и 2 през нативната крайна точка на Claude в AIHubMix:

import os
import anthropic

client = anthropic.Anthropic(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com",
)

SYSTEM_PROMPT = "You triage support tickets..."  # stable, cacheable prefix

def classify(ticket: str) -> str:
    r = client.messages.create(
        model="claude-haiku-5-5",
        max_tokens=1024,
        output_config={"effort": "low"},
        system=[{"type": "text", "text": SYSTEM_PROMPT,
                 "cache_control": {"type": "ephemeral"}}],
        messages=[{"role": "user", "content": ticket}],
    )
    u = r.usage
    prompt_tokens = (u.input_tokens + (u.cache_read_input_tokens or 0)
                     + (u.cache_creation_input_tokens or 0))
    if prompt_tokens > 90_000:
        print(f"warning: prompt at {prompt_tokens} tokens, near the 100K price line")
    return next(b.text for b in r.content if b.type == "text")

Ако cache_read_input_tokens остава нула при повтарящи се извиквания, нещо в префикса се променя между заявките, например времева марка в системния промпт.

Често задавани въпроси

Колко струва Claude Haiku 5.5?
За промптове до 100 000 токена – $0.10 за милион входни токена и $0.50 за милион изходни токена. За по-дълги промптове – $0.50 и $2.50, приложени върху цялата заявка. Четенето от кеш струва една десета от входната цена, а Batch API намалява наполовина входните и изходните цени.

Наистина ли Haiku 5.5 е с 90% по-евтин от Haiku 4.5?
На токен, при кратки промптове – да. На задача – по-малко: новият токенизатор брои около 30% повече токени за същия текст, размисълът е включен по подразбиране, а дългите промптове получават само 50% намаление. Anthropic оценява типичното спестяване на около 75%. Класификатор с кратки промптове и кеширане може да спести около 90%.

Какво се случва, ако промптът ми е само малко над 100 000 токена?
Цялата заявка преминава към по-високата ценова таблица, входът и изходът заедно. В примера с договора 14% повече текст направиха заявката 5.6 пъти по-скъпа.

БрояТ ли се кешираните токени към границата от 100K?
Anthropic не е заявил това изрично. Ценообразуването му включва отделни цени за четене от кеш за всяко ниво, затова безопасното предположение е, че целият промпт, кеширан или не, определя нивото.

Токените за размисъл струват ли допълнително?
Те се таксуват като изходни токени по нормалната изходна цена. Тъй като размисълът е включен по подразбиране с усилие medium, те могат значително да увеличат маршрут, който преди даваше кратки отговори. Намаляването на усилието ги намалява.

Haiku 5.5 по-евтин ли е от GPT-6 Luna?
При промптове до 100K токена цените по списък са еднакви. Между 100K и 272K токена Luna остава на базовата си цена, докато Haiku 5.5 преминава към по-високата си, така че Luna е по-евтина там по цена по списък. Токенизаторите се различават, затова сравнявайте реалните сметки.

Мога ли да използвам Priority Tier с Haiku 5.5?
Не. Priority Tier не се поддържа за Haiku 5.5, така че ангажиментите за Haiku 4.5 не се прехвърлят.

Продължете четенето: серията Claude Haiku 5.5

Източници

Един шлюз към множество AI доставчици. Създаден за продукционна среда.

Посетете AIHubMix