Как GigaChat считает токены
Сбер выложил словарь GigaChat в открытый доступ под лицензией MIT. Мы считаем текст именно им, поэтому число токенов совпадает с тем, что спишет API. Словарь один для GigaChat 2, 3 и 3.5: файлы открытых моделей разных поколений одинаковые.
К каждому сообщению API добавляет около четырёх служебных токенов — роль и разметку. Калькулятор показывает их отдельно. Ответ модели, файлы и картинки заранее не посчитать: их Сбер учитывает по факту, в поле usage ответа.
Почему русский текст здесь короче
Словарь GigaChat собран с расчётом на русский язык. На нашем корпусе русских текстов он тратит около 1,8 токена на слово, а словарь o200k, которым считают GPT, — около 2. С английским наоборот: GigaChat делит его чуть мельче, чем o200k.
На нашем корпусе русской прозы, деловых писем и переписки токен GigaChat в среднем занимает 3–4 символа. Для кода и таблиц соотношение другое, поэтому надёжнее посчитать конкретный текст, чем умножать символы.
Два канала продажи: Сбер и Cloud.ru
GigaChat 2 Lite, Pro и Max продаются напрямую у Сбера. Вход и ответ у них стоят одинаково. Есть асинхронный режим ровно вдвое дешевле: запрос ставится в очередь, и ответ приходит не сразу. Lite на момент проверки цен в десять раз дешевле Max.
GigaChat 3 Pro и 3.5 Ultra мы берём из каталога Cloud.ru. Там ответ дороже входа: у 3.5 Ultra примерно втрое, у 3 Pro — примерно в 2,4 раза. Зато вход у 3.5 Ultra на момент проверки цен в несколько раз дешевле, чем у GigaChat 2 Max напрямую, а контекст вдвое больше — 262 тысячи токенов против 131 тысячи.
Все цены GigaChat — в рублях и уже с НДС 22 %. Пересчитывать по курсу не нужно.
Какую модель выбрать
Для классификации, коротких ответов и обработки больших объёмов текста попробуйте сначала GigaChat 2 Lite — разница в цене с Max десятикратная. Если нужна модель сильнее и важен длинный контекст, сравните GigaChat 3 Pro и 3.5 Ultra: при длинном входе и коротком ответе они выходят дешевле GigaChat 2 Max.
Если ответы длинные, разница меньше, потому что ответ на Cloud.ru дороже входа. Задайте длину ответа в Расширенном режиме и сравните суммы для своего сценария.