Chat Completions к нашей модели — совместимо с OpenAI SDK

Один запрос в работе — от момента, когда шлюз его принял, до последнего байта ответа, включая весь стрим. Потоки считаются на аккаунт: все ключи, обычные и «Агент», делят одно число, и один ключ может занять все потоки тарифа. Сколько запросов вы отправите за месяц, не важно — важно, сколько из них идут одновременно.

Потоки, очередь и честное использование у всех сроков одинаковые — разница в цене и сроке. Короткий срок подходит, чтобы проверить агента на своём коде или закрыть разовую задачу, долгий — для постоянной работы: чем дольше срок, тем дешевле час. Срок считается с момента покупки.

Запрос встаёт в очередь и ждёт свободного потока до 60 секунд. Если поток так и не освободился, приходит 429 с заголовком Retry-After — повторите запрос через указанное число секунд. Мест в очереди ограниченное число — на аккаунт и на весь сервер; когда заняты и они, 429 приходит сразу. Деньги при этом не списываются. Если очередь у вас обычное дело, возьмите тариф с большим числом потоков.

Суточный порог: подписка работает на всех потоках тарифа, пока за сутки по UTC не набралось пороговое число вычисленных токенов. Вычисленные токены — это входные без кэша плюс выходные: повторяющееся начало запроса, взятое из кэша, в порог не входит. После порога до 03:00 МСК (00:00 UTC) подписке остаётся 1 поток — без доплат и без отказов. Счётчик ведётся на аккаунт, и покупка его не сбрасывает: если за сегодня уже набран порог купленного тарифа, ему до 03:00 МСК тоже остаётся 1 поток.

Видеокарта общая, поэтому скорость зависит от нагрузки: в спокойные часы один поток выдаёт около 60 токенов в секунду, в часы пик — меньше. Подписка гарантирует число одновременных запросов, а не скорость; соглашения об уровне сервиса (SLA) нет. Текущее состояние — на странице статуса.

Подписка на то же число потоков, купленная поверх действующей, добавляет свой срок к текущему — время не пересчитывается и не сгорает. При переходе на тариф с другим числом потоков оставшееся время переводится по стоимости в часы тарифа на 30 дней с новым числом потоков, и сверху добавляется купленный срок; если подписка сложена из нескольких покупок, весь остаток оценивается по самому дешёвому часу среди них. Поэтому переход на меньшее число потоков срок не сокращает: денег не возвращаем, времени становится больше, а такой переход, который всё же сократил бы подписку, сервис не проводит и денег не списывает. У перехода на большее число потоков час дороже, и новый срок может оказаться раньше нынешнего. Остаток пробного периода не переносится. Подписка, выданная промокодом «токены в сутки», продлевается тарифом с тем же числом потоков и дальше оценивается по часу тарифа на 30 дней, а при прямом переходе с неё на другое число потоков её остаток пропадает. Новый срок кабинет показывает до покупки.

Пробный период — 3 часа бесплатно, 1 поток, один раз на аккаунт. Срок считается с нажатия кнопки «Попробовать» в кабинете, а не с регистрации; без оплаты и без автопродления. Купить тариф можно в любой момент — оставшееся пробное время при этом не переносится.

Подписка покупается в кабинете с единого баланса аккаунта. Пополнять баланс можно будет картой российского банка или через СБП — через ЮKassa. Пока приём платежей не подключён, по вопросам подписки — в Telegram @VCameron977: пополним баланс, а подписку вы оформите в кабинете сами. Автопродления нет — подписка не продлится без вашего действия.

Да — за неиспользованное время подписки, пропорционально, по заявлению: напишите нам, и деньги вернутся на карту, с которой прошла оплата. Порядок — в условиях подписки.

Пока подписка активна, все запросы аккаунта идут по ней и баланс не трогают. Закончилась подписка — запросы переходят на оплату за токены с баланса, по ценам выше: продлите её заранее, если подписка нужна без перерыва. Если учёт подписки на сервере даст сбой, запрос не блокируется, а проходит как оплата за токены — такое списание вернём на баланс по заявлению.