WizardLM-2 8x22B

microsoft/wizardlm-2-8x22b

WizardLM-2 8x22B — самая продвинутая модель Microsoft AI. Она демонстрирует высокую конкурентоспособность по сравнению с ведущими проприетарными моделями и стабильно превосходит все существующие открытые модели. Это инструктивная тонкая настройка Mixtral 8x22B. Подробнее о выпуске модели читайте здесь. moe

Модальности

Вход / выход за 1 млн

74,39 ₽ / 74,39 ₽

Контекст

65 535

Добавлена

16 апр. 2024 г.

Провайдеры

Провайдер выбирается автоматически с учётом цены и доступности. Для явного выбора скопируйте его ID из таблицы. Как указать провайдера

Провайдеры: 1Варианты: 1

Задержка / скорость

Провайдер	Вход / 1 млн	Выход / 1 млн	Кэш / 1 млн	Задержка	Скорость	Доступность
Novita BF16	74,39 ₽	74,39 ₽	—	1,18 с	25 ток/с	100,00%

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

Операция	Стоимость
Входные токены	74,39 ₽за 1 млн токенов
Выходные токены	74,39 ₽за 1 млн токенов

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

text

Выходные модальности

text

frequency_penaltymax_tokenspresence_penaltyrepetition_penaltyresponse_formatseedstoptemperaturetop_ktop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/wizardlm-2-8x22b",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'