Mistral: Mixtral 8x22B Instruct

mistralai/mixtral-8x22b-instruct

Официальная инструктивная тонконастроенная версия Mixtral 8x22B от Mistral. Она использует 39B активных параметров из 141B, обеспечивая непревзойденную экономическую эффективность для своего размера. Ее сильные стороны включают: сильная математика, программирование и рассуждение большой контекст (64k) свободное владение английским, французским, итальянским, немецким и испанским См. бенчмарки в анонсе здесь. moe

Модальности

Вход / выход за 1 млн

247,55 ₽ / 742,65 ₽

Контекст

65 536

Добавлена

17 апр. 2024 г.

Поставщики, endpoint’ы и маршрутизация

Один поставщик может предлагать несколько endpoint-вариантов: стандартный, flex, priority или региональный. Без дополнительных настроек выбирается самый дешёвый доступный endpoint.

Маршрут запроса

Сначала самый дешёвый доступный endpointrequest body

"provider": { "sort": "price" }

1 поставщика · 2 endpoint-вариантов

Поставщик / endpoint	Данные	Вход / 1 млн	Выход / 1 млн	Кэш / 1 млн	Задержка	Скорость	Доступность
MistralДешевле mistral·Стандарт		247,55 ₽	742,65 ₽	24,76 ₽	405 мс	73 ток/с	99,94%
Mistral mistral/eu·Стандарт		272,31 ₽	816,92 ₽	27,23 ₽	623 мс	20,5 ток/с	99,21%

Красный и жёлтый щиты отмечают предупреждения о данных. Наведите на значок для подробностей. Условия конкретного endpoint могут отличаться от общей политики провайдера.

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

Операция	Стоимость
Входные токены	247,55 ₽за 1 млн токенов
Выходные токены	742,65 ₽за 1 млн токенов
Чтение кэша	24,76 ₽за 1 млн токенов

Бенчмарки

Результаты стандартизированных оценок. Для индексов, ELO и точности большее значение означает лучший результат.

Для этой версии модели публичных результатов пока нет.

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

textfile

Выходные модальности

text

frequency_penaltymax_tokenspresence_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/mixtral-8x22b-instruct",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'