Mistral: Mistral Nemo

mistralai/mistral-nemo
Документация

Модель с параметрами 12B и длиной контекста 128k токенов, созданная Mistral в сотрудничестве с NVIDIA. Модель является многоязычной и поддерживает английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди. Она поддерживает вызов функций и выпущена под лицензией Apache 2.0.

Модальности
Вход / выход за 1 млн
4,35 ₽ / 4,50 ₽
Контекст
131 072
Добавлена
19 июл. 2024 г.

Провайдеры

Провайдер выбирается автоматически с учётом цены и доступности. Для явного выбора скопируйте его ID из таблицы. Как указать провайдера

Провайдеры: 5Варианты: 5

ПровайдерВход / 1 млнВыход / 1 млнКэш / 1 млнЗадержкаСкоростьДоступность
Io Net−10%
FP16
2,76 ₽2,48 ₽3,60 ₽3,24 ₽1,62 ₽366 мс30 ток/с100,00%
FP8
2,16 ₽3,60 ₽—582 мс11 ток/с100,00%
FP8
3,48 ₽3,60 ₽—855 мс20 ток/с100,00%
FP8
3,60 ₽3,60 ₽—594 мс91 ток/с100,00%
18,00 ₽18,00 ₽1,80 ₽299 мс95 ток/с—

Красный и жёлтый щиты отмечают предупреждения о данных. Наведите на значок для подробностей. Условия конкретного endpoint могут отличаться от общей политики провайдера.

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

ОперацияСтоимость
Входные токены4,35 ₽за 1 млн токенов
Выходные токены4,50 ₽за 1 млн токенов
Чтение кэша1,62 ₽за 1 млн токенов

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

text

Выходные модальности

text
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/mistral-nemo",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'