MythoMax 13B

gryphe/mythomax-l2-13b

Документация

Одна из самых производительных и популярных тонких настроек Llama 2 13B с богатыми описаниями и ролевой игрой. #merge

Модальности

Вход / выход за 1 млн

9,60 ₽ / 13,20 ₽

Контекст

8 192

Добавлена

2 июл. 2023 г.

Провайдеры

Провайдер выбирается автоматически с учётом цены и доступности. Для явного выбора скопируйте его ID из таблицы. Как указать провайдера

Провайдеры: 3Варианты: 3

Задержка / скорость

Провайдер	Вход / 1 млн	Выход / 1 млн	Кэш / 1 млн	Задержка	Скорость	Доступность
Parasail FP16	9,60 ₽	13,20 ₽	—	383 мс	98 ток/с	100,00%
DeepInfra FP16	47,99 ₽	47,99 ₽	—	263 мс	47 ток/с	100,00%
Mancer 2 FP8	41,99 ₽	71,99 ₽	—	407 мс	66 ток/с	100,00%

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

Операция	Стоимость
Входные токены	9,60 ₽за 1 млн токенов
Выходные токены	13,20 ₽за 1 млн токенов

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

text

Выходные модальности

text

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetop_atop_ktop_logprobstop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gryphe/mythomax-l2-13b",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'