Nous: Hermes 3 405B Instruct

nousresearch/hermes-3-llama-3.1-405b

Hermes 3 представляет собой универсальную языковую модель со множеством улучшений по сравнению с Hermes 2, включая расширенные агентные возможности, значительно лучшее взаимодействие в ролевых сценариях, рассуждение, многоходовые диалоги, связность при длинном контексте и улучшения по всем направлениям. Hermes 3 405B — это модель передового уровня, полная тонкая настройка всех параметров на основе базовой модели Llama-3.1 405B, направленная на приведение LLMs в соответствие с пользователем, с мощными возможностями управления и контролем, предоставляемым конечному пользователю. Серия Hermes 3 развивает и расширяет набор возможностей Hermes 2, включая более мощный и надежный вызов функций и структурированный вывод, универсальные ассистентские возможности и улучшенные навыки генерации кода. Hermes 3 конкурентоспособна, если не превосходит, модели Llama-3.1 Instruct по общим возможностям, с различающимися сильными и слабыми сторонами, присущими обеим.

Модальности

Вход / выход за 1 млн

123,78 ₽ / 123,78 ₽

Контекст

131 072

Добавлена

16 авг. 2024 г.

Поставщики, endpoint’ы и маршрутизация

Один поставщик может предлагать несколько endpoint-вариантов: стандартный, flex, priority или региональный. Без дополнительных настроек выбирается самый дешёвый доступный endpoint.

Маршрут запроса

Сначала самый дешёвый доступный endpointrequest body

"provider": { "sort": "price" }

1 поставщика · 1 endpoint-вариантов

Поставщик / endpoint	Данные	Вход / 1 млн	Выход / 1 млн	Кэш / 1 млн	Задержка	Скорость	Доступность
DeepInfraДешевле deepinfra/fp8·FP8		123,78 ₽	123,78 ₽	—	400 мс	18 ток/с	100,00%

Красный и жёлтый щиты отмечают предупреждения о данных. Наведите на значок для подробностей. Условия конкретного endpoint могут отличаться от общей политики провайдера.

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

Операция	Стоимость
Входные токены	123,78 ₽за 1 млн токенов
Выходные токены	123,78 ₽за 1 млн токенов

Бенчмарки

Результаты стандартизированных оценок. Для индексов, ELO и точности большее значение означает лучший результат.

Для этой версии модели публичных результатов пока нет.

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

text

Выходные модальности

text

frequency_penaltylogit_biasmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetop_ktop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nousresearch/hermes-3-llama-3.1-405b",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'