Meta: Llama 3.1 8B Instruct

meta-llama/llama-3.1-8b-instruct

Последний класс моделей Meta (Llama 3.1) был выпущен в различных размерах и вариантах. Эта версия 8B, настроенная по инструкциям, быстрая и эффективная. Она продемонстрировала высокую производительность по сравнению с ведущими закрытыми моделями в оценках людьми. Чтобы узнать больше о выпуске модели, нажмите здесь. Использование этой модели регулируется Политикой допустимого использования Meta.

Модальности

Вход / выход за 1 млн

6,00 ₽ / 9,60 ₽

Контекст

131 072

Добавлена

23 июл. 2024 г.

Провайдеры

Провайдер выбирается автоматически с учётом цены и доступности. Для явного выбора скопируйте его ID из таблицы. Как указать провайдера

Провайдеры: 5Варианты: 5

Задержка / скорость

Провайдер	Вход / 1 млн	Выход / 1 млн	Кэш / 1 млн	Задержка	Скорость	Доступность
DeepInfra FP8	2,40 ₽	4,80 ₽	—	702 мс	36 ток/с	100,00%
Novita FP8	2,40 ₽	6,00 ₽	—	474 мс	118 ток/с	100,00%
Groq	6,00 ₽	9,60 ₽	3,00 ₽	93 мс	356 ток/с	100,00%
Cloudflare FP8	18,24 ₽	34,44 ₽	—	439 мс	17 ток/с	100,00%
CoreWeave BF16	26,40 ₽	26,40 ₽	26,40 ₽	404 мс	140 ток/с	100,00%

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

Операция	Стоимость
Входные токены	6,00 ₽за 1 млн токенов
Выходные токены	9,60 ₽за 1 млн токенов
Чтение кэша	3,00 ₽за 1 млн токенов

Бенчмарки

Результаты стандартизированных оценок. Для индексов, ELO и точности большее значение означает лучший результат.

Artificial Analysis

Сводные индексы способностей модели.

Источник

Интеллекттоп 76%

6,9индекс

место 264 из 350

Кодтоп 98%

5,4индекс

место 137 из 140

Публичные eval-задачи

Точность опубликованных прогонов.

Источник

GPQA Diamond

28,7%точность

1 584 задач

τ-bench Verified — Airline

19,7%точность

200 задач

Данные API на 17.10.2026, 19:58:17.

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

text

Выходные модальности

text

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.1-8b-instruct",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'