Meta: Llama 3.2 1B Instruct

meta-llama/llama-3.2-1b-instruct
Документация

Llama 3.2 1B — это языковая модель с 1 миллиардами параметров, ориентированная на эффективное выполнение задач обработки естественного языка, таких как суммаризация, диалоги и многоязычный анализ текста. Меньший размер позволяет ей эффективно работать в средах с ограниченными ресурсами, сохраняя при этом высокую производительность. Поддерживая восемь основных языков и допуская дообучение для дополнительных языков, Llama 1.3B идеально подходит для бизнеса или разработчиков, которые ищут лёгкие, но мощные решения типа AI, способные работать в различных многоязычных средах без высоких вычислительных затрат, характерных для более крупных моделей. Нажмите здесь: оригинальная карточка модели. Использование данной модели регулируется Политикой допустимого использования Meta.

Модальности
Вход / выход за 1 млн
3,34 ₽ / 24,88 ₽
Контекст
60 000
Добавлена
25 сент. 2024 г.

Поставщики, endpoint’ы и маршрутизация

Один поставщик может предлагать несколько endpoint-вариантов: стандартный, flex, priority или региональный. Без дополнительных настроек выбирается самый дешёвый доступный endpoint.

Сначала самый дешёвый доступный endpoint
"provider": { "sort": "price" }

1 поставщика · 1 endpoint-вариантов

Поставщик / endpointДанныеВход / 1 млнВыход / 1 млнКэш / 1 млнЗадержкаСкоростьДоступность
CloudflareДешевле
cloudflare·Стандарт
3,34 ₽24,88 ₽285 мс119 ток/с100,00%

Красный и жёлтый щиты отмечают предупреждения о данных. Наведите на значок для подробностей. Условия конкретного endpoint могут отличаться от общей политики провайдера.

Цены

Стоимость показана в рублях по текущему курсу пополнения. Итоговая сумма зависит от фактического usage ответа.

ОперацияСтоимость
Входные токены3,34 ₽за 1 млн токенов
Выходные токены24,88 ₽за 1 млн токенов

Бенчмарки

Результаты стандартизированных оценок. Для индексов, ELO и точности большее значение означает лучший результат.

Для этой версии модели публичных результатов пока нет.

Параметры и модальности

Поддержка параметров синхронизирована с текущей версией модели.

Входные модальности

text

Выходные модальности

text
frequency_penaltylogit_biasmax_tokensmin_ppresence_penaltyrepetition_penaltyseedstoptemperaturetop_ktop_p

Пример запроса

curl https://gorouter.ru/api/v1/chat/completions \
  -H "Authorization: Bearer $GOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/llama-3.2-1b-instruct",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'