Модели

Модели серии o1 обучаются с помощью обучения с подкреплением, чтобы обдумывать ответ перед его выдачей и выполнять сложные рассуждения. Модель o1-pro использует больше вычислительных ресурсов, чтобы думать глубже и давать стабильно более качественные ответы.

Mistral Small 3.1 24B — это улучшенная версия Mistral Small 3 (2501), обладающая 24 миллиардами параметров и расширенными мультимодальными возможностями. Она обеспечивает передовую производительность в текстовых задачах и визуальном анализе, включая обработку изображений, программирование, многоязычные рассуждения и поддержку десятков языков. Оснащённая обширным контекстным окном 128k и оптимизированная для эффективного локального вывода, модель поддерживает такие сценарии, как диалоговые агенты, вызов функций, понимание длинных документов и развёртывание в условиях ограниченной конфиденциальности. Обновлённая версия доступна как Mistral Small 3.2.

Gemma 3 вводит мультимодальность, поддерживая ввод вида «изображение-текст» и вывод текста. Он обрабатывает контекстные окна до 128k токенов, понимает более 140 языков и предлагает улучшенные возможности для математики, логических рассуждений и чата, включая структурированные выходные данные и вызов функций.

Gemma 3 вводит мультимодальность, поддерживая ввод на основе зрения и языка и текстовый вывод. Он обрабатывает контекстные окна до 128k токенов, понимает более 140 языков и предлагает улучшенные возможности для математики, рассуждений и чата, включая структурированные выходные данные и вызовы функций. Gemma 3 12B является второй по величине моделью в семействе Gemma 3 после Gemma 3 27B

Command A — это модель с открытыми весами, имеющая 111B параметров и контекстное окно 256k, ориентированная на обеспечение высокой производительности в агентных, многоязычных и программных сценариях использования. По сравнению с другими ведущими проприетарными моделями и моделями с открытыми весами Command A обеспечивает максимальную производительность при минимальных аппаратных затратах, превосходно справляясь с критически важными для бизнеса агентными и многоязычными задачами.

Reka Flash 3 — это универсальная языковая модель большого размера, настроенная на выполнение инструкций, с 21 миллиардами параметров, разработанная компанией Reka. Она отлично справляется с общими диалогами, задачами программирования, следованием инструкциям и вызовом функций. Благодаря контекстной длине 32K и оптимизации с помощью обучения с подкреплением (RLOO) модель обеспечивает производительность, сопоставимую с проприетарными моделями, при меньшем количестве параметров. Reka Flash 3 идеально подходит для развертывания с низкой задержкой, локального или на устройстве: она компактна, поддерживает эффективное квантование (вплоть до 11GB с точностью 4 бит) и использует явные теги рассуждений ("") для обозначения внутреннего мыслительного процесса. Reka Flash 3 — это в первую очередь англоязычная модель с ограниченными возможностями многоязычного понимания. Веса модели выпущены под лицензией Apache 2.0.

Gemma 3 вводит мультимодальность, поддерживая визуально-языковой ввод и текстовые выводы. Он обрабатывает контекстные окна до 128k токенов, понимает более 140 языков и предлагает улучшенные возможности в области математики, рассуждений и чата, включая структурированные выводы и вызовы функций. Gemma 3 27B — это последняя модель с открытым исходным кодом от Google, преемница Gemma 2

Skyfall 36B v2 — это улучшенная итерация Mistral Small 2501, специально доработанная для повышения креативности, нюансированного письма, ролевой игры и связного повествования.

Примечание: цена Sonar Pro включает стоимость поиска Perplexity. См. подробнее здесь Sonar Reasoning Pro — это ведущая модель рассуждений на базе DeepSeek R1 с цепочкой рассуждений (CoT). Разработана для сложных сценариев использования, поддерживает углублённые многошаговые запросы, увеличенный контекст и может выводить больше ссылок на поиск, обеспечивая более полные и расширяемые ответы.

Примечание: Sonar Pro ценообразование включает Perplexity поиск. Подробнее здесь Для предприятий, которым требуются более продвинутые возможности, Sonar Pro API могут обрабатывать многоэтапные запросы с расширенной функциональностью, например, вдвое больше цитируемых источников на поиск по сравнению с Sonar в среднем. Кроме того, увеличенное контекстное окно позволяет обрабатывать более длинные и сложные запросы, а также уточняющие вопросы.

Sonar Deep Research — это модель, ориентированная на исследования, предназначенная для многоэтапного поиска, синтеза и рассуждений по сложным темам. Она автономно ищет, читает и оценивает источники, уточняя свой подход по мере сбора информации. Это позволяет создавать комплексные отчёты в таких областях, как финансы, технологии, здравоохранение и текущие события. Примечания по ценообразованию (Источник) Входные токены включают токены подсказки (пользовательский запрос) + токены цитирования (это обработанные токены из выполненных поисковых запросов) Deep Research выполняет несколько поисковых запросов для проведения исчерпывающего исследования. Поисковые запросы оцениваются в $5 за 1000 поисковых запросов. Запрос, выполняющий 30 поисковых запросов, будет стоить $0.15 на этом этапе. Рассуждение — это отдельный этап в Deep Research, поскольку он выполняет обширные автоматизированные рассуждения по всему материалу, собранному на этапе исследования. Токены рассуждения здесь немного отличаются от CoTs в ответе — это токены, которые мы используем для рассуждения о исследовательском материале перед генерацией результатов через CoTs. Токены рассуждения оцениваются в $3 за 1M токенов

Mistral Saba — это языковая модель с 24B параметрами, специально разработанная для Ближнего Востока и Южной Азии, обеспечивающая точные и контекстуально релевантные ответы при сохранении эффективной производительности. Обученная на курируемых региональных наборах данных, она поддерживает несколько языков индийского происхождения, включая тамильский и малаялам, наряду с арабским. Это делает её универсальным вариантом для широкого круга региональных и многоязычных приложений. Подробнее в блоге здесь.

OpenAI o3-mini-high — это та же модель, что и o3-mini, но с параметром reasoning_effort, установленным в значение high. o3-mini — это экономичная языковая модель, оптимизированная для задач STEM-рассуждений, особенно сильная в науке, математике и программировании. Модель предлагает три настраиваемых уровня усилий рассуждения и поддерживает ключевые возможности для разработчиков, включая вызов функций, структурированные выходные данные и потоковую передачу, однако не включает возможности обработки изображений. Модель демонстрирует значительные улучшения по сравнению с предыдущей версией: экспертные тестировщики предпочитают её ответы в 56% случаев и отмечают снижение 39% серьёзных ошибок при решении сложных вопросов. При среднем уровне усилий рассуждения o3-mini соответствует производительности более крупной модели o1 на сложных оценочных тестах рассуждений, таких как AIME и GPQA, сохраняя при этом более низкую задержку и стоимость.

Aion-RP-Llama-3.1-8B — это бенчмарк, в котором оценивается качество ответов. Он относится к категории ролевых сценариев и является вариантом теста RPBench-Auto, где LLMs оценивают ответы друг друга. Это тонко настроенная базовая модель, а не инструктивная, предназначенная для создания более естественных и разнообразных текстов.

Qwen2.5-VL умеет распознавать распространённые объекты, такие как цветы, птицы, рыбы и насекомые. Кроме того, она отлично справляется с анализом текстов, диаграмм, иконок, графики и макетов в изображениях.

Qwen-Plus, основанная на базовой модели Qwen2.5, представляет собой модель с контекстом 131K, обладающую сбалансированным сочетанием производительности, скорости и стоимости.

OpenAI o3-mini — это экономичная языковая модель, оптимизированная для задач STEM-рассуждений, особенно эффективная в естественных науках, математике и программировании. Модель поддерживает параметр reasoning_effort, который можно задать как «high», «medium» или «low» для управления временем размышлений модели. По умолчанию используется значение «medium». OpenRouter также предлагает слаг модели openai/o3-mini-high, чтобы по умолчанию установить параметр в «high». Модель имеет три регулируемых уровня усилий при рассуждении и поддерживает ключевые возможности разработчиков, включая вызов функций, структурированные выходные данные и потоковую передачу, однако не включает возможности обработки изображений. Модель демонстрирует значительные улучшения по сравнению со своим предшественником: экспертные тестировщики предпочитают её ответы 56% случаев и отмечают снижение 39% серьёзных ошибок на сложных вопросах. При среднем уровне усилий рассуждения o3-mini соответствует производительности более крупной модели o1 на сложных оценочных тестах, таких как AIME и GPQA, сохраняя при этом меньшую задержку и стоимость.

Mistral Small 3 — это языковая модель с 24B параметрами, оптимизированная для низкой задержки при выполнении типовых задач AI. Выпущенная под лицензией Apache 2.0, она включает как предобученную, так и инструктивную версии, предназначенные для эффективного локального развертывания. Модель достигает точности 81% на бенчмарке MMLU и показывает конкурентоспособные результаты по сравнению с более крупными моделями, такими как Llama 3.3 70B и Qwen 32B, работая при этом в три раза быстрее на эквивалентном оборудовании. Прочитайте статью в блоге об этой модели здесь.

Sonar легкий, доступный, быстрый и простой в использовании — теперь с цитатами и возможностью настройки источников. Он предназначен для компаний, стремящихся интегрировать легкие функции вопросов и ответов, оптимизированные для скорости.

DeepSeek R1 на месте: производительность на уровне OpenAI o1, но с открытым исходным кодом и полностью открытыми токенами рассуждений. Размер — 671B параметров, из которых 37B активны во время прохода вывода. Полностью открытая модель и технический отчет. Лицензия MIT: свободно дистиллируйте и коммерциализируйте!

MiniMax-01 — это комбинированная модель, объединяющая MiniMax-Text-01 для генерации текста и MiniMax-VL-01 для понимания изображений. Она имеет 456 миллиардов параметров, при этом 45.9 миллиардов параметров активируется за один вывод, и может обрабатывать контекст до 4 миллионов токенов. Текстовая модель использует гибридную архитектуру, сочетающую Lightning Attention, Softmax Attention и Mixture-of-Experts (MoE). Модель изображений использует фреймворк «ViT-MLP-LLM» и обучается поверх текстовой модели. Чтобы узнать больше о релизе, см.: https://www.minimaxi.com/en/news/minimax-01-series-2

Microsoft Research Phi-4 разработана для достижения высоких результатов в сложных задачах рассуждения и может эффективно работать в условиях ограниченной памяти или когда требуются быстрые ответы. Модель с 14 миллиардами параметров была обучена на смеси высококачественных синтетических наборов данных, данных с курируемых веб-сайтов и академических материалов. Она прошла тщательную доработку, чтобы точно следовать инструкциям и поддерживать высокие стандарты безопасности. Она лучше всего работает с входными данными на английском языке. Для получения дополнительной информации см. Phi-4 Technical Report

DeepSeek-V3 — новейшая модель команды DeepSeek, развивающая способности предыдущих версий к следованию инструкциям и написанию кода. Предобученная на почти 15 триллионах токенов, модель, согласно опубликованным оценкам, превосходит другие открытые модели и конкурирует с ведущими закрытыми моделями. Подробности о модели см. в репозитории DeepSeek-V3 или в анонсе запуска.

Euryale L3.3 70B — модель, ориентированная на творческую ролевую игру, от Sao10k. Она является преемницей Euryale L3 70B v2.2.

Последнее и самое мощное семейство моделей от OpenAI, o1 разработано для того, чтобы тратить больше времени на размышления перед ответом. Серия моделей o1 обучается с помощью масштабного обучения с подкреплением, чтобы рассуждать, используя цепочку мыслей. Модели o1 оптимизированы для математики, науки, программирования и других задач STEM-related. Они стабильно демонстрируют точность уровня PhD на бенчмарках по физике, химии и биологии. Подробнее в анонсе о запуске.

Command R7B (12-2024) — это небольшое и быстрое обновление модели Command R+, выпущенное в декабре 2024. Она отлично справляется с задачами, требующими сложных рассуждений и многошаговых действий, такими как RAG, использование инструментов, работа с агентами и аналогичными сценариями. Использование данной модели регулируется Политикой использования и Соглашением SaaS компании Cohere.

Многоязычная большая языковая модель Meta Llama 3.3 (LLM) — это предобученная и инструкционно настроенная генеративная модель в 70B (текст на входе/текст на выходе). Модель Llama 3.3, инструкционно настроенная и работающая только с текстом, оптимизирована для многоязычных диалоговых сценариев и превосходит многие доступные открытые и закрытые чат-модели на распространённых отраслевых бенчмарках. Поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Model Card

Amazon Nova Lite 1.0 — это очень недорогая мультимодальная модель от Amazon, которая ориентирована на быструю обработку изображений, видео и текстовых входных данных для генерации текстового вывода. Amazon Nova Lite может обрабатывать взаимодействия с клиентами в реальном времени, анализ документов и задачи визуальных вопросов-ответов с высокой точностью. При входном контексте в 300K токенов она может анализировать несколько изображений или до 30 минут видео за один вход.

Amazon Nova Micro 1.0 — это текстовая модель, обеспечивающая минимальную задержку ответов среди моделей семейства Amazon Nova при очень низкой стоимости. С длиной контекста в 128K токенов и оптимизацией под скорость и цену, Amazon Nova Micro превосходно справляется с такими задачами, как суммаризация текста, перевод, классификация контента, интерактивный чат и генерация идей. Она обладает простыми математическими рассуждениями и способностями к программированию.

Amazon Nova Pro 1.0 — это мощная мультимодальная модель от Amazon, ориентированная на предоставление сочетания точности, скорости и стоимости для широкого круга задач. По состоянию на декабрь 2024 она достигает передовых результатов на ключевых бенчмарках, включая ответы на визуальные вопросы (TextVQA) и понимание видео (VATEX). Amazon Nova Pro демонстрирует сильные возможности в обработке как визуальной, так и текстовой информации, а также в анализе финансовых документов. NOTE: Видеовход в настоящее время не поддерживается.