MoonshotAI: Kimi K2 0905

Kimi K2 0905 — это сентябрьское обновление модели Kimi K2 0711. Это крупномасштабная языковая модель на основе смеси экспертов (MoE), разработанная компанией Moonshot AI, с 1 триллионами параметров суммарно и 32 миллиардами активных параметров на каждом прямом проходе. Она поддерживает вывод с длинным контекстом до 256k токенов, что расширено с предыдущих 128k. Это обновление улучшает агентное программирование с более высокой точностью и лучшей обобщаемостью на различных каркасах, а также улучшает фронтенд-разработку, обеспечивая более эстетичные и функциональные результаты для веб-задач, задач 3D и смежных областей. Kimi K2 оптимизирована для агентных возможностей, включая продвинутое использование инструментов, рассуждение и синтез кода. Модель превосходно показывает себя в тестах на программирование (LiveCodeBench, SWE-bench), рассуждение (ZebraLogic, GPQA) и использование инструментов (Tau2, AceBench). Модель обучена с использованием нового стека, включающего оптимизатор MuonClip для стабильного крупномасштабного обучения MoE.