MoonshotAI: Kimi K2 0711

moonshotai/kimi-k2

Kimi K2 Instruct — это масштабная языковая модель с архитектурой смеси экспертов (MoE), разработанная Moonshot AI. Она содержит 1 триллион параметров, из которых 32 миллиарда активны при каждом проходе. Модель оптимизирована для агентских возможностей, включая продвинутое использование инструментов, рассуждение и синтез кода. Kimi K2 превосходит конкурентов во многих бенчмарках, особенно в программировании (LiveCodeBench, SWE-bench), рассуждениях (ZebraLogic, GPQA) и задачах по использованию инструментов (Tau2, AceBench). Она поддерживает длинный контекст до 128 тыс. токенов и использует новый стек обучения с оптимизатором MuonClip для стабильного обучения сверхкрупных MoE-моделей.