Moonshot AI выпустила открытую модель Kimi K3 на 2,8 трлн параметров, уступающую лишь Fable 5 и GPT-5.6

Китайская компания Moonshot AI выпустила новую флагманскую открытую модель Kimi K3, содержащую 2,8 триллиона параметров и поддерживающую контекстное окно до миллиона токенов. По собственным оценкам Moonshot, модель уступает по общему уровню интеллекта только Claude Fable 5 от Anthropic и GPT-5.6 Sol от OpenAI, превосходя все остальные модели, включая Claude Opus 4.8. Архитектура K3 основана на гибридном механизме линейного внимания Kimi Delta Attention с остаточными связями, что позволяет эффективно обрабатывать длинные последовательности. Модель использует разреженную MoE-архитектуру с 896 экспертами, из которых на каждый токен активируются только 16. По утверждению Moonshot, масштабирование K3 примерно в 2,5 раза эффективнее, чем у предшественника K2. Модель обладает нативным зрением и принимает изображения и видео без внешних адаптеров. На бенчмарке GDPval-AA v2 K3 набрала 1687 баллов, обойдя Claude Opus 4.8 Max, но уступив Fable 5 Max и GPT-5.6 Sol Max. На AA-Briefcase она заняла второе место в мире, превзойдя GPT-5.6 Sol Max. На BrowseComp модель показала рекордные 91,2 балла в одиночном агентном режиме без сжатия контекста. Цены API составляют $3 за миллион входящих токенов ($0,3 при попадании в кэш) и $15 за исходящие. Moonshot также привлекает новый раунд финансирования при оценке $31,5 млрд. Веса модели будут опубликованы в ближайшие дни, что позволит сообществу впервые получить доступ к модели такого уровня, ранее доступного только закрытым решениям.