Неискусственный интеллект
Фронтир почти покорился
Китайская Moonshot выпустила Kimi K3, самую крупную открытую модель на сегодня: 2,8T параметров против 1,6T у прежнего рекордсмена DeepSeek. Но в этом случае важнее не размер, а то как им пользуешься. В тесте Terminal-Bench v2.1 от Artificial Analysis K3 занимает второе место за GPT-5.6, обходя Opus 4.8, GPT-5.5 и GLM-5.2.
Открытая модель почти догнала фронтир без скидок и на сторонних замерах, а не только в тепличных условиях самой лабы.
По коду картина смешанная. На SWE Marathon, где модель чинит баги в реальных репозиториях, K3 идет первой в таблице: 42 против 39 у GPT-5.6 Sol и 35 у Fable 5, при 13 у открытой GLM-5.2. На DeepSWE наоборот, 67 у K3 против 73 у GPT-5.6 Sol и 70 у Fable 5, зато заметно выше 46 у той же GLM-5.2. Это замеры самой Moonshot, каждую модель гоняли через свой харнесс.
K3 построена на новой архитектуре внимания, Kimi Delta Attention и Attention Residuals, поверх разреженной MoE, где из 896 экспертов активны 16. По оценке Moonshot, это дает примерно 2.5-кратный прирост эффективности масштабирования относительно K2. Обучение шло сразу в квантованном формате MXFP4. Веса обещают открыть к 27 июля, хотя запуск 2,8T параметров требует серьезного железа: Moonshot советует разворачивать модель на узлах от 64 ускорителей.
До фронтира K3 не дотягивает, и говорит об этом сама Moonshot первой же строкой: по общим способностям Fable 5 и GPT-5.6 Sol впереди. В анонсе есть отдельный раздел с ограничениями, где слабые места названы прямым текстом: модель бывает чрезмерно самостоятельной и порой принимает решение за пользователя, теряет стабильность, если сессию посреди работы переключить с другой модели, и по удобству пока уступает лидерам.
Ранняя версия K3 оптимизировала GPU-ядра, на которых потом обучали финальную K3, впрочем, такая же история была у Qwen. А еще за один автономный прогон на 48 часов модель спроектировала и проверила в симуляции чип под нано-версию собственной архитектуры.
@anti_agi Если у вас установлено приложение,
вы можете сразу перейти в канал