Ai Vibe News
Kimi K3 на Amazon Bedrock: миллион токенов и кэш для длинного кодинга
Если гоняете Kimi K3 через Bedrock и OpenCode, статичный хвост промпта — правила репо, тулинг, справочники — на каждом ходе уходит на биллинг как новый. Явный кэш префикса на платформе как раз про это: помечаете breakpoint после блока от 1024 токенов и не пересылаете одно и то же.
Префикс держится минимум полчаса; попадание в кэш снижает цену входа и не съедает минутный лимит. В посте тот же сценарий на global.moonshotai.kimi-k3 — провайдер amazon-bedrock, без переделки окружения.
Сначала включите кэш для неизменной шапки сессии, потом уже раздувайте контекст под миллион токенов — иначе платите дважды за один текст. Если у вас установлено приложение,
вы можете сразу перейти в канал