Ai Vibe News

@channel_aivibenews
Фото Kimi K3 на Amazon Bedrock: миллион токенов и кэш для длинного кодинга Если гоняете Kimi K3 через Bedrock и OpenCode, статичный хвост промпта — правила репо, тулинг, справочники — на каждом ходе уходит на биллинг как новый. Явный кэш префикса на платформе как раз про это: помечаете breakpoint после блока от 1024 токенов и не пересылаете одно и то же. Префикс держится минимум полчаса; попадание в кэш снижает цену входа и не съедает минутный лимит. В посте тот же сценарий на global.moonshotai.kimi-k3 — провайдер amazon-bedrock, без переделки окружения. Сначала включите кэш для неизменной шапки сессии, потом уже раздувайте контекст под миллион токенов — иначе платите дважды за один текст.
Если у вас установлено приложение,
вы можете сразу перейти в канал