HR под капотом
Шлюзы, VPN и российские нейросети: почему сотрудник в России всё равно проигрывает коллеге с Запада и из Азии🤓
Многие компании уже отчитались о внедрении ИИ. Одни открыли сотрудникам Claude, ChatGPT и Gemini через корпоративный шлюз, другие подключили российские GigaChat и YandexGPT. На слайде это цифровая трансформация. На практике сотрудник получает чат, в котором можно переформулировать письмо. И всё.
Как устроен шлюз
Компания делает свой фронт: окно, где можно выбрать нейросеть и написать запрос. Запрос уходит через API к провайдеру модели. API платный, счёт идёт за каждый токен, поэтому компании режут лимит. Классическая планка около 7 000 токенов на запрос. Для русского текста токен это 2-3 символа, то есть в лимит помещается несколько страниц.
Куда уходят эти токены🫥
Но и эти страницы пользователю не достаются. Перед ответом нейросеть загружает системные инструкции, инструменты (например, MCP-подключения к ресурсам) и навыки, а потом тратит токены на разбор запроса. По нашим оценкам:
Лимит запроса: 7 000 токенов
├─ загрузка контекста ~30% ≈ 2 100
├─ разбор запроса ~30% ≈ 2 100
└─ остаток на работу ~40% ≈ 2 800 токенов
Что можно сделать на 2 800 токенов
Переписать абзац можно. А теперь типовая задача: подготовить презентацию. Агенту нужно подгрузить навык по слайдам, написать код, запустить его, проверить результат, показать пользователю и доработать по замечаниям. Это десятки тысяч токенов. В шлюз не влезает даже разбор структуры будущей презентации, не говоря о слайдах. Это как выдать сотруднику спорткар и залить бензина ровно до шлагбаума парковки😎.
Может, спасут российские модели?
Российские модели не такие уж российские. YandexGPT 5 Pro Яндекс не обучал с нуля: стартовал с весов китайской Qwen 2.5 и дообучал своим пайплайном. Сбер обучил GigaChat 3 с нуля, но на архитектуре китайской DeepSeek V3. Окно у моделей большое: у GigaChat 128 тысяч токенов, у YandexGPT 32 тысячи. Но упираемся не в модель, а в корпоративную квоту: платить много компании не готовы и здесь. А в программировании и сложной аналитике российские модели заметно уступают западным. Итого: квота та же, качество ниже.
В следующем посте: почему чат проигрывает редактору кода, что не так с VPN и догонят ли российские модели. Если у вас установлено приложение,
вы можете сразу перейти в канал