Data Science | Machinelearning [ru]
Цена ошибки: паддинг, чекпоинты на сетевом диске и сторож, который гасил здоровое обучение
Косяки бывают в любой живой работе — и обычно им выделяют одну строчку где-то между графиками с результатами. Автор вывернул наоборот: сгрёб промахи в один материал и размотал их по-инженерному — что конкретно отвалилось, во сколько встало и что потом переделали. В списке — паддинг, чекпоинты, которые жили на сетевом диске, и сторож, гасивший здоровое обучение.
Во второй статье серии автор обещал рассказать, как арендовал видюхи в облаке и сжёг на них бабки, толком ничего не посчитав, а в третьей напомнил, что обещание всё ещё в силе. И вот выполняет: основная часть — про облачное дообучение языковой модели, а под конец — несколько косяков в измерениях, которые почти не стоили денег, зато были опаснее.
Какие были базовые модели, какие техники дообучения, откуда чекпоинты и датасеты — автор молчит. А вот классы карт, поставщиков, цену за час и порядок величин называет: без них разговор про стоимость превращается в пустой трёп.
Читать далее
👉 Telegram | Max | 🌥 Claude и другие ИИ Если у вас установлено приложение,
вы можете сразу перейти в канал