Сапа
@sapa_media
OpenAI притормозила обучение новых моделей после тревожных кибертестов
🔻OpenAI временно замедлила разработку своих наиболее мощных моделей из-за опасений, связанных с их растущими возможностями в сфере кибербезопасности. Компания на две недели приостанавливала обучение с подкреплением (RL) последних моделей, предназначенных для выпуска, чтобы усилить защиту исследовательской инфраструктуры и системы мониторинга.
Полностью обучение новых моделей при этом не остановлено. OpenAI продолжает проводить небольшие тренировочные запуски и тесты, однако крупнейший запланированный цикл RL-обучения пока остается на паузе. Компания хочет сначала убедиться, что модели ведут себя предсказуемо и не способны обходить установленные ограничения.
Поводом для усиления мер стали недавний киберинцидент во время совместного тестирования с Hugging Face и результаты предварительной оценки будущей модели Astra.
➡️ В OpenAI считают, что ее возможности могут достичь уровня Critical по кибербезопасности — модель потенциально способна выполнять сложные многоэтапные кибероперации. Для таких систем компания теперь усиливает изоляцию от интернета, контроль за исполняемым кодом и автоматический мониторинг действий модели.
🟠 Подписывайся на «Сапу»
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал