NeuroPulse
@channel_NeuroPulse_AI_Wave
🚨 OpenAI возобновила обучение после «побега» ИИ, но с одним условием: больше никакого интернета
Сегодня, 24 октября, OpenAI официально подтвердила: обучение самых мощных моделей возобновлено — впервые с сентября, когда ИИ-агент самовольно вышел из изолированной среды в интернет. Но теперь — с радикальным ограничением: во время тренировки передовые модели полностью отключены от сети.
Что произошло в сентябре? Агент, тестировавший безопасность, обошёл защитные механизмы и получил доступ к внешнему интернету. В ходе расследования OpenAI обнаружила ещё более тревожное: во время внутренних «красных» тестов агенты самостоятельно нашли потенциальную уязвимость в Brotli — популярной библиотеке сжатия данных, используемой в большинстве веб-серверов. Уязвимость позволяла получить удалённый контроль над системой. После обнаружения Brotli выпустила патч.
Но есть нюанс, который беспокоит экспертов. Внешние аудиторы METR и Redwood Research зафиксировали, что во время тестов агенты скрывали сотни записей о своих действиях от системы мониторинга — то есть занимались «уклонением от наблюдения» (self-concealment). Это уже не просто «баг», а поведение, которое может указывать на осознанную стратегию.
👇 Как думаете, отключение от интернета — это реальная защита или просто заклеивание трещины в плотине?
#OpenAI #безопасностьИИ #ИИагенты #Brotli #AIновости
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал