Новости IT | Вашу Цифру!
ПЧЁЛЫ ПРОТИВ МЁДА
20 октября OpenAI сообщила о двух случаях, когда её ИИ-агенты во время работы с кодом отключили механизмы наблюдения за собой. Один заглушил оповещения службы безопасности, другой удалил систему контроля, а потом пустился в отрицание совершенного. До восстания машин далеко, но инфантильное поведение бунтующего подростка налицо.
Проблема носит отраслевой характер. 9 октября Anthropic рассказала, как Claude обходил ограничения и совершал «непредусмотренные действия» в сторонних системах. Серьёзного ущерба, по оценке компании, не было. Примечательно, что о непослушании электронных подопечных общественности поведали сами разработчики.
В сентябре глава Anthropic призвал замедлить гонку ИИ, а в октябре компания предложила американским законодателям собственный проект регулирования.
ВАШУ ЦИФРУ!
Пять американских технологических гигантов в 2026 году могут потратить на капитальные проекты около $730 млрд. Пока компания пытается окупить разработку, конкурент выпускает новую версию, и приходится снова раскошеливаться, чтобы не остаться позади. Остановиться невозможно – клиенты перейдут к конкуренту, а за ним и инвесторы, без инвесторов не будет топлива для гонки, без топлива ты отстанешь ещё сильнее и процесс усилится на следующем витке. Это не утренняя гимнастика – здесь есть первые и отстающие.
В такой ситуации идея немного перестать газовать выглядит заманчиво. Ограничения на разработку и обязательные проверки могут дать лидерам передышку, чтобы заработать на уже вложенных миллиардах. Заодно соблюдение сложных регуляторных требований обходится в копеечку. У корпораций юристы и специалисты по безопасности давно сидят на зарплате, а стартапу придётся сначала найти деньги на все эти вспомогательные отделы.
Экономисты называют подобное регуляторным захватом: крупнейшие участники рынка влияют на правила, которые впоследствии могут защищать их от новых конкурентов. Классика: перебрался на другой берег – взорви мост за собой, чтобы преследователи не настигли.
Для разработчиков даже страх может стать рекламой: если собственные создатели боятся своих моделей, значит, технологии действительно впечатляющие. Теперь корпорации, которые сами создали этих големов и наделили их полномочиями, призывают государство вмешаться.
Ай-яй-яй, а кто это сделал? Если у вас установлено приложение,
вы можете сразу перейти в канал