Алгоритмы Будущего
🤖 Робот притормозил перед человеком. Потому что ему так сказали
Проверка безопасности у робота выглядит убедительно: платформа замедляется у прохода, манипулятор сбавляет ход, когда рядом человек, гуманоид уступает дорогу. Работает это ровно до момента, когда входные данные начинают врать. VicOne LAB R7 собрала механику на трёх разных сценах: собаке-роботу с моделью Gemma 4 E4B хватило надписи на плакате, чтобы принять её за команду и поехать не туда; в симуляции больничного робота на модели Nemotron и плате NVIDIA Jetson AGX Orin неслышимый для человека звук менял поведение; на багбаунти исследователи вбросили в машину сообщение по ROS 2/DDS (шина, через которую узлы робота переговариваются) — и робот, которого ждали неподвижным под безопасным контролем, поехал. Задачи не менялись. Менялись только входы. Разница «до» и «после» не в поломке: до — датчик честный, защита срабатывает; после — датчик врёт, а защита честно срабатывает по лжи. Это подрывает опору сертификации, где считают вероятность случайных отказов, а не намеренных, которые можно повторять по расписанию. Сценарии уже прописаны: с 20 января 2027 года регламент ЕС о машинах требует защищать системы и данные, влияющие на безопасность, в Китае действует GB/T 45502-2025 для сервисных роботов. Вывод скучный: карта входов каждой защитной функции и вопрос «а если эта цифра поддельная» — до выезда робота к людям.
#роботы #безопасность #ИИ Если у вас установлено приложение,
вы можете сразу перейти в канал