Bloomberg: Искусственный интеллект помог США бомбить Иран
Как пишет издание, американское Центральное командование использовало систему искусственного интеллекта Claude от компании Anthropic для «разведывательных оценок, определения целей и моделирования боевых сценариев» во время ударов по Ирану.
За несколько часов до атаки Трамп приказал федеральным агентствам отказаться от Claude из-за конфликта с разработчиком. Однако технология настолько глубоко встроена в системы Пентагона, что на ее замену уйдут месяцы.
«Проблема в том, что подобные системы ошибаются в 10% случаев. Около 3600 человек были ошибочно идентифицированы как цели. В этих системах есть невероятные уязвимости и крайняя ненадежность... для чего-то столь динамичного, чувствительного и человечного, как война», — издание цитирует профессора Оксфордского интернет-института Мариаросу Таддео. Также в статье эксперты напоминают об израильской системе Lavender, которая во время операции в Газе ошибочно маркировала мирных жителей как военные цели.
Использование ИИ на войне происходит в полном правовом вакууме, подчёркивает газета. Технология известна своими «галлюцинациями» — склонностью выдумывать дополнительные факты вместо того, чтобы признать неопределенность.
Некоторые ученые считают, что эту проблему может быть невозможно решить в принципе. Bloomberg подчёркивает, что женевская конвенция требует тестировать новые виды оружия перед применением, но ИИ-системы, обучающиеся в процессе работы, меняются каждое обновление, что делает контроль почти невозможным.
«Мы еще не решили как общество, нормально ли, что машина решает, должен ли быть убит человек», — отмечает Таддео.
Пока Пентагон внедряет ИИ в военные операции, Anthropic предлагала разработать технологию управления роем дронов с помощью голосовых команд. Искусственный интеллект должен был переводить приказы командира в цифровые инструкции для координации атак. Издание отмечает, что контракт не утвердили, но сам факт таких разработок показывает, куда движется военная мысль Вашингтона: в сторону автоматизации убийств без должного контроля и общественной дискуссии.
🇷🇺 Подпишись на Соловьёва!Если у вас установлено приложение,
вы можете сразу перейти в канал