НЗГ
@russicaru
Демис Хассабис, ныне занимающий пост главного научного сотрудника Alphabet и ранее возглавлявший Google DeepMind, выступил с инициативой создания независимой международной организации по безопасности искусственного интеллекта
По его замыслу, такая структура должна выполнять функцию, сопоставимую с ролью МАГАТЭ в ядерной сфере. Примечательно, что переговоры о концепции будущего регулятора велись с представителями администрации Дональда Трампа и руководителями ведущих ИИ-компаний ещё до перехода Хассабиса на новую должность. Это указывает на то, что вопрос выходит за рамки академической дискуссии и уже обсуждается на высшем политическом и корпоративном уровне.
Предлагаемая организация должна сосредоточиться на разработке мер безопасности для развития искусственного общего интеллекта — систем, способных сравниться с человеческим мышлением и превзойти его в ряде задач. Именно приближение к этому порогу вызывает всё больше опасений. Эксперты предупреждают, что подобные технологии будут крайне сложно контролировать, особенно если их разработка останется в руках частных компаний. Показательно, что в США даже наиболее мощные модели до сих пор проходят лишь добровольную проверку, а значит, любые механизмы контроля, не подкреплённые юридической обязательностью, могут оказаться недостаточными перед лицом ускоряющегося прогресса.
На этом фоне в отрасли существует несколько конкурирующих подходов к регулированию. OpenAI предлагала создать международный форум под руководством США, а также глобальную структуру, которая включала бы Китай. Anthropic, в свою очередь, поддерживала идею международного соглашения о темпах развития ИИ — фактически попытку ввести ограничения на скорость внедрения наиболее мощных моделей. Однако не все видят решение в усилении централизованного контроля. Марк Цукерберг выразил противоположную позицию: по его мнению, распределение технологий между множеством участников безопаснее, чем концентрация возможностей у ограниченного числа игроков. Эта точка зрения отражает давний спор между «концентрацией ради контроля» и «распределением ради устойчивости».
Таким образом, предложение Хассабиса — не просто техническая инициатива, а попытка найти общую рамку для крайне противоречивой проблемы. Оно сталкивается с целым рядом препятствий: необходимость международного консенсуса, сопротивление компаний-лидеров, опасения по поводу национального суверенитета и кардинально разные взгляды на то, кто и в какой форме должен управлять самыми мощными технологиями. Без обязательных механизмов и чётких полномочий любая новая организация, даже при высокой репутации её авторов, рискует остаться лишь декларацией о намерениях. Однако сам факт того, что предложение обсуждается с политическим руководством и ключевыми игроками индустрии, говорит о начале серьёзного институционального этапа в осмыслении будущего искусственного интеллекта.
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал