Неискусственный интеллект
@anti_agi
Десять минут на спасение человечества
Джеффри Хинтон ("крестный отец ИИ" и лауреат множества премий) накинул тут алармизма: никто не доказал, что безопасный и контролируемый сверхинтеллект возможен в принципе. Строить его в такой ситуации крайне неразумно. Потеря контроля над ИИ умнее нас, по его словам, может обернуться катастрофой вплоть до вымирания человечества.
Этот стейтмент приурочен к внесению в британский парламент законопроекта Artificial Superintelligence Security Bill. Вносит депутат от лейбористов Алекс Собел, текст писала организация ControlAI. Билль запрещает разработку сверхинтеллекта в Британии, обязывает правительство отслеживать и ограничивать предшествующие технологии и требует добиваться международного соглашения о запрете. Сверхинтеллект определен через нацбезопасность: система, способная нейтрализовать, обойти, подменить или сделать неэффективными вооруженные силы, суды, полицию и прочие органы власти.
Там же высказался Стюарт Расселл: компании ради частной выгоды собираются выкатывать технологию, которая, по их же собственным утверждениям, имеет заметный шанс уничтожить человечество. Разрешения на такую русскую рулетку общество не давало, поэтому реагировать должны государства.
В целом, Британия запрещает себе разработку сверхинтеллекта, наш канал запрещает себе превышать миллиард подписчиков. Оба самозапрета работают безупречно.
@anti_agi
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал