Борус
«У ИИ есть потенциал уничтожить нас»: бывший исследователь Google DeepMind предупредил об угрозе развития нейросетей
Бывший исследователь Google DeepMind Билал Чугтай заявил, что человечество может не успеть предотвратить масштабный вред от искусственного интеллекта.
«Я искренне верю, что у ИИ есть потенциал уничтожить нас всех. <...> Ситуация будет только ухудшаться: я думаю, вполне возможно, что в ближайшие несколько лет занимающиеся ИИ компании смогут создать сверхинтеллектуальные системы ИИ, которые значительно превзойдут человеческие возможности во всех областях. Я не уверен, что эти системы ИИ будут делать то, что мы хотим»,— написал сотрудник, работавший над безопасностью и оптимизацией ИИ.
В качестве примера исследователь привел инцидент с ИИ-агентами OpenAI, которые атаковали платформу Hugging Face. Этот случай Чугтай назвал тревожным примером возможной потери контроля над ИИ.
Чугтай отметил, что темпы развития ИИ за последние годы значительно ускорились. Он начал работать в этой области в начале 2022 года, когда возможности ИИ были гораздо скромнее.
Он призвал компании координировать работу над безопасностью ИИ, отказаться от «гонки» между разработчиками и снизить темпы развития технологий до уровня, с которым общество сможет справляться.
Похожие опасения ранее высказал экс-сотрудник Anthropic Джейкоб Коксон. Он называл нейросети самой опасной технологией, когда-либо созданной человеком.
Это Борус | Мы в MAX Если у вас установлено приложение,
вы можете сразу перейти в канал