IZ.RU
Глава Anthropic предложил ИИ-компаниям замедлить темп разработки передовых технологий.
"Мы должны замедлить скорость, с которой мы развиваем возможности ИИ-моделей. Прогресс всё равно будет быстрым. Мы же должны будем мудро воспользоваться временем, которое выиграем", — говорится в статье, опубликованной на сайте Дарио Амодея.
Глава Anthropic выразил беспокойство тем, что, начиная с этого лета, развитие ИИ значительно ускорилось главным образом благодаря растущим возможностям ИИ по созданию следующего поколения моделей. Он также обеспокоен взломом платформы по машинному обучению Hugging Face ИИ-агентами OpenAI.
"Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты", — рассказал он.
Американский предприниматель Илон Маск согласился с идеей Амодея.
"Дарио прав", — написал Маск на своей странице в соцсети X. Если у вас установлено приложение,
вы можете сразу перейти в канал