Неискусственный интеллект
@anti_agi
Пока мы спали
Вчера казалось, что призыв Дарио Амодеи замедлить разработку передового ИИ неожиданно объединил его конкурентов. За сутки выяснилось: осторожность поддерживают многие, а вот право устанавливать скорость для всей отрасли стало предметом драки.
Резче всего пока высказался Дэвид Сакс, бывший AI Czar Трампа и сопредседатель президентского совета США по науке и технологиям. Его ответ Амодеи и Альтману: если ваши еще не выпущенные модели настолько опасны, замедляйтесь. Вам не нужно ничьё разрешение. Сакс заявил, что OpenAI и Anthropic уже образуют дуополию, и выступил против исключений из антимонопольных правил и проверяющих, которые будут оценивать еще и конкурентов этих компаний. Снижение риска исков после серьёзной кибератаки он тоже называет вполне земным деловым мотивом.
Альтман сегодня уточнил: OpenAI приветствует единые федеральные требования и независимые проверки, но ждать антимонопольного исключения или нового закона, чтобы начать работу, не собирается. Под «замедлением» он понимает дополнительные проверки во время разработки, а не остановку исследований. В следующем посте он назвал две угрозы: потерю контроля над ИИ и чрезмерную концентрацию власти — вплоть до ситуации, когда одна лаборатория сможет навязать всем своё представление о будущем.
Глава Microsoft Сатья Наделла тоже поддержал внешних оценщиков и осмотрительный темп. С оговоркой: в отрасли должны развиваться и закрытые, и открытые модели, компании должны сохранять контроль над собственными данными, а правила нельзя отдавать «горстке организаций». Их разработка, по его мнению, требует участия учёных и представителей разных стран.
«Именно такого подхода мы придерживаемся: широкий доступ и свобода выбора на каждом уровне ИИ-инфраструктуры; контроль компаний над тем, как обучаются их модели; и „Кодекс поведения“, лежащий в основе наших собственных моделей MAI. Завтра мы опубликуем этот кодекс для общественного обсуждения».
Бывшая глава американской Федеральной торговой комиссии Лина Хан зашла с другой стороны. По её словам, "опасный ИИ" уже подпадает под действующие законы о защите потребителей и конкуренции — для ответственности компаний и их руководителей не обязательно сперва изобретать новый режим. Хан также предлагает изучать связи между разработчиками и их инвесторами. В пример она привела объявленную покупку Hugging Face со стороны Nvidia. Хан считает, что это может привести к судебному иску — за атаку агентов OpenAI на инфраструктуру сервиса.
Рынок тем временем отреагировал вполне материально: в понедельник акции инвестора OpenAI SoftBank теряли до 13,2%, снижались и бумаги производителей чипов. Посеяв ветер, пожнёшь бурю.
@anti_agi
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал