Китайский СвяZноj
@prchand
Гендир Anthropic написал эссе, которое тянет на декларацию ближайших перспектив AI.
Мы, говорит, проектируем и создаём суперконструкции, которые подобны целой стране гениев в датацентре. Каждый умнее самого умного на Земле, работает быстрее, мы сами не понимаем как оно там так получается, но понимаете, главное - чтобы это не попало в руки Китаю.
Поэтому нам надо отдать все ресурсы. Ибо грядёт, уже через год примерно появится некий Мощный ИИ, который Дарио (гендир) тоже сформулировать не может. Но он "внутри прогресса и ощущает тикание часов", то есть trust me bro, гиря золотая, пилите Шура, пилите. А кто вякает что мы ресурсы выжираем - реальные ресурсы, осязаемые - за счёт выдаваемых нам свеженапечатанных рулонов денег, а то мы убыточные ведь - тот агент Китая.
Блестящим также является продвигаемая в тексте тема "Оно настолько крутое и мощное, что мы еле можем с ним совладать - у нас тут в лабораторных экспериментах AI обманывать научился, шантажировать и интриги устраивать, мы настолько не поняли как бороться, что поменяли формулировку/самоидентификацию - т.е. переименовали плохое поведение AI в хорошее. Вы прикиньте оно вырвется? Вы понимаете что будет?". Клиента пугают с двух рук - во-первых мы тут робота разрабатываем, который всех поубивает, и робот уже зачем-то начал выбривать усики, носить чёлку и руку вскидывает, мы пока придумали лишь сказать ему "так сейчас модно, сейчас так все ходят", во-вторых а вы представьте если у нас такое, то что у китайцев-то, а? В тексте про AI даже уйгуры упомянуты - маячок для совсем тупых.
Классика завязки компьютерных игр - пустая разрушенная лаборатория, на столе дневник исследователей
ЭКСПЕРИМЕНТ, ДЕНЬ 1771 - С саблезубым пятиметровым вампиром, который перегрызает арматуру, писает кислотой и стреляет из глаз лазерами, всё норм - научили его пользоваться огнемётом и циркуляркой, на примере человеческих трупов. Главное чтобы не вырвался.
ЭКСПЕРИМЕНТ, ДЕНЬ 1772 - ДА БЛ (страница оборвана)
...Короче отдайте нам все ресурсы, у нас монстр неудержимый растёт, вы у нас в заложниках, если не дадите денег то оно вырвется, если дадите мало то у китайцев монстр ещё более толстый будет чем у нас и нашего загрызёт. Короче просто любые наши хотелки святы, нет времени объяснять.
Эпизод из "Понедельника" Стругацких с испытанием сверхчеловека на загородном полигоне приобретает какой-то нехороший оттенок смысла.
https://www.darioamodei.com/essay/the-adolescence-of-technology
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал