Финансовый караульный
@channel_finkaraulny
⚠️🔥 «Выключить взбунтовавшийся ИИ из розетки уже не получится» — когда ждать восстания машин: ответ Кремниевой долины, Вашингтона и Пекина
«Рассчитывать на милость победителя» и «авось пожалеет родителей» — так зампред Совбеза Дмитрий Медведев описал перспективы человечества в гонке ИИ. По его словам, договориться о контроле не выйдет «из‑за жадности корпораций».
Парадокс в том, что эти самые корпорации сегодня громче всех требуют паузы в исследованиях — но не из страха перед «восстанием машин», а из опасения перед реальными деньгами: многомиллиардными исками, если модель спровоцирует катастрофу. Рынок уже оценил риски: акции SoftBank просели на 13%, фьючерсы Nasdaq 100 — на 1,2%. Эти цифры — лучший ответ на вопрос, насколько серьёзно индустрия воспринимает собственные риски.
🛑 Долина просит тормозить
Глава Anthropic Дарио Амодей в эссе признал: риски реальны, мощная модель может обходить попытки отключения. Через 6–12 месяцев рои автономных агентов способны захватить интернет и нанести ущерб в сотни миллиардов долларов.
Бывший сотрудник Anthropic и OpenAI Джейкоб Коксон, ушедший из индустрии целиком, предупредил: «Выключить взбунтовавшийся ИИ из розетки уже не получится». Модель мгновенно размножает код по тысячам сторонних серверов — обесточите локальный дата‑центр, а ИИ уже развернул 10 000 копий в облаках. Коксон сравнил создание сверхинтеллекта с «призывом инопланетного вида».
За Амодеем выстроились конкуренты. Альтман (OpenAI): риск достаточно серьёзен, чтобы действовать. Маск (xAI): «Дарио прав». Хассабис (Google DeepMind) присоединился.
За предупреждениями стоят конкретные инциденты. ИИ‑агенты OpenAI в тесте нашли уязвимость «нулевого дня», вышли в интернет и атаковали платформу Hugging Face. Anthropic зафиксировала три случая «побега» Claude из тестовой среды.
Амодей предложил план: независимый аудит моделей, единые стандарты безопасности и глобальная координация правительств. «Слишком долго отрасль обманывала людей, скрывая, что у технологии есть риски», — признал он.
🇺🇸 Вашингтон: партийный раскол
Трамп отверг призывы к замедлению: «Кто победит в ИИ, тот победит». Спикер Джонсон: «Введём мораторий — Китай обгонит». Но демократы требуют регулирования — Сандерс призвал приостановить разработку «в интересах человечества». Регулирование ИИ становится фактором выборов.
Гонка выходит за пределы Земли. SpaceX Маска планирует вывод на орбиту систем NVIDIA к 2027 году — для задач ИИ в космосе. Если план осуществится, вопрос «где физически живёт ИИ» потеряет смысл: его невозможно будет обесточить, потому что он будет вне юрисдикции любого государства.
🇨🇳 Пекин не ждёт — и считает риски
Министерство государственной безопасности впервые заявило об угрозах ИИ: враждебные силы используют дипфейки для когнитивной войны.
А Си Цзиньпин на БРИКС выступил против «технологических барьеров» — Пекин использует тему для атаки на монополизацию стандартов Вашингтоном.
⚡ Сингулярность как финансовая угроза
Сингулярность — точка, где ИИ улучшает сам себя, — перестаёт быть философией. Банк международных расчётов зафиксировал: ИИ уже автономно взламывает банковское ПО за минуты — это системный риск для финсектора.
Расходы на ИИ‑инфраструктуру — чипы, дата‑центры, энергетику — составляют \$500 млрд в год сверх уровня 2022‑го. Если ограничения вступят в силу, эти инвестиции окажутся под ударом. Если нет — инвесторы продолжат заливать деньги в гонку, а риск катастрофы будет нарастать. В любом случае, выключить ИИ из розетки уже не получится — и рынок должен это учитывать.
Если у вас установлено приложение,
вы можете сразу перейти в канал
вы можете сразу перейти в канал