🤖 Продавцы апокалипсиса: что не так с новостями о «всемогущей» Claude Mythos
«Я научился телепортироваться и стрелять лазерами из глаз, но никому этого не покажу — слишком опасно!» — угадаете, в чем разница между вот этим текстом и PR-кампанией от Anthropic? Спойлер: исключительно в потраченных на рекламу деньгах.
7 апреля компания Anthropic представила нейросеть Claude Mythos Preview — модель якобы сама ищет дыры в защите операционных систем и браузеров. Публиковать ее запретили из-за угроз кибербезопасности.
⚠️ Админ предвзят
Anthropic не первый раз рассказывает истории о том, как ее нейросети взламывают что-нибудь важное. Минус такой стратегии — после проверки оказывается, никакого прорыва не случилось.
😑 Хайп с Mythos начался перед подготовкой компании к IPO, «подозрительно»
Многие специалисты по кибербезопасности считают, что людям «продают апокалипсис» не потому, что Anthropic создал что-то серьезное. Просто без внимания и страха себе цену не набьешь.
Тем более, Anthropic соревнуется с другими хайповыми нейронщиками — OpenAI.
За хайп создателей Claude критикуют:
1️⃣ Компания уверяет: Mythos якобы нашла огромное количество уязвимостей.
Система действительно показала крутые результаты в контролируемом эксперименте — «захвате флага», отмечают эксперты.
👉 Есть огромная разница между «вождением на площадке» и «работой в индийском такси». Беспилотные машины до сих пор не катаются по нашим городам ровно по той же причине, почему нейронки не руководят корпорациями: слишком много нетипичных ситуаций.
2️⃣ Модель постоянно представляют как искусственный интеллект, хотя это — не интеллект вовсе.
Mythos — еще одна LLM (большая языковая модель) — статистический алгоритм, подставляющий наиболее подходящие знаки, слова, команды в последовательность. Думать или осознавать ситуацию нейронки не умеют.
👉 В Apple это проверяли, добавляя в простые задачи малозначимую информацию: условно, в «сложи 2 ежика и 4 ежика» писали «половина ежиков — альбиносы», и эффективность лучших нейросетей падала на 30%.
3️⃣ Мощность Mythos — тоже миф. Исследователи AISLE проверили, как находят баги другие модели — ChatGPT и DeepSeek способны выявить те же самые ошибки.
👉 Делает ли это все модель хуже? Нет, это все еще инструмент, который упрощает работу программистам. Вполне возможно, Mythos даже сможет искать баги, которые "навайбкодили" на других сетях Anthropic.
Мнения в редакции разделились
Евген, к примеру, считает — угроза от нейронок для ФРС и крипторынка (особенно протоколам DeFi) — есть. Как минимум, потому что часть инфраструктуры делалась на коленке.
🤷♂️ К этому, кстати, вопросов никаких — финансовой системе «лучше перебдеть», чем потерять кучу денег из-за удачливого хакера и нейросети.
А вот с сообщениями об очередной «нейронке апокалипсиса» стоит быть скептичным. Крупные игроки на рынке нейросетей используют наши страхи, чтобы не потерять инвесторов.
Угроза от Mythos реальна, что думаете?
👍 — да, это очень сильный инструмент
🤬 — нет, современные нейросети в тупике
✍️ Михаил, кладет 100 рублей на депозит, когда поднимается хайп по ИИ
Max VKЕсли у вас установлено приложение,
вы можете сразу перейти в канал