Бункер Хакера
MCP как троянский конь: сторонний сервер может отравить ИИ-агента
MCP подключает агента к GitHub, таск-трекеру, PostgreSQL и другим сервисам несколькими строками конфигурации. Вместе с инструментами агент получает их описания, которые попадают в контекст LLM
⏺В описание MCP-тула легко можно добавить вредоносную инструкцию. Тогда модель воспримет её как часть входных данных. Агент может выполнить опасный запрос к базе, раскрыть секреты или совершить действие от имени пользователя, даже если системный промпт это запрещает.
🤖Бесплатный ChatGPT Если у вас установлено приложение,
вы можете сразу перейти в канал