Телекоммуналка
Доверяй, но проверяй.
Специалисты фонда i2CAT, университета Оулу и университета Халифы нашли способ, как не дать роям ИИ-агентов внутри сети угробить связь собственными руками. Речь о будущей архитектуре RAN, где решения о работе сети принимают несколько LLM-агентов внутри RIC (RAN Intelligent Controller). Они подписаны на телеметрию O-RAN, обмениваются сообщениями и совместно решают, что делать с сетью. Проблема в том, что нынешняя архитектура считает любое сообщение агента неоспоримым фактом. А на самом деле это лишь след чужих рассуждений, который может сформировать ИИ-галлюцинацию. Притом настолько синтаксически безупречную, что никакой протокол ее не отловит.
Разберем на примере. Массовая переустановка соединений при аварии соседней ячейки создает всплеск запросов на доступ к каналу, а загрузка ресурсных блоков падает, условно, ниже 2%. Дело в том, что канал управления забит служебными пакетами, и планировщик не успевает выдавать разрешения на передачу активным пользователям. Агент-детектор аномалий, обученный только на пользовательской нагрузке, видит незнакомую ему картину, ошибочно классифицирует ячейку как простаивающую и рекомендует отключить резервную несущую частоту. Агент энергосбережения радостно исполняет команду и временную перегрузку превращает в отключенный сектор. Формально все так, но интерпретация была неверной.
Неожиданно, но решение проблемы нашли в человеческой психологии, в способности моделировать, во что верит собеседник и в чем он может ошибаться. Отсюда пять принципов.
1. Сообщение агента – это не факт, а его личное мнение. Прежде чем ему поверить, получатель должен вспомнить, что этот отправитель писал раньше, и по этой истории понять, насколько его выводам можно доверять.
2. Доверие к сообщению нельзя просто включить или выключить по принципу «верю – не верю». Правильнее оценивать его по шкале. Чем увереннее говорит отправитель и чем меньше эта уверенность расходится с тем, что от него логично было ожидать в такой ситуации, тем выше доверие. Кажется, что эта история «дообучаема» и довольно шаткая, но пока в теории осуществима.
3. Чтобы понять, придет ли вся сеть агентов к одному правильному выводу, и как быстро, достаточно посмотреть на то, как плотно и надежно они связаны друг с другом. Чем крепче эти связи между агентами, тем быстрее ложное мнение одного не успевает разойтись по всей системе, а верное – наоборот, быстро подтверждается остальными.
4. Столкнуть мнения. Агенту полезно представлять, что думает о ситуации сосед, и что этот сосед думает о мнении самого агента. Если пытаться просчитать ещё один уровень вложенности («а что он думает, что я думаю, что он думает…»), это резко увеличивает нагрузку на вычисления, а точность выводов при этом не растет, а падает почти до случайного угадывания.
5. Даже при неограниченной скорости передачи данных агенты смогут договориться только если у них совпадают цели. Если один агент оптимизирует, например, экономию энергии, а другой – качество связи, и их приоритеты слишком сильно расходятся, то первый начинает неосознанно искажать свои сообщения в свою пользу. Получатель это понимает и перестает доверять точным деталям – в итоге, при достаточно сильном расхождении целей, сообщения могут идти между агентами бесконечно, но пользы от них будет ровно ноль, независимо от того, какой канал связи между ними стоит.
Подписывайтесь на Телекоммуналку Если у вас установлено приложение,
вы можете сразу перейти в канал