Пентест головного мозга
И завершая блок по HITL, занесу вам клиентский случай.
В момент разматывания одного карьерного запроса мне поведали чудесную историю: начальник стал ставить цели команде нейрослопами. Не проверяя и не читая. До этого были предпосылки в виде хаотичного стиля управления и нежелания вникать в суть проблем отдела. Но с появлением у начальника персонального ИИ-ассистента стало хуже, потому что спорить стало тяжелее, чем раньше. Пункты нейрослопа ставятся задачами, задачи не реализуются на текущем стеке и ресурсах, а подсвечивание проблем не приводит к улучшению в диалоге.
Вроде вот же наглядный пример HITL -- ИИ управляет отделом, есть человек, забирающий и фильтрующий замысел ИИ, в чём проблема?
Клиент получил то, зачем он пришел, а я прикола ради глянула в классификатор болезней, ну лежит он открытый, грех не подсмотреть. Если живой человек доверяет инструменту без критики и не доверяет ни одному из тех людей, кого сам же нанимал, на что это похоже? Перекладывание ответственности или помешательство? Что если вместо ИИ был бы другой человек? Человек бы засомневался давать однозначный ответ без наводящих вопросов (я встречала только таролога, который так же не сомневался). И, бинго, таки совпадение есть, и почти 1 в 1. Вот пересечения:
1) Есть "первичный" источник искажённой информации (в диагностике -- человек с бредом, здесь -- модель, опирающаяся на заведомо искаженный контекст)
2) Есть "вторичный" источник бреда -- тот, кто ретранслирует содержание без независимой проверки, потому что не обладает компетенцией её провести
3) содержание передаётся вниз по иерархии как будто проверенное, потому что подчинённый имеет меньше рычагов оспорить, хоть и кое-как справляется.
HITL, как явление, не просто так придумали, это один из шагов терапии такого расстройства -- восстановление у человека тестирования реальности. То есть нужен другой человек, чтобы эту реальность тестировать (человек на игровом поле ИИ для этого и задуман). Пришлось аж раскошелиться на внеплановую супервизию. Ибо где заканчивается новая норма и начинается уже клиника? В прикольное время живём однако. Если у вас установлено приложение,
вы можете сразу перейти в канал