Блохи в свитере
В Бразилии из-за сбоя ИИ-системы Core-MG погибла 32-летняя пациентка больницы.
Дело было так. Девушка страдала от камней в желчном, обратилась в клинику и вынуждена была 5 дней ждать, пока ее положат в палату интенсивной терапии, потому что ИИ-система стабильно оценивала ее состояние на 6.8 балла из 10 возможных.
В итоге приоритет отдавался другим больным. И хотя состояние пациентки стремительно ухудшалось, врачи не могли ничего сделать: система просто заблокировала ручное проведение исследований.
И девушка, так и не дождавшись помощи, умерла из-за системы, которая должна была обеспечивать "лучший контроль за данными".