ФОТО: FreepikПациенты «медицинских ИИ» в США оказались подопытными кроликами
Последние годы ознаменовались стремительным внедрением искусственного интеллекта (ИИ) в медицину. Алгоритмы машинного обучения обещают революционизировать диагностику, лечение и профилактику заболеваний. Однако, как показывает новое исследование, проведенное учеными из Университета Северной Каролины (США), за красивой вывеской в данном случае скрывается далеко не самое эффективное решение.
ИИ в медицине: что не так
Исследователи проанализировали более 500 медицинских устройств и алгоритмов, одобренных Управлением по контролю качества пищевых продуктов и лекарственных средств США (FDA). Оказалось, что большинство этих систем не проходили полноценных клинических испытаний на реальных пациентах. Почти половина алгоритмов обучалась на искусственно сгенерированных данных. При этом информация о том, как разрабатывались и тестировались эти системы, часто отсутствует в открытом доступе. Таким образом, хотя этого не заявлено в аналитике FDA, оказалось, что пациенты выступают в роли своего рода «подопытных кроликов».
Не лечит, а калечит
Использование искусственного интеллекта в медицине сопряжено с высокими рисками. Если алгоритм, например, ошибочно диагностирует заболевание, это может привести к неправильному лечению и серьезным последствиям для пациента. Поэтому обучение на сгенерированных данных может привести к тому, что алгоритм будет плохо работать в реальных условиях, где далеко не всегда при диагностике можно получить точную и однозначно достоверную картину.
Ученые считают, что пациенты, которым предлагают лечение с использованием искусственного интеллекта, должны быть осведомлены о том, что эти системы могут быть несовершенными и не всегда надежными. В целом же результаты исследования указывают на необходимость более тщательной проверки и регулирования медицинских устройств на основе ИИ.
Источник
