Чим штучний інтелект загрожує медицині

Алгоритми штучного інтелекту і сотні медичних програм для смартфонів не проходять таких же ретельних випробувань, як традиційні медичні інструменти, пристрої та технології. Цілі медичних стартапів, лікарів і пацієнтів насправді сильно відрізняються.

Низка експертів в галузі медицини побоюється, що продукти з ШІ виявляться неналежної якості. Лікарі та захисники прав споживачів бояться, що індустрія ІТ скористається при розробці цих алгоритмів звичним правилом “спершу повідомляй, потім виправляй”. І що регулятори роблять недостатньо, аби вберегти від цього споживачів ґаджетів і медичних послуг.

За словами Мілдред Чо, професора педіатрії Стенфордського центру біомедичної етики, такі випадки не рідкість. Системи, розроблені в одній лікарні, часто “виснуть” в інших. Програми, створені для білих американців, дискримінують представників меншин. А ШІ роблять передбачення на основі факторів, що не мають відношення до медицини.

“Це тільки питання часу, поки щось подібне не призведе до серйозних медичних ускладнень. Лише один ШІ, проданий в США, пройшов рандомізовані випробування, найнадійніший критерій медичної перевірки – тести підтвердили, що комп’ютерна діагностика колоноскопії виявляє більше поліпів, ніж стандартна. ІТ-стартапи рідко публікують свої статті в рецензованих наукових журналах, а прес-релізи часто перебільшують досягнення цих компаній”,
– сказав Стівен Ніссен, глава відділення кардіології клініки Клівленда.

Мало існує досліджень і щодо всіх 320 тисяч медичних програм, які доступні лікарям і пацієнтам. Судячи з доповіді Національної медичної академії США, опублікованої 17 грудня, майже жодна з них насправді не працює.

Аналітики зауважують, що розробники ШІ слабо зацікавлені в тому, щоб проводити дорогі і довгі випробування. Економіка США працює на основі інших принципів. І тут повинні втрутитися лікарі.