Медичні товари, “підсилені” штучним інтелектом, проникають в наше життя під виглядом сенсорів та чатботів, що дають лікарські поради. Системи машинного зору перевершують радіологів у читанні знімків. Але інструменти штучного інтелекту в медицині розвиваються за принципом “повідомляй про помилку швидко, виправляй її потім”. Рано чи пізно це може привести до тяжких наслідків в індустрії.
Алгоритми штучного інтелекту і сотні медичних програм для смартфонів не проходять таких же ретельних випробувань, як традиційні медичні інструменти, пристрої та технології. Цілі медичних стартапів, лікарів і пацієнтів насправді сильно відрізняються.
Низка експертів в галузі медицини побоюється, що продукти з ШІ виявляться неналежної якості. Лікарі та захисники прав споживачів бояться, що індустрія ІТ скористається при розробці цих алгоритмів звичним правилом “спершу повідомляй, потім виправляй”. І що регулятори роблять недостатньо, аби вберегти від цього споживачів ґаджетів і медичних послуг.
За словами Мілдред Чо, професора педіатрії Стенфордського центру біомедичної етики, такі випадки не рідкість. Системи, розроблені в одній лікарні, часто “виснуть” в інших. Програми, створені для білих американців, дискримінують представників меншин. А ШІ роблять передбачення на основі факторів, що не мають відношення до медицини.
“Це тільки питання часу, поки щось подібне не призведе до серйозних медичних ускладнень. Лише один ШІ, проданий в США, пройшов рандомізовані випробування, найнадійніший критерій медичної перевірки – тести підтвердили, що комп’ютерна діагностика колоноскопії виявляє більше поліпів, ніж стандартна. ІТ-стартапи рідко публікують свої статті в рецензованих наукових журналах, а прес-релізи часто перебільшують досягнення цих компаній”,
– сказав Стівен Ніссен, глава відділення кардіології клініки Клівленда.
Мало існує досліджень і щодо всіх 320 тисяч медичних програм, які доступні лікарям і пацієнтам. Судячи з доповіді Національної медичної академії США, опублікованої 17 грудня, майже жодна з них насправді не працює.
Аналітики зауважують, що розробники ШІ слабо зацікавлені в тому, щоб проводити дорогі і довгі випробування. Економіка США працює на основі інших принципів. І тут повинні втрутитися лікарі.
