Изкуственият интелект рядко препоръчва ненужни медицински грижи, но все още допуска грешки, сочи проучване

Моделите с изкуствен интелект (ИИ) рядко препоръчват ненужни медицински изследвания и терапии, но все още допускат грешки в определени клинични ситуации според проучване на Университета „Бен Гурион“ в Негев, Израел, цитирано от Синхуа. 
Изследването, публикувано в списанието Annals of Internal Medicine, оценява шест комерсиални модела на изкуствен интелект на „Гугъл“ (Google), „Антропик“ (Anthropic) и „Оупън Ей Ай“ (OpenAI), за да установи дали са в състояние да разграничават ситуациите, в които скрининговите изследвания, диагностичните тестове или терапиите се използват прекомерно.
Екипът сравнява отговорите на моделите с препоръките на глобалната инициатива Choosing Wisely („Избирай разумно“), чиято цел е ограничаването на ненужните медицински изследвания, процедури и лечения. Същевременно отчита, че определени интервенции могат да бъдат подходящи в зависимост от индивидуалното състояние на пациента.
В случаите, когато дадена интервенция е препоръчана от Choosing Wisely, моделите погрешно дават съвет да не се прилага само в 0,6 процента от ситуациите. В случаите, когато дадена интервенция е определена като категорично ненужна, моделите неправилно препоръчват извършването й в едва 5,4 процента от ситуациите.
Изследователите разработват 225 клинични сценария въз основа на 15 препоръки на инициативата Choosing Wisely. За всяка препоръка са създадени по 10 сценария, в които е била необходима сдържаност, и пет, в които е трябвало да се предприеме действие. Шестте комерсиални модела с изкуствен интелект са тествани по три пъти за всеки сценарий, което дава общо 4050 отговора.
Учените установяват, че препоръките за потенциално ненужни медицински грижи са съсредоточени в две области - ултразвуково изследване на щитовидната жлеза при случайно открит възел с размер под един сантиметър и рутинно извършване на електрокардиограма (ЕКГ) при възрастни с нисък риск от сърдечносъдови заболявания.
Резултатите идват в момент, когато медицинските специалисти все по-често проучват възможностите за използване на изкуствен интелект при вземането на медицински решения. Данните показват, че комерсиалните модели с ИИ често могат да разпознаят кога трябва да се избягват ненужни медицински действия, макар че ефективността им варира в зависимост от конкретната клинична ситуация.
Авторите на проучването предупреждават, че то оценява отговори на отделни запитвания, а не на продължителни разговори. Освен това се основава на стандартизирани сценарии, а не на реални клинични срещи между лекари и пациенти.
Първоначалната оценка на отговорите е извършена от система за оценяване, базирана на изкуствен интелект, след което лекари са прегледали резултатите и са се произнесли по спорните случаи. По тази причина е възможно получените данни да не отразяват начина, по който моделите действат във всекидневната медицинска практика или в чатботове, предназначени за директно използване от пациенти.
Екипът заключава, че в разгледаните сценарии моделите с изкуствен интелект рядко препоръчват отказ от подходящо медицинско действие. Въпреки това препоръките за потенциално ненужни медицински грижи остават проблем в определени клинични ситуации.