Липсата на записи от чатботове затруднява лекарите при проследяването на вреди от здравни съвети, дадени от изкуствен интелект

Научен екип анализира рисковете, свързани със здравните съвети, давани от чатботове с изкуствен интелект (ИИ) на фона на нарастващия брой хора, които разчитат на тях по всяко време на денонощието, съобщава „Медикъл прес“. Рисковете остават до голяма степен незабележими както за потребителите, така и за здравните системи, посочват изследователите.
Авторите изтъкват, че вредата е трудна за установяване, тъй като разговорът остава в платформата на компанията, разработила ИИ, потребителят няма къде да съобщи за проблема, а външни изследователи не могат да оценят мащаба на щетите.
„Получаваме медицински съвети от тези чатботове, но никой, буквално никой, не следи този процес. Ако възникне грешка или проблем, хората просто няма как да разберат за това“, казва Кайчън Ян, асистент в Училището по компютърни науки към Колежа по инженерство и приложни науки на Университета на Бингамтън в САЩ и един от авторите на статията.
Изследователите дават пример с 60-годишен мъж, който попитал „ЧатДжиПиТи“ (ChatGPT) как да намали приема на хлориди в диетата си и заменил готварската сол с натриев бромид. Мъжът бил хоспитализиран с отравяне с бромид, след като получил халюцинации и параноя.
В статията се подчертава, че тъй като мъжът е получил съвета от чатбот и не е могъл да възстанови записа на разговора, лекарите му не са имали възможност да разберат точно какво му е било казано, което е направило почти невъзможно възстановяването на случилото се.
Авторите отбелязват, че компаниите за ИИ нямат система, която да прави видими за външни лица здравните съвети, генерирани от чатботове за пациентите. „Вредите са не само възможни, но и структурно скрити от лекарите, изследователите и регулаторните органи, които иначе биха могли да ги открият и коригират“, пише в статията.
Анализът подчертава и един ключов аспект на чатботовете, които генерират отговори на здравни въпроси – те могат да грешат и са способни уверено да дават погрешни отговори, да опростяват прекомерно информацията или да се позовават на остарели данни и неверни твърдения. Авторите отбелязват, че тези рискове могат да засегнат и хора, които не търсят активно отговори.
Изследователите предлагат няколко метода за повишаване на прозрачността и отчетността на компаниите, разработващи ИИ. Според тях те трябва да предоставят на потребителите достъп до собствените им разговори на здравни теми, за да могат да споделят информацията с лекари. Друга препоръка е разработването на система за оповестяване, която да позволява здравните съвети да бъдат маркирани, докладвани и разследвани.
Наред с това фирмите, управляващи социални мрежи, трябва да поемат по-голяма отговорност, като обозначават по-ясно здравното съдържание, генерирано от ИИ, и не го публикуват, докато не бъде одобрено от компетентни медицински органи.