Използването на AI в научните изследвания също предизвиква спорове

Авторитетното издание Nature Medicine публикува критична редакционна статия за използването на изкуствен интелект в медицината. Според нея липсват убедителни доказателства, че тези технологии носят реална полза за пациенти, лекари или здравни системи.

"Доказателствата, че AI инструментите създават стойност за пациенти, доставчици или здравни системи, остават оскъдни", се казва в публикацията.

Темата придобива значение на фона на нарастваща употреба на чатботове за здравни съвети. Скорошно проучване показва, че милиони американци се обръщат към подобни системи вместо към лекари.

Изследователите обаче продължават да откриват сериозни проблеми. Сред тях са т.нар. "халюцинации", при които моделите генерират невярна информация. В някои случаи AI създава клинични заключения без реални данни или разпознава измислени заболявания.

Редакционната статия подчертава, че въпреки това компаниите все по-често правят твърдения за клинична ефективност.

"Няма ясно съгласие какво ниво на доказателства е необходимо, за да бъдат тези твърдения достоверни", се посочва в текста. Това води до преждевременно внедряване на технологии без достатъчна научна основа.

Авторите призовават за създаване на ясна рамка за оценка на медицинските AI системи. Тя трябва да включва критерии, метрики и стандарти за сравнение.

Данните показват, че AI често се представя добре при контролирани условия, но среща трудности в реалната практика. Проучване, публикувано в JAMA Medicine, установява, че при неясни симптоми водещи модели грешат в диагнозата в над 80 процента от случаите.

Използването на AI в научните изследвания също предизвиква спорове. Технологията може да ускорява анализи и обработка на данни, но експерти предупреждават за ограниченията ѝ.

"AI може да ускори много процеси и да помогне при анализ на данни", казва Джейми Робъртсън от Медицинското училище на Харвард. "Но е критично важно хората да разбират правилните и неправилните приложения на тези инструменти."

Опасенията включват риск от понижаване на научните стандарти и разпространение на неточни данни. В показателен експеримент изследовател от Университета в Гьотеборг публикува фалшиви научни статии за измислено заболяване. По-късно други научни издания ги цитират, което поставя под въпрос надеждността на процеса.

Заключението на Nature Medicine е ясно. Без връзка между твърденията и реалните доказателства съществува риск медицинският AI да бъде внедрен по-бързо, отколкото може да се оцени неговата действителна стойност.