Umělá inteligence může způsobit nepřesné diagnózy lékařů

Nahradí umělá inteligence lékaře a jejich diagnostiku? Budeme se v budoucnosti chodit léčit k paní doktorce AI?

Reklama

Člověk versus AI

Rok 2023 byl jednoznačně ve znamení generativní AI. Umělá inteligence vtrhla s razantní silou do nejrůznějších oblastí lidského života a přinesla s sebou velká očekávání, která se později zatím ukázala jako přehnaná. Doposud naštěstí nestihla nahradit ty zástupy zaměstnanců, jak někteří jasnovidci předpovídali. Ale co není, může být. Některé profese jsou již umělou inteligencí ohrožené. A týká se to i zdravotnictví.

Revoluce ve zdravotnictví

O umělé inteligenci kolují zvěsti v tom smyslu, že způsobí revoluci také v oblasti lékařství. Změny ve zdravotnictví založené na AI slibují přerod klinického rozhodování a pracovních postupů lékařů, či dokonce zavedení poskytování roboticky podporované zdravotní péče. Prostě přijdete do ordinace k lékaři, a on tam nebude živý MUDr, ale nějaká skříňka, která na vás bude hovořit a diagnostikovat vás. Že to vypadá jako ze sci-fi filmu?

V současné době pomáhá umělá inteligence v lékařském prostředí jako pomocník při klinickém rozhodování a jako zobrazovací analýza CT skenů, rentgenových snímků, magnetické rezonance. Úroveň umělé inteligence je hodně pokročilá, stále má ale do dokonalosti daleko.

Přesnější stanovení diagnózy

Časopis JAMA publikoval výzkum, ve kterém se autoři zaměřili na testování AI v oblasti medicíny. Umělá inteligence by měla být nápomocná lékařům při stanovení diagnózy pacientům. Provedený výzkum potvrdil, že opravdu AI pomohla s přesnější diagnostikou pacientů. Ta byla dokonce ještě přesnější, pokud umělá inteligence navíc vysvětlila své kroky a proč se rozhodla tak, jak se rozhodla. Jenže výzkumníci udělali ještě další pokus.

Problémové zkreslení informací

Ve druhém pokusu vědci umělou inteligenci záměrně naprogramovali tak, aby při stanovení diagnóz podávala zaujaté odpovědi s irelevantními informacemi. Tento pokus vedl k tomu, že se snížila přesnost lékařů při diagnostice. Výsledek tak vědcům poskytl velmi dobrou zpětnou vazbu. Docent Ricky Leung z Albany School of Public Health si myslí, že lékaři by se neměli na umělou inteligenci příliš spoléhat.

Jiná studie, provedená v letech 2012 až 2019, porovnává výkonnost umělé inteligence a zdravotnických pracovníků, přičemž bylo zjištěno, že diagnostický výkon AI je ekvivalentní diagnostickému výkonu lékařských profesionálů. Jenže umělá inteligence má problém s interpretací a podrobným rozborem rozhodovací procedury, což je etický a praktický problém. Podle toho je pak těžké určit, zda rozdíly v diagnóze představují rozdíly mezi pacienty, nebo jestli se náhodou nejedná o zkreslení či diagnostickou chybu.

Důvěřuj, ale prověřuj

Při diagnostice by měl mít lékař k dispozici informace o tom, jestli je v případě AI přítomné potenciální zkreslení dat. Umělá inteligence, která je vyvinuta pro diagnostiku, by měla být klinicky testována, a to s důrazem na minimum zkreslení. Důležité je ale také klinické lékaře dobře vyškolit, aby uměli AI správně používat a ono zkreslení rozpoznat.

Systémy umělé inteligence mají potenciál pomoci zlepšit diagnostiku lékařů, jak naznačují uvedené studie. Pokud je však do systému zakomponováno zkreslení, jejich diagnostická přesnost klesá.

Jak jste na tom vy s umělou inteligencí? Věřili byste její lékařské diagnostice a nechali byste se jí vyšetřit a léčit?

Autor: Jana Surmová – NašeTéma. Zdroje: ScienceDirect, LiveScience, JAMA.

Diskuze Vstoupit do diskuze
Přidat na Seznam.cz
Zakládáme si na tom, aby NašeTéma.cz bylo místem bezpečné diskuze. Přidávání komentářů do diskuze je proto dostupné pouze s účtem na Seznam.cz.

Pokud jste v článku zaznamenali překlep, nesrovnalost či chybu, neváhejte nám, prosím, napsat na email: tym@nasetema.cz. Děkujeme!

Reklama
Reklama
Reklama