Když se řekne AI, lidé občas házejí vše do jednoho pytle, od telemedicíny až po LLM, jako jsou Gemini nebo ChatGPT. Mohl byste vysvětlit, jaké je postavení LLM v radiologii a kde všude se umělá inteligence využívá?
Zatímco jazykové modely pracují s textem, certifikované AI nástroje v radiologii analyzují obrazová data. To jsou dva úplně rozdílné pytle. LLM se používá v administraci, v korekci nálezů, v extrakci textových dat do strukturovaných popisů. Většinou jde o administrativní textové záležitosti. Vždycky je tam však nezbytná kontrola výsledného textu odborníkem. Zdravotnické prostředky využívající umělou inteligenci musí splňovat určitá závazná kritéria.
Co si myslíte o zjištění z uvedené stanfordské studie, kde jazykové modely sebevědomě interpretovaly snímky ze zobrazovacích metod, aniž by je viděly?
Tato vlastnost LLM je obecně známá a netýká se jen radiologie. Jazykový model se vždy snaží přijít s nějakou odpovědí. A když ji nezná, uvede to, co je nejpravděpodobnější – i kdyby to bylo pravděpodobné málo. Nehovoříme ale o certifikovaných AI nástrojích používaných v radiologii. Ty detekují například to, o jaký jde snímek či zda odpovídá věkové struktuře. Pokud je nástroj certifikovaný třeba pro dospělé a přijde tam snímek 17letého pacienta, tak ho nezpracuje.
Znamená to, že certifikované AI přístroje nebo zdravotnické prostředky jsou opravdu spolehlivé?
Kvalita zdravotnického prostředku je dána certifikací na základě studií, které prošly recenzním řízením a byly publikovány v odborných časopisech. Takže úkony, které provádí, jsou jasně definované. Vždy tam musí být nějaká přidaná klinická hodnota.
Kde je tedy hrozba, před níž varují vědci ze Stanfordu? Mohli by se třeba lékaři začít spoléhat více na výstupy z LLM, což by mohlo vést k chybným závěrům a zhoršení zdravotní péče?
Ta hrozba není primárně u certifikovaných AI nástrojů, protože jde o regulovaný zdravotnický software s jasně definovanými limity. Jiná situace je u jazykových modelů. Ty mohou pomoci například se zpřehledněním nebo strukturováním nálezu, ale jejich výstup musí lékař vždy zkontrolovat, zejména z hlediska úplnosti a správnosti, protože model si může některé informace domýšlet.
Jak učíte mladé radiology kontrolovat výstupy a hlídat případné špatné interpretace?
Složité je to ve chvíli, kdy mají výstup z AI nástroje, například interpretaci rentgenového snímku hrudníku. My je učíme pracovat i v situaci, kdy je AI nástroj vypnutý. Děláme to také proto, že řada snímků tímto systémem neprojde a někdo je musí popsat.
Učí se certifikovaný zdravotnický prostředek, který používáte v praxi, na dalších datech?
Co se týče certifikovaných nástrojů, tak ty jsou dané. Někdy běží i na nějakém jiném serveru mimo nemocnici, ale na našich datech se nesmí učit. To musí probíhat v kontextu nějaké rámcové smlouvy o spolupráci. Učí se na jiných datech, která si výrobce sežene. To znamená, že se pořád zlepšuje, ale není to tak, že bychom tam vkládali data našich pacientů.
Co vnímáte jako největší výzvy v dalším rozvoji AI v radiologii?
V současné době je největším tématem ekonomika. Znamená to definovat, pro které pacienty je vhodná ta která umělá inteligence a jaký je praktický přínos jednotlivých produktů. Je tedy nutné definovat přidanou hodnotu AI a rozhodnout, co má být poskytováno v rámci úhrad.
Shrňte prosím na závěr, co by měl lékař vědět o AI interpretaci dat ze zobrazovacích metod.
Měl by vědět, že když pacient dostane lékařskou zprávu, je pro něj jednoduché ji načíst do LLM a pak AI klást cílené dotazy. Lékař se k tomu musí umět postavit. Jazykové modely jsou hodně přesvědčivé, což z hlediska lékařů vyžaduje větší interakci s pacienty. Konkrétně vysvětlovat nemocným správné postupy, které lékař volí na základě své odborné zkušenosti, nikoliv podle toho, co si myslí umělá inteligence. Pokud jde o zobrazovací metody, zde AI funguje jako dobrý pomocník, ale pokud zrovna není k dispozici, musíme si umět poradit i bez ní.
MUDr. Andrea Skálová
redakce proLékaře.cz
Reference: Asadi M. et al. Mirage: The illusion of visual understanding. arXiv2026, doi:10.48550/arXiv.2603.21687 [preprint].
Foto: archiv FNMH
