Umělá inteligence v nukleární medicíně: etické, právní a perspektivní výzvy

Overview

Abstrakt:

Článek se zabývá širšími souvislostmi využívání umělé inteligence (AI) v nukleární medicíně, které přesahují čistě technické aspekty algoritmů a jejich klinického výkonu. Pozornost je nejprve věnována otázce důvěryhodnosti a vysvětlitelnosti AI (Explainable AI, XAI), tedy schopnosti modelů poskytovat srozumitelná a klinicky interpretovatelná vysvětlení svých výstupů, což je klíčové pro jejich přijetí lékaři i pacienty. Dále jsou shrnuty hlavní regulační rámce vztahující se k využití AI ve zdravotnictví, včetně požadavků amerického Úřadu pro kontrolu potravin a léčiv (FDA) a evropské legislativy, zejména nařízení o zdravotnických prostředcích (MDR), systému značení CE a připravovaného Aktu o umělé inteligenci. Samostatná část je věnována etickým otázkám, jako je riziko zkreslení (bias) v tréninkových datech, ochrana citlivých zdravotních údajů a vymezení odpovědnosti lékaře při používání AI jako podpůrného nástroje klinického rozhodování. Článek rovněž shrnuje postoje odborné veřejnosti a pacientů k AI na základě dostupných průzkumů, které poukazují jak na očekávané přínosy, tak na přetrvávající obavy. V závěru je diskutován další vývoj AI v horizontu do roku 2030, včetně očekávané hlubší integrace do klinických pracovních postupů, při současném zdůraznění nezbytnosti zachování lidského dohledu a etických principů. Práce ukazuje, že úspěšná implementace AI v nukleární medicíně vyžaduje komplexní přístup zahrnující technologické, regulační i společenské aspekty.

Klíčová slova:

regulace – vysvětlitelná AI – důvěryhodnost – AI v medicíně – etika – zkreslení

Důvěryhodnost a vysvětlitelnost AI (XAI)

Aby mohla být umělá inteligence plně využita v lékařství, musí si získat důvěru zdravotníků i pacientů. Důvěryhodnost AI úzce souvisí s její vysvětlitelností –⁠ tedy schopností objasnit, na základě čeho algoritmus dospěl k určitému rozhodnutí či predikci. Tradiční modely hlubokého učení typu “černá skříňka”, kdy model poskytne výstup bez možnosti nahlédnout do jeho logiky, jsou pro medicínu problematické. ¹^,²

Lékaři jsou zvyklí své závěry zdůvodňovat a od nástrojů AI by ideálně potřebovali totéž: nejen výsledek, ale i vysvětlení, proč k němu model dospěl (např. které rysy na PET snímku vedly k diagnóze). ³ Koncept XAI (Explainable Artificial Intelligence) se snaží tuto potřebu naplnit. Existuje několik přístupů, jak učinit modely AI transparentnějšími. Jednou z nejčastějších metod jsou pozornostní mapy (attention maps) nebo mapy význačnosti (saliency maps), které zobrazují, na které části vstupního obrazu se model při rozhodování nejvíce zaměřil. ⁴^,⁵

Například u klasifikace myokardiální perfuze pomocí SPECT může technika Grad-CAM zvýraznit oblasti myokardu, které byly pro model klíčové při detekci ischemie. ⁴ Takové zobrazení pomáhá lékaři pochopit, zda se AI zaměřila na klinicky relevantní struktury nebo zda třeba reagovala na artefakty. ⁶ Studie ukazují, že vysvětlitelné hluboké učení může významně zlepšit interpretaci lékařů a zvýšit diagnostickou přesnost. ⁵

Dalším přístupem je použití přirozeně interpretovatelných modelů, jako jsou rozhodovací stromy nebo lineární modely, které jsou svou povahou srozumitelnější než hluboké neuronové sítě. Nicméně tyto jednodušší modely často nedosahují takové přesnosti jako komplexní architektury hlubokého učení. Proto se hledá kompromis: například kombinace výkonné konvoluční neuronové sítě (CNN) s následnými (post-hoc) vysvětlovacími technikami. ³ Nedávné přehledy zdůrazňují, že současné metody XAI často postrádají systematické hodnocení kvality a třídně rozlišujících (class-discriminative) vysvětlení, což je oblast vyžadující další výzkum. ³

Je důležité si uvědomit, že vysvětlitelnost není jen technický problém, ale i psychologický a komunikační. I když model poskytne mapu význačnosti, lékař musí být schopen ji správně interpretovat a důvěřovat jí. ⁷ Výzkumy ukazují, že vysvětlení mohou lékaře přesvědčit, aby následoval i nesprávné návrhy AI, což může zhoršit diagnostický výkon. ⁸ Proto je nutné pečlivě navrhovat rozhraní XAI a školit uživatele, aby rozuměli možnostem i omezením těchto nástrojů. ⁷^,⁸ Saboury a kol. zdůrazňují, že systémy AI by měly lékařům –⁠ a ideálně i pacientům –⁠ sdělovat svou míru nejistoty (uncertainty) a způsob rozhodování pro kritické vyhodnocení. ⁷

V kontextu nukleární medicíny je XAI obzvláště důležitá, protože diagnostika často závisí na subtilních vzorcích v obrazech (např. distribuce radiofarmaka v mozku při Alzheimerově chorobě nebo v srdci při ischemii). Pokud model AI tyto vzorce detekuje, ale nedokáže je zobrazit nebo vysvětlit, lékař má omezenou možnost ověřit správnost závěru. ⁹ Naopak, pokud model ukáže, že se zaměřil na striatum při hodnocení dopaminergního deficitu u Parkinsonovy nemoci, lékař může potvrdit, že jde o klinicky smysluplný nález. ⁶ Multimodální přístupy využívající mechanismy pozornosti na úrovni modalit i prostorových oblastí se ukazují jako slibné pro zvýšení interpretovatelnosti. ⁶

Důvěryhodnost AI také vyžaduje transparentnost ohledně validace a omezení. Uživatelé by měli vědět, na jakých datech byl model trénován, jaká je jeho přesnost v různých populacích a kde může selhávat. ⁷ Otevřená komunikace o těchto aspektech, spolu s mechanismy pro protokolování a revizi výstupů modelů AI, jsou klíčové pro budování důvěry. ⁷ Bez důvěry nebudou lékaři nástroje AI používat nebo je budou používat nesprávně, což může vést k suboptimálním výsledkům pro pacienty.

 

Regulační rámce pro AI v medicíně

Zavádění AI do klinické praxe podléhá přísným regulačním požadavkům, které mají zajistit bezpečnost a účinnost těchto technologií. Dva hlavní regulační systémy jsou americký (FDA) a evropský (značka CE podle MDR a připravovaný akt o AI).

 

FDA (Food and Drug Administration, USA)

V USA je software AI v medicíně považován za software jako zdravotnický prostředek (Software as a Medical Device, SaMD). ⁶ FDA klasifikuje zdravotnické prostředky do tří tříd podle rizika: třída I (nízké riziko), třída II (střední riziko) a třída III (vysoké riziko). Většina aplikací AI v nukleární medicíně spadá do třídy II, což vyžaduje tzv. notifikaci 510(k). ⁸ To znamená, že výrobce musí prokázat, že jeho zařízení je “substantially equivalent” (v podstatě ekvivalentní) existujícímu schválenému zařízení se stejným zamýšleným použitím. Pokud takový předchůdce existuje a nové zařízení nevyvolává nové otázky bezpečnosti či účinnosti, může být schváleno relativně rychle. ⁸

FDA klade důraz na klinickou validaci –⁠ výrobce musí předložit data prokazující, že AI funguje správně v zamýšleném klinickém prostředí. ⁶ Zároveň FDA zdůrazňuje transparentnost systémů AI, což je v souladu s požadavky na XAI. ⁸ V posledních letech FDA zavádí i programy pro rychlejší schvalování digitálních zdravotních inovací (programy zrychleného schvalování, fast-track), aby držela krok s rychlým vývojem v oblasti AI.

Důležitým aspektem je, že FDA vyžaduje, aby systémy AI měly jasně definované zamýšlené použití (intended use). Pokud se AI používá mimo tento rámec, může to být považováno za použití mimo schválené indikace (off-label) s právními důsledky. Řeší se také otázka průběžného učení: pokud model AI průběžně aktualizuje své parametry na základě nových dat v reálném provozu, může to vyžadovat opakované schvalování, což je administrativně náročné. ¹

 

Evropská unie: MDR a AI Act

V Evropě musí software AI splňovat požadavky nařízení o zdravotnických prostředcích (Medical Device Regulation, MDR), které nahradilo starší směrnici MDD. ¹ MDR je přísnější a vyžaduje důkladnější klinickou evidenci a dozor po uvedení na trh (post-market surveillance). Nástroje AI musí získat značku CE, což znamená, že splňují evropské normy bezpečnosti a výkonu. ¹ Proces zahrnuje posouzení shody (conformity assessment), často prováděné notifikovanou osobou (notified body), a technickou dokumentaci prokazující bezpečnost a účinnost. ³

Klíčovým novým prvkem je připravovaný akt o umělé inteligenci (AI Act), který EU navrhla jako komplexní regulační rámec pro AI napříč sektory. ⁸^,¹⁰ Akt o AI kategorizuje systémy AI podle rizika: nepřijatelné riziko (zakázané), vysoké riziko (přísná regulace), omezené riziko (povinnost transparentnosti) a minimální riziko (žádná specifická regulace). Většina AI v medicíně bude klasifikována jako vysoké riziko, což znamená požadavky na robustnost, přesnost, kybernetickou bezpečnost, transparentnost a lidský dohled. ⁸^,¹⁰^,¹¹ Akt o AI také zdůrazňuje právo na vysvětlení rozhodnutí AI, což přímo podporuje přístupy XAI. ¹^,¹¹

Evropská regulace klade velký důraz na ochranu dat (GDPR –⁠ General Data Protection Regulation), která ovlivňuje, jak mohou být pacientská data používána pro trénink AI. ¹ GDPR vyžaduje informovaný souhlas pacientů, právo na výmaz dat a transparentnost ohledně zpracování dat. To vytváří výzvy pro sdílení dat mezi institucemi, což je často potřebné pro trénink robustních modelů AI. ¹ Nové evropské nařízení o zdravotnických prostředcích (MDR) také vyžaduje přísnou transparentnost, kterou musí nástroje AI splnit před zavedením do klinické praxe. ³

 

Výzvy a harmonizace

Jednou z výzev je nedostatek harmonizace mezi různými jurisdikcemi. Produkt AI schválený FDA nemusí automaticky získat značku CE a naopak, což komplikuje globální nasazení. ¹²^,¹³ Navíc regulace se rychle vyvíjí a snaží se držet krok s technologickým pokrokem, což vytváří nejistotu pro vývojáře. ¹^,¹⁴ Další problém je nedostatek standardizovaných regulačních rámců specifických pro AI v nukleární medicíně. ¹²

Odborné společnosti jako EANM (European Association of Nuclear Medicine) a SNMMI (Society of Nuclear Medicine and Molecular Imaging) vydávají stanoviska a doporučené postupy, které mají pomoci s orientací v regulačním prostředí. ¹⁵^,¹⁶^,¹⁷ Tyto dokumenty zdůrazňují potřebu mezioborové spolupráce mezi technology, kliniky, regulátory a etiky při vývoji a nasazování AI. ¹²^,¹⁶ Zpráva z Bethesdy z AI Summitu 2022 shrnuje klíčové výzvy a doporučení pro dosažení důvěryhodného použití AI v nukleární medicíně včetně zapojení FDA a dalších regulačních zainteresovaných stran. ⁸^,¹⁶

 

Etické otázky a riziko bias

Kromě technických a regulačních aspektů přináší AI v medicíně řadu etických výzev, které je třeba pečlivě zvážit.

 

Zkreslení a spravedlnost

Jedním z nejzávažnějších problémů je zkreslení (bias) v modelech AI. Pokud jsou tréninková data nereprezentativní –⁠ například pokud obsahují převážně pacienty určité etnicity, věku nebo pohlaví –⁠ model se může naučit vzorce, které nefungují dobře u jiných populací. ⁷^,⁸^,¹⁸ To může vést k nerovnostem ve zdravotní péči: AI by mohla být přesnější pro jednu skupinu pacientů a méně přesná pro jinou, což by zhoršilo existující rozdíly. ⁷^,¹⁸

V nukleární medicíně může zkreslení vzniknout například tím, že většina studií PET/CT pro onkologii pochází z velkých akademických center v rozvinutých zemích, zatímco data z venkovských oblastí nebo rozvojových zemí chybí. Model trénovaný na takových datech pak nemusí dobře fungovat v odlišných populacích. ¹ Dalším zdrojem zkreslení může být technická variabilita: různé skenery, akviziční protokoly nebo rekonstrukční algoritmy mohou ovlivnit vzhled obrazů, a pokud model není na tuto variabilitu trénován, může selhávat. ¹

Řešením je zajistit rozmanitost trénovacích dat a provádět validaci na různých populacích a zařízeních. ⁷^,⁸ Je také důležité měřit výkon AI napříč demografickými a klinickými podskupinami, aby se odhalily případné nerovnosti. ⁸ Etické principy vyžadují, aby AI byla spravedlivá a nediskriminovala žádnou skupinu pacientů. ⁷^,¹²^,¹⁸^,¹⁹

 

Ochrana dat a soukromí

Vývoj AI vyžaduje velké množství dat, často citlivých zdravotních informací. Ochrana soukromí pacientů je proto zásadní etickou povinností. ¹^,⁷^,¹⁹ GDPR v Evropě a podobné zákony jinde vyžadují, aby data byla anonymizována nebo pseudonymizována a aby pacienti dali informovaný souhlas k jejich použití. ¹ Nicméně i anonymizovaná data mohou nést riziko opětovné identifikace, zejména pokud jsou kombinována s jinými zdroji informací. Proto je nutné zavést robustní kybernetické zabezpečení a šifrování dat. ¹^,⁷ Saboury a kol. zdůrazňují, že systémy AI musí upřednostňovat bezpečnost a chránit soukromí dat prostřednictvím šifrování a pseudonymizace. ⁷

Nově se rozvíjejí techniky jako federované učení (federated learning), které umožňují trénovat modely AI na decentralizovaných datech bez nutnosti sdílet surová data. ¹⁴ Model se učí lokálně v každé instituci a sdílí se pouze aktualizace parametrů, což zvyšuje ochranu soukromí. Tato metoda je slibná pro nukleární medicínu, kde data jsou často rozptýlena mezi mnoha centry a jejich centralizace je obtížná z důvodu GDPR a dalších regulací. ¹^,¹⁴

 

Odpovědnost a autonomie

Další etickou otázkou je odpovědnost (accountability): kdo nese odpovědnost, pokud AI udělá chybu? Je to lékař, který se na AI spolehne? Výrobce softwaru? Nebo instituce, která AI nasadila? ¹⁸^,¹⁹^,²⁰ Právní precedenty v této oblasti jsou omezené. ⁷ Obecně se uznává, že konečná odpovědnost zůstává na lékaři, protože AI je považována za asistenční nástroj, nikoli autonomní rozhodovací systém. ¹⁸^,²⁰ Lékař by měl výstup AI kriticky zhodnotit a nesmí mu slepě důvěřovat. ¹^,⁷

S tím souvisí otázka autonomie pacienta a lékaře. Pacienti by měli být informováni, že AI byla použita při jejich diagnostice nebo léčbě, a měli by mít možnost vyjádřit souhlas nebo nesouhlas. ⁷^,⁸^,¹⁸ Lékaři by měli mít svobodu rozhodnout, zda AI použijí, a neměli by být nuceni k jejímu použití, pokud jí nedůvěřují. ¹⁸ Herington a kol. identifikovali čtyři hlavní etická rizika při nasazování AI: autonomie pacienta a klinika, transparentnost klinického výkonu a omezení, spravedlnost vůči marginalizovaným populacím a odpovědnost lékařů a vývojářů. ¹⁸

 

Etické principy a guidelines

Odborné společnosti formulovaly etické principy pro AI v nukleární medicíně. Currie a kol. navrhli komplexní etický rámec zahrnující důvěryhodnost, transparentnost algoritmů, spolehlivost a sociální aspekty. ¹⁹ Klíčové principy zahrnují: Beneficence (prospěšnost): AI by měla zlepšovat péči o pacienty. Non-maleficence (neškodnost): AI by neměla způsobovat újmu. Autonomie: respektování práv pacientů a lékařů. Spravedlnost (justice): rovný přístup k výhodám AI bez diskriminace. ⁷^,¹⁸^,¹⁹

Tyto principy by měly být integrovány do celého životního cyklu AI –⁠ od návrhu a vývoje přes validaci až po nasazení a sledování. ⁷^,¹²^,¹⁹ Venkadesh a kol. zdůrazňují potřebu společného přístupu mezi technology, zdravotníky, tvůrci politik a etiky k zajištění odpovědného vývoje a nasazení AI. ¹²

 

Postoje lékařů a pacientů k AI

Úspěšné zavedení AI do klinické praxe závisí nejen na technické kvalitě, ale i na přijetí ze strany uživatelů –⁠ lékařů, techniků a pacientů.

 

Postoje lékařů

Průzkumy mezi radiology a nukleárními lékaři ukazují smíšené postoje. Mnoho lékařů vidí potenciál AI ke zlepšení diagnostiky, zvýšení efektivity a snížení pracovní zátěže. ⁴ Například AI může automatizovat rutinní úkoly (jako je segmentace orgánů nebo kvantifikace vychytávání radiofarmaka), čímž uvolní čas pro komplexnější případy. Někteří lékaři jsou nadšeni z možnosti, že AI odhalí vzorce, které lidské oko přehlédne.

Na druhé straně existují obavy. Jednou z hlavních je strach, že AI nahradí lidské lékaře a povede ke ztrátě pracovních míst. ¹⁹ Ačkoli se většina expertů shoduje, že AI v dohledné době nenahradí lékaře zcela, ale spíše bude fungovat jako asistent, nejistota přetrvává. ¹⁹ Další obavou je ztráta klinických dovedností: pokud se mladí lékaři budou spoléhat na AI od začátku své kariéry, mohou si nevyvinout schopnost samostatně interpretovat snímky, což by bylo problematické, pokud AI selže nebo není k dispozici. ⁸

Důvěra v AI je také ovlivněna transparentností a vysvětlitelností. Lékaři jsou skeptičtí k “černým skříňkám” a preferují systémy, které poskytují srozumitelná vysvětlení. ³^,⁴^,⁵ Studie ukazují, že když je AI vysvětlitelná a lékaři rozumějí jejímu rozhodování, jsou ochotnější ji přijmout a důvěřovat jí. ⁴^,⁵ Gong a kol. zjistili v průzkumu mezi radiology různé postoje k AI, od nadšení po obavy ohledně dopadu na profesi. ⁴ Je důležité, aby lékaři byli vzděláváni o možnostech a omezeních AI, aby mohli realisticky posoudit její roli. ⁷^,⁸ Školení a průběžné vzdělávání jsou klíčové pro úspěšnou integraci AI do klinického pracovního postupu.

 

Postoje pacientů

Postoje pacientů k AI v medicíně jsou také různorodé. Některé studie naznačují, že pacienti mohou důvěřovat AI více než lidským lékařům v určitých situacích, zejména pokud vnímají AI jako objektivnější a méně náchylnou k lidským chybám. ¹⁶ Průzkum citovaný Stempniakem ukázal, že téměř dvě třetiny spotřebitelů by důvěřovaly diagnóze od AI více než od lidského lékaře. ¹⁶ Nicméně jiné studie ukazují, že pacienti mají obavy ohledně soukromí, bezpečnosti dat a nedostatku lidského kontaktu. ⁷ Mnoho pacientů preferuje, aby konečné rozhodnutí dělal člověk, nikoli stroj.

Transparentnost je opět klíčová: pokud jsou pacienti informováni o tom, jak AI funguje a jaké jsou její limity, jsou ochotnější ji přijmout. ⁷^,⁸ Je také důležité, aby AI nezhoršovala nerovnosti. Pokud by AI byla dostupná pouze v bohatých centrech, pacienti ve venkovských nebo chudších oblastech by byli znevýhodněni. Naopak, pokud je AI nasazena široce a spravedlivě, může pomoci zpřístupnit vysoce kvalitní diagnostiku širšímu okruhu pacientů. ⁸

 

Budoucnost AI v nukleární medicíně do roku 2030

Pohled do budoucnosti naznačuje, že AI bude hrát stále větší roli v nukleární medicíně. Jaké trendy a výzvy můžeme očekávat do roku 2030?

 

Technické pokroky

Významnou oblastí je hodnocení rozsáhlých objemů dat, která prakticky nelze posoudit běžnou vizuální („oční“) kontrolou. Moderní celotělové, dynamické a celotělové dynamické akvizice SPECT a PET generují na jedno vyšetření řádově gigabajty až terabajty obrazových dat –⁠ časové řady, parametrické mapy a vícefázové rekonstrukce, jejichž ruční vyhodnocení je časově neúnosné nebo zcela neproveditelné. AI zde umožňuje automatizovanou kvantifikaci, segmentaci a detekci vzorců ve vícerozměrných datech a zpřístupňuje tak diagnostické informace, které by jinak zůstaly nevyužity.

Modely budou přesnější a robustnější. Očekává se, že s rostoucím množstvím dat a lepšími algoritmy (např. architektury typu transformer, multimodální učení) se výkon AI dále zlepší. ¹^,¹⁴ Multimodální přístupy kombinující PET, CT, MRI a klinická data mohou poskytnout komplexnější pohled na pacienta. ⁶^,¹⁰ Přenosové učení (transfer learning) a adaptace na doménu (domain adaptation) pomohou modelům lépe zobecňovat napříč různými zařízeními a populacemi. ⁶

Vysvětlitelná AI se stane standardem. Regulace i klinická praxe budou vyžadovat, aby systémy AI byly transparentní a vysvětlitelné. ¹^,³^,¹¹ Vývoj pokročilejších technik XAI, které poskytují smysluplná a spolehlivá vysvětlení, bude prioritou. ³

Integrace do klinického pracovního postupu. AI nebude izolovaným nástrojem, ale bude plynule integrována do PACS (Picture Archiving and Communication Systems), RIS (Radiology Information Systems) a EHR (Electronic Health Records) ¹. Lékaři budou mít asistenci AI přímo ve svém pracovním prostředí bez nutnosti přepínat mezi různými aplikacemi.

Federované učení a ochrana soukromí. Techniky jako federované učení umožní trénovat AI na datech z mnoha institucí bez centralizace dat, což vyřeší problémy s GDPR a soukromím. ¹⁴ To umožní vytvářet robustnější modely trénované na rozmanitých datech.

 

Klinická integrace a validace

Do roku 2030 očekáváme, že více AI nástrojů projde rigorózní klinickou validací a získá regulační schválení. ¹^,¹⁵ Budou k dispozici standardizované doporučené postupy pro hodnocení AI (jako jsou doporučení RELAINCE pro nukleární medicínu nebo TRIPOD+AI, SPIRIT-AI, CONSORT-AI pro klinické studie). ¹⁵^,¹⁷ Multicentrické studie prokáží, že AI skutečně zlepšuje výsledky pacientů, nikoli jen technické metriky. ¹⁵ Sledování po nasazení (post-deployment monitoring) se stane běžnou praxí, aby se zajistilo, že AI funguje správně v reálném světě a že nedochází k degradaci výkonu nebo vzniku nových zkreslení. ⁷^,¹⁷

 

Regulační vývoj

Regulace se pravděpodobně harmonizuje mezi různými regiony, což usnadní globální nasazení produktů AI. ⁸ Akt EU o AI vstoupí v platnost a stanoví jasná pravidla pro AI vysokého rizika v medicíně. ⁸^,¹⁰^,¹¹ FDA může zavést flexibilnější mechanismy pro schvalování AI, která se průběžně učí. ⁸

 

Etika a společenský dopad

Etické otázky zůstanou v popředí. Bude nutné sledovat spravedlnost a zkreslení a zajistit, aby AI prospívala všem populacím. ⁷^,⁸^,¹⁸ Diskuse o odpovědnosti a autonomii budou pokračovat a možná se vytvoří nové právní rámce. ⁷^,¹⁸ Vzdělávání lékařů a pacientů o AI bude klíčové. Lékařské fakulty začnou zahrnovat AI do svých studijních programů, aby budoucí lékaři byli připraveni pracovat s těmito nástroji. ⁸ Pacienti budou lépe informováni o roli AI v jejich péči.

 

Možné scénáře

• Optimistický scénář: AI se stane běžnou součástí nukleární medicíny, zlepší diagnostickou přesnost, urychlí pracovní postupy a umožní personalizovanou medicínu. Lékaři budou AI vnímat jako cenného partnera, který jim pomáhá poskytovat lepší péči. Regulace bude vyvážená –⁠ dostatečně přísná, aby zajistila bezpečnost, ale dostatečně flexibilní, aby nepotlačila inovace. Etické principy budou dodržovány a AI bude spravedlivě dostupná.
• Pesimistický scénář: Pokud se nepodaří vyřešit problémy se zkreslením, transparentností a regulací, AI může vést k novým nerovnostem a ztrátě důvěry. Lékaři mohou odmítat AI používat nebo naopak se na ni příliš spoléhat a ztratit své dovednosti. Regulační nejistota může brzdit inovace. Kybernetické útoky na systémy AI mohou ohrozit bezpečnost pacientů.
• Realistický scénář: Pravděpodobně se budeme pohybovat někde mezi těmito extrémy. AI bude postupně integrována do klinické praxe s různými úspěchy v různých oblastech. Některé aplikace (např. automatická kvantifikace, detekce artefaktů) se stanou standardem, zatímco jiné (např. plně autonomní diagnostika) zůstanou experimentální. Výzvy se zkreslením, regulací a etikou budou průběžně řešeny, ale nikdy zcela vyřešeny. Člověk zůstane v centru rozhodování, AI bude jeho asistentem, nikoli náhradou. ¹^,⁷^,⁸

 

Neznámé a rizika

Budoucnost přináší i neznámé. Mohou se objevit nové technologie (např. kvantové počítače, pokročilé velké jazykové modely (large language models)), které změní pravidla hry. ⁵ Stále důležitější bude kybernetická bezpečnost –⁠ nepřátelské útoky (adversarial attacks), tedy záměrné úpravy vstupů s cílem oklamat AI, jsou teoretickou hrozbou, která by mohla mít vážné důsledky v medicíně. Také se může změnit vnímání role lékaře. Pokud AI bude schopna provádět mnoho diagnostických úkolů, lékaři se možná více zaměří na komunikaci s pacienty, koordinaci péče a etické rozhodování –⁠ aspekty, které AI nemůže nahradit.

 

Závěrečné poznámky k budoucnosti

Jak říká populární motto: “AI won’t replace doctors, but doctors who use AI will replace those who don’t.” (volně přeloženo: umělá inteligence nenahradí lékaře, ale lékaři, kteří ji používají, nahradí ty, kteří ji nepoužívají.) ¹⁹ Toto vystihuje pravděpodobnou budoucnost –⁠ AI se stane nepostradatelným nástrojem, ale lidský faktor zůstane klíčový. Úspěch bude záviset na tom, jak dobře dokážeme vyvážit technický pokrok s etickými principy, regulační bezpečností a důvěrou uživatelů. Visvikis a kol. zdůrazňují, že pro klinický přínos AI je nezbytná vysvětlitelnost, validace na větších populacích a řešení výzev se sdílením dat. ¹ Hustinx a kol. ve stanovisku EANM zdůrazňují potřebu mezioborové spolupráce a standardizovaných přístupů. ²¹ Zpráva z Bethesdy shrnuje, že dosažení rutinního, důvěryhodného použití AI v nukleární medicíně vyžaduje řešení technických, regulačních, etických a vzdělávacích výzev. ⁸^,¹⁶

 

Závěr

Umělá inteligence má obrovský potenciál transformovat nukleární medicínu –⁠ od zlepšení diagnostické přesnosti přes automatizaci rutinních úkolů až po personalizovanou medicínu. Nicméně, aby tento potenciál byl plně realizován, je nezbytné řešit nejen technické aspekty, ale i širší otázky důvěryhodnosti, regulace, etiky a přijetí. Vysvětlitelnost (XAI) je klíčová pro získání důvěry lékařů a pacientů. Systémy AI musí být schopny objasnit svá rozhodnutí způsobem, který je klinicky smysluplný. ¹^,³^,⁴^,⁵ Regulační rámce jako FDA v USA a MDR/akt o AI v EU poskytují strukturu pro bezpečné uvádění AI do praxe, ale vyžadují harmonizaci a flexibilitu. ¹^,³^,⁸^,¹¹ Etické principy –⁠ spravedlnost, transparentnost, ochrana soukromí, odpovědnost –⁠ musí být integrovány do celého životního cyklu AI. ⁷^,¹²^,¹⁸^,¹⁹ Postoje lékařů a pacientů jsou různorodé, od nadšení po obavy, a je důležité tyto obavy adresovat prostřednictvím vzdělávání, transparentnosti a zapojení zainteresovaných stran. ⁴^,⁷^,¹⁶^,¹⁸ Budoucnost do roku 2030 pravděpodobně přinese širší integraci AI do klinického pracovního postupu, ale člověk zůstane v centru rozhodování. ¹^,⁷^,⁸ Celkově úspěšné využití AI v nukleární medicíně vyžaduje mezioborový přístup zahrnující techniky, kliniky, regulátory, etiky a pacienty. ¹²^,¹⁶ Pouze tak můžeme zajistit, že AI bude bezpečná, účinná, spravedlivá a důvěryhodná –⁠ a že skutečně zlepší péči o pacienty.

 

Prohlášení o použití umělé inteligence

Při přípravě tohoto článku byly nástroje umělé inteligence použity k jazykové korektuře, stylistickým úpravám a rešerši. Ke strukturování textu nebyly použity. Veškerý odborný obsah, interpretace a závěry jsou dílem autorů, kteří za jejich správnost nesou plnou odpovědnost