Generativní AI se v posledních 3 letech stala každodenním nástrojem. Velké jazykové modely dokážou projít částí znalostních zkoušek a generují klinicky relevantní text, který budí dojem srovnatelnosti s lidským výstupem. Studenti medicíny si tento nástroj rychle osvojili a používají ho při studiu, činnostech v rámci fakulty i při klinické komunikaci, a to k opakování učiva, domácím úkolům, psaní konceptů a zpětné vazbě.
To vše se děje, aniž by fakulty měly vypracovanou dostačující politiku a pokyny pro používání AI. Většina publikovaných prací o AI v medicíně se věnuje jejímu přínosu. Lékaři z Missourské univerzity se zaměřili na rizika jejího používání u mediků, která byla dosud popisována jako druhořadý problém, nebo formulována jako obecné varování.
V rámci výzkumu identifikovali 6 kategorií rizik používání AI:
Za nejobávanější riziko u studentů medicíny považují autoři ztrátu dovedností. Na rozdíl od zkušených lékařů, kteří si již v průběhu let praxe vytvořili mentální modely, schopnost rozpoznávat nesrovnalosti a návyk uvažovat, studenti si tyto kompetence stále budují.
Při vyhledávání a syntéze informací pomocí AI jedinec nepotřebuje úsilí, které je zdrojem pokračujícího sebevzdělávání a nabývání zkušeností. Zkušení lékaři většinou rozpoznají, kdy je návrh umělé inteligence nesprávný. Naopak medici dosud nedovedou zachytit malé, ale potenciálně nebezpečné chyby.
Modely umělé inteligence produkují plynulé a propracované odpovědi, které mohou vést uživatele k tomu, že přestane samostatně vyhledávat informace, kriticky je hodnotit a porovnávat s vlastními znalostmi. To postupem času vyústí ve zhoršování dovedností, které by měly být naopak neustále posilovány.
Jak uvádějí autoři této práce, „varovným signálem je situace, kdy student již nedokáže vysvětlit koncept, diferenciální diagnostiku nebo léčebný plán vlastními slovy, aniž by si nejprve ověřil, co si myslí umělá inteligence“.
Dalším ukazatelem závislosti jedince na technologiích je absence ověřování informací v primárním zdroji, vyhýbání se samostatnému řešení úloh nebo psaní textů a špatné výsledky u ústních zkoušek bez přístupu k nástrojům AI.
Jednoduchým způsobem, jak může student sledovat, zda jeho vlastní uvažování nebylo oslabeno, je pravidelně začlenit do studia období bez používání AI.
Autoři doporučují, aby „se studenti vždy nejprve pokusili vyřešit úlohu samostatně a použili AI jako druhý názor k porovnání, analýze a případnému zdokonalení vlastní práce. Důležitá klinická a vědecká tvrzení by si měli ověřovat ve spolehlivých primárních zdrojích, aby se jejich znalosti a vlastní úsudek nadále rozrůstaly a ‚tiše neatrofovaly‘ při pouhém spoléhání se na výtvory AI.“
Jako jednu z cest navrhují vytvořit „laboratoře pro kalibraci důvěryhodnosti“. V nich by si studenti mohli procvičovat posuzování spolehlivosti odpovědí generovaných AI. Byli by konfrontováni s kombinací správných a záměrně chybných odpovědí AI a museli by se rozhodnout, zda odpověď přijmout, upravit nebo odmítnout, a svá rozhodnutí zdůvodnit za použití primárních zdrojů.
Pomoci může i změna přístupu vyučujících, kteří by se neměli zaměřovat jen na finální výsledek práce studentů, ale chtít po nich i vysvětlení postupu úvah, kterými dospěli k výsledku. Tato část práce by mohla zahrnovat rovněž popis interakce s AI, odůvodnění přijetí, nebo odmítnutí jejích návrhů a ověření v primárních zdrojích.
Výzkum provedený na Missourské univerzitě dokládá široké využívání generativní AI mezi studenty při nedostatečné fakultní politice jejího používání.
Podle autorů je třeba jasně definovat přijatelné a nepřijatelné používání AI při konkrétních činnostech v rámci studia, vypracovávání akademických úkolů a vedení klinické dokumentace. Například je nutné zakázat vkládání chráněných zdravotních informací do komerčních nástrojů pro analýzu dat.
Směrnice by měly vyžadovat transparentní zveřejňování používání AI v akademické práci, sladit její používání s explicitními výsledky učení, nařizovat školení pedagogů a zahrnovat plán pravidelného přezkoumání v závislosti na vývoji technologií.
(zza)
Zdroje:
1. Hough J., Culley N., Erganian C., Alahdab F. Potential risks of GenAI on medical education. BMJ Evid Based Med 2025 Dec 1; 30 (6): 406–408, doi: 10.1136/bmjebm-2025-114339.
2. Thomas J. A. AI overuse undermines young doctors’ critical thinking. Medscape, 2026 Jan 20. Dostupné na: www.medscape.com/viewarticle/ai-overuse-undermines-young-doctors-critical-thinking-2026a10001ua
