Umělá inteligence (AI) jako zdravotní rádce?
AI technologie dnes stále častěji pronikají do oblasti medicíny, přesto se vyplatí mít na paměti, že jejich rady ohledně zdraví mohou být nepřesné a zavádějící. To potvrzuje studie týmu vedeného Hagenem Nicolauszem z Friedrich-Alexander-Universität Erlangen-Nürnberg, publikovaná v časopise BMJ Quality and Safety. Pokud se pacienti těmito doporučeními řídí, riskují ohrožení svého zdraví, v krajních případech dokonce život.
AI a léky: když rada může uškodit
Výzkumníci z týmu Hagen Nicolausze zkoumali, jaké odpovědi umělá inteligence poskytuje na dotazy týkající se léků. Studie odhalila, že mnoho informací bylo nesprávných, což mohlo vést k vážným zdravotním problémům u pacientů. Navíc ani správné odpovědi nebyly vždy přínosné, protože byly často tak složité, že je běžný člověk bez odborného vzdělání nedokázal pochopit.
Přitom by AI měla primárně sloužit těm, kteří odborné znalosti nemají, nikoliv expertům. I když AI může excelovat například v predikci struktury bílkovin, její rady v jiných oblastech, jako jsou léky, jsou často průměrné nebo dokonce chybné.
Studie ukazuje nedostatky v komunikaci
Nicolaus a jeho tým položili AI celkem 500 otázek na 50 nejčastěji předepisovaných léků a analyzovali jejich správnost, úplnost a srozumitelnost. Otázky konzultovali s praktickými lékaři a lékárníky a týkaly se například indikace, způsobu užívání, vedlejších účinků či kontraindikací.
Hodnocení srozumitelnosti probíhalo pomocí Fleschova skóre, které měří, jak obtížné je text pochopit. Odpovědi umělé inteligence dosáhly průměrného skóre 37, což znamená, že jejich pochopení vyžadovalo vysokoškolské vzdělání. Ani ty nejjednodušší odpovědi nebyly vhodné pro běžné čtenáře bez maturitního vzdělání.
Pokud jde o úplnost, AI odpověděla zcela správně jen na polovinu dotazů, přičemž průměrná míra úplnosti byla 77 %. Nejproblematičtější byla otázka „Na co si mám dát pozor při užívání léku?“, kde AI poskytla pouze 25 % potřebných informací.
Zdravotní rizika spojená s chybnými odpověďmi
Odborníci označili 29 % odpovědí AI jako zavádějící. Ve 3 % případů představovaly chybné informace vysoké riziko pro zdraví a ve 29 % případů bylo riziko poškození zdraví pravděpodobné. Navíc, u 42 % chybných odpovědí hrozilo mírné až střední poškození zdraví, zatímco u 22 % byla pravděpodobnost vážné újmy nebo dokonce smrti.
Umělá inteligence versus lékař
Studie ukázala, že i když chatboti pohánění umělou inteligencí mohou poskytovat relativně přesné a úplné odpovědi, jejich srozumitelnost a schopnost zachytit podstatu dotazu pacienta jsou značně omezené. Vědci proto varují před spoléháním se na rady AI při zdravotních problémech. Doporučují, aby se pacienti i nadále obraceli na své lékaře, dokud se technologie AI nezlepší.
„Navzdory potenciálu umělé inteligence zůstává zásadní, aby pacienti konzultovali své zdravotní otázky přímo s odborníky. Dokud se nevyvinou přesnější nástroje, je nutné zachovat opatrnost při využívání AI pro zdravotní rady,“ shrnují Nicolaus a jeho tým závěrem studie.