Umělá inteligence (AI) v medicíně
Nástroje umělé inteligence využívají již dvě třetiny českých nemocnic – nejčastěji při diagnostice a vyhodnocování zobrazovacích metod. Role AI v posledních letech doslova skokově roste. Není se čemu divit. Možnost „delegovat“ na počítače rutinní úkoly lékařům uspoří čas, urychlí péči, a dokonce může pomoct zpřesnit rozhodování. Jenže přináší i úskalí. Na ta upozorňují evropské autority z řad EASAC a FEAM a směřují politikům důležitá doporučení.
Umělá inteligence se vyvíjí rychleji než regulace, které ji mají řídit. Oblast, ve které je to výrazně znát a současně je nesmírně citlivá, je právě zdravotnictví. Systémy umělé inteligence se v něm již využívají a můžou přinášet významné benefity, zejména v klinické péči a veřejném zdraví. Bez jasně stanovených pravidel však hrozí úniky dat, algoritmická předpojatost a ztráta lidské kontroly.
EASAC (Expertní rada evropských akademií) a FEAM (Federace evropských lékařských akademií) nyní vydaly zprávu, jejímž cílem je zajistit odpovědné využívání umělé inteligence v evropském zdravotnictví. Požadují, aby se k AI přistupovalo stejně jako k jakémukoliv jinému nástroji ve zdravotnictví: její přínosy se musí prokázat, je potřeba chápat možná rizika a průběžně kontrolovat její činnost.
„Pokud chceme svěřit své zdraví umělé inteligenci, musíme jednat právě teď,“ zdůrazňuje André Knottnerus, spolupředseda pracovní skupiny EASAC. Expertiza 22 vědců z celé Evropy zahrnuje desítku základních doporučení směřujících zejména na zákonodárce. „Je na tvůrcích politik, aby zajistili regulační podmínky pro využívání umělé inteligence, které bude orientované na pacienta, účinné, bezpečné, spravedlivé a transparentní,“ dodává André Knottnerus.
Hlavně transparentně
Za Akademii věd ČR se pracovní skupiny zúčastnila Eva Fialová z Ústavu státu a práva. Na starosti měla kapitolu o legislativním rámci (kapitola 8 ve zprávě EASAC a FEAM). Za velmi důležité ovšem považuje také chytré financování ve vývoji AI i podpůrných systémů. „Vždy budou diagnózy, pro které se trhu nevyplatí vyvíjet AI diagnostické prostředky, byť by měly velký význam. Takový vývoj by měl být podpořen z jiných zdrojů,“ říká.
Rovněž je nutné poskytnout reprezentativní data pro trénování AI, aby se nestalo, že by nějaká skupina pacientů byla opomenuta. Dobrá paralela se nabízí u autonomních vozů – pokud je AI řidič trénovaný jen na situace, kdy se po silnici pohybují bílí muži, mohl by v reálném provozu srazit černou ženu. „Vztaženo ke zdravotnictví je to velmi nebezpečné i proto, že uživatelé mají tendenci umělé inteligenci důvěřovat, a můžou tedy zdravotní stav určité skupiny osob zanedbat,“ upozorňuje Eva Fialová.
|
Deset doporučení pro tvůrce národních politik
|
Expertní rada evropských akademií (EASAC) sdružuje národní akademie věd členských států EU, Norska a Švýcarska za účelem spolupráce v poskytování vědecké expertizy politickým představitelům EU. Prostřednictvím EASAC poskytují akademie věd jednotná, nezávislá a expertní stanoviska k vědeckým aspektům evropské politiky těm, kteří ji utvářejí či ovlivňují.
Federace evropských lékařských akademií (FEAM) sdružuje 25 národních akademií medicíny, farmacie a veterinárních věd, případně lékařské sekce národních akademií věd, z celého evropského regionu WHO.
Dokument v plném znění naleznete zde: AI in European Healthcare