Obr. Zuzana Rennerová a Katarína Mayer
Umelá inteligencia je na vzostupe v akejkoľvek oblasti priemyslu alebo vedy, ktorá by s ňou mohla byť primerane prepojená – s osobitným dôrazom na rozpoznávanie reči a obrazu. Mnohí sa domnievajú, že jej pokrok a prijatie v zdravotníctve je pomalší – súhlasíte? A prečo si to myslíte?
K. Mayer: Asi by som ho neoznačila ako pomalší. Je pravda, že v niektorých krajinách je prijatie umelej inteligencie a strojového učenia v zdravotníctve rýchlejšie ako inde. Myslím, že záleží na viacerých faktoroch, ktoré sú nevyhnutné na ich použitie, ako je napríklad legislatívna úprava v danej krajine, dostupnosť diagnostických prístrojov, možnosti ukladania a spracovania dát, ako aj schopnosť a znalosti takéto dáta analyzovať. Tiež by som chcela doplniť, že rozpoznávanie reči a obrazu nie je nevyhnutne dominantnou oblasťou, len azda viac vizuálnou (a preto pre laickú verejnosť vhodnejšou ako príklad) v porovnaní so spracovaním napr. dát vitálnych funkcií, ktoré má dlhú tradíciu. No máte absolútnu pravdu, že v porovnaní s inými oblasťami, kde sa strojové učenie aplikuje, v zdravotníctve sa väčší dôraz kladie na etický aspekt a ochranu osobných údajov – a tak to má byť.
Svetové publikácie uvádzajú, že umelá inteligencia môže zmierňovať administratívnu záťaž, zlepšovať presnosť diagnostiky, posudzovať zdravotný stav pacientov a znižovať zbytočné postupy. Niektoré zdravotné riešenia založené na UI už existujú a ďalšie sa vyvíjajú. Aké je z vášho pohľadu praktické využitie UI v medicíne a aké problémy môže UI vyriešiť?
K. Mayer: Áno, myslím, že teoreticky by toto všetko raz mohlo byť možné, ale ešte nie sme tak ďaleko. V súčasnosti sa zameriavame na „skromnejšie“ úlohy, pri ktorých vieme presne definovať problém, ako je napríklad klasifikácia alebo predikcia vývoja zdravotného stavu. Modely strojového učenia sú dobré v tom, že sa vedia sústrediť na veľké množstvo faktorov. Človek je schopný súčasne vnímať len obmedzené množstvo. To teoreticky znamená, že správne natrénovaný model by mal byť schopný identifikovať príznaky zdravotných problémov skôr ako lekár. No nemusí to tak byť. Je tu niekoľko aspektov, ktoré musíme vziať do úvahy. Po prvé, zdravotné dáta majú lokálne špecifiká, čo znamená, že model natrénovaný na dátach z inej krajiny alebo dokonca kontinentu veľmi pravdepodobne nebude fungovať v našich podmienkach. Tento problém bol aj príčinou zastavenia veľkého a ambiciózneho projektu IBM Watson Health, ktorý ponúkal riešenia umelej inteligencie v zdravotníctve. Po druhé, keďže dáta musia byť lokálne alebo aspoň zo širšieho regiónu, je veľmi náročné získať dostatočne veľký súbor dát, aby sme vedeli natrénovať kvalitný model. Preto je nevyhnutné, aby sme využili všetky dostupné informácie o štatistických vlastnostiach dát a zohľadnili ich pri modelovaní. Po tretie, niekedy nevieme, aké dáta sú pre model relevantné, aby sa dobre učil. Môže to znieť prekvapujúco, ale niekedy presne nevieme, ako sa lekár rozhoduje, nemusí to byť len na základe napr. RTG snímky. Lekár strávi s pacientom čas počas vyšetrenia, všíma si, ako sa pacient hýbe, čo hovorí, prípadne iné klinické príznaky, o ktorých model nedostal informácie. To všetko môže byť dôležité pre stanovenie správnej diagnózy. Napríklad štúdia vedená Sebastianom Thrunom zo Stanfordskej univerzity natrénovala model, ktorý vie diagnostikovať niekoľko typov rakoviny kože len z fotografií. V tomto prípade mali k dispozícii veľký dataset s asi 130 000 fotkami a dosiahli úspešnosť na úrovni lekárov, dermatológov. V iných oblastiach, napríklad v rádiológii, sa výsledky od štúdie k štúdii v úspešnosti rôznia.
Nachádza umelá inteligencia uplatnenie aj v slovenskom zdravotníctve?
K. Mayer: Áno, niekoľko projektov už existuje. Priznám sa však, že moje informácie o týchto projektoch sú obmedzené, pretože doteraz som spolupracovala hlavne s výskumnými pracoviskami v zahraničí. Takže to je skôr otázka na MUDr. Z. Rennerovú.
Z. Rennerová: V tejto oblasti sa považujem za úplného laika, ale asi najviac známou a prezentovanou je možnosť využitia umelej inteligencie v oblasti zobrazovacích metód. V odbornej medicínskej literatúre sa nachádzajú články o jej použití vo viacerých oblastiach, napríklad pri diagnostike nádorov prsníka či hodnotení gastrofibroskopie a kolonoskopie so zameraním na skorú detekciu onkologických ochorení. Nemám však informácie o konkrétom použití umelej inteligencie na Slovensku ani v zahraničí.
Umelá inteligencia závisí do veľkej miery od existencie elektronických údajov o pacientoch. Vieme, že v súčasnosti je prepájanie takýchto údajov v elektronickej podobe problémové, pretože stále prevláda papierová forma zdravotnej dokumentácie. Čo treba urobiť, aby sa urýchlilo vytváranie týchto užitočných databáz s cieľom využívať moderné technológie v zdravotníctve, akými umelá inteligencia bezpochyby je?
Z. Rennerová: V súčasnosti sa už dokumentácia vedie v elektronickej podobe. To znamená, že všetky údaje o pacientoch ostávajú okrem papierovej formy uložené aj v elektronickom systéme, s ktorým dané pracovisko pracuje. Do elektronickej dokumentácie možno uložiť aj laboratórne výsledky či kompletné zobrazovacie vyšetrenia, ako je röntgen či CT vyšetrenie, ale iba za určitých podmienok. Ak sú vyšetrenia realizované na inom pracovisku, alebo systémy nie sú prepojené, nevieme elektronicky uložiť priamo vyšetrenie, zapíše sa len popis alebo záver vyšetrenia, ktorý ostáva tým činom uložený aj v elektronickej podobe.
K. Mayer: Áno, myslím, že väčšina pracovísk už ukladá veľkú časť nových dát v elektronickej podobe, ale historické dáta často stále zostávajú v papierovej forme. No to až tak nevadí, viem o niekoľkých projektoch zameraných na elektronizáciu dát s využitím umelej inteligencie. Takže to je už riešiteľné. Súhlasím však s vami, že hlavným problémom je chýbajúca centrálna databáza na Slovensku, ale aj v EÚ, ktorá by bola prístupná na účely výskumu. Preto je väčšina štúdií zameraná na zber vlastných dát a má k dispozícii len dáta o limitovanom počte pacientov. Navyše zber dát nie je štandardizovaný a môže sa líšiť od štúdie k štúdii. Agregácia takýchto dát je pomerne problematická, preto po skončení danej štúdie už tieto dáta nie sú zdieľané a použiteľné na ďalší výskum, prípadne replikáciu výsledkov. Keďže metódy strojového učenia potrebujú veľa dát, aby sa dokázali efektívne učiť, je to veľký problém. Našťastie sa na jeho riešení už pracuje. Existuje projekt s názvom Health Data Value, ktorý má za úlohu zreformovať proces zbierania a spracovania dát v slovenskom zdravotníctve a pomôcť ich efektívnemu využitiu pri výskume.
Aký je rozdiel medzi špecifikami práce s medicínskymi údajmi a akýmikoľvek inými údajmi?
K. Mayer: Okrem prísnejších GDPR úprav existuje niekoľko špecifík, ktoré som zaznamenala. Z hľadiska štatistických vlastností dát majú medicínske a biologické dáta vo všeobecnosti zvyčajne rozdelenie pravdepodobností, s ktorými sa lepšie pracuje ako napríklad s finančnými dátami alebo s dátami, ktoré spracovávame pri práci s malwarom. Často ide o veľké objemy dát, ale inak to nie je ani pri finančných a malwarových dátach. Azda najzásadnejším rozdielom je často malý počet pozorovaní (pacientov) a s tým spojené obmedzenia pri použití prístupov strojového učenia. Napríklad MRI dáta zvyknú byť obrovské, ale často sú prístupné iba pre zopár pacientov. Súčasný trend v strojovom učení je použitie tzv. data-based prístupov, čo zjednodušene povedané znamená, že nechávate všetko na dátach a model sa naučí, čo treba, sám. Tento prístup sa veľmi osvedčil pri úlohách, ako je rozpoznávanie obrázkov alebo hovorenej reči či pri preklade z jedného jazyka do iného jazyka. Je to hlavne preto, že v týchto prípadoch existujú obrovské a kvalitne pripravené dáta. Napríklad Alexnet je model na klasifikáciu obrázkov a bol trénovaný na 14 miliónoch obrázkov. V zdravotníctve pracujeme s oveľa menšími dátami, aspoň čo sa týka počtu pozorovaní, rádovo ide o dáta pre desiatky, niekedy stovky pacientov, ale len niektoré štúdie mávajú aj dáta pre tisícky pacientov. Taký malý počet pozorovaní znamená, že data-based prístupy tu veľa nezmôžu a potrebujeme modelom poskytnúť aj iné informácie, aby brali do úvahy všetky štatistické vlastnosti dát a dokázali sa učiť. V týchto prípadoch bývajú veľmi účinné pravdepodobnostné modelovanie (probabilistic modeling) a model-based prístupy.
Aké sú niektoré z dôležitých obmedzení a etických úskalí UI, pokiaľ ide o použitie v oblasti zdravotníctva?
Z. Rennerová: Za mňa ako lekára pracujúceho v klinickej praxi a absolútneho laika v oblasti umelej inteligencie považujem za najväčšie úskalie otázku spoľahlivosti výstupu umelej inteligencie. Stále ostáva lekár ten, ktorý je zodpovedný za pacienta, aj keď použije závery umelej inteligencie. Takže stále ich musí vedieť správne interpretovať a kriticky zhodnotiť.
K. Mayer: Áno súhlasím, momentálne sa snažíme použiť umelú inteligenciu ako akéhosi asistenta lekára. Otázka spoľahlivosti výstupu priamo súvisí s troma faktormi, ktoré som už spomínala v druhej otázke, preto je nevyhnutné, aby bol lekár ten, kto robí konečné rozhodnutia o zdravotnom stave pacienta.
Spolupracujete na výskumnom projekte, kde aplikujete umelú inteligenciu na lepšiu analýzu vývoja pľúc u predčasne narodených detí. Mohli by ste nám, prosím, povedať viac o tomto výskume a jeho poslaní? V čom je projekt výnimočný? V akom štádiu sa projekt nachádza?
Z. Rennerová: Predčasne narodené deti sú ohrozené rizikom mnohých komplikácií. Jedným z nich je, že pľúca týchto detí sa nestihnú pred narodením dostatočne vyvinúť a to spôsobuje aj ich postihnutie po narodení. Závažnosť takéhoto postihnutia je individuálna. Predčasne narodené deti potrebujú často hneď po narodení respiračnú podporu, podávanie oxygenoterapie. Pri tom sa riadime klinickým stavom, ale hľadajú sa aj ďalšie markery, ktoré by nám umožnili posúdiť stav respiračného systému. Jedným z takých vyšetrení je aj USG vyšetrenie hrudníka. Pri tomto vyšetrení hodnotíme nález na pľúcach podľa skórovacieho systému. Nás zaujíma v tomto projekte jednak korelácia skórovacieho systému s postihnutím pľúc a potrebou kyslíka, jednak pomoc umelej inteligencie pri tomto hodnotení. Myslím si, že na slovenské pomery ide naozaj o výnimočný projekt, nakoľko nie vždy sa nám v zdravotníctve darí držať krok s najnovšími technologickými možnosťami. Veľmi si preto ceníme spoluprácu s firmou ESET a zanietenosť K. Mayer, s akou sa do projektu pustila. V súčasnosti sme stále v štádiu naberania pacientov a zberu údajov.
Čo vás motivovalo zamerať sa na využitie UI pre aplikácie v zdravotníctve?
Z. Rennerová: Myslím si, že stále sa treba posúvať vpred a stále hľadáme možnosti, ako zlepšovať starostlivosť o našich pacientov. Umelá inteligencia by mohla zjednodušiť a zrýchliť niektoré diagnostické procesy. A práve zobrazovacie metódy sú podľa mňa vhodné na jej využitie. V našom prípade to je sonografické vyšetrenie, ktoré by v prípade použitia umelej inteligencie mohol vykonávať aj lekár bez dlhoročnej praxe s USG vyšetrením a výrazne by sa zjednodušilo jej hodnotenie.
K. Mayer: Firma ESET má dlhú tradíciu v pomoci komunite formou dobrovoľníckych programov našich zamestnancov. Veľa mojich kolegov poskytuje svoju expertízu a odovzdáva svoje skúsenosti v rôznych vzdelávacích programoch na stredných a vysokých školách. Keďže som pracovala nejaký čas v akademickom svete v zahraničí, snažím sa pokračovať v medzinárodných výskumných projektoch, na ktorých som pracovala v minulosti, ale neustále hľadám aj nové projekty. Momentálne pracujem v tíme, ktorý sa zaoberá automatizovanou analýzou dát. Spracovávame veľké množstvo dát, ale vyťaženie našich systémov nie je rovnaké 24/7, preto sme sa rozhodli tieto voľné kapacity použiť na dobrý cieľ. Máme mladý, rýchlo rastúci tím odborníkov špecializujúcich sa na analýzu dát a ich modelovanie. Preto nápad osloviť zdravotnícke zariadenie na Slovensku s cieľom pomôcť zefektívniť ich prácu a pri výskume vznikol celkom prirodzene.
Aké sú niektoré výhody používania nástrojov UI pri analýze pľúc v porovnaní so súčasnými diagnostickými metódami?
Z. Rennerová: Čo sa týka mňa ako lekára, očakávam od použitia umelej inteligencie zjednodušenie a zrýchlenie diagnostickej rozvahy, ktoré by nás rýchlejšie naviedlo k správnej diagnóze a tým aj správnej liečbe pacienta. Použitie umelej inteligencie by tým umožnilo v rovnakom čase tiež vyšetriť viac pacientov a bez rizika zvýšenej chybovosti, ako je to v prípade hodnotenia ľuďmi, nakoľko tu určite zohráva väčšiu úlohu únava, stres, nedostatočná koncentrácia pri vyšetrení väčšieho počtu pacientov.
K. Mayer: Áno, preťaženie lekárov je veľkým problémom a verím, že správne natrénovaný model by im vedel prácu uľahčiť. V budúcnosti si však viem predstaviť aj inú aplikáciu nášho spoločného výskumu. Priznám sa, že som sa nechala čiastočne inšpirovať prácou jedného z mojich akademických kolegov, ktorý využíva USG snímky ešte nenarodených detí v Afrike, aby im umožnil prístup k zdravotnej starostlivosti v oblastiach, kde je nedostatok lekárov. Sonografické vyšetrenie je zaznamenané miestnym vyškoleným personálom a snímky sú potom analyzované CNN (konvolučná neurónová sieť) modelom. U nás síce nie sú až také náročné podmienky ako v Afrike, ale špecializovaných pracovísk, ako je oddelenie pani doktorky Rennerovej, je málo, a preto musia pacienti na vyšetrenie dochádzať často z veľkej diaľky. Vhodné riešenie umelej inteligencie by preto sprístupnilo expertízu špičkových odborníkov aj pacientom v oblastiach Slovenska, kde nie je momentálne dostupná.
Čo vás a výskumnú skupinu čaká ďalej?
Z. Rennerová: Samozrejme neustále pokračujeme v zbere dát, aby sme získali čo najvýpovednejšiu vzorku pacientov. Projekt by sme chceli následne prezentovať na medzinárodných konferenciách zameraných na pneumológiu, ako je napr. kongres Americkej hrudnej spoločnosti, naši spolupracovníci zase na kongresoch zameraných na umelú inteligenciu. Najdôležitejší je pre mňa ako lekára klinický efekt, čiže zistenie, či podľa nálezu na USG pľúc viem predpovedať potrebu podávania kyslíka a či mi umelá inteligencia uľahčí diagnostiku a tým aj nastavenie pacienta na optimálnu liečbu.
K. Mayer: Áno, stále pokračujeme v zbieraní dát. Pri štúdiách, ako je naša, nie je zriedkavé, ak zber trvá aj niekoľko rokov. Máme za sebou už aj prvú konferenciu Britskej asociácie pre strojové videnie, kde sme prezentovali naše predbežné výsledky. Výhodou interdisciplinárnej spolupráce je, že sa na váš výskum pozrú odborníci s rôznych oblastí a podľa ich spätnej väzby rýchlo zistíte, či sa uberáte správnym smerom. Ja osobne si veľmi cením, že sa môžem učiť nové veci od odborníkov z iných oblastí a pomáha mi to vidieť problémy, ktoré sa snažíme riešiť, v inom svetle. Ľudia z iných odvetví často zadávajú skvelé otázky, nad ktorými by ste sa ani nezamýšľali pri diskusii s kolegami s rovnakého oboru, a to často vedie k nečakaným a elegantným riešeniam.
Keďže lekári a zdravotnícke systémy sa pri liečbe čoraz viac obracajú na UI, dá sa povedať, že budeme čeliť novým otázkam o zodpovednosti. Ak UI vedie k nesprávnej diagnóze stavu pacienta, ktorá by viedla k zanedbaniu zdravotného stavu pacienta, otázka znie, kto je zodpovedný?
Z. Rennerová: Ak lekár urobí chybu v rámci starostlivosti o pacienta, nesie za to zodpovednosť. To je problém umelej inteligencie, kde je otázne, kto vlastne preberá zodpovednosť za chybné závery, ktoré by mohli viesť k poškodeniu pacienta.
K. Mayer: Povedala by som, že tieto otázky nie sú len problémom v zdravotníctve, ale umelej inteligencie ako takej. Napríklad ak autonómne vozidlo zrazí a zraní chodca, kto je na vine? Tieto otázky rozhodne treba ešte právne doriešiť. Z môjho pohľadu ako výskumníka umelej inteligencie takéto zlyhanie nie je nevyhnutne pochybením na strane UI alebo človeka, ktorý dané UI riešenie vytvoril. Nikto nie je neomylný. Aj lekár, aj UI môže urobiť chybu, ale väčšinou robia iné typy chýb a z iných dôvodov. Lekári robia chyby často z preťaženia alebo ak riešia naraz priveľa vecí a niečo odpúta ich pozornosť, čo pri ich náročnej práci a dlhých pracovných časoch vôbec nie je prekvapujúce. Na druhej strane UI robí chyby napríklad preto, že model nebol natrénovaný na reprezentatívnych dátach. Ako príklad možno uviesť prípad, keď webová stránka ministerstva vnútra Nového Zélandu zablokovala žiadosť občana o predĺženie platnosti pasu. Aplikácia vyžadovala online zaslanie fotografie na pas. Systém fotku odmietol, pretože žiadateľ mal podľa neho „zatvorené oči“. Chyba nastala, pretože žiadateľ bol kórejského pôvodu a model nebol trénovaný na fotkách Ázijcov. Geoffrey Hinton (často označovaný ako Godfather of AI) povedal, že UI vznikla, aby sme mali možnosť riešiť výpočtové problémy v prípadoch, keď nevieme počítaču zadať presné inštrukcie krok za krokom. Modely UI sú preto často takou „čiernou skrinkou“ a je ťažké vysvetliť, ako prišli k riešeniu. Riešenia, ktoré UI predkladá, sú často lepšie a efektívnejšie ako tie, ktoré navrhol človek, ale stáva sa aj to, že sú nečakané alebo len využili slabinu systému. Preto býva veľmi ťažké predvídať všetky možné situácie, ktoré môžu nastať. Ak budeme UI využívať len ako asistenčnú službu pre lekárov, máme riziko pod kontrolou. No ak sa neskôr podujmeme na plne automatizované riešenie, kde bude rozhodovať len UI, je nevyhnutné, aby sme mali právne otázky zodpovednosti vyriešené.
Dúfate, že s pokračujúcimi inováciami v oblasti umelej inteligencie uvidíme viac klinických praktík, ktoré sa obrátia na túto technológiu, aby pomohli pri zdravotnej starostlivosti? Čo by to znamenalo pre zdravotnú starostlivosť?
K. Mayer: Pevne dúfam, že sa podarí zrealizovať projekt Health Data Value Projekt, ktorý je iniciatívou Ministerstva zdravotníctva Slovenskej republiky, Národného centra zdravotníckych informácií a Americkej obchodnej komory. Je to veľmi ambiciózny projekt, ale ak by sa to podarilo, vôbec nepochybujem o tom, že prinesie rýchly rozvoj výskumu v oblasti zdravotných aplikácií UI na Slovensku. Nové štúdie by už neboli odkázané na zber vlastných dát, čo je pomerne nákladné, a výskumníci z rôznych vedeckých disciplín by mali šancu analyzovať naše lokálne dáta. Preto si myslím, že by pribudlo projektov, ako je ten náš, a tiež by to podporilo interdisciplinárnu spoluprácu a spoluprácu medzi akademickými inštitúciami a zdravotníckymi zariadeniami.
Ďakujeme za rozhovor.
