Superpočítače v rukou lékařů: Jakými pravidly by se měla řídit umělá inteligence?

Žijeme ve století výpočetní techniky, která posunula naše životy prakticky v každém myslitelném ohledu. Netřeba vyjmenovávat internet, počítače, mobily a všechny vymoženosti, jež jsou denně kolem nás a jejichž rutinní užívání si možná ani neuvědomujeme. Rozvoj mikročipů a počítačové techniky posunul dopředu také medicínu. Kupříkladu současné zobrazovací techniky jako magnetická rezonance nebo CT by byly bez výkonných počítačů zcela nemyslitelné. Ačkoli jádrem medicínské práce zůstává lidská činnost, informační technologie umožnily pokrok v diagnostice i léčbě mnoha nemocí.

Když se ještě před několika desetiletími hovořilo o umělé inteligenci, představovali si to sci-fi spisovatelé velmi barvitě. Ve filmech z nedaleké budoucnosti se to hemží roboty, kteří nápadně připomínají lidské bytosti, mají emoce a dokážou komplexně vnímat realitu. Ostatně ve stejnojmenném filmu A.I. Umělá inteligence je v hlavní roli android dokonale podobný člověku v roli malého dítěte schopného cítit, vnímat i milovat. Doba jen o málo pokročila a umělá inteligence je na světě. Postupně proniká do stále více oblastí našich životů, žádný bombastický převrat se však nekoná.

Zázraky nečekejte

Realita je totiž na míle vzdálená barvitým představám nadšených futuristů. Žádní roboti nepřevzali nadvládu, stále chodíme do práce, nakupujeme rohlíky a jezdíme autem. Umělá inteligence má spíše podobu komplexních algoritmů schovaných v počítačích. Více než robota, který by se podobal člověku, připomíná černou skříňku jedniček a nul ukrytou v útrobách mikroprocesorů.

K čemu je vlastně umělá inteligence dobrá? Běžný počítačový program (velmi zjednodušeně) vychází z předem daného rozhodovacího algoritmu, takže vám ze stejného zadání dodá vždy totožný výsledek, přičemž známe jednotlivé výpočetní pochody tohoto procesu. Umělá inteligence oproti tomu funguje jinak – je totiž schopna učení.

K tomu se využívá celá řada mechanismů; jedním z nich je umělá neuronální síť, což je virtuální mechanismus inspirovaný skutečnými procesy v neuronech lidského mozku. Takový systém se dokáže poučit zpětnovazebně ze svých chyb a upevnit v sobě správné výsledky. Zatímco „klasický“ program je zapotřebí dopředu připravit na jakoukoli myslitelnou situaci, aby ji uměl vyřešit, systém umělé inteligence se dokáže učit „za pochodu“, a pokud se změní výchozí podmínky, umí změnit svůj rozhodovací algoritmus tak, aby stále dosahoval optimálních výsledků.

Křemíková medicína

Umělá inteligence se však velmi záhy dočkala také využití v medicíně. Jedním z prvních skutečných úspěchů byl program na včasnou detekci fibrilace síní prostřednictvím mobilních aplikací. Kombinací chytrých hodinek, mobilní aplikace a propojení se zdravotnickým systémem bylo takto včasně odhaleno a zaléčeno mnoho fibrilací dříve, než mohly nastat klinicky závažné konsekvence. Významným úspěchem pak bylo využití A.I. v predikci rizika rozvoje akutní koronární příhody, kde se program vyznačoval vysokou přesností. Dalším způsobem využití bylo například učení vyhodnocení výsledků funkčních testů plicní výkonnosti a přesnější stanovení diagnózy u plicních postižení.

Postupně se během několika let objevil minimálně jeden způsob aplikace umělé inteligence v téměř každém odvětví medicíny. Endokrinologie, nefrologie i gastroenterologie, monitorace cukrovky, a dokonce i předpovídání epileptických záchvatů, k tomu všemu slouží umělá inteligence. Schopnost učení pronikla dokonce i do patologie a mikroskopické anatomie – strojově učící se program dokáže sám vyhodnocovat preparáty a na rozdíl od živého patologa prozkoumá celý vzorek, nic mu neunikne, ba ani na nic nezapomene.

Zde však zatím umělá inteligence naráží na své limity – srovnávacím arbitrem je vždy opět živý lékař a zatím se nepodařilo dostatečně prokázat efektivitu a spolehlivost „umělého patologa“ – tedy alespoň ne natolik, abychom programům mohli bez obav svěřit například diagnostiku rakoviny.

Inteligence na uzdě

Již v roce 1942 definoval Isaac Asimov, slavný americký sci-fi spisovatel, kultovní „zákony robotiky“. Ty stanovily tři hlavní principy, jimiž se musejí řídit všichni roboti – nesmějí ublížit člověku, musejí uposlechnout lidského rozkazu a nesmějí ublížit sami sobě. Nahlíženo na tyto zákony dnešní optikou, mohli bychom konstatovat, že je lidstvo dlouhodobě a vědomě porušuje – vysoce výkonné drony podnikají sebevražedné vojenské mise a jediný zákon, který držíme jakž takž na uzdě, je poslušnost námi vyrobených zařízení.

Co se týká umělé inteligence, její vznik byl také předpovězen před mnoha desetiletími; popis slavného Alana Turinga v roce 1950 – že umělá inteligence je silná tehdy, když lidský tazatel při rozhovoru nepozná, zda hovoří s člověkem, nebo se strojem – je stále vnímán jako platný etalon úspěšnosti A.I.

Doba pokročila a světová zdravotnická organizace WHO popsala šest nových principů, jimiž se má umělá inteligence řídit, aby bylo její využití ve veřejném zájmu všude po celém světě. Tyto principy bychom mohli bez nadsázky označit jako novodobé zákony robotiky, ačkoli už nyní je zřejmé, že jejich prosazení a uplatnění nebude úplně jednoduché (viz Nový zákon).

Práva lidí a práva robotů

Je zjevné, že tyto požadavky jsou více či méně iluzorní, neboť každá vláda a každý národ budou využívat technologie tak, aby to vyhovovalo jejich pojetí lidského blaha, jež se s pojetím WHO často dramaticky liší. Ve světě, který dosud nebyl schopen domluvit se na základních lidských právech, je idea o spolupracujících národech v oblasti A.I. daleko větším sci-fi, než si mohli Turing s Asimovem představit.

Dalším problémem je fakt, že se algoritmy učí způsobem, do nějž nikdo nevidí, ani jeho tvůrce. Algoritmus nám nevysvětlí své myšlenkové pochody, ale dojde k závěru, který je chladně logicky nejlepší podle kritérií, jež jsme mu zadali. Háčkem je, že algoritmy nemají žádné etické zábrany, a pokud jim zadáme nějaký úkol, splní prostě zadání bez ohledu na morální aspekty.

TIP: Umělá inteligence je v diagnózách rakoviny prsu oficiálně lepší než lidé

Své o tom vědí například v USA, kde program na předpověď zločinu zcela bezostyšně označoval pouze lokality s převahou černošského obyvatelstva. Ačkoli matematicky měl vysokou úspěšnost, ustoupilo se od jeho používání pro „rasismus“. Podobné problémy nelze vyloučit ani v medicínských programech a lze očekávat, že při rutinním nasazení A.I. ve zdravotnictví nás bude čekat ještě bouřlivá diskuse. Vzhledem k rychlosti pokroku se ale velmi pravděpodobně jedná o budoucnost nepříliš vzdálenou.