Jednoho dne požádáme robota, aby přinesl kousek pizzy z ledničky. V ten den pak uvěříte, že se vám robot nebude probourávat stěnami nebo nevytrhne dveře lednice z pantů, aby se dostal ke zbytkům vašeho jídla. Takto uvádí Christian Science Monitor článek o tom, jakou roli budou hrát roboti v našem životě. (V češtině jsme pod vlivem Karla Čapka, jehož bratr to slovo vynalezl, zvyklí mluvit o robotech jako o živých bytostech, proto píšeme roboti, ačkoliv se ujímá i výraz roboty, který zdůrazňuje, že jsou to přece jen pouhé stroje.)

Naučit roboty dělat to, co dělají lidé a to bez bez zásahu člověka, představuje vážný problém s jejich autonomií. Podle jedné studie je polovina amerických pracovních míst ohrožena automatizací a očekává se, že do roku 2020 deset milionů osobních aut bude mít systém automatického řízení. Roboti se dostanou všude a už nikdy neodejdou (neodjedou, neodvezou je).

Enormní rozsah toho, jak budou autonomní roboti měnit náš život, vyžaduje, aby se veřejnost a technologové podrobně zabývali tím, jaké problémy jejich autonomie přinese.

Kam až robotům dovolíme proniknout do našeho života? Jak budeme eticky posuzovat jejich chování? Jaké bude naše partnerství s nimi?

To jsou důležité otázky. A jejich jádrem je, řečeno poněkud robotickým jazykem, jak vytvořit „smysluplnou lidskou kontrolu“ nebo dostatečný dohled nad takto autonomním činitelem.

Chcete-li držet krok s budoucností, budeme muset přijít na to, co je „dostatečný“ dohled nad strojem, který bude nadán neuvěřitelnou inteligenci.

Dnes je většina robotů vyrobena tak, že mají velmi specifickou sadu úloh ve v rámci velmi specifické sady parametrů, jako jsou geografická či časová omezení, která jsou vázána na obvody samotného stroje.

„Nejsme ve fázi, kdy roboti dělají vše, co mohou dělat lidé,“ říká Spring Berman, profesor strojního a leteckého inženýrství na Arizona State University (ASU). „Mohli by být multi-funkční, ale jsou omezeni svým hardwarem.“

Potřebují lidskou ruku, která je nasměruje ke konkrétnímu cíli, jako u partnerství psa a člověka, říká Nancy Cookeová, profesorka systémového inženýrství na ASU, která se zabývá vztahem člověka a stroje.

Předtím, než psi mohou vést pátrací a záchranné týmy, aby vyčenichali zavalené lyžaře nebo vypátrali bomby, vyžaduje to obrovské množství školení a čas „na vodítku“. Roboti potřebují podle Cookeové stejnou úroveň výcviku.

Dokonce i po přísném „tréninku“ a prověřování někdy roboti dělají věci, které by neměli dělat, protože v jejich naprogramování je skryta řada „vtípků“ a někdo musí být volán k zodpovědnosti, pokud se robot dostane mimo své hranice.

„Nemůže to být nějaký trouba sedící ve skříni, na kterém se někde stiskne tlačítko,“říká Heather Roffová, výzkumná pracovnice z iniciativy Global Security ASU a výzkumnice na univerzitě v Oxfordu. „To nedává smysl.“

Na základě své práce s autonomními zbraňovými systémy říká, že je opatrná ohledně mínění, že někdy poblíž bude vždycky člověk.

„Stroj není morálně zodpovědný činitel,“ říká, „člověk musí mít dobrou představu o tom, co po systému požaduje, aby udělal a odpovědný musí být člověk.“

Je třeba například vyřešit problém, aby stroj dokázal identifikovat nepřátelského bojovníka. Jak je bojovník identifikován? Podle pleti, pohlaví, věku nebo přítomnosti nebo nepřítomnosti určitého oblečení? Co se stane, když policie nasadí robota vybaveného tímto softwarem? Čí prst je nakonec na spoušti?

Mnoho z etických otázek v robotice se redukuje na to, jak by mohla být tato technologie použita někým jiným v budoucnosti, a kolik rozhodovací pravomoc robotovi dáme.

„Myslím, že je opravdu důležité pochopit, že za morální jednání robota je výhradně odpovědná osoba,“ říká Roffová. „Lidé nemohou dopustit situaci, kdy by se někdo mohl zbavit své odpovědnosti.

A nemůžeme dovolit robotům, aby činili rozhodnutí, aniž bychom se ptali na důvod, proč se tak rozhodovat mají. Odpovědi na tyto otázky nám umožňují pochopit a realizovat smysluplnou lidskou kontrolu.

Právě v této době potřebujeme nezávislá média. Podpořte nás prosím a objednejte si předplatné Revue FORUM ZDE. Děkujeme!

Revue Forum Banner