Fyzik Stephen Hawking je sice zastáncem umělé inteligence, ale je také otevřený ohledně potenciálních problémů, které vytváří. Znám je jeho názor z poslední doby, kdy vyzval lidstvo, aby se kvůli svému přežití připravilo na stěhování na jiné planety.

V nedávném rozhovoru na jiné téma, tentokrát umělé inteligence, nabídl řešení, které konzervativci mohou asi těžko přijmout.

V rozhovoru pro The Times of London říká, že je znepokojen umělou inteligencí a dalšími globálními hrozbami. Odpovědí na rizika by podle něj mohla být mezinárodní akce a možná i světová vláda.

„Musíme být rychlejší při identifikování takové hrozby a jednat dříve, než se dostane mimo kontrolu,“ řekl Hawking. „To by mohlo znamenat nějakou formu světové vlády.“

Jde o to, že roboti a softwary vybavené takzvanou umělou inteligencí už nedostávají přímé zadání od člověka, ale řeší problémy mezi sebou a samy hledají řešení. Co to může znamenat, o tom jsme tu nedávno psali. Například softwaroví roboti používaní při editaci webu Wikipedia, komunikují mezi sebou a jsou schopni si práci navzájem neúnavně vracet a donekonečna opravovat jeden druhého. Nebezpečím jsou i roboti a armádě, kteří mají sami poznat, kdo je nepřítel a zasáhnout proti němu.

Potřeba značné kontroly a to i na světové úrovni bude možná nutná. Hawking ale varoval i před tím, že taková volba by se mohla stát tyranií. Jak by taková kontrola zasáhla do našich soukromých životů?

Jak role umělé inteligence ve společnosti roste, počítačoví odborníci a politici se posouvají od vývoje těchto systémů k jejich využití pro dobro společnosti.

„Ano, myslím, že mnohem lepší globální řízení by mohlo být nutné a nemělo by se zabývat jen pokročilou AI, ale i některými dalšími velkými výzvami, které čekají na náš druh,“ píše Nick Bostrom, profesor na University of Oxford. „Nejsem si jistý, že můžeme do nekonečna pokračovat jako rozdělený svět ve vývoji stále výkonnějších nástrojů.“

Dnes se umělá inteligence podílí zdánlivě na všem, stojí za pokrokem autonomních vozidel, je přítomna v řídících procesech reklamy na Facebooku a ovlivňuje život prostřednictvím virtuálních asistentů. V New Yorku předvídá požáry a ve Velké Británii tlačí na lidi, aby zaplatili své dluhy. V konečném důsledku by mohla dokonce odstranit přetrvávající sociální problémy, jako jsou nemoci a chudoba. Je to velká moc a my zatím hledáme, jak ji jednou kontrolovat.

Musíme ale vyřešit, jak to udělat, aby lidští páni všech robotů nebyli nakonec i pány nad všemi lidskými bytostmi.