Už neplatí argumentace, že někdo něco viděl na vlastní oči a slyšel na vlastní uši. Přinejmenším pokud jde o nahrávky a videa. Nastupují totiž deepfakes, které umožňují video nebo audio změnit tak, že nic nepoznáte. Politický život by to mohlo vážně poškodit.

Kvůli volební prezidentské kampani v roce 2020 už dva americké státy schválily zákony, jejichž cílem je zabránit tomu, aby takový přesvědčivý podvod mohl ovlivnit volby. Těmi dvěma státy, které schválily zákony zaměřené na omezení takových podvodů, jsou Texas a Kalifornie. Podle zákona bude nelegální vytvářet obsah, který by úmyslně chtěl poškodit politického kandidáta nebo ovlivnit volby.

O jak velkou hrozbu se jedná, popisuje článek Přežít první „deepfake“ volby na The Christian Science Monitor. Oč se jedná? Deepfakes jsou vytvářeny pomocí technologie „hlubokého učení“, která využívá počítačové algoritmy. Je to možné ukázat na příkladu. Abyste pomocí této technologie vytvořili třeba podobu růže, vložíte do aplikace obrázky růží a tulipánů. Aplikace identifikuje rozlišovací vlastnosti růže a použije tyto informace k vytvoření složeného obrazu. Program může dále vylepšit algoritmus (a obrázek) porovnáním obrázků skutečných růží s generovaným obrazem a identifikováním rozdílů.

Tento proces se opakuje a funguje pro software jako jakýsi „osobní trenér“, říká Michael Kearns, profesor počítačové a informační vědy na University of Pennsylvania.

Pokaždé, když program úspěšně identifikuje rozdíly mezi „syntetickou“ růží a skutečnou, tak každý další falešný produkt, který vytvoří, bude zdánlivě autentičtější. Brzy je rozdíl mezi syntetickým obrázkem a fotografiemi pro oko nerozpoznatelný.

Tento proces lze také použít při úpravě videa a zvukových souborů a umožňuje vznik sofistikovaných padělků.

Začátkem roku 2018 se na internetu začaly šířit videozáznamy celebrit, které byly míněny jako satira, ale objevila se také falešná videa celebrit se sexuálním obsahem. Co to znamená pro dobrou pověst mnoha lidí, není nutné vysvětlovat.

Co by nová technologie mohla znamenat ohledně amerických prezidentských voleb v letošním roce?

„Pro rozšíření dezinformací nepotřebujete deepfakes,“ říká Hao Li, přednášející počítačovou vědu na University of Southern California. Hao Li pracoval na federálním projektu, jehož cílem bylo vysledování deepfakes. Podle profesora Li neodhalitelná videa tohoto druhu se mohou objevit v horizontu šesti měsíců až roku. To už je z hlediska voleb docela brzo.

Danielle Citron, profesorka práva na bostonské univerzitě, varuje, že by tyto praktiky mohly ovlivnit politický proces a narušit legitimitu voleb.

Zatím jsme mohli být svědky pokusu o diskreditaci, která ještě tuto technologii nevyužila, ale ukazuje se, jak může být takový podvod účinný. Předsedkyně Sněmovny reprezentantů Nancy Pelosiová byla zobrazena na videu, kde byly záběry zpomaleny, takže působila jako opilá. Na Facebooku mělo dva miliony sdílení.

Už jsme si také mohli poslechnout projev prezidenta Johna Kennedyho, který nikdy nepronesl. Nemohl, byla to řeč, kterou jsme dosud měli jen písemně, ale než se tehdy Kennedy v osudový den dostal k řečnickému pultu, byl v Dallasu zavražděn. Dnes ale umíme věrně vytvořit jeho hlas. Tohle je jen zajímavost a pro filmové tvůrce to přinese nové a lákavé možnosti znovu obsadit dávno zesnulé hvězdy. Co když si ale nějaká diktatura usmyslí, že vytvoří falešná videa kompromitující příslušníky opozice? Ani jim nikdo nebude muset stoprocentně věřit, stačí zasít pochybnost.

Otázkou je, jestli tady legislativa nebude v závěsu za děním. Máme už podobnou zkušenost s šířením falešných zpráv pomocí dnešních „primitivních“ technologií. Lživé a anonymní řetězové maily, polopravdy, to všechno má velký dopad. Jakékoli dementování přichází pozdě, byť se objevilo téměř okamžitě, protože sdělení se stejně šíří dál. Než se věc vyřeší soudně, může být po volbách. Nemusí být ostatně jasné, kdo za výtvorem stojí. Jedinou možností pak je, že předem nevěříme ani tomu, co nám někdo ukázal. To ovšem paralyzuje normální přístup k životu. Je otázka, jestli těch několik desítek procent lidí, kteří nemají kritické myšlení, ale mají volební právo, nakonec neobrátí směřování společnosti do dost temných vod. Zvlášť když „informační útočník“ bude movitý a odhodlaný.

Demokracii čeká další potíž a zřejmě už navždy. Přinejmenším po dobu, co budou existovat vyspělé technologie.