Žijeme v době bezprecedentní technologické transformace. Každý den pracujeme se systémy, jejichž fungování většina z nás nebude nikdy schopna plně chápat. I když je to těžko představitelné, v horizontu pouhých několika let bude pravděpodobně existovat umělá inteligence, která umí přemýšlet a rozhodovat rychleji než lidský mozek.¹ A všechny tyto technologické změny stavějí náš svět před nečekané etické, sociální i politické otázky. Na jednu část této velké technologické transformace se v předminulém čísle zaměřil Petr Dvořák v článku „Svoboda v digitálním věku“, kde se zabýval otázkami spojenými se sociálními sítěmi.² Následující text se pokusí zprostředkovat vývoj některých digitálních technologií v oblasti filmového průmyslu a nastínit etické otázky, které se vážou na rozvoj a aplikaci těchto technologií, i možné důsledky jejich využívání v dnešním světě. (Přetištěno z revue Kontexty.)

CGI postavy – velmi stručná historie

S rozvojem CGI (Computer-Generated Imagery) se filmařům otevřely nevídané možnosti v oblasti vizuálních efektů. Jednou z nich byla možnost přivést na filmové plátno kompletně nereálné bytosti a zakomponovat je do scén se skutečnými herci. Průkopníkem této technologie se stala společnost ILM (Industrial Light and Magic), kterou v roce 1975 založil George Lucas pro účely jeho nově vznikajícího filmu Hvězdné války (Star Wars). První fotorealistickou postavou kompletně vytvořenou v počítači byl skleněný rytíř z filmu Pyramida hrůzy (Young Sherlock Holmes, 1985, režie Barry Levinson). Za jeho zrodem stál tehdejší zaměstnanec ILM, pozdější zakladatel a dlouholetý šéf studia Pixar John Lasseter. Skutečný rozmach digitálních postav však začal až v 90. letech s filmy Terminátor 2: Den zúčtování (Terminator 2: Judgment Day, 1991, režie James Cameron) a Jurský park (Jurassic Park, 1993, režie Steven Spielberg).

Motion Capture / Performance Capture

Další zásadní revoluce přišla v roce 2002. Tentokrát za ní nestála ILM, ale novozélandská společnost Weta Digital, kterou v roce 1993 založil režisér Peter Jackson. Pro adaptaci Tolkienova Pána prstenů: Dvě věže (The Lord of the Rings: The Two Towers, 2002) bylo potřeba přivést k životu nelidsky vypadajícího Gluma. Peter Jackson od začátku produkce věděl, že postava bude kompletně digitální. Aby však herci měli na co reagovat, Jackson najal herce Andyho Serkise, který Gluma během natáčení ztvárnil. Původní plán byl, že bude z filmu vyretušován a nahrazen digitální postavou. Joe Letteri, který měl ve Weta Digital na starosti vizuální efekty, v průběhu produkce zjistil, že je možné převést herecký projev Andyho Serkise na postavu Gluma a použít jeho pohyby a mimiku jako základ pro vytvoření digitální postavy. Andy Serkis následně znovu natočil všechny svoje scény ve studiu, kde ho ze všech stran snímaly kamery. Bylo to vůbec první použití tzv. technologie Motion Capture.

Motion Capture neboli „záznam pohybu“ v praxi znamená to, že tvůrci vizuálních efektů nemusejí postavu animovat snímek po snímku. Herec je oblečen do speciálního obleku pokrytého stovkami malých senzorů a pohybuje se v prostředí obklopeném kamerami. Tyto kamery jsou napojeny na počítače, zaznamenávají každý senzor na hercově těle (včetně detailní mimiky v obličeji) a převádějí tato data na digitální postavu (avatara), která se pohybuje a tváří jako původní herec.

K zatím poslednímu zásadnímu zdokonalení této technologie došlo v roce 2014 při natáčení filmu Úsvit planety opic (Dawn of the Planet of the Apes, 2014, režie Matt Reeves), kdy byla technologie Motion Capture poprvé použita mimo studio, v reálných lokacích. Některé lokace snímalo ze všech stran až padesát kamer.³ Když tedy herci ztvárňující opice běhali mezi stromy, minimálně jedna kamera byla vždy schopna zachytit jejich senzory.

V průběhu let přirozeně dochází k neustálému vylepšování kamerové techniky a senzory na hercově těle jsou schopny zachytit i ty nejmenší nuance. Proto se dnes mezi filmaři užívá spíše termín „Performance Capture“ – už nejde jen o zachycení pohybu, je to podrobné zachycení hercova projevu. Stále častěji se ve filmovém průmyslu vedou debaty o tom, jestli není namístě vytvořit speciální kategorii ocenění pro herce pracující s technologií Motion Capture. A není na to jednoduchá odpověď. Ano, existují filmy jako například Polární expres (The Polar Express, 2004, režie Robert Zemeckis) nebo Tintinova dobrodružství (The Adventures of Tintin, 2011, režie Steven Spielberg), které jsou kompletně vytvořeny pomocí technologie Motion Capture. V případě obou filmů ztvárňují herci výhradně lidské postavy (byť lehce stylizované) a rozhodně není možné tyto snímky kategorizovat jako čistě animované filmy. Pak ovšem existují filmové postavy jako Glum z Pána prstenů, Ceasar z Planety opic, drak Šmak z Hobita, kde čisté zachycení hercova projevu nestačí. Některé pohyby herce musejí být animátorem modifikovány tak, aby odpovídaly fyziologii dané bytosti. A v takových případech není vždy jasně určitelné, v jaké míře za finální herecký výkon odpovídá herec a v jaké animátoři.

Začalo to make-upem…
Technologie Motion Capture je dnes běžnou součástí téměř každého hollywoodského filmu. A používá se několika způsoby. První z nich byl popsán výše – herec ztvárňuje nějakou nereálnou bytost a jeho herecký projev je aplikován na digitálního avatara. Dalším využitím technologie Motion Capture je tzv. digitální make-up, kdy senzory pokrývají pouze určitou část hercova těla a umožňují libovolné deformace, kterých by nikdy nebylo možné dosáhnout standardním maskováním. Jednou z prvních takto upravených postav je Harvey Dent z Temného rytíře (The Dark Knight, 2008, režie Christopher Nolan). Dále je možné herce výrazně omladit nebo ho nechat zestárnout, což poprvé využil režisér David Fincher ve filmu Podivuhodný případ Ben­jamina Buttona (The Curious Case of Benjamin Button, 2008). A pak je zde třetí aplikace technologie Motion Capture, z hlediska etiky ta nejvíce problematická – v kombinaci s umělou inteligencí je dnes možné oživit mrtvé.

Posmrtné kariéry

Oživování mrtvých herců začalo čistě z nutnosti. Když v roce 1999 natáčel Ridley Scott snímek Gladiátor, do role Proxima obsadil herce Olivera Reeda, který však v průběhu natáčení zemřel na infarkt. Ridley Scott se tehdy rozhodl použít CGI technologie v kombinaci s optickými efekty a dvojníky, aby chybějící záběry s Reedem doplnil a zachránil dnes už slavný film. Je nutno podotknout, že v tomto případě ještě neexistovala technologie Motion Capture. Ta byla po­uži­ta až ve filmech jako třeba Rychle a zběsile 7 (­Furious 7, 2015, režie James Wan), kde podobně jako v případě Gladiátora nebyly v době náhlé smrti jednoho z hlavních představitelů Paula Walkera dokončeny všechny scény. Filmaři se rozhodli přepsat scénář a na zbývající nezbytné záběry využít Walkerova bratra, jehož obličej modifikovali pomocí Motion Capture.

Záchranou nedokončených filmů to ovšem zdaleka nekončí. Oživování herců se využívá i v případech, kdy zemřeli již několik let před natáčením filmu. Marlon Brando se vrátil v roli Jor-Ela dva roky po své smrti ve filmu Superman se vrací (Superman Return, 2006, režie Bryan Singer), Carrie Fisherová si zahrála princeznu Leiu ve filmu Star Wars: Vzestup Skywalkera (Star Wars: The Rise of Skywalker, 2019, režie J. J. Abrams) přesně tři roky po své smrti. Na rozdíl od Branda je Fisherová přítomná v podstatné části filmu a v příběhu hraje zásadní postavu. Její posmrtnou roli umožnila celá řada zajímavých okolností.

Za prvé, Carrie Fisherová byla v roce 2016 omlazena pro účely jiného filmu z prostředí Hvězdných válek – Rogue One: A Star Wars Story (2016, režie Gareth Edwards). Proces omlazování vyžaduje mimo jiné i kompletní Motion Capture naskenování herce (viz titulní obrázek). Technici z ILM tedy měli k dispozici její kompletní 3D model a doslova každou podrobnost jejího obličeje. Za druhé, existovala celá řada nevy­užitých scén s Carrie Fisherovou z předminulého snímku Star Wars: Síla se probouzí (Star Wars: The Force Awakens, 2015, režie J. J. Abrams). Bylo tedy technologicky možné vyříznout Fisherovou z nevyužitých záběrů, kolem jejích replik napsat nové scény a zasadit ji do prostředí nového filmu. Nedokonalosti a chybějící pojící prvky byly doplněny CGI / Motion Capture verzí, kde místo Fisherové stála na place její dcera.

Peter Cushing, jak si ho pamatujete z dětství!

A nekončí to ani oživováním nedávno zesnulých herců. Stále častější jsou i případy oživování dávno mrtvých hereckých hvězd. Lze opět zmínit snímek Rogue One: A Star Wars Story, kde kromě omlazené Carrie Fisherové můžeme vidět i Petera Cushinga v jeho roli z úplně prvních Hvězdných válek. Cushing zemřel v roce 1994, ale podle tvůrců byla jeho postava natolik ikonická, že ji nebylo možné nahradit nikým jiným.

Cushing byl oživen kombinací několika technologií.⁴ První z nich je přirozeně Motion­ Capture. Tvůrci filmu najali herce Guye ­Henryho, který vzhledem a postavou připomíná Cushinga. Henry pečlivě studoval záběry s Cushingem a naučil se hýbat a reagovat jako on. Poté sehrál roli v obleku Motion Capture na place a jeho obličej byl digitálně nahrazen Cushingovou tváří. Následně došlo i k umělé úpravě hlasu, aby Henryho hlas zněl stejně jako hlas zesnulého herce.

Syntetický hlas a technologie deepfake

V současné době už je technologie úpravy hlasu mnohem pokročilejší a do velké míry spoléhá na umělou inteligenci. Tzv. syntetický hlas podobným způsobem jako dnes široce dostupná technologie deepfake využívá proces strojového učení. V praxi byla technologie použita například při omlazování Marka Hamilla v roli Luka Skywalkera v seriálu The Mandalorian (2019, režie Jon Favreau). Tvůrci potřebovali, aby hlas Marka Hamilla zněl stejně jako v 80. letech. Stačilo vzít zvukové záznamy a rozhovory mladého Marka Hamilla, nahrát data do počítače, a umělá inteligence vygenerovala zvukovou stopu dialogu, která odpovídá tomu, co říkají herci v záběrech, a zároveň to zní jako jeho hlas z 80. let.

Deepfake funguje stejným způsobem, pouze se namísto zvukových záznamů nahrávají do počítače i obrazové informace (fotografie, popřípadě videa dané osoby z určité doby). Umělá inteligence si z nahraných podkladů vytvoří knihovnu výrazů, tváří, pohledů a způsobů, jakými se v určitých úhlech odráží světlo na hercově tváři. Když pak jiný herec (tzv. stand-in) sehraje scény na place, umělá inteligence zjistí, jak hercův projev koresponduje s určitým projevem nahraným v knihovně, a ten pak aplikuje na záběr. Ve výsledku vidíte tváře precizně vybrané komplexním algoritmem.

V případě omlazení Marka Hamilla byla použita kombinace všech existujících výše popsaných technologií: CGI, Motion Capture a nakonec i deepfake a syntetický hlas, aby byl výsledek obrazově co nejpřesvědčivější.

James Dean žije!

Jak je patrné z výše popsané evoluce digitálních technologií, omladit, popřípadě oživit herce není v dnešním filmovém průmyslu žádný problém. Naopak se to velmi rychle stává běžnou praxí. Před dvěma lety bylo slavnostně oznámeno, že James Dean bude za pomoci současných technologií znovu vzkříšen z mrtvých a zahraje si hlavní roli ve válečném dramatu Finding Jack.⁵ Dean byl hvězdou filmů jako například Na východ od ráje (East of Eden, 1955, režie Elia Kazan) nebo Rebel bez příčiny (Rebel Without a Cause, 1955, režie Nicholas Ray) a tragicky zahynul během autohavárie v roce 1955. Bylo mu pouhých čtyřiadvacet let. Filmaři dostali svolení použít jeho vzhled a hlas od Deanovy rodiny.

Nicméně stav filmu je momentálně neznámý, protože to bylo snad vůbec poprvé, co se proti oživování herce vzedmula vlna hněvu v samotné hollywoodské komunitě. Například herec Chris Evans (představitel Kapitána Ameriky) reagoval slovy: „To je šílené. Možná by nám mohl počítač namalovat nový obraz od Picassa nebo napsat několik nových písní Johna Lennona.“⁶ Opravdu děsivou věcí na tomto nadsazeném výroku je, že se blížíme do fáze, kdy technologie bude podobné věci skutečně umožňovat. Představa nových písní Johna Lennona bohužel není v dnešním světě vůbec nereálná, připomeňme Luka Skywalkera a jeho syntetický hlas.

Výzvy a hranice

Zde se dostáváme k etickým otázkám a legislativním výzvám, které tyto nové technologie přinášejí. Zákony v některých státech USA umožňují veřejně známým lidem, aby se rozhodli, jak bude po smrti naloženo s jejich vizáží. Zatímco třeba Robin Williams před svou smrtí v roce 2014 podepsal dokument, podle kterého ho nikdo nesmí digitálně oživit jako postavu ve filmu nebo jako hologram, herci jako Peter Cushing nebo James Dean určitě s podobnými scénáři nikdy nepočítali a Audrey Hepburnovou zcela jistě nenapadlo, že se v roce 2013 objeví v reklamě na čokoládu…⁷

Výhodou je, že použité technologie ve filmu stárnou a například scény s digitálním Peterem Cushingem, byť jsou z roku 2016, už dnes působí zastarale a uměle. Jinými slovy, budoucím divákům ­Rogue One je a bude jasné, že nesledují skutečného herce, pouze někoho, kdo vypadá a zní jako Peter Cushing. Technologie jde ovšem kupředu, a jak naznačuje Jon Favreau, režisér a tvůrce seriálu The Mandalorian, za pár let budou technologie deepfake nerozeznatelné od skutečnosti.⁸

Už dnes najdete na internetu poměrně přesvědčivá deepfake videa všech možných známých osobností a je zde samozřejmě obrovský potenciál pro šíření dezinformací a poten­ciální kriminalitu.⁹ Nejsou to zdaleka jen celebrity, jejichž fotografie, videa a zvukové záznamy kolují po internetu. Téměř každý z nás má profil na sociálních sítích a někteří lidé ho mají plný obrazových a zvukových záznamů z různých fází jejich života. Doposud se diskuse o ochraně osobních dat točila téměř výhradně kolem naší aktivity na internetu, zájmů a vlastností. V blízké době se však bude týkat i ochrany našeho vzhledu a hlasu.

Samozřejmě platí slova Johna Knolla, kreativního ředitele ILM a jednoho z tvůrců aplikace Adobe Photoshop: „Technologie nejsou ze své podstaty ani hodné, ani zlé. Záleží na tom, jak je používáme.“¹⁰ Musíme si však klást otázku, jak s touto neustále se rozšiřující novou technologií naložit a jak minimalizovat její nevyhnutelné negativní dopady. Režisér Jon Favreau navrhuje vytvořit jakýsi ekvivalent blockchainu.¹¹ Tedy aby každý obrázek či video obsahoval jedinečný kód, jakousi známku, pomocí které lze pokaždé zjistit, zda bylo s obrazem nějakým způsobem manipulováno, a zobrazit historii všech manipulací. Byť je to technologicky zatím poměrně těžko představitelné, mohlo by to do budoucna pomoci uživatelům rozeznat, co je reálné a co ne.

Výše popsané technologie představují pouze miniaturní zlomek v obrovské mozaice technologické transformace, uprostřed které se nyní nacházíme. Oživování mrtvých herců (případně omlazování žijících) je čím dál více řízeno nikoliv člověkem a jeho nedokonalým napodobováním a imitací, ale stále preciznější umělou inteligencí. Je to na jednu stranu děsivá myšlenka, na druhou stranu realita, se kterou se bude muset lidstvo vypořádat a nastavit jasné hranice. Jak tvrdí Henry Kissinger, nacházíme se na konci osvícenství: „Umělá inteligence mění lidské vnímání reality a esenci vědění.“¹²

  Poznámky

1. Kissinger, Henry; Schmidt, Eric; Huttenlocher, Daniel. The Age of AI: And Our Human Future. Little, Brown and Company 2021
2. Dvořák, Petr. „Svoboda v digitálním věku.“ Kontexty 5/2021
3. Perry, Tekla S. Motion Capture Technology Goes Into the Wild for Dawn of the Planet of the Apes. Dostupné z: https://spectrum.ieee.org/motion-capture-technology-goes-into-the-wild-for-dawn-of-the-planet-of-the-apes
4. How Rogue One Created Princess Leia, Grand Moff Tarkin. ABC News, 5. 1. 2017. Dostupné z: https://youtu.be/xMB2sLwz0Do
5. Ritman, Alex. James Dean Reborn in CGI for Vietnam War Action-Drama. The Hollywood Reporter, 6. 11. 2019. Dostupné z: https://www.hollywoodreporter.com/movies/movie-news/afm-james-dean-reborn-cgi-vietnam-war-action-drama-1252703/
6. France, Lisa Respers. Chris Evans and others sound off against CGI casting of James Dean. CNN Entertainment, 7. 11. 2019. Dostupné z: https://edition.cnn.com/2019/11/07/entertainment/james-dean-cgi-casting-trnd/index.html
7. Viz https://youtu.be/fYWv1oD3dv8
8. Disney Gallery: The Mandalorian – Making of the Season 2 Finale. USA, 2021
9. Ljubas, Zdravko. Expert: Criminals Increasingly Inte­rested in Deep Fake Technology. OCCRP, 11. 1. 2021. Dostupné z: https://www.occrp.org/en/daily/13600-expert-criminals-increasingly-interested-in-deep-fake-technology
10. Disney Gallery: The Mandalorian – Making of the Season 2 Finale. Behind the Scenes. USA, 2021. Dostupné z: https://www.youtube.com/watch?v=effHYIbjqYU
11. Tamtéž
12. Thompson, Ann. Henry Kissinger and former Google head Eric Schmidt say diplomatic dialogue to control AI needs to happen now. Focus on Technology, 3. 1. 2022. Dostupné z: https://www.wvxu.org/podcast/focus-on-technology/2022-01-03/henry-kissinger-eric-schmidt-google-the-age-of-ai-book

KONTEXTY / Jako bonus čtenářům serveru FORUM 24 pravidelně přetiskujeme články z časopisu o kultuře a společnosti Kontexty. Tištěný časopis si lze objednat zde.