Jen pár dní po uvedení očekávaného dokumentu Co má Jennifer na svědomí se Netflix dostal do problémů. Fotky, které jsou použité v dokumentu k ilustraci odsouzené Jennifer Pan, jsou podle některých webových serverů upravené umělou inteligencí. Potenciální skandál pobouřil mnoho tvůrců, novinářů i diváků a vyvolal debatu o etickém používání AI při informování o skutečných událostech.
Do nepříjemné situace se v uplynulých dnech dostal Netflix, který v dubnu vypustil do světa dokument Co má Jennifer na svědomí (What Jennifer Did). Novinka vypráví děsivý příběh čtyřiadvacetileté Jennifer Pan, která za vraždu matky a pokus o vraždu otce sedí na doživotí v jednom z kanadských vězení. Více o filmu a celé mrazivé události jsme psali zde.
Na platformě se dokument objevil 10. dubna a i když okolo něj byl v médiích celkem rozruch, hodnocení má nyní spíš průměrné. Na Kinoboxu si Co má Jennifer na svědomí vysloužil 62 %. „Velmi zajímavý true crime příběh. Kam až může zajít přehnaná očekávání rodičů a kontrolovačnost spolu s touhou po penězích. Prakticky je to smutné u všech, protože rodiče chtěli asi to nejlepší pro dceru a ta jejich přehnané ovládání nezvládala a vybrala si tu nejhorší formu útěku,“ uvedl jeden z hodnotících.
Nyní ale tvůrci čelí obvinění z použití fotek, které byly vygenerovány nebo upraveny pomocí umělé inteligence. S informací přišel server Futurism, který tvrdí, že Netflix obrázky použil k vyobrazení Pan podle popisu, jenž v dokumentu zaznívá.
Zhruba okolo 28 minuty filmu se na obrazovce objevuje kamarád odsouzené Nam Ngueyn, který o ní mluví jako o „společenské, veselé a sebevědomé dívce, co si na nic nehrála“. Jeho slova pak následuje série fotografií, na kterých je Jennifer přesně taková, jak ji mladý muž vykreslil.
Jenže na obrazcích se kromě šťastného obličeje Jennifer vyjímají také podivné deformace jejích rukou, prstů a nezvykle dlouhých zubů. „Tvůrci ve svých dílech používají různé věci, jako třeba Photoshop. Fotky Jennifer jsou pravé, je na nich ona. Anonymizovalo se pouze pozadí kvůli ochraně zdroje,“ okomentoval vágně situaci producent Jeremy Grimaldi. Netflix se k tématu zatím nevyjádřil.
Ačkoliv ani po konfrontaci zástupců streamera není jasné, zda fotky upravené jsou, či nikoliv, vyvstává zde hned několik důležitých otázek. Opravdu je etické se při popisu opravdového člověka a skutečných událostí obracet k takovým nástrojům? Filmaři přece nevypráví fiktivní příběh pro zábavu diváků, ale zachycují drásavou, drsnou a bolestnou realitu.
Pro filmový průmysl a žurnalistiku by tak navíc incident mohl znamenat nebezpečný precedens. „Médium, ať už je to například AI generovaná fotka, může být z dokumentu vystřižena, použita na internetu a pak už si prorazí cestu na další místa. Navždycky tak zůstane v historickém záznamu konkrétního tématu a je velmi těžké to vzít nazpět či odstranit,“ řekla pro 404 Media dokumentaristka Rachel Antell s tím, že je nutné vytvořit pravidla, jak umělou inteligenci zodpovědně a bezpečně používat.
Zdroje: The Independent, Futurism, Futurism, ČSFD, HuffPost, Netflixer
Hodnocení na Kinoboxu: 62 %
