Každý den sledujeme na různých platformách videa, ale jen málokdy se zamyslíme nad tím, do jaké míry jsou skutečná. Ještě před několika lety by nás tato otázka vůbec nenapadla. Videa a nahrávky byly zvěčněním reality a skutečnosti. Dnes se však na tuto skutečnost nemůžeme spolehnout.
Možnosti, jak se na internetu bavit pomocí aplikací, v posledních letech rapidně vzrostly. V poslední době se staly velmi populárními takzvané deepfake. Jedná se o poměrně nový pojem, který se v našem slovníku objevuje přibližně od roku 2017. Podle slovníku můžeme tento pojem definovat také jako falešné video. Deepfake představuje technologii založenou na umělé inteligenci, díky níž dokážeme do videa vložit svou tvář nebo hlas (či hlas jakékoli jiné osoby). Nejčastěji se jedná o aplikace, které na základě databáze fotografií (kterou jim poskytneme) dokážou vytvořit zcela nové a jedinečné video. Nejedná se však pouze o aplikace zaměřené na obraz; deepfake může být založen i na modulátoru hlasu, kdy taková aplikace dokonale napodobí hlas dané osoby na základě již existujícího záznamu. Následně je velmi obtížné rozeznat skutečnost od vygenerovaného deepfaku. Aplikace, které toho jsou schopné, se šíří po internetu a má k nim přístup téměř každý. Pokud se používaly pro zábavu, jejich existence se zdála zcela neškodná, postupně se však jejich využití stalo nebezpečným a přestalo plnit funkci zábavy.
Jakým negativním způsobem se tedy deepfaky začaly používat? Především k vytváření falešných zpráv, tedy fake news. Pro deepfake není žádný problém „vypůjčit si“ tvář a hlas jakéhokoli politika či slavné osobnosti, zadat, co a v jaké situaci má říci, a nová senzace je na světě. Takto vzniklé klamavé zprávy se dostanou mezi lidi a budou se šířit. Součástí takového podvodu se stal i ukrajinský prezident Volodymyr Zelenskyj, který se v tomto videu vyjádřil k vojenskému konfliktu mezi Ruskem a Ukrajinou. Prezident na toto podvodné video rychle zareagoval a označil ho za lež. Do podobného falešného videa se například dostal i šéf Facebooku Mark Zuckerberg. Nejedná se pouze o videa šířící podvodné zprávy, ale také o ta, ve kterých jsou lidé „vloženy“ do trapné situace, což může vést k jejich veřejnému ponížení. Tento problém se netýká pouze známých osobností, může se dotknout kohokoli z nás.
Deepfake se však již dostal i do podnikatelské sféry, kde jsou podváděni majitelé nebo jednatelé firem. Pomocí deepfaku z nich podvodníci vylákají peníze a tak okradou společnost o nemalý majetek. Nedávno se objevil podobný případ společnosti se sídlem v zahraničí a její dceřiné společnosti na Slovensku. Podvodník využil deepfake aplikaci, aby napodobil jednatele společnosti, a zavolal finanční ředitelce do slovenské pobočky. Pomocí modulátoru hlasu ji přesvědčil, že musí v Asii provést důležitou transakci a potřebuje, aby mu poslala peníze. Po rozhovoru trvajícím hodinu a půl nakonec finanční ředitelka převod provedla. Jelikož neměla podezření, že by se mohlo jednat o jakýkoli podvod, trvalo delší dobu, než se o tom zmínila druhému jednateli a začalo se vše vyšetřovat. Vzhledem k tomu, že peníze již byly odeslány, nebylo možné je na účtu zmrazit. Podařilo se však určitou částku zachytit na jiných účtech.
Právě tento případ je příkladem toho, jak snadno dokážou podvodníci pomocí umělé inteligence oklamat a okrást podnikatele. Tento případ je jen jedním z mála, o kterých víme, že se skutečně staly. Vzhledem k tomu, že tato technologie je poměrně snadno dostupná a způsob podvodu jednoduchý, je možné, že počet takových případů bude v budoucnu narůstat.
Co dělat, pokud se ocitnete v takové situaci?
1. Obraťte se na advokáta – ideálně s kontakty do zahraničí, kam byly peníze odeslány.
2. Obraťte se na svou banku a podejte „reklamaci“, pokuste se zastavit převod peněz ještě v době, kdy se nacházejí v zemi, kde se právě nacházíte.
3. Obraťte se na policii.
4. Obraťte se na FSJ (Finanční zpravodajskou jednotku).
5. Prostřednictvím zahraničního advokáta kontaktujte zahraniční banku, která následně podnikne kroky a zablokuje peníze, aby s nimi nebylo možné manipulovat.
6. Samozřejmě je nutné podat trestní oznámení v zemi, kam peníze směřují.
Tyto kroky nejsou přesným návodem, jak vaši situaci vyřešit, ale mohou vám poskytnout představu o tom, koho kontaktovat a jak postupovat. Na prvním místě je samozřejmě vždy opatrnost, která spočívá zejména v ověření dané osoby, aby se takové či podobné situaci předešlo.
Otázkou zůstává, jak se takovým situacím vyhnout a jak je odhalit(?). Deepfaky nepředstavují hrozbu pouze pro obchodní společnosti, ale mohou výrazně ovlivnit i komunitu a širokou veřejnost, veřejné mínění či jednotlivé názory. Otázku, jak odhalit deepfake, si již položilo několik společností, jako například Google, Microsoft nebo Facebook. Vytvořily algoritmus pro rozpoznávání deepfake videí (založený rovněž na principu umělé inteligence). Tomuto algoritmu poskytly databázi deepfake videí, aby dokázal rozpoznat základní rysy a odhalit podvodné video. Vývoj umělé inteligence neustále postupuje vpřed a s tím přichází obava, zda bude takový algoritmus fungovat trvale. Alespoň u fotografií se začíná uvažovat o takzvaném skrytém digitálním podpisu, na jehož základě by bylo možné ověřit, zda byla fotografie již upravena. Mnoho lidí se však domnívá, že takové řešení by nemělo zůstat výhradně v rukou gigantických platforem. Z krátkodobého hlediska je to v pořádku, z dlouhodobého hlediska by však bylo vhodné tento problém vyřešit především legislativně. Zákony, které by tuto oblast regulovaly, budou v budoucnu nezbytné. V současné době se na trhu objevuje stále více startupů (jako například Truepic nebo Deetrace), které nabízejí software na ochranu před deepfaky. Jednou z možností by bylo i úplné zakázání používání těchto technologií. V současné situaci a ve stávající fázi vývoje to však již není možné.
Deepfaky mají i různé pozitivní stránky a využití. Nejsou výhradně nástrojem zábavy pro širokou veřejnost, tvůrci videoher a animovaných filmů však mohou tuto technologii využít například k realističtějšímu zobrazení postav. Zároveň mohou být skvělým nástrojem v umění. Již několikrát jsme byli svědky vystoupení již zesnulého umělce, a to právě díky umělé inteligenci a podobným technologiím. Taková vystoupení mohou být v budoucnu realitou. Mohou být využity také ve zdravotnictví, při rekonstrukcích míst činu, dokonce i v módním průmyslu. Jejich využití je skutečně široké a může přinést velký užitek, avšak jejich regulace bude nezbytná.
Vývoj nezadržitelně postupuje vpřed. Vnímáme to na každém kroku a každý den. Deepfake videa a nahrávky jsou jen důkazem toho, jak daleko se technologie a vývoj umělé inteligence dostaly a kam až se mohou dostat. Vzhledem k tomu, že společnost není na tento druh technologie dostatečně připravena (ani z legislativního, ani z morálního hlediska), je nezbytné být opatrný a ověřovat si všechny, resp. alespoň většinu informací, které se k vám dostanou. Ne vše, co na internetu vidíme a slyšíme, musí být skutečné.
