Největší podvod na sociálních sítích. Češi jsou v nebezpečí a zmatení
S nástupem umělé inteligence se mění celý digitální svět. V mnoha ohledech nám AI usnadní život a není třeba se jí za každou cenu obávat. Jsou zde ale jistá rizika, která se s každým dnem stávají větším nebezpečím.
Digitální svět se neustále vyvíjí a v poslední době je tento posun stále rychlejší a větší. Nejnovější technologie si poradí s čímkoliv, co vás jen napadne – roboti umí dokonce odhalit některé typy rakoviny, operovat, vytvářet realistické fotografie či zvuky, povídat si s člověkem, řešit matematické úkony a mnoho dalšího.
Tato strana technologického rozvoje je fascinující a do našich životů přináší samá pozitiva a zjednodušení běžných denních úkonů. Umělá inteligence a další podobné “vychytávky” moderního světa ale nemusí být jen přínosem – jsou-li tyto nástroje ve špatných rukou, stávají se poměrně nebezpečnými.
Co je to deepfake?
Jako deepfake můžeme označit technologii založenou na umělé inteligenci. Jde o videa, fotografie nebo zvukové záznamy upravené tak, aby vypadaly nebo zněly zcela autenticky. Uživatel tak na první pohled nemá šanci poznat, zda se jedná o video reálné či nikoliv.
Výraz pochází z anglického “deep learning” (hluboké učení) a “fake” (falešný). Algoritmus “hlubokého učení” se v podstatě naučí a vytrénuje na obrovské množství dat – například záběry obličejů v různých pozicích, ze všech stran a ve všech výrazech či zvukové záznamy hlasu. Programy jsou pak schopné napodobit reálné chování lidí, jejich vzhled, hlas i mimiku.
Proces vytvoření deepfake videa je technologicky složitý, dostupnost nástrojů a aplikací ale tvorbu zjednodušila. Dnes už není potřeba být expertem na AI – stačí mít přístup k základním programům, které dokážou během několika hodin vytvořit falešné video. A to je hlavním důvodem, proč v poslední době deepfake videa zaplavují celý internet.
Influenceři, celebrity i politici jako součást deepfake videí
Deepfake technologie se zaměřuje především na osoby, které jsou veřejně známé a jejichž tvář a hlas jsou snadno dostupné na internetu. Nejčastěji se jedná o celebrity, influencery nebo třeba politiky. Videa, na nichž známé osobnosti pronášejí slova, která nikdy neřekly, či dělají činy, které nikdy neprovedly, mají negativní dopad nejen na samotné aktéry, ale často na celou společnost.
V případě politiků mohou deepfake videa ovlivňovat volby nebo šířit dezinformace na globální úrovni. Jedno falešné prohlášení nebo kompromitující záznam může poškodit důvěryhodnost a destabilizovat politické situace. V oblasti zábavního průmyslu jsou celebrity často cílem falešných skandálů nebo kompromitujících videí, která se šíří po internetu rychlostí blesku.
Deepfake technologie celkově podporují dezinformace a konspirační teorie. Lidé totiž přirozeně důvěřují tomu, co vidí. Zejména méně technicky zdatní nebo příliš důvěřiví lidé nemají nejmenší důvod o zdánlivě skutečných videích pochybovat. To vše pak může vést k šíření nedůvěry, strachu a k polarizaci v naší společnosti.
Obětí můžete být i vy
Deepfake technologie se ale netýká jen veřejně známých osobností. Díky stále snadnější dostupnosti softwaru a zdrojů se může stát obětí kdokoliv. Stačí několik fotografií nebo krátký videozáznam, aby bylo možné vytvořit falešný obsah s vaší podobiznou.
Tento problém se týká dospělých i dětí, jejichž fotografie se bohužel často objevují na sociálních sítích. Technologie umožňuje vzít obličej kohokoliv a zasadit jej do falešného kontextu – od kompromitujících videí po nelegální obsah. Tato hrozba má vážné psychologické i právní důsledky pro oběti, které často nemají prostředky, jak se bránit.
Největší problém je pak u dětí, které se snadno stávají obětí kyberšikany a dochází k závažným psychickým potížím. Deepfake videem ale mohou hackeři vylákat i různé informace nebo peníze z důvěřivých rodičů.
Zdroje: Wikipedia.org, ct24.ceskatelevize.cz, theguardian.com