V súčasnosti nie je možné ľudským okom spoľahlivo rozlíšiť rozdiel medzi syntetickými snímkami tvorenými deepfakes a skutočnými snímkami. Biometria poháňaná umelou inteligenciou sa ukázala ako najúčinnejšia obrana proti falšovaniu, a teda ako jediná spoľahlivá metóda overovania identity na diaľku.

Čo je deepfake?

Deefpake je nový pojem, ktorý sme pred pár rokmi nepoznali. Slovo vzniklo z anglického fake a deep learning, čo znamená podvod a hlboké učenie. Označuje sa tým technológia, ktorá využívaním nástrojov umelej inteligencie dokáže vložiť do existujúceho videa/obrázka napríklad tvár človeka. Sú to umelo vytvorené súbory a sú také presvedčivé, také realistické, že ľudské oko často nevníma, že sa nachádza pred fiktívnym obrazom. Cieľom je vytvoriť realisticky vyzerajúce, no na druhú stranu falošné video alebo fotografiu.

Je deepfake skutočná hrozba?

Na začiatku boli deepfakes len neškodnou zábavou, ľudia vytvárali videá a obrázky na zábavné účely. V kombinácii so škodlivými úmyslami a nástrojmi kybernetického útoku sa však rýchlo premenili na hrozby. Deepfakes sa stali veľmi účinným spôsobom spúšťania útokov na kybernetickú bezpečnosť, šírenia falošných správ a ovplyvňovania verejnej mienky.

Deepfake zahŕňa použitie nástrojov, ako sú počítačom generované snímky (angl. Computer-generated imagery, CGI) a umelá inteligencia na zmenu vzhľadu a správania osoby. Algoritmy strojového učenia pracujú na vytváraní vysoko realistického syntetického obsahu na napodobňovanie ľudského správania vrátane výrazov tváre a reči. Keď sa táto technológia používa so zlým úmyslom, môže byť použitá napríklad na vytvorenie falošnej identity, napodobnenie človeka a získanie prístupu k zabezpečeným miestam.

Ktoré priemyselné odvetvia by mali spozornieť?

Každý jedinec, zamestnanec, priemyselný podnik či korporát je náchylný na podvod a deepfakes. Či už pri práci komunikujete prostredníctvom telefónu alebo prostredníctvom komunikačných platforiem ako MS Teams a Zoom, ste vystavený riziku možného vydierania a manipulácie.

Jeden z najznámejších prípadov deepfake útoku sa stal v roku 2019, keď generálnemu riaditeľovi energetickej firmy so sídlom v Spojenom kráľovstve zatelefonoval jeho šéf, aby previedol takmer štvrť milióna libier dodávateľovi v Maďarsku. Keďže hlas znel podobne ako jeho nemecký šéf, generálny riaditeľ plnil príkazy. Čoskoro nato nasledoval ďalší telefonát, ktorý vyzval generálneho riaditeľa, aby poslal ďalšie peniaze. To už uňho vyvolalo podozrenie a tak sa rozhodol kontaktovať úrady. Čoskoro vyšlo najavo, že generálny riaditeľ sa stal obeťou podvodu, ktorý s najväčšou pravdepodobnosťou použil technológiu deepfake na duplikovanie hlasu nemeckého šéfa.

Biometria je silným spojencom proti deepfake

Biometrické systémy umožňujú automatickú identifikáciu a autentizáciu konkrétneho človeka. Biometrické overenie tváre sa ukazuje ako spoľahlivá metóda overenia identity na diaľku, pretože každý človek je jedinečný. Má jedinečné oči, nos, pery. Biometria dokáže identifikovať tieto jedinečné vlastnosti a porovnať iné tváre so skúmanou pôvodnou tvárou.

Biometria analyzuje aj iné prvky, ako je vzdialenosť medzi očami alebo farba očí. Zohľadňuje osvetlenie a hĺbku. A ak je to video, berie do úvahy jemné pohyby, ktoré robíme, ako je žmurkanie alebo dýchanie. Pri deepfakes je bežné vidieť pohyby vlasov a pier mimo vyznačenej oblasti, ako aj neprirodzené žmurkanie alebo nedostatok emócií, ktoré nezodpovedajú ľudskému správaniu.

Hlasová biometria je technológia, ktorá identifikuje a autentifikuje používateľov podľa ich hlasu. Táto technológia vychádza z toho, že ľudský hlas je jedinečný a každý človek má vo svojom hlase charakteristický frekvenčný vzorec a vlastnosti. Táto technológia je jednoduchá: zaznamená sa hlas a následne sa analyzuje, aby sa získal súbor funkcií na identifikáciu osoby. Rytmus, výška, frekvencia a zafarbenie sú niektoré z charakteristík používaných pri analýze hlasu.

Systémy hlasovej biometrie využívajú algoritmy strojového učenia a databázy vzoriek hlasu. Tieto algoritmy analyzujú a porovnávajú známe hlasové vlastnosti s neznámymi. Ak je zhoda medzi hlasmi dostatočná, systém dokáže s istotou určiť, kto hovorí.

Včasná detekcia

Vedeli ste, že až 96 % deepfake sa odhalí vďaka biometrii? Biometrická technológia využíva na overenie identity vlastnosti, ako je štruktúra tváre, hlasové vzory alebo dúhovka, ktoré sú jedinečné pre každého z nás. Prostredníctvom sofistikovaných algoritmov a nástrojov automatického učenia systém analyzuje vlastnosti a hľadá nezrovnalosti, ktoré sú typické pre imitáciu. Otázka, ako si môžeme byť istí identitou niekoho online, je preto mimoriadne dôležitá a vážna téma.

Zdroj: How Deepfakes Threaten Remote Identity Verification Systems. iProov. [online]. Publikované 22. 1. 2024. Citované 23. 1. 2024. 

-pev-