Éra deepfake tváří a starý klam sebejistoty
Na Instagramu, TikToku i v různých messengerech se každý den objevují dokonalé úsměvy a bezchybně osvětlené portréty. Část z nich zachycuje skutečné lidi, část nikdy neexistovala – byla vygenerována modely pro tvorbu obrazů. Spousta uživatelů tvrdí, že „to dnes prostě nelze poznat" a že se každý může splést.
Výzkum týmu z Vanderbilt University ale odhaluje složitější obraz. Lidé se ve schopnosti odhalit umělé tváře dramaticky liší. Někteří se mýlí téměř pokaždé, jiní dosahují skvělých výsledků – a jejich skóre zůstává stabilní i při opakovaných testech. Tato rozmanitost rozhodně není náhodná.
Silná obecná schopnost rozpoznávat objekty způsobuje, že daná osoba výrazně lépe odhaluje tváře vygenerované umělou inteligencí a jen zřídka se nechá obrazy oklamat.
Nejde o inteligenci ani technologie, ale o způsob vidění
Psycholožka Isabel Gauthier a její kolegové se rozhodli zjistit, co odlišuje lidi, kteří si vedou skvěle při poznávání, zda je tvář skutečná nebo umělá. Intuitivní odpověď by zněla: vysoká inteligence, pokročilá znalost technologií nebo výborná paměť na tváře.
Výsledky výzkumu tato předpoklady vyvrátily. Nejlepším vysvětlením se ukázala obecná schopnost rozpoznávání objektů – tedy dovednost vnímat jemné rozdíly mezi velmi podobnými obrazy, nejen tvářemi. Je to stejný typ zručnosti, který pomáhá radiologům odhalit drobné uzlíky na rentgenu plic nebo patologům identifikovat nádorové buňky pod mikroskopem.
Lidé s vysokou úrovní této schopnosti v úkolu odhalování AI tváří pravidelně vítězili. A co víc – když byl test zopakován s časovým odstupem, jejich výsledky zůstaly stabilní. Vědci proto dospěli k závěru, že nejde o jednorázové štěstí, ale o relativně trvalou vlastnost vizuálního zpracování informací.
AI Face Test – jak se měří odolnost vůči umělým tvářím
Za účelem výzkumu byl vytvořen speciální soubor úkolů nazvaný AI Face Test. Účastníkům byla prezentována série fotografií tváří – část skutečných, část vygenerovaných modely. U každého snímku bylo třeba učinit jednoduché rozhodnutí: člověk, nebo umělá inteligence?
Zdánlivě jednoduchý test odhalil obrovské rozdíly. Někteří účastníci se mýlili pravidelně, jiní odpovídali správně téměř pokaždé. Vědci porovnávali výsledky s dalšími měřeními, mimo jiné s testy rozpoznávání různých objektů, které s tvářemi vůbec nesouvisely.
Nejlepším prediktorem úspěchu v AI Face Test se ukázala obecná schopnost rozpoznávání objektů – nikoli úroveň IQ, zkušenosti s technologiemi ani specializovaná paměť na tváře.
Co přesně měří schopnost rozpoznávání objektů
Tato vlastnost se projevuje v mnoha různých vizuálních situacích, například při:
- rozlišování velmi podobných modelů automobilů nebo zařízení,
- vnímání drobných rozdílů mezi lékařskými snímky,
- poznávání konkrétních druhů ptáků či rostlin jen podle detailu,
- sledování změn ve složitých grafech nebo schématech.
Člověk s vysokou úrovní této schopnosti obraz jaksi „skenuje" s větší přesností. Všímá si nepravidelností v osvětlení, nepřirozených proporcí, podivně vyhlazeného povrchu kůže nebo detailů v duhovce oka, které modely generující obrazy stále občas zkreslují.
Proč se někteří lidé nechají napálit téměř pokaždé
Část účastníků výzkumu dopadla velmi špatně. Navzdory rostoucímu počtu pokusů stále odpovídali chybně a jejich výsledky se příliš nelišily od prostého hádání. Neplynulo to z nedostatku inteligence ani z malé zkušenosti s digitálními obrazy.
Vědci zdůrazňují, že máme sklon přeceňovat vlastní „oko". Mnoho lidí podceňuje náročnost úkolu a předpokládá, že stačí trocha soustředění, aby v každé situaci odhalili manipulaci. Výsledky ale ukazují, že bez odpovídající vizuální zdatnosti samotná opatrnost nestačí.
| Faktor | Vztah k výsledku v AI Face Test |
|---|---|
| Obecná schopnost rozpoznávání objektů | Silná, stabilní vazba – nejlepší prediktor |
| Úroveň IQ | Slabá nebo žádná vazba na přesnost hodnocení |
| Zkušenosti s AI a technologiemi | Nevysvětluje rozdíly mezi nejlepšími a nejhoršími |
| Specifická paměť na tváře | Nestačí k dobré detekci generovaných tváří |
Vizuální „supertalent" v boji proti dezinformacím
Tým z Vanderbilt University upozorňuje na praktické důsledky tohoto zjištění. Pokud někteří lidé disponují výjimečně vysokou vizuální zdatností, lze tuto skupinu lépe využít tam, kde je v sázce informační bezpečnost. Jde například o ověřování citlivých vizuálních materiálů, fotografií publikovaných v souvislosti s ozbrojenými konflikty, katastrofami nebo volebními kampaněmi.
Vědci naznačují, že lidé s vysokými výsledky by mohli plnit roli „filtru" pro obrazy vstupující do AI systémů trénovaných na obrovských datových souborech. Pokud do trénování modelů putují převážně neoznačené nebo špatně označené snímky, budou další generace nástrojů vytvářet ještě matoucí obsah. Výběr prováděný lidmi s vynikajícím zrakem by toto riziko mohl omezit.
Přes bouřlivý rozvoj generativní AI zůstává lidský zrak stále důležitým prvkem ochrany před falešnými obrazy – i když ne každý má stejné předpoklady.
Lze oko na umělé tváře vycvičit?
Přirozeně vyvstává otázka, zda se tato vzácná schopnost dá natrénovat. Výzkum popisuje především rozdíly vrozené nebo velmi stabilní v čase, ale výsledky nevylučují, že vizuální trénink může situaci zlepšit. Příklady z jiných oborů – třeba výuka čtení rentgenových snímků – ukazují, že mnohaletá praxe pod vedením expertů skutečně zvyšuje přesnost hodnocení.
Je tedy možné, že v budoucnu vzniknou tréninkové programy založené na úkolech podobných AI Face Test. Rychlé série porovnávání, zpětná vazba, postupné zvyšování obtížnosti a různorodé styly generování obrazů by mohly citlivost na jemné anomálie zvyšovat. Prozatím to ale zůstává v rovině hypotéz – dostupná data hovoří především o tom, jaký stav je, nikoli o tom, jak tuto vlastnost měnit.
Co z toho plyne pro běžného uživatele internetu
Pokud nepatříte mezi hrstku lidí s mimořádně bystrozrakým okem, neznamená to naprostou bezmocnost. Vyplatí se přijmout, že každý se může splést, a vlastní „oko" doplňovat dalšími bezpečnostními strategiemi. V praxi to znamená mimo jiné:
- ověřovat kontext: odkud fotografie pochází, kdo ji zveřejnil a kdy,
- porovnávat tutéž událost ve více zdrojích, včetně textových,
- využívat nástroje pro analýzu obrazů, které odhalují stopy generování,
- zachovávat rezervu vůči emočně nabitým vizuálním materiálům.
Výzkum AI Face Test připomíná, že informační bezpečnost se nedá zredukovat na jednu aplikaci nebo filtr. Je to směs lidských predispozic, technologických nástrojů a zdravé skepse. Někteří lidé skutečně disponují zrakem, který umělé tváře odhalí téměř bez námahy – ale i nejlepší pozorovatel může někdy přehlédnout obratně připravenou manipulaci.
Pro designéry AI systémů je to signál, aby důkladněji zohledňovali rozdíly mezi lidmi. Budoucí řešení pro ověřování obrazů mohou kombinovat automatické algoritmy s výběrem vizuálních expertů – lidí s vysokou schopností rozpoznávání objektů potvrzenou v testech. Pro ostatní uživatele je pak důležitější uvědomění si vlastních limitů a ochota nespoléhat se jen na první dojem, ale také na ověřitelné zdroje a postupy kontroly obsahu.
