Věk deepfaků a stará iluze jistoty
Na Instagramu, TikToku i v různých messengérech se denně objevují dokonalé úsměvy a bezchybně osvětlené portréty. Část z nich zachycuje skutečné lidi, část byla vygenerována modely pro tvorbu obrazů a nikdy neexistovala. Spousta uživatelů tvrdí, že „tohle už dnes nikdo nerozezná" a že se může splést každý.
Výzkum týmu z Vanderbiltovy univerzity ale ukazuje něco mnohem složitějšího. Lidé se od sebe dramaticky liší v tom, jak dobře dokážou odhalit umělé tváře. Někteří se mýlí téměř pořád, jiní dosahují skvělých výsledků – a u části lidí zůstávají výsledky stabilně vysoké při opakovaných testech. Tato rozmanitost není náhodná.
Silná obecná schopnost rozpoznávat objekty způsobuje, že daná osoba mnohem lépe odhaluje tváře vygenerované umělou inteligencí a jen zřídka se nechá oklamat.
Není to inteligence ani technologie, ale způsob vidění
Psycholožka Isabel Gauthier a její kolegové se rozhodli zjistit, co odlišuje ty, kdo si vedou skvěle při rozpoznávání pravých a falešných tváří. Intuitivní odpověď by zněla: vysoká inteligence, zkušenost s počítači nebo výborná paměť na tváře.
Výsledky výzkumu tato předpoklady vyvrátily. Nejlepším vysvětlením se ukázala být obecná schopnost rozpoznávat objekty – tedy schopnost vnímat jemné rozdíly mezi velmi podobnými obrazy, nejen tvářemi. Jde o tentýž druh dovednosti, který pomáhá radiologům nacházet malé uzlíky na snímcích plic nebo patologům identifikovat nádorové buňky pod mikroskopem.
Lidé s vysokou úrovní této schopnosti v úkolech odhalování AI tváří pravidelně vítězili. Navíc když se test opakoval v jiném čase, jejich výsledky zůstávaly stabilní. Vědci proto dospěli k závěru, že nejde o jednorázové štěstí, ale o relativně trvalou vlastnost zrakového zpracování informací.
AI Face Test – jak se měří odolnost vůči umělým tvářím
K ověření těchto závěrů byl vytvořen speciální soubor úkolů nazvaný AI Face Test. Účastníkům byla předkládána série fotografií tváří – zčásti skutečných, zčásti vygenerovaných modely. U každé fotografie bylo třeba učinit jednoduché rozhodnutí: člověk, nebo AI?
Tento zdánlivě jednoduchý test odhalil obrovské rozdíly. Někteří testovaní se mýlili opakovaně, jiní odpovídali správně téměř vždy. Vědci porovnávali výsledky s dalšími měřeními, včetně testů rozpoznávání různých objektů nesouvisejících s tvářemi.
Nejlepším prediktorem úspěchu v AI Face Test se ukázala obecná zdatnost v rozpoznávání objektů – nikoli úroveň IQ, zkušenost s technologií ani specializovaná paměť na tváře.
Co přesně měří schopnost rozpoznávání objektů
Tato vlastnost se projevuje v mnoha různých vizuálních situacích, například:
- rozlišování velmi podobných modelů automobilů nebo přístrojů,
- vnímání drobných rozdílů mezi lékařskými snímky,
- rozpoznávání konkrétních druhů ptáků či rostlin jen podle detailu,
- sledování změn ve složitých grafech nebo schématech.
Člověk s vysokou úrovní této schopnosti obraz jaksi „skenuje" s větší přesností. Všimne si nepravidelností v osvětlení, nepřirozených proporcí, podivně vyhlazených částí pokožky nebo detailů v duhovce oka, které modely generující obrazy stále občas zkreslují.
Proč se někteří lidé nechají napálit téměř vždy
Část účastníků výzkumu dopadla velmi špatně. Přestože počet pokusů rostl, stále odpovídali chybně a jejich výsledek se výrazně nelišil od náhodného hádání. Nebylo to způsobeno nedostatkem inteligence ani malým kontaktem s digitálními obrazy.
Vědci zdůrazňují, že máme tendenci přeceňovat vlastní „oko". Mnoho lidí podceňuje obtížnost úkolu a předpokládá, že stačí trocha soustředění, aby v každé situaci odhalili manipulaci. Výsledky ukazují, že bez odpovídající zrakové zdatnosti samotná opatrnost nestačí.
| Faktor | Souvislost s výsledkem v AI Face Test |
|---|---|
| Obecná schopnost rozpoznávání objektů | Silná, stabilní souvislost – nejlepší prediktor |
| Úroveň IQ | Slabá nebo žádná souvislost s přesností hodnocení |
| Zkušenost s AI a technologií | Nevysvětluje rozdíly mezi nejlepšími a nejhoršími |
| Specifická paměť na tváře | Nestačí k dobrému odhalování generovaných tváří |
Zrakový „supertalent" v boji s dezinformacemi
Tým z Vanderbiltovy univerzity upozorňuje na praktické důsledky tohoto zjištění. Pokud mají někteří lidé výjimečně vysokou zrakovou zdatnost, lze tuto skupinu lépe využít tam, kde jde o bezpečnost informací. Například při ověřování citlivých vizuálních materiálů – fotografií publikovaných v souvislosti s ozbrojenými konflikty, katastrofami nebo volebními kampaněmi.
Vědci navrhují, že osoby s vysokými výsledky by mohly plnit roli „filtru" pro obrazy vstupující do AI systémů, které se učí na obrovských datových souborech. Pokud budou modely trénovány převážně na neoznačených nebo špatně označených obrazech, budoucí generace nástrojů bude vytvářet ještě klamavější obsah. Výběr prováděný lidmi s výjimečným zrakem by toto riziko mohl omezit.
Navzdory bouřlivému rozvoji generativní AI zůstává lidský zrak důležitým prvkem ochrany před falešnými obrazy – i když ne každý má stejné předpoklady.
Dá se oko na umělé tváře natrénovat?
Přirozeně vyvstává otázka, zda lze tuto vzácnou schopnost vypěstovat. Studie popisuje především rozdíly vrozené nebo velmi stabilní v čase, ale výsledky nevylučují, že vizuální trénink může něco zlepšit. Příklady z jiných oborů – jako je výuka čtení rentgenových snímků – ukazují, že dlouholetá praxe pod vedením odborníků skutečně zvyšuje přesnost hodnocení.
Je tedy možné, že v budoucnu vzniknou tréninkové programy založené na úkolech podobných AI Face Test. Rychlé série srovnání, zpětná vazba, postupné zvyšování obtížnosti a rozmanité styly generování obrazů by mohly zvyšovat citlivost vůči jemným anomáliím. Zatím to ale zůstává v rovině hypotéz – dostupná data hovoří především o tom, jak věci jsou, nikoli o tom, jak tuto vlastnost měnit.
Co z toho plyne pro běžného uživatele internetu
Pokud nepatříš mezi hrstku lidí s výjimečně bystrozrakým okem, neznamená to úplnou bezmoc. Je vhodné přijmout, že každý se může splést, a vlastní „oko" doplňovat dalšími bezpečnostními strategiemi. V praxi to znamená mimo jiné:
- ověřování kontextu: odkud fotografie pochází, kdo ji zveřejnil a kdy,
- porovnávání téže události ve více zdrojích, včetně textových,
- využívání nástrojů pro analýzu obrazů, které odhalují stopy generování,
- zachování rezervy vůči emočně nabitým vizuálním materiálům.
Výzkum zaměřený na AI Face Test připomíná, že informační bezpečnost se nesoustředí na jednu aplikaci nebo filtr. Je to směs lidských predispozic, technologických nástrojů a zdravého skepticismu. Někteří lidé skutečně mají zrak, který umělé tváře odhalí téměř bez námahy – ale i nejlepší pozorovatel může občas přehlédnout obratně připravenou manipulaci.
Pro tvůrce AI systémů je to signál, aby více zohledňovali rozdíly mezi lidmi. Budoucí řešení pro ověřování obrazů mohou kombinovat automatické algoritmy s výběrem vizuálních expertů – osob s vysokou schopností rozpoznávání objektů potvrzenou v testech. Pro ostatní uživatele je důležitější uvědomění si vlastních omezení a ochota nespoléhat jen na první dojem, ale také na ověřitelné zdroje a postupy kontroly obsahu.
