Éra deepfake a starý klam jistoty
Na Instagramu, TikToku i v různých messengerech se každý den objevují dokonalé úsměvy a bezchybně osvětlené portréty. Některé zachycují skutečné lidi, jiné nikdy neexistovaly — vygeneroval je model umělé inteligence. Spousta uživatelů tvrdí, že „to dnes už nikdo nerozezná" a že každý může udělat chybu.
Výzkumný tým z Vanderbiltovy univerzity ale přináší překvapivě jiný pohled. Lidé se v dovednosti odhalovat umělé tváře dramaticky liší. Někteří se mýlí téměř vždy, jiní dosahují vynikajících výsledků — a ty navíc zůstávají stabilní i při opakovaném testování. Tahle propast rozhodně není náhodná.
Silná obecná schopnost rozpoznávání objektů způsobuje, že daný člověk mnohem spolehlivěji odhaluje tváře generované umělou inteligencí a mnohem méně podléhá klamavým obrazům.
Nejde o inteligenci ani technologie, ale o způsob vidění
Psycholožka Isabel Gauthier a její kolegové se rozhodli zjistit, co odlišuje lidi, kteří excelují v poznávání, zda je tvář skutečná nebo umělá. Intuitivní odpověď by zněla: vysoké IQ, pokročilá znalost technologií nebo výborná paměť na tváře.
Výsledky výzkumu však tato předpoklady vyvrátily. Nejlepším vysvětlením se ukázala obecná schopnost rozpoznávání objektů — tedy dovednost vnímat jemné rozdíly mezi velmi podobnými obrázky, nejen tvářemi. Je to stejný typ vizuální zdatnosti, který pomáhá radiologům odhalit drobné nádory na rentgenových snímcích nebo patologům identifikovat nádorové buňky pod mikroskopem.
Lidé s vysokou úrovní této schopnosti v úkolech zaměřených na detekci AI tváří pravidelně vítězili. A co je zásadní — při opakování testu v jiný čas jejich výsledky zůstávaly stabilní. Vědci proto dospěli k závěru, že nejde o šťastnou náhodu, ale o relativně trvalou vlastnost vizuálního zpracování informací.
AI Face Test — jak se měří odolnost vůči umělým tvářím
K výzkumu vědci vytvořili speciální sadu úkolů nazvanou AI Face Test. Účastníkům byla předkládána série fotografií tváří — část skutečných, část vygenerovaných modely umělé inteligence. U každého snímku bylo třeba učinit jednoduché rozhodnutí: člověk, nebo AI?
Zdánlivě jednoduchý test odhalil obrovské rozdíly. Někteří testovaní se mýlili opakovaně, jiní odpovídali správně téměř vždy. Vědci porovnávali výsledky s dalšími měřeními, včetně testů rozpoznávání různých objektů, které s tvářemi vůbec nesouvisely.
Nejlepším prediktorem úspěchu v AI Face Test se ukázala obecná schopnost rozpoznávání objektů — nikoli úroveň IQ, zkušenost s technologiemi ani specializovaná paměť na tváře.
Co přesně měří schopnost rozpoznávání objektů
Tato vlastnost se projevuje v mnoha různých vizuálních situacích, například:
- rozlišování velmi podobných modelů automobilů nebo přístrojů,
- vnímání drobných rozdílů mezi lékařskými snímky,
- rozpoznávání konkrétních druhů ptáků či rostlin pouze podle detailu,
- sledování změn ve složitých grafech nebo schématech.
Člověk s vysokou úrovní této schopnosti obraz jakoby „skenuje" s větší přesností. Všímá si nepravidelností v osvětlení, nepřirozených proporcí, podivně vyhlazených partií pleti nebo detailů v duhovce oka, které generativní modely stále občas zkreslují.
Proč se někteří lidé nechají napálit téměř vždy
Část účastníků výzkumu dopadla velmi špatně. I přes rostoucí počet pokusů stále odpovídali chybně a jejich výsledky se výrazně nelišily od pouhého tipování. Nešlo přitom o nedostatek inteligence ani o malý kontakt s digitálními obrazy.
Vědci zdůrazňují, že máme tendenci přeceňovat vlastní „oko". Mnoho lidí podceňuje náročnost úkolu a předpokládá, že stačí trocha soustředění, aby v každé situaci odhalili manipulaci. Výsledky však ukazují, že bez odpovídající vizuální zdatnosti samotná opatrnost nestačí.
| Faktor | Souvislost s výsledkem v AI Face Test |
|---|---|
| Obecná schopnost rozpoznávání objektů | Silná, stabilní souvislost — nejlepší prediktor |
| Úroveň IQ | Slabá nebo žádná souvislost s přesností hodnocení |
| Zkušenost s AI a technologiemi | Nevysvětluje rozdíly mezi nejlepšími a nejhoršími |
| Specifická paměť na tváře | Nestačí k dobrému odhalování generovaných tváří |
Vizuální „supertalent" v boji proti dezinformacím
Tým z Vanderbiltovy univerzity upozorňuje na praktické důsledky svých zjištění. Pokud mají někteří lidé výjimečně vysokou vizuální zdatnost, lze tuto skupinu lépe využít tam, kde je v sázce bezpečnost informací. Jde například o ověřování citlivých vizuálních materiálů — fotografií publikovaných v kontextu ozbrojených konfliktů, katastrof nebo volebních kampaní.
Vědci navrhují, že lidé s vysokými výsledky by mohli plnit roli „filtru" pro obrazy, které vstupují do tréninkových datových sad systémů umělé inteligence. Pokud se do tréninku modelů dostanou převážně neoznačené nebo špatně označené snímky, budou další generace nástrojů vytvářet ještě klamavější obsah. Výběr prováděný lidmi s vynikajícím zrakem by toto riziko mohl omezit.
Přes bouřlivý rozvoj generativní AI zůstává lidský zrak důležitým prvkem ochrany před falešnými obrazy — i když ne každý má stejné předpoklady.
Dá se oko na umělé tváře natrénovat?
Přirozeně vyvstává otázka, zda lze tuto vzácnou schopnost cvičením vylepšit. Výzkum popisuje především rozdíly vrozené nebo velmi časově stabilní, ale výsledky nevylučují, že vizuální trénink může něco zlepšit. Příklady z jiných oborů — například výuka čtení rentgenových snímků — ukazují, že dlouholetá praxe pod vedením expertů skutečně zvyšuje přesnost hodnocení.
Je tedy možné, že v budoucnu vzniknou tréninkové programy založené na úkolech podobných AI Face Test. Rychlé série srovnání, zpětná vazba, postupné zvyšování obtížnosti a různorodé styly generování obrazů by mohly zvyšovat citlivost na jemné anomálie. Prozatím to ale zůstává v rovině hypotéz — dostupná data hovoří především o tom, jak to je, nikoli o tom, jak tuto vlastnost měnit.
Co z toho plyne pro běžného uživatele internetu
Pokud nepatříte mezi hrstku lidí s výjimečně ostrým zrakem, neznamená to úplnou bezmocnost. Je rozumné přijmout, že každý se může mýlit, a vlastní „oko" doplňovat dalšími bezpečnostními strategiemi. V praxi to znamená mimo jiné:
- ověřovat kontext: odkud fotografie pochází, kdo ji zveřejnil a kdy,
- porovnávat tutéž událost ve více zdrojích, včetně textových,
- využívat nástroje pro analýzu obrazů, které odhalují stopy generování,
- zachovávat zdravou rezervu vůči emocionálně vypjatým vizuálním materiálům.
Výzkum zaměřený na AI Face Test připomíná, že informační bezpečnost se nedá zredukovat na jednu aplikaci nebo filtr. Je to kombinace lidských predispozicí, technologických nástrojů a zdravého skepticismu. Někteří lidé skutečně mají zrak, který umělé tváře odhalí téměř bez námahy — ale i ten nejlepší pozorovatel může někdy přehlédnout obratně připravenou manipulaci.
Pro návrháře systémů umělé inteligence jde o signál, aby silněji zohledňovali rozdíly mezi lidmi. Budoucí řešení pro ověřování obrazů mohou kombinovat automatické algoritmy s výběrem vizuálních expertů — lidí s vysokou schopností rozpoznávání objektů potvrzenou v testech. Pro ostatní uživatele se stává důležitější vědomí vlastních omezení a ochota nespoléhat jen na první dojem, ale také na ověřitelné zdroje a postupy kontroly obsahu.
