Nová éra falešných tváří a staré iluze jistoty
Na Instagramu, TikToku i v různých messengerech se denně objevují dokonalé úsměvy a perfektně nasvícené portréty. Některé zachycují skutečné lidi, jiné nikdy neexistovaly – vygenerovaly je modely pracující s obrazem. Mnoho uživatelů tvrdí, že „to už prostě nelze rozeznat" a že se může mýlit každý.
Výzkum týmu z Vanderbiltovy univerzity ale odhaluje něco složitějšího. Lidé se od sebe dramaticky liší v tom, jak dobře dokážou odhalit uměle vytvořené tváře. Jedni se mýlí téměř pořád, druzí dosahují skvělých výsledků – a u části lidí zůstávají výsledky stabilně vysoké i při opakovaném testování. Taková rozptyl rozhodně není náhoda.
Silná obecná schopnost rozpoznávat objekty způsobuje, že daná osoba mnohem lépe odhaluje tváře vygenerované umělou inteligencí a dá se jí obelstít jen zřídka.
Nejde o inteligenci ani technologie, ale o způsob vidění
Psycholožka Isabel Gauthier a její kolegové se rozhodli zjistit, co odlišuje lidi, kteří si s rozpoznáváním pravých a umělých tváří poradí skvěle. Intuitivně by mnohý z nás vsadil na vysoké IQ, pokročilou znalost technologií nebo výbornou paměť na tváře.
Výsledky výzkumu ale tato předpoklady vyvrátily. Nejlepším vysvětlením se ukázala obecná schopnost rozpoznávat objekty – tedy umění postřehnout jemné rozdíly mezi velmi podobnými obrazy, a to nejen mezi tvářemi. Jde o tutéž dovednost, která pomáhá radiologům nacházet drobné uzliny na snímcích plic nebo patologům identifikovat nádorové buňky pod mikroskopem.
Lidé s vysokou úrovní této schopnosti v úkolu odhalování AI tváří pravidelně vítězili. Navíc když byl test opakován s časovým odstupem, jejich výsledky zůstaly stabilní. Vědci proto dospěli k závěru, že nejde o jednorázové štěstí, ale o relativně trvalou vlastnost vizuálního zpracování informací.
AI Face Test – jak se testuje odolnost vůči falešným tvářím
Aby vědci tento jev mohli prozkoumat, sestavili speciální sadu úkolů nazvanou AI Face Test. Účastníkům byla předkládána série fotografií tváří – část skutečných, část vygenerovaných modely umělé inteligence. U každého snímku museli učinit jednoduché rozhodnutí: člověk, nebo AI?
Tento zdánlivě jednoduchý test odhalil obrovské rozdíly. Někteří účastníci se mýlili pravidelně, jiní odpovídali správně téměř vždy. Vědci výsledky porovnávali s dalšími měřeními, včetně testů rozpoznávání různých objektů, které s tvářemi vůbec nesouvisely.
Nejlepším prediktorem úspěchu v AI Face Test se ukázala obecná schopnost rozpoznávat objekty – nikoli úroveň IQ, zkušenosti s technologiemi ani specializovaná paměť na tváře.
Co přesně měří schopnost rozpoznávání objektů
Tato vlastnost se projevuje v nejrůznějších vizuálních situacích, například při:
- rozlišování velmi podobných modelů aut nebo technických zařízení,
- vnímání drobných rozdílů mezi lékařskými snímky,
- poznávání konkrétních druhů ptáků či rostlin pouze podle detailu,
- sledování změn ve složitých grafech nebo schématech.
Člověk s vysokou úrovní této schopnosti obraz jakoby „skenuje" s větší přesností. Všimne si nepravidelností v osvětlení, nepřirozených proporcí, podivně vyhlazeného povrchu kůže nebo detailů v duhovce oka, které generativní modely stále občas zkreslují.
Proč se někteří lidé nechají nachytat téměř vždy
Část účastníků výzkumu dopadla velmi špatně. I přes rostoucí počet pokusů stále odpovídali chybně a jejich výsledky se výrazně nelišily od náhodného hádání. Nemělo to nic společného s nedostatkem inteligence ani s omezeným kontaktem s digitálními obrazy.
Vědci zdůrazňují, že máme tendenci přeceňovat vlastní „oko". Mnoho lidí podceňuje náročnost úkolu a předpokládá, že stačí trocha soustředění, aby v každé situaci manipulaci odhalili. Výsledky ukazují, že bez odpovídající vizuální zdatnosti samotná opatrnost nestačí.
| Faktor | Vztah k výsledku v AI Face Test |
|---|---|
| Obecná schopnost rozpoznávání objektů | Silný, stabilní vztah – nejlepší prediktor |
| Úroveň IQ | Slabý nebo žádný vztah k přesnosti hodnocení |
| Zkušenosti s AI a technologiemi | Nevysvětluje rozdíly mezi nejlepšími a nejslabšími |
| Specifická paměť na tváře | Nestačí k dobrému odhalování generovaných tváří |
Vizuální „supertalent" v boji proti dezinformacím
Tým z Vanderbiltovy univerzity upozorňuje na praktické důsledky tohoto zjištění. Protože někteří lidé disponují mimořádně vysokou vizuální zdatností, dá se tato skupina cíleněji využívat tam, kde je v sázce bezpečnost informací. Jde například o ověřování citlivých vizuálních materiálů – fotografií zveřejňovaných při ozbrojených konfliktech, katastrofách nebo volebních kampaních.
Vědci naznačují, že lidé s vysokými výsledky by mohli plnit roli „filtru" pro obrazy, jež vstupují do systémů umělé inteligence učících se na obrovských datových souborech. Pokud do trénování modelů proniknou převážně neoznačené nebo špatně označené snímky, budou další generace nástrojů vytvářet ještě matoucí obsah. Selekce připravená lidmi s výjimečným zrakem by toto riziko mohla omezit.
Navzdory bouřlivému rozvoji generativní AI zůstává lidský zrak důležitým prvkem ochrany před falešnými obrazy – i když ne každý má stejné předpoklady.
Lze oko na umělé tváře natrénovat?
Přirozeně vyvstává otázka, zda se tato vzácná schopnost dá vypilovat. Studie popisuje především rozdíly vrozené nebo velmi stabilní v čase, avšak výsledky nevylučují, že vizuální trénink může něco zlepšit. Příklady z jiných oborů – například výuka čtení rentgenových snímků – ukazují, že mnohaletá praxe pod vedením odborníků přesnost hodnocení skutečně zvyšuje.
Je tedy možné, že v budoucnu vzniknou tréninkové programy založené na úkolech podobných AI Face Test. Rychlé série srovnání, zpětná vazba, postupné zvyšování obtížnosti a rozmanité styly generování obrazů by mohly zvyšovat citlivost na jemné anomálie. Zatím to ale zůstává v rovině hypotéz – dostupná data říkají především to, jaký stav je, nikoli jak tuto vlastnost měnit.
Co z toho plyne pro běžného uživatele internetu
Pokud nepatříš do hrstky lidí s mimořádně bystřím zrakem, neznamená to naprostou bezmoc. Je rozumné přijmout, že každý se může mýlit, a vlastní „oko" doplňovat dalšími bezpečnostními strategiemi. V praxi to znamená mimo jiné:
- ověřování kontextu: odkud fotografie pochází, kdo ji zveřejnil a kdy,
- porovnávání téže události ve více zdrojích, včetně textových,
- využívání nástrojů pro analýzu obrazů, které odhalují stopy generování,
- zdravou rezervu vůči emočně silně nabitým vizuálním materiálům.
Výzkum kolem AI Face Test připomíná, že informační bezpečnost se nedá zredukovat na jedinou aplikaci nebo filtr. Je to kombinace lidských predispozic, technologických nástrojů a zdravého skepticismu. Někteří lidé skutečně mají zrak, který umělé tváře odhalí téměř bez námahy – ale i ten nejlepší pozorovatel může občas přehlédnout šikovně připravenou manipulaci.
Pro designéry systémů umělé inteligence je to signál, aby více zohledňovali rozdíly mezi lidmi. Budoucí řešení pro ověřování obrazů mohou propojit automatické algoritmy se selekcí vizuálních expertů – lidí s vysokou schopností rozpoznávání objektů ověřenou v testech. Pro ostatní uživatele je důležitější uvědomit si vlastní limity a být ochotni nespoléhat jen na první dojem, ale také na ověřitelné zdroje a postupy kontroly obsahu.
