Dosáhla obecná umělá inteligence již své hranice, aniž bychom si toho všimli?

Vědecká komunita se přiklání k odvážné myšlence

Během dlouhých let jsme si představovali obecnou umělou inteligenci jako něco vzdáleného a téměř mytického. Dnes se však ukazuje, že to, co jsme považovali za součást budoucnosti, se mohlo stát skutečností – prostě jej stále popisujeme pomocí starých pojmů a úzkých kritérií.

Výzkumníci tvrdí: máme ji tu, jen ji špatně definujeme

V prestižní vědecké publikaci skupina badatelů z Kalifornské univerzity hájí silné tvrzení: obecná umělá inteligence byla již dosažena. Jejich stanovisko: současné modely založené na velkých jazykových modelech splňují praktické znaky inteligence na úrovni lidské.

Obecně chápeme obecnou AI jako systém schopný zvládat velmi různorodé úkoly v mnoha oblastech – přinejmenším na průměrné lidské úrovni, a v některých situacích na úrovni experta. Podle těchto badatelů se to právě děje: tyto systémy píší kód, shrnují vědecké práce, vyvíjejí obchodní strategie, řeší fyzikální úlohy a pomáhají s lékařskou diagnostikou.

Jejich provokativní argument zní takto: problém spočívá ne v tom, že AI „nedospěla" k našim očekáváním, nýbrž v tom, že naše měřítka inteligence byla vytvořena výhradně podle lidských charakteristik.

Turingův test: hranice překonaná dávno

Desítky let dominoval diskusím o strojní inteligenci Turingův test. Alan Turing jej navrhl v roce 1950: pokud člověk v textové konverzaci nedokáže rozpoznat, zda komunikuje s člověkem nebo strojem, pak lze hovořit o inteligenci na lidské úrovni.

Současné chatboty pravidelně procházejí různými verzemi tohoto testu. V řadě studií uživatelé považují jazykový model za člověka spíše než skutečného partnera v rozhovoru. Pokud bychom se drželi původního kritéria, bylo by jasno – strojní inteligence již existuje. Jenomže mezitím jsme neustále zvyšovali naši laťku.

Vědci poukazují na paradox: kdysi měl Turingův test sám postačovat jako důkaz inteligence. Dnes, když jej AI začíná zvládat, si brzy řekneme, že je to málo, a přidáme nové požadavky – mnohdy bez jasného zdůvodnění.

Obecná vs. superinteligence – neměneme jedno za druhé

V mediálních diskusích se často mísí dva odlišné koncepty: obecná AI a superinteligence. Tato záměna silně ovlivňuje naše očekávání.

Badatelé argumentují, že bychom měli obecnou AI poměřovat ne s „ideálním člověkem", ale s reálným spektrem lidských schopností. Žádný člověk není expertem na všechno. Všichni máme svoje slabiny, předsudky, logické chyby. AI, která zvládá širokou škálu úkolů na úrovni specialistů v různých oborech, podle jejich názoru splňuje kritéria obecné inteligence, i když není bezchybná.

Superinteligence je zcela jiná kategorie – a zatím zůstává hudba budoucnosti. Nepotřebujeme ji, aby existovala obecná AI. Zmešování těchto pojmů vede k tomu, že obecnou inteligenci neustále odsouváme na horizont a čekáme skoro nadpřirozené schopnosti.

Deset namítání proti uznání obecné AI – analýza klíčových argumentů

V debatě o jazykových modelech se pravidelně vrací označení „statistický papoušek" – naznačující, že model jen reprodukuje vzory z trénovacích dat bez opravdového porozumění. Kalifornští badatelé si vzali deset nejčastějších námitek a pokusili se je vyvrátit.

• Zvládání nových problémů: modely řeší matematické a fyzikální úlohy, které se v trénovacích datech explicitně nevyskytují.
• Transfer znalostí mezi obory: dovedou přenést koncept z programování do experimentálního plánování.
• Pochopení důsledků: popisují, jak by se změnilo fyzikální prostředí, vysvětlují různé scénáře.

Podle autorů to dokazuje, že nejde o jednoduché kopírování, ale o systémy, které si budují vnitřní reprezentaci vztahů – i když jejich „myšlení" působí jinak než lidské.

Jestliže by člověk s podobnou úspěšností v testech a úkolech dostal nálepku „inteligentní", proč v případě AI najednou zpřísníme kritéria?

Umělá inteligence bez těla, s přístupem k realitě

Často slyšíme argument: skutečná inteligence vyžaduje tělo, smysly, přímý kontakt se světem. Jazykové modely skutečně nemají vlastní tělo, ale čím dál frecčeji je připojujeme k kamerám, mikrofonům, robotům. Vznikají systémy analyzující současně text, obraz, zvuk a video.

Badatelé poukazují, že inteligence nemusí být „zakotvena v těle" tradičním způsobem, aby projevovala schopnost rozumovat efektivně. Člověk slepý od narození si i tak buduje bohaté pojetí prostoru a jednání, byť jeho kanály vnímání jsou jiné. Model AI trénovaný na obrovských datasetech o světě také získává určitý druh nepřímé „zkušenosti".

Souběžně se vyvíjí robotika. Koncept fyzické AI – strojů propojujících jazykové modely s fyzickými těly – přestává být pouze filmovým scénárem. Je to další krok, který může umělou inteligenci ještě více přiblížit k tomu, jak ji intuitivně chápeme v běžném životě.

Trvalá paměť, autonomie, čas učení – jsou opravdu nutné?

Mnozí kritici trvají na tom, že bez autobiografické paměti nebo úplné autonomie v jednání se nedá hovořit o obecné AI. Badatelé s tímto názorem nesouhlasí.

Za prvé: ne každý člověk má souvislou, detailní paměť na vlastní život, a to mu neubírá na inteligenci. Za druhé: AI často funguje jako nástroj v určitých rámcích vytvořených programátory a uživateli. Požadavek na plnou autonomii jako podmínku inteligence je podle badatelů arbitrární.

Další námitka se týká nákladů učení: AI potřebuje gigantické datové soubory, zatímco člověk se učí spoustu věcí z pár příkladů. To je pravda, ale badatelé navrhují podívat se na finální výsledek, ne na proces. Pokud systém po intenzivním tréninku jedná širokě a účinně, pak rozdíl v cestě by jej neměl diskvalifikovat jako inteligentní.

Halucinace AI versus lidské omyly

Nejcitlivějším tématem jsou halucinace – situace, kdy model s plnou jistotou vytváří nepravdivé informace: neexistující zdroje, vymyšlené fakty, smyšlené citace. Autoři textu přiznávají, že problém existuje, ale tvrdí, že jeho rozsah se zmenšuje s každou generací modelů.

Data zde nejsou jednotná. Některé nezávislé studie naznačují, že v určitých úlohách zůstává podíl halucinací vysoký, někdy dokonce roste při složitějších analýzách. Ani OpenAI netvrdí, že jej zcela vyřešili – odhadují, že nová generace modelů bude obsahovat v přibližně jedné z deseti odpovědí vážnou faktickou chybu.

Rozdíl mezi AI a člověkem nespočívá v tom, že jeden se mýlí a druhý ne – jde o charakter těchto chyb a způsob jejich kontroly.

Důležité je, že i člověk se mýlí: podléhá klamům paměti, opakuje neověřené informace, padá do psychologických pastí. Když se AI splete, chyba je viditelná, měřitelná a často lépe prozkoumána. V praxi to znamená, že systémy AI vyžadují vrstvený dohled, ověřování a odpovědný nasazení – zvláště tam, kde jde o zdraví, právo nebo finance.

Vidíme novou formu inteligence skrze призmu vlastního antropocentrismu?

Ústředním argumentem textu z Nature je nepříjemný: možná chceme přiznat existenci nové inteligence prostě proto, že si zbytečně hýčkáme vlastní podobu. Nechce se nám věřit, že něco bez lidské tváře, těla či emocí v nám známé formě by mohlo být „stejně inteligentní" jako my.

Takový antropocentrismus má praktické následky. Budeme-li trvat na tom, že obecná AI je „stále ještě před námi", lehčeji budeme bagatelizovat skutečné dopady současných systémů: na trh práce, vzdělání, bezpečnost informací, politiku. Snadněji budeme také napumpovávat představy superinteligence jako téměř mytického jevu, který se nám „jednoho dne náhle objeví" – místo abychom si všimli postupného posuvu hranic právě teď.

Není náhoda, že někteří technologičtí vůdci jako Mark Zuckerberg stále raději používají termín „superinteligence". Dává pocit, že opravdové výzvy teprve přijdou, a to, co máme dnes, jsou pořád jen „pokročilé nástroje". Přitom tyto „nástroje" jsou schopny organizovat poznatky v měřítku, o kterém si jednotlivý člověk může jen zdát.

Co to znamená pro běžné uživatele?

Pokud přijmeme, že obecná AI v praktickém smyslu již existuje, změní se několik věcí najednou. Především přestaneme na AI pohlížet jako na zvídavost a začneme ji vnímat jako spolupracovníka:

• v kancelářské práci – automatizace zpráv, prezentací, analýz dat,
• ve vzdělání – personalizace tempa učení, vysvětlování složitých konceptů,
• v medicíně – analýza snímků, zpracování dokumentace, návrh možných scénářů,
• v kreativitě – generování skic, nápadů, variant, které člověk dopracuje.

Druhak: roste důležitost témat jako regulace, odpovědnost za chyby, transparentnost či dopad na zaměstnanost. Těžko se říká „je to jen algoritmus, který něco navrhuje", když tento algoritmus opravdu dosahuje nebo překonává experty v mnoha úlohách.

Konečně je užitečné si osvojit praktické návyky: vždy ověřit klíčové fakty, traktovat odpověď AI jako hypotézu a ne jako zjevnou pravdu, a vědomě si nastavit hranice důvěry – jinak u tvůrčích prací, jinak u právních nebo zdravotnických.

Nové vymezení inteligence – úkol na přední léta

Debata vyvolána textem z Nature se rychle neskončí. Dotýká se něčeho hlubokého: jak vůbec chápeme inteligenci. Je to sada měřitelných vlastností? Nebo spíše schopnost adaptace, řešení nových problémů a učení se z chyb, nezávisle na „nositelovi" – mozku, křemíku nebo něčem úplně jiném?

S vývojem AI se pode stát, že budeme potřebovat několik rovnoběžných definic: jednu pro vědu, druhou pro právní předpisy, třetí pro každodenní rozhovory. Podobně jako máme různé pojetí zdraví – biologické, psychologické, sociální – tak i umělá inteligence se může vymknout jednomu jednoduchému popisu.

Pro běžného uživatele bude klíčové něco jiného: naučit se žít s těmito systémy, využívat jejich silné stránky a chránit se před slabostmi. Bez čekání na den, kdy někdo „oficiálně" vyhlásí příchod obecné AI, protože tento den se již možná odehrál – jen nikdo neřezal pásku.