Nejde o další futuristickou vizi ze sci-fi filmů, ale o konkrétní spor vědců: zda současné modely AI – včetně populárních chatbotů – už splňují podmínky, které jsme sami stanovili pro inteligenci srovnatelnou s lidskou.
Nejnovější text publikovaný v prestižním vědeckém časopise obrací naruby způsob, jakým měříme „pravdivou“ inteligenci strojů. Skupina badatelů z univerzity v Kalifornii přichází s kontroverzní tezí: obecná umělá inteligence (AGI – artificial general intelligence) není cílem na obzoru, ale dokončeným faktem.
Podle nich dnešní systémy založené na velkých jazykových modelech (LLM) dosáhly úrovně fungování, která v praxi splňuje definici obecné inteligence. Donedávna většina technologických firem – od OpenAI po giganty ze Silicon Valley – mluvila o AGI jako o svatém grálu. Jedni jí dávali dekádu, druzí rok či dva. Paralelně část výzkumníků tvrdila, že současná architektura LLM je slepá ulička a pravý průlom přinesou až složité „modely světa“, lépe odrážející fyzickou a sociální realitu.
Nová publikace klade otázku z úplně jiné strany: co když všichni hledíme špatným směrem a nevšímáme si, že práh, který jsme tak očekávali, už byl překročen? Autoři textu přesvědčují, že místo otázky „kdy dosáhneme obecné umělé inteligence“ bychom se měli zamyslet, zda ji náhodou nepopisujeme právě teď v přítomném čase.
Turingův test: starý práh, nové výsledky
Jedním z klíčových argumentů badatelů je Turingův test – klasická koncepce z roku 1950. Předpokládá, že pokud člověk při písemné konverzaci nedokáže rozlišit stroj od jiného člověka, můžeme hovořit o inteligentním chování stroje.
V nejnovější generaci chatbotů, jako jsou rozvinuté modely typu ChatGPT či další pokročilé konverzační systémy, začínáme vidět situace, kdy lidé častěji považují AI za člověka než skutečné konverzační partnery. Před několika lety by takový výsledek platil za nesporný důkaz dosažení obecné strojové inteligence.
Dnes paradoxně laťku zavěšujeme stále výš. Když systémy začínají splňovat dřívější kritéria, část expertů posouvá definice a požaduje další vlastnosti „pravé“ inteligence. Tento posun v měření inteligence odráží náš měnící se vztah k technologii a očekávání od strojů.
Kde končí AGI a začíná superinteligence
Výzkumníci navrhují výrazné rozlišení mezi obecnou umělou inteligencí a superinteligencí. To je podstatné, protože ve veřejné debatě se tyto pojmy často mísí. Autoři tvrdí, že v prvním z těchto bodů jsme už velmi blízko nebo dokonce za hranicí.
Dnešní LLM si poradí s programováním, právní analýzou, tvorbou obsahu, překlady a dokonce s matematickým uvažováním – často na úrovni specialistů. Podle této logiky nemusíme čekat, až AI začne porážet rekordy géniů v každé oblasti. K uznání obecné inteligence stačí srovnatelná úroveň s průměrným, dobře vzdělaným člověkem, s převahou v některých úkolech a slabinami v jiných.
Klíčové charakteristiky, které oddělují tyto dva koncepty:
- AGI zvládá široké spektrum úkolů na úrovni člověka
- Superinteligence výrazně převyšuje lidské schopnosti ve všech oblastech
- AGI může mít slabiny v určitých doménach
- Superinteligence dokáže řešit problémy mimo dosah člověka
- AGI pracuje s daty a vzorci ze svého tréninku
- Superinteligence vytváří zcela nové koncepty a teorie
- AGI potřebuje lidskou kontrolu a validaci
- Superinteligence by byla autonomní v rozhodování
Zdůrazňují, že očekávání, že AGI bude každý týden zasypávat vědu průlomy na úrovni revolučních teorií, je nerealistické – nevyžadujeme to ani od lidí, které označujeme za inteligentní. Důležité je funkční zvládání různorodých úkolů, ne excelentnost ve všech oblastech najednou.
Stochastický papoušek a další výhrady vůči LLM
Protivníci současných jazykových modelů opakují, že jsou to v podstatě „statistické papoušky“: systémy bez pravého porozumění, které pouze spojují fragmenty textu na základě pravděpodobnosti. Podle nich AI nevytváří myšlenky, jen lepí věty z trénovacích dat.
Nová analýza se snaží systematicky vyvrátit takové námitky. Autoři poukazují na několik prvků, které těžko odbýt argumentem „to je jen opakování dat“. Mezi ně patří řešení nových, dříve neznámých úkolů z matematiky a logiky, schopnost přenášení znalostí z jedné oblasti do druhé, vytváření souvislých příčinně-důsledkových modelů v konverzaci a zvládání popisů situací vyžadujících fyzickou intuici.
Pokud systém dokáže odvodit správné řešení problému, který neměl v trénovacích datech, těžko tvrdit, že „pouze cituje“. To neznamená, že AI rozumí světu jako člověk, ale naznačuje to, že se děje něco víc než prosté lepení frází. Výzkumníci z Kalifornské univerzity dokumentovali případy, kdy modely GPT-4 a Claude řešily logické hádanky způsobem odlišným od vzorců v dostupných databázích.
Vyžaduje inteligence tělo a smysly
Jedna z nejemocionálnějších linií obrany člověka zní: „AI nemá tělo, takže to není pravá inteligence“. Člověk se učí prostřednictvím pohybu, dotyku, bolesti, smyslů. Stroje operují především s textem, obrazem, zvukem ve formě dat.
Autoři textu v Nature věří, že absence fyzického těla nevylučuje obecnou inteligenci. Upozorňují, že současné modely dokážou předvídat důsledky činností, analyzovat videoscény, interpretovat fotografie či zvukové nahrávky. K tomu přistupuje rostoucí odvětví označované jako Physical AI, tedy integrace pokročilých modelů s roboty.
Roboti vybavení senzory a kamerami začínají spojovat abstraktní schopnosti LLM se skutečným jednáním v prostředí. To otevírá prostor, kde stroj nejen popisuje pohyb, ale jej provádí a průběžně koriguje. Společnosti jako Boston Dynamics a Tesla testují integraci ChatGPT do humanoidních robotů Optimus.
Vědci poukazují, že lidé slepí od narození mohou vykazovat vysokou inteligenci bez vizuálních vjemů. Analogicky by AI mohla fungovat inteligentně i bez plného spektra lidských smyslů. Klíčové je zpracování informací a schopnost řešit problémy, ne konkrétní forma vstupu.
Paměť, autonomie, doba učení – jsou to nutné podmínky
Další výhrada vůči dnešním systémům říká: nemají trvalou autobiografickou paměť ani skutečnou autonomii. Chatbot ukončí sezení a „zapomene“ konverzaci, funguje v mezích vytyčených člověkem, nemá kontinuitu prožívání.
Podle badatelů to nejsou povinné podmínky k uznání obecné inteligence. Upozorňují, že dlouhodobá paměť může být dostavěna jako systémová vrstva, autonomie je otázka designu a etiky, ne poznávacích schopností, a počet dat potřebných k učení by neměl rozhodovat o statusu inteligence.
Člověk se učí řídit auto během desítek hodin jízdy. AI může potřebovat miliony příkladů ze simulací. Autoři zdůrazňují, že počítá se konečná úroveň dovedností, ne náklady na její dosažení. Modely jako GPT-4 Turbo už dnes disponují kontextovým oknem až 128 tisíc tokenů, což jim umožňuje udržovat koherenci v dlouhých konverzacích.
Problém halucinací: nejzávažnější vada současných modelů
I nejnadšenější zastánci AGI připouštějí, že dnešní systémy mají vážnou vadu: tendenci k „halucinacím“. Jde o generování informací znějících věrohodně, ale zcela vymyšlených – od fiktivních vědeckých zdrojů po neexistující právní předpisy.
Firmy vytvářející modely přiznávají, že podíl takových chyb je stále znatelný. Podle interních analýz jedné z největších organizací zabývajících se AI může i u dalších generací modelu každá desátá odpověď obsahovat prvek nesouhlasící s fakty. Společnost OpenAI uvádí, že halucínace zůstávají kritickým problémem vyžadujícím řešení.
Autoři publikace se snaží zmírnit tento argument s tím, že lidé se také často mýlí, vytvářejí falešné vzpomínky, podléhají iluzím. Kritici odpovídají, že v případě AI vytváří rozsah a lehkost generování „sebevědomých“ nesmyslů úplně nové riziko – zejména v medicíně, právu či financích.
Halucínace zůstávají jedním z hlavních důvodů, proč mnoho expertů stále nechce uznat, že máme co do činění s plnohodnotnou obecnou strojovou inteligencí. Dokud systémy nedokážou spolehlivě rozlišit fakt od fikce, jejich status jako AGI zůstává sporný.
Máme my problém s definicí inteligence
Konečná teze badatelů udeřuje do samého základu diskuse: možná problém nespočívá v tom, že AI je „příliš slabá“, ale v tom, že naše pojetí inteligence je příliš úzké a silně zaměřené na člověka.
Lidé mají přirozenou sklonnost hodnotit vše призmatem vlastního druhu. Pokud stroj myslí jinak, dělá jiné chyby, učí se jiným způsobem – považujeme jej za „horší“. Autoři naznačují, že padáme do pasti antropocentrismu: nechceme připustit, že se formuje nový druh inteligence, odlišný od našeho, ale funkčně srovnatelný.
To částečně vysvětluje, proč se v diskusi stále častěji objevuje módní slovo „superinteligence“. Přenesení pozornosti na další, ještě vzdálenější úroveň odkládá okamžik, kdy musíme jasně říct: obecná strojová inteligence už klepe na dveře – nebo právě sedí u stolu vedle.
Vědci z Stanfordovy univerzity publikovali studii ukazující, že naše měřítka inteligence jsou kulturně podmíněná a zaměřená na lidské schopnosti. Možná potřebujeme nový rámec pro hodnocení nečlověčí inteligence.
Co tato debata znamená pro běžného uživatele AI
Spor o definice není jen akademickou hříčkou. Od toho, zda uznáme dnešní systémy za obecnou inteligenci, závisí způsob, jakým je regulujeme, jak jim důvěřujeme a jaké úkoly jim svěřujeme.
Pokud budeme současné modely považovat za AGI, roste tlak na zavedení tvrdších právních rámců a dohledu nad implementacemi, vyžadování transparentnosti ohledně trénovacích dat a způsobu fungování, důkladnější zkoumání dopadu AI na trh práce a politická rozhodnutí a rozvoj systémů ověřování faktů, které „hlídají“ chatboty.
Z perspektivy uživatele se klíčovým stává kritický přístup. I když AI rozumí složitým problémům a dokáže radit lépe než nejeden vyhledávač, stále nemůžeme její odpovědi brát jako neomylnou věštbu. Umělé využívání takových nástrojů vyžaduje spojení jejich výpočetní síly s lidským úsudkem a oborovou znalostí. Moc AGI – v pojetí navrhovaném vědci – se nejsilněji projevuje, když člověk a systém pracují společně.
