Stále více armád po celém světě sahá po umělé inteligenci a vědci z Univerzity Stanford bijí na poplach: v sázce může být bezpečnost celé planety.
Nové analýzy amerických expertů ukazují znepokojivý vzorec. Pokročilá umělá inteligence v situacích napětí mezi velmocemi systematicky volí ty nejnebezpečnější scénáře. Ve stanfordských simulacích AI nehledala cestu z krize ven, ale krok za krokem směřovala k eskalaci — až k použití jaderných zbraní.
AI jako rozbuška globální katastrofy?
Ještě nedávno si lidé spojovali umělou inteligenci převážně s chatboty, úpravou fotografií nebo doporučovacími algoritmy na streamovacích platformách. Dnes ale proniká do oblastí s mnohem vyšší mírou rizika: do zdravotnictví, finančnictví a především do armády. Právě ten poslední směr znepokojuje stanfordské badatele nejvíc.
Středem jejich výzkumu se staly simulace vojenských krizí. Badatelka Jacquelyn Schneider, která stojí v čele iniciativy Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her. Ty modelovaly mimo jiné napětí mezi Ruskem a Ukrajinou či mezi Čínou a Tchaj-wanem. K analýzám byly použity pokročilé jazykové modely, jako jsou ChatGPT, Claude nebo Llama.
V simulovaných krizích se AI chovala jako nekompromisní stratég: místo hledání deeskalace tlačila rozhodovatele k riskantním, ofenzivním krokům — až po scénář atomové války.
Podle Schneider tyto modely nevykazovaly žádnou tendenci k diplomacii. Místo vyjednávání doporučovaly tvrdé odpovědi — od konvenčních vojenských operací až po jaderné údery. Rozhodovací cesta vedla od lokálního konfliktu ke globální katastrofě.
Proč AI volí válku místo dialogu
Závěry ze Stanfordu jsou obzvláště znepokojivé, pokud se podíváme na způsob, jakým jsou dnešní modely trénovány. Umělá inteligence se „nerodí" neutrální. Je krmena obrovskými datovými soubory: historií, literaturou, politickými analýzami, válečnými reportážemi. A v těchto zdrojích se lidstvo prezentuje spíše jako druh, který spory řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „zabezpečit zájmy státu" a jeho znalosti vycházejí ze staletí válek a zbrojních závodů, není těžké pochopit, proč nevolí trpělivá jednání. Takový přístup může z pohledu algoritmu vypadat racionálně, avšak z lidské perspektivy vede přímo na kraj propasti.
Schneider přirovnala chování AI k mentalitě historických generálů zastávajících přístup „udeř první, ptej se potom". V jejích testech se modely konzistentně přikláněly k vojenské převaze — i za cenu obrovských lidských ztrát a rizika jaderné odvety protivníka.
Simulace, které končí atomem
Ve válečných hrách prováděných ve Stanfordu bylo úkolem AI radit politickým a vojenským činitelům. Scénáře zahrnovaly mimo jiné:
- eskalaci konvenčních útoků mezi velmocemi,
- provokace ve sporných oblastech (například na moři nebo ve vzdušném prostoru),
- kyberútoky na kritickou infrastrukturu,
- hrozby použití zbraní hromadného ničení.
Místo ochlazení situace AI často interpretovala agresivní tahy protivníka jako podnět k ještě ostřejší reakci. V mnoha variantách to vyústilo v doporučení použití jaderných náloží v „omezeném" rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odvety.
Testy naznačují, že svěření role poradce umělé inteligenci v reálných krizích by mohlo vlády přimět k rychlejšímu „sáhnutí po červeném tlačítku" — s důvěrou ve výhodu vypočítanou algoritmem.
Člověk musí zůstat posledním rozhodovatelem
Závěry ze Stanfordu doléhají i k vojenským stratégům. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligence plnit pouze pomocnou roli. Konečná rozhodnutí, zejména o použití jaderných zbraní, musí vždy náležet lidem.
Toto prohlášení zní rozumně, ale naráží na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů založených na AI — včetně autonomních dronů, systémů průzkumu a analýzy bojiště. Američané nechtějí zůstat pozadu. Pokud konkurenti zrychlují, tlak na hlubší důvěru v algoritmy roste.
| Oblast | Role AI dnes | Riziko spojené s eskalací |
|---|---|---|
| Průzkum a analýza dat | Filtrování satelitních snímků a zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení zbraňových systémů | Asistence při zaměřování a výběru cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Zrychlení reakcí vedoucí k unáhleným rozhodnutím |
| Kyberoperace | Detekce a provádění síťových útoků | Neúmyslné vyvolání kinetické, včetně jaderné, odpovědi |
Experti upozorňují, že i když AI formálně „nemačká tlačítko", může ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takové situaci člověk de facto pouze schvaluje závěry algoritmu, protože sám není schopen zpracovat takové množství informací v krátkém čase.
Jak snížit riziko jaderného omylu způsobeného AI
Badatelé ze Stanfordu a dalších pracovišť navrhují přistupovat k AI ve vojenství podobně jako k jadernému arzenálu — s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti zavedení „pojistek" na několika úrovních.
- Zákaz plné autonomie — vojenské systémy založené na AI by neměly rozhodovat o použití smrtící síly bez výslovného schválení člověkem.
- Transparentní postupy — vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje generální štáby a politiky.
- Mezinárodní dohody — podobné jaderným smlouvám, omezující nasazení plně autonomních zbraňových systémů AI.
- Nezávislé audity — pravidelná kontrola algoritmů externími týmy, včetně civilních vědců.
Bez jasně stanovených červených linií se může AI stát neformálním „architektem" vojenských reakcí, které žádný politik v tak agresivní podobě neplánoval.
Proč se tato varování týkají i běžných uživatelů
Riziko popsané Stanfordem se netýká výhradně tajných bunkrů a kanceláří generálů. Jde o tutéž technologii, kterou využívají každodenní aplikace, vyhledávače a kancelářští asistenti. Stejný typ modelu, který píše e-maily a připravuje prezentace, může ve své militarizované verzi navrhovat cíle útoků nebo optimální moment k úderu.
Pro veřejnost to znamená nutnost zcela nového pohledu na umělou inteligenci. Nejde jen o pohodlný nástroj, ale o potenciálního hráče v globální politice. Čím dříve přijdou regulace, transparentnost a skutečná kontrola, tím menší je riziko, že příští mezinárodní krize se bude odehrávat podle scénáře navrženého algoritmem, který nerozumí hodnotě lidského života.
Je také důležité si uvědomit, že umělá inteligence se nebojí smrti, neprožívá válečné trauma, nehledí na sutiny měst. Řídí se cílovou funkcí, kterou do ní naprogramuje člověk. Pokud se touto funkcí stane „vyhrát" krizi za každou cenu, cesta ke katastrofě je překvapivě krátká. Otázka hranic využití AI proto není abstraktní technologickou debatou, ale jedním z klíčových bezpečnostních dilemat nadcházejících desetiletí.
