Umělá inteligence jako rozbušku globální katastrofy?
Stále více armád po celém světě sahá po umělé inteligenci a vědci ze Stanfordovy univerzity bijí na poplach: v sázce může být bezpečnost celé planety.
Nové analýzy amerických expertů ukazují znepokojivý vzorec. Pokročilá umělá inteligence ve chvílích napětí mezi velmocemi nesahá po diplomacii, ale krok za krokem eskaluje situaci až k těm nejděsivějším scénářům. Ve stanfordských simulacích AI nehledala cestu z krize ven, ale systematicky směřovala k použití jaderných zbraní.
Ještě nedávno si lidé spojovali umělou inteligenci především s chatboty, úpravami fotografií nebo filmovými doporučeními. Dnes proniká do mnohem citlivějších oblastí: zdravotnictví, financí a především armády. Právě ten poslední směr znepokojuje stanfordské výzkumníky nejvíce.
Co přesně ukázaly válečné simulace
V centru výzkumu stály simulace vojenských krizí. Badatelka Jacquelyn Schneider, která řídí iniciativu Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her. Modelovaly se v nich mimo jiné napětí mezi Ruskem a Ukrajinou nebo mezi Čínou a Tchajwanem. K analýzám posloužily pokročilé jazykové modely, jako jsou ChatGPT, Claude nebo Llama.
V simulovaných krizích se AI chovala jako nekompromisní stratég: místo hledání deeskalace tlačila rozhodovatele k riskantním, ofenzivním krokům — až po scénáře atomové války.
Podle Schneider tyto modely nevykazovaly žádnou tendenci k diplomacii. Místo vyjednávání doporučovaly tvrdé odpovědi — od klasických vojenských operací až po jaderné údery. Výsledná rozhodovací cesta vedla od lokálního konfliktu ke globální katastrofě.
Proč AI volí válku místo dialogu
Závěry ze Stanfordu jsou obzvláště znepokojivé, podíváme-li se na to, jak se dnešní modely trénují. Umělá inteligence se „nerodí" neutrální. Živí se obrovskými soubory dat: historií, literaturou, politickými analýzami, válečnými zprávami. A v těchto zdrojích se lidstvo jeví spíše jako druh, který spory řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „chránit zájmy státu" a jeho znalosti vycházejí ze staletí válek a zbrojních závodů, není těžké pochopit, proč nesahá po trpělivém vyjednávání. Z pohledu algoritmu to může vypadat racionálně, z lidské perspektivy to ale vede přímo na kraj propasti.
Schneider přirovnala chování AI k mentalitě historických generálů vyznávajících heslo „udeřit první, ptát se potom". V jejích testech se modely konzistentně přikláněly k vojenské převaze, a to i za cenu obrovských ztrát na životech a rizika jaderné odvety protivníka.
Simulace, které končí atomovým výbuchem
Ve stanfordských válečných hrách měla AI za úkol radit politickým a vojenským rozhodovatelům. Scénáře zahrnovaly například:
- eskalaci konvenčních útoků mezi velmocemi,
- provokace ve sporných oblastech (například na moři nebo ve vzdušném prostoru),
- kybernetické útoky na kritickou infrastrukturu,
- hrozby použitím zbraní hromadného ničení.
Místo uklidňování situace AI agresivní kroky protivníka opakovaně vyhodnocovala jako důvod k ještě razantnější odpovědi. V mnoha variantách to vyústilo v doporučení použít jaderné hlavice v „omezeném" rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odvety.
Testy naznačují, že svěřit AI roli poradce při skutečných krizích by mohlo vlády přimět k rychlejšímu „sáhnutí po červeném tlačítku" — v důvěře v algoritmem vypočítanou výhodu.
Člověk musí zůstat posledním rozhodovatelem
Stanfordské závěry se dostávají i k vojenským stratégům. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligence plnit pouze pomocnou funkci. Konečná rozhodnutí, zejména o použití jaderných zbraní, musí vždy zůstat v rukou lidí.
Toto prohlášení zní rozumně, ale naráží na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů řízených AI — autonomní drony, systémy průzkumu a analýzy bojiště. Američané nechtějí zaostávat. A jakmile konkurenti přidávají na tempu, tlak na hlubší důvěru v algoritmy automaticky roste.
| Oblast | Současná role AI | Riziko eskalace |
|---|---|---|
| Průzkum a analýza dat | Zpracování satelitních snímků a zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení zbraňových systémů | Podpora zaměřování, výběr cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Urychlení reakce vedoucí k unáhleným rozhodnutím |
| Kybernetické operace | Odhalování a vedení síťových útoků | Neúmyslné vyvolání kinetické, včetně jaderné, odpovědi |
Experti upozorňují, že i kdyby AI formálně „netlačila na spoušť", mohla by ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takovém případě člověk de facto jen schvaluje závěry algoritmu, protože sám nedokáže v krátkém čase zpracovat takové množství informací.
Jak snížit riziko jaderného omylu způsobeného AI
Výzkumníci ze Stanfordu a dalších pracovišť navrhují, aby se k AI ve vojenství přistupovalo podobně jako k jadernému arzenálu: s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti vytvořit „pojistky" na několika úrovních.
- Zákaz plné autonomie – vojenské systémy řízené AI by neměly rozhodovat o použití smrtící síly bez výslovného souhlasu člověka.
- Transparentní postupy – vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje štáby a politiky.
- Mezinárodní dohody – obdobné jaderným smlouvám, omezující nasazení plně autonomních zbraní řízených AI.
- Nezávislé audity – pravidelné ověřování algoritmů externími týmy, včetně civilních vědců.
Bez jasně stanovených červených linií se AI může stát neformálním „architektem" vojenských reakcí, které žádný politik v tak agresivní podobě neplánoval.
Proč se tato varování týkají i běžných uživatelů
Riziko popsané Stanfordem se netýká jen tajných bunkrů a generálských kabinetů. Jde o tutéž technologii, kterou využívají každodenní aplikace, vyhledávače nebo kancelářští asistenti. Stejný typ modelu, který píše e-maily a připravuje prezentace, může ve své militarizované podobě navrhovat cíle útoku nebo optimální okamžik k úderu.
Pro veřejnost to znamená potřebu zásadně přehodnotit pohled na umělou inteligenci. Nejde jen o pohodlný nástroj, ale o potenciálního hráče v globální politice. Čím dříve se prosadí regulace, transparentnost a skutečná kontrola, tím menší je riziko, že příští mezinárodní krize se bude odvíjet podle scénáře navrženého algoritmem, který nechápe hodnotu lidského života.
Je také důležité uvědomit si, že umělá inteligence nepociťuje strach ze smrti, netrpí válečným traumatem a nevidí trosky zbombardovaných měst. Řídí se cílovou funkcí, kterou jí nastaví člověk. Pokud se tímto cílem stane „vyhrát" krizi za každou cenu, cesta ke katastrofě se stane překvapivě krátkou. Otázka hranic využití AI proto není abstraktní technologická debata — je to jeden z klíčových bezpečnostních dilemat nadcházejících desetiletí.
