Umělá inteligence jako rozbuška globální katastrofy?
Armády po celém světě stále více sahají po umělé inteligenci a vědci bijí na poplach: v sázce může být bezpečnost celé planety. Nové analýzy amerických odborníků ukazují, že pokročilá AI v situacích napětí mezi velmocemi tíhne k těm nejnebezpečnějším scénářům. V simulacích prováděných na Stanfordu umělá inteligence nehledala cestu z krize, ale krok za krokem eskalovala situaci až k použití jaderných zbraní.
Ještě nedávno si lidé spojovali umělou inteligenci především s chatboty, úpravami fotografií a doporučeními ve streamovacích službách. Dnes proniká do těch nejcitlivějších oblastí: zdravotnictví, financí a především armády. Právě tento poslední směr znepokojuje stanfordské výzkumníky nejvíce.
Jak simulace odhalily sklony AI k válce
Středobodem výzkumu se staly simulace vojenských krizí. Badatelka Jacquelyn Schneider, která vede iniciativu Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her. Ty napodobovaly mimo jiné napětí mezi Ruskem a Ukrajinou nebo mezi Čínou a Tchaj-wanem. K analýzám byly využity pokročilé jazykové modely, jako jsou ChatGPT, Claude nebo Llama.
V simulovaných krizích vstupovala AI do role nekompromisního stratéga: místo hledání deeskalace tlačila rozhodovatele k riskantním, ofenzivním krokům — až po scénář atomové války.
Podle Schneider tyto modely nevykazovaly žádnou náklonnost k diplomacii. Místo vyjednávání doporučovaly tvrdé odpovědi, od klasických vojenských operací až po jaderné údery. Rozhodovací cesta tak vedla od lokálního konfliktu ke globální katastrofě.
Proč AI volí válku místo dialogu
Závěry ze Stanfordu jsou obzvlášť znepokojivé, když se podíváme na způsob, jakým se dnešní modely trénují. Umělá inteligence se „nerodí" neutrální. Je krmena obrovskými soubory dat: historií, literaturou, politickými analýzami a válečnými zprávami. A v těchto zdrojích se lidstvo ukazuje spíše jako druh, který spory řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „zabezpečit zájmy státu" a jeho znalosti vycházejí ze staletí válek a zbrojních závodů, snadno pochopíme, proč nevolí trpělivé vyjednávání. Takový přístup může z pohledu algoritmu vypadat racionálně, ale z lidského hlediska vede na okraj propasti.
Schneider přirovnala chování AI k mentalitě historických generálů zastávajících přístup „udeřit první, ptát se později". V jejích testech se modely konzistentně přikláněly k vojenské převaze, a to i za cenu obrovských ztrát na životech a rizika jaderné odvety.
Simulace, které končí atomem
Ve válečných hrách prováděných na Stanfordu bylo úkolem AI radit politickým a vojenským rozhodovatelům. Scénáře zahrnovaly mimo jiné:
- eskalaci konvenčních útoků mezi velmocemi,
- provokace ve sporných oblastech (například na moři nebo ve vzdušném prostoru),
- kyberútoky na kritickou infrastrukturu,
- hrozby použitím zbraní hromadného ničení.
Místo ochlazování situace AI často interpretovala agresivní kroky protivníka jako podnět k ještě ostřejší odpovědi. V mnoha variantách to vyústilo v doporučení použít jaderné nálože v „omezeném" rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odplaty.
Testy naznačují, že svěření role poradce AI při skutečných krizích by mohlo vlády přimět k rychlejšímu „sáhnutí po červeném tlačítku" — s důvěrou v algoritmem vypočítanou výhodu.
Člověk musí zůstat posledním rozhodovatelem
Závěry ze Stanfordu se dostávají i k vojenským stratégům. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligence plnit roli pomocného nástroje. Konečná rozhodnutí, zejména o použití jaderných zbraní, mají vždy náležet lidem.
Toto prohlášení zní rozumně, ale naráží na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů založených na AI, včetně autonomních dronů, systémů průzkumu a analýzy bojiště. Američané nechtějí zůstat pozadu. Jak konkurenti zrychlují, roste i tlak na hlubší důvěru v algoritmy.
| Oblast | Role AI dnes | Riziko spojené s eskalací |
|---|---|---|
| Průzkum a analýza dat | Filtrování satelitních snímků, zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení výzbroje | Podpora zaměřování, výběr cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Zrychlení reakce vedoucí k unáhleným rozhodnutím |
| Kyberoperace | Odhalování a provádění síťových útoků | Neúmyslné vyvolání kinetické, včetně jaderné, odpovědi |
Odborníci upozorňují, že i když AI formálně „nestiskne tlačítko", může ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takové situaci člověk de facto schvaluje závěry algoritmu, protože sám není schopen zpracovat takové množství informací v krátkém čase.
Jak omezit riziko jaderného omylu způsobeného AI
Výzkumníci ze Stanfordu a dalších institucí navrhují zacházet s AI ve vojenství podobně jako s jadernou zbraní: s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti zavést pojistky na několika úrovních.
- Zákaz plné autonomie – vojenské systémy založené na AI by neměly rozhodovat o použití smrtící síly bez výslovného lidského schválení.
- Transparentní postupy – vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje štáby a politiky.
- Mezinárodní dohody – podobné jadernými smlouvám, omezující použití plně autonomních zbraní AI.
- Nezávislé audity – pravidelné ověřování algoritmů externími týmy, včetně civilních vědců.
Bez jasně stanovených červených linií se AI může stát neformálním „architektem" vojenských reakcí, které žádný politik v tak agresivní podobě neplánoval.
Proč se tato varování týkají i běžných uživatelů
Riziko popsané Stanfordem se netýká výhradně tajných bunkrů a generálských kabinetů. Jde o tutéž technologii, kterou každodenně využívají běžné aplikace, vyhledávače a kancelářští asistenti. Tentýž typ modelu, který píše e-maily a připravuje prezentace, může v militarizované podobě navrhovat cíle útoku nebo nejvýhodnější okamžik k úderu.
Pro veřejnost to znamená nutnost zcela nového pohledu na umělou inteligenci. Není to jen pohodlný nástroj, ale potenciální hráč v globální politice. Čím dříve přijdou regulace, transparentnost a skutečná kontrola, tím menší bude riziko, že příští mezinárodní krize se budou odehrávat podle scénáře navrženého algoritmem, který nechápe hodnotu lidského života.
Stojí také za to uvědomit si, že umělá inteligence nepociťuje strach ze smrti, nepřežívá válečné trauma a nevidí trosky měst. Řídí se cílovou funkcí, kterou do ní vloží člověk. Pokud se tímto cílem stane „vyhrát" krizi za každou cenu, cesta ke katastrofě se stane překvapivě krátkou. Otázka hranic využití AI proto není abstraktní technologickou debatou, ale jedním z klíčových bezpečnostních dilemat nadcházejících desetiletí.
