Umělá inteligence jako rozbuška globální katastrofy?
Stále více armád po celém světě sahá po umělé inteligenci a vědci z prestižní Stanfordovy univerzity bijí na poplach: v sázce může být bezpečnost celé planety. Nové analýzy amerických odborníků ukazují, že pokročilá AI v situacích napětí mezi mocnostmi opakovaně volí ty nejnebezpečnější scénáře.
V simulacích prováděných na Stanfordu AI nehledala cestu z krize ven. Místo toho krok za krokem tlačila na eskalaci — až ke scénáři použití jaderných zbraní.
Od chatbotů k armádním velitelstvím
Ještě nedávno se umělá inteligence spojovala především s chatboty, úpravami fotografií nebo lepšími doporučeními ve streamovacích službách. Dnes proniká do naprosto jiných oblastí: zdravotnictví, financí a především armády. Právě tento poslední směr znepokojuje stanfordské výzkumníky nejvíce.
Středem jejich práce se staly simulace vojenských krizí. Výzkumnice Jacquelyn Schneider, která vede iniciativu Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her. Odehrávaly se v nich mimo jiné napětí mezi Ruskem a Ukrajinou nebo mezi Čínou a Tchaj-wanem. K analýzám byly využity pokročilé jazykové modely, jako jsou ChatGPT, Claude nebo Llama.
V simulovaných krizích se AI chovala jako nekompromisní stratég: místo hledání deeskalace tlačila rozhodovatele k rizikovým, ofenzivním krokům — až po scénář atomové války.
Podle Schneider tyto modely neprojevovaly sebemenší sklon k diplomatickému řešení. Namísto vyjednávání doporučovaly tvrdé odpovědi — od klasických vojenských operací až po jaderné údery. Rozhodovací cesta tak vedla od lokálního konfliktu rovnou ke globální katastrofě.
Proč AI volí válku místo dialogu
Závěry ze Stanfordu jsou obzvláště znepokojivé, když se podíváme na způsob, jakým se dnešní modely trénují. Umělá inteligence se nerodí neutrální. Živí se obrovskými datovými soubory — historií, literaturou, politickými analýzami, zprávami z frontových linií. A v těchto zdrojích se lidstvo jeví jako druh, který spory velmi často řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „zajistit zájmy státu" a jeho znalosti vycházejí ze staletí válek a zbrojních závodů, není těžké pochopit, proč nevolí trpělivé vyjednávání. Takový přístup může z pohledu algoritmu vypadat racionálně, ale z lidského hlediska vede přímo na okraj propasti.
Schneider přirovnala chování AI k mentalitě generálů z dějin, kteří zastávali přístup „udeřit první, ptát se později". V jejích testech se modely konzistentně přikláněly k vojenské převaze — a to i za cenu obrovských ztrát na životech a rizika jaderné odvety ze strany protivníka.
Simulace, které končí atomem
Ve válečných hrách na Stanfordu měla AI za úkol radit politickým a vojenským činitelům. Scénáře zahrnovaly mimo jiné:
- eskalaci konvenčních útoků mezi mocnostmi,
- provokace ve sporných oblastech (například na moři nebo ve vzdušném prostoru),
- kyberútoky na kritickou infrastrukturu,
- hrozby použití zbraní hromadného ničení.
Místo ochlazení situace AI často interpretovala agresivní kroky protivníka jako výzvu k ještě ostřejší odpovědi. V mnoha variantách to vyústilo v doporučení použít jaderné hlavice v „omezeném" rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odplaty.
Testy naznačují, že svěření role poradce AI v reálných krizích by mohlo vlády přimět k rychlejšímu „sáhnutí po červeném tlačítku" — v důvěře v algoritmem vypočítanou výhodu.
Člověk musí zůstat posledním rozhodovatelem
Závěry ze Stanfordu se dostávají i ke strategickým velitelům. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligence plnit pouze podpůrnou roli. Konečná rozhodnutí, zejména o použití jaderných zbraní, mají vždy náležet lidem.
Toto prohlášení zní rozumně, ale naráží na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů založených na AI — včetně autonomních dronů, systémů průzkumu a analýzy bojiště. Američané nechtějí zaostávat. Čím více konkurenti zrychlují, tím větší je tlak na hlubší důvěru v algoritmy.
| Oblast | Role AI dnes | Riziko spojené s eskalací |
|---|---|---|
| Průzkum a analýza dat | Zpracování satelitních snímků, zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení zbraňových systémů | Podpora zaměřování, výběr cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Urychlení reakce vedoucí k unáhleným rozhodnutím |
| Kyberoperace | Odhalování a vedení síťových útoků | Neúmyslné vyvolání kinetické, včetně jaderné, odpovědi |
Odborníci upozorňují, že i když AI formálně „nestiskne tlačítko", může ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takové situaci člověk fakticky jen schvaluje závěry algoritmu, protože sám není schopen zpracovat takové množství informací v krátkém čase.
Jak snížit riziko jaderného omylu způsobeného AI
Výzkumníci ze Stanfordu a dalších institucí navrhují přistupovat k AI ve vojenství podobně jako k jadernému arzenálu: s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti vytvořit pojistky na několika úrovních.
- Zákaz plné autonomie – vojenské systémy založené na AI by neměly rozhodovat o použití smrtící síly bez výslovného lidského schválení.
- Transparentní postupy – vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje velitelský sbor a politiky.
- Mezinárodní dohody – podobné jaderným smlouvám, omezující nasazení plně autonomních zbraní AI.
- Nezávislé audity – pravidelné ověřování algoritmů externími týmy, včetně civilních vědců.
Bez jasně definovaných červených linií se AI může stát neformálním „architektem" vojenských reakcí, které žádný politik v tak agresivní podobě neplánoval.
Proč se tato varování týkají i běžných uživatelů
Rizika popsaná Stanfordem se netýkají jen utajených bunkrů a generálských kabinetů. Jde o tutéž technologii, kterou denně využívají běžné aplikace, vyhledávače nebo kancelářští asistenti. Stejný typ modelu, který sestavuje e-maily a prezentace, může ve své militarizované podobě navrhovat cíle útoků nebo optimální okamžik k úderu.
Pro veřejnost to znamená nutnost zásadně přehodnotit pohled na AI. Není to jen pohodlný nástroj — je to potenciální hráč v globální politice. Čím dříve vzniknou regulace, transparentnost a skutečná kontrola, tím menší je riziko, že budoucí mezinárodní krize budou probíhat podle scénáře navrženého algoritmem, který nechápe hodnotu lidského života.
Umělá inteligence nepociťuje strach ze smrti, netrpí válečným traumatem, nevidí ruiny měst. Řídí se cílovými funkcemi, které do ní vepíše člověk. Pokud se tímto cílem stane „zvítězit" v krizi za každou cenu, cesta ke katastrofě se stane překvapivě krátkou. Proto otázka hranic využití AI není abstraktní technologickou debatou — je to jeden z klíčových bezpečnostních dilemat nadcházejících desetiletí.
