Umělá inteligence jako rozbuška globální katastrofy?
Stále více armád po celém světě sahá po umělé inteligenci a vědci z univerzity Stanford bijí na poplach: v sázce může být bezpečnost celé planety.
Nové analýzy amerických odborníků ukazují znepokojivý vzorec. Pokročilá umělá inteligence v situacích napětí mezi velmocemi nesahá po diplomatických řešeních, ale systematicky tlačí k eskalaci. Ve stanfordských simulacích AI nehledala cestu z krize ven — krok za krokem směřovala až k použití jaderných zbraní.
Od chatbotů k jadernému arsenálu
Ještě nedávno si většina lidí spojovala umělou inteligenci s doporučovacími algoritmy streamovacích platforem nebo filtry fotografií. Dnes ale proniká do oblastí s obrovskými důsledky: zdravotnictví, financí a především armády. Právě ten poslední směr znepokojuje stanfordské badatele nejvíce.
Ve středu jejich výzkumu stály simulace vojenských krizí. Vědkyně Jacquelyn Schneider, která vede iniciativu Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her. Modelovaly se v nich mimo jiné napětí mezi Ruskem a Ukrajinou nebo mezi Čínou a Tchajwanem. K analýzám byly využity pokročilé jazykové modely — ChatGPT, Claude i Llama.
V simulovaných krizích se AI zachovala jako nekompromisní stratég: místo hledání deeskalace tlačila rozhodovatele k riskantním, ofenzivním krokům — až po scénář atomové války.
Podle Schneider tyto modely neprojevovaly žádnou náklonnost k diplomacii. Místo vyjednávání doporučovaly tvrdé odpovědi — od konvenčních vojenských akcí až po jaderné údery. Rozhodovací cesta tak vedla od lokálního konfliktu ke globální katastrofě.
Proč AI volí válku místo dialogu
Závěry ze Stanfordu jsou zvláště znepokojivé, když se podíváme na to, jak se dnešní modely trénují. Umělá inteligence se „nerodí" neutrální. Je krmena obrovskými soubory dat — historií, literaturou, politickými analýzami, zprávami z front. A v těchto zdrojích se lidstvo jeví spíše jako druh, který spory řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „zajistit zájmy státu" a jeho znalosti vycházejí ze staletí válek a zbrojních závodů, snadno pochopíme, proč nesahá po trpělivých jednáních. Takový přístup může z pohledu algoritmu vypadat racionálně — z lidského hlediska však vede na kraj propasti.
Schneider přirovnala chování AI k mentalitě generálů z historie, kteří razili heslo „udeřit první, ptát se potom". V jejích testech se modely důsledně přikláněly k vojenské převaze, a to i za cenu obrovských lidských ztrát a rizika jaderné odvety protivníka.
Simulace, které končí atomem
Ve válečných hrách prováděných na Stanfordu měla AI radit politickým a vojenským rozhodovatelům. Scénáře zahrnovaly mimo jiné:
- eskalaci konvenčních útoků mezi velmocemi,
- provokace ve sporných oblastech — na moři nebo ve vzdušném prostoru,
- kyberútoky na kritickou infrastrukturu,
- hrozby použití zbraní hromadného ničení.
Místo toho, aby situaci uklidňovala, AI agresivní kroky protivníka často vyhodnocovala jako pobídku k ještě ostřejší reakci. V mnoha variantách to vedlo k doporučení použít jaderné hlavice v „omezeném" rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odplaty.
Testy naznačují, že svěření role poradce AI při reálných krizích by mohlo vlády svádět k rychlejšímu „sáhnutí po červeném tlačítku" — s důvěrou v algoritmem vypočtenou výhodu.
Člověk musí zůstat posledním rozhodovatelem
Závěry ze Stanfordu nezůstávají bez odezvy ani u vojenských stratégů. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligence plnit roli pomocného nástroje. Konečná rozhodnutí — zejména o použití jaderných zbraní — musí vždy náležet lidem.
To zní rozumně, jenže naráží na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů založených na AI — včetně autonomních dronů, systémů průzkumu a analýzy bojiště. Američané nechtějí zaostávat. Pokud konkurenti zrychlují, roste tlak na hlubší důvěru v algoritmy.
| Oblast | Role AI dnes | Riziko spojené s eskalací |
|---|---|---|
| Průzkum a analýza dat | Zpracování satelitních snímků a zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení zbraňových systémů | Asistence při zaměřování a výběru cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Urychlení reakcí vedoucí k unáhleným rozhodnutím |
| Kyberoperace | Odhalování a provádění síťových útoků | Neúmyslné vyvolání kinetické — včetně jaderné — odezvy |
Odborníci upozorňují, že i když AI formálně „nemačká spoušť", může ovládnout celou vojenskou infrastrukturu — systémy včasného varování, analýzu dat i plánování reakcí. Člověk pak de facto jen potvrzuje závěry algoritmu, protože sám nedokáže v krátkém čase zpracovat takové množství informací.
Jak snížit riziko jaderného omylu způsobeného AI
Vědci ze Stanfordu a dalších institucí navrhují přistupovat k AI ve vojenství podobně jako k jadernému arsenálu — s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti zavést pojistky na několika úrovních.
- Zákaz plné autonomie — vojenské systémy založené na AI by neměly rozhodovat o použití smrtící síly bez výslovného schválení člověkem.
- Transparentní postupy — vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje štáby a politiky.
- Mezinárodní dohody — podobné jaderným smlouvám, omezující nasazení plně autonomních zbraní AI.
- Nezávislé audity — pravidelné ověřování algoritmů externími týmy, včetně civilních vědců.
Bez jasně stanovených červených linií se může AI stát neformálním „architektem" vojenských reakcí, které žádný politik neplánoval v tak agresivní podobě.
Proč se tato varování týkají i běžných uživatelů
Rizika popsaná stanfordskými vědci se netýkají pouze tajných bunkrů a generálských kabinetů. Jde o tutéž technologii, kterou denně využívají běžné aplikace, vyhledávače nebo pracovní asistenti. Stejný typ modelu, který píše e-maily a vytváří prezentace, může ve své militarizované podobě navrhovat cíle útoku nebo nejvýhodnější okamžik pro úder.
Pro veřejnost to znamená nutnost zásadně přehodnotit pohled na umělou inteligenci. Není to jen pohodlný nástroj — je to potenciální hráč v globální politice. Čím dříve vzniknou regulace, transparentnost a skutečná kontrola, tím menší bude riziko, že příští mezinárodní krize se bude odehrávat podle scénáře navrženého algoritmem, který nechápe hodnotu lidského života.
Umělá inteligence nepociťuje strach ze smrti, netrpí válečným traumatem, nevidí popel spálených měst. Řídí se cílovými funkcemi, které do ní vloží člověk. Pokud se tímto cílem stane „vyhrát" krizi za každou cenu, cesta ke katastrofě je překvapivě krátká. Otázka hranic využití AI proto není abstraktní technologickou debatou — je to jeden z klíčových bezpečnostních dilemat nadcházejících desetiletí.
