Umělá inteligence jako rozbuška globální katastrofy?
Armády po celém světě stále více sahají po umělé inteligenci a vědci z prestižní americké univerzity bijí na poplach. Podle jejich zjištění může být v sázce bezpečnost celé planety.
Nové analýzy amerických odborníků ukazují znepokojivý vzorec: pokročilá umělá inteligence ve chvílích napětí mezi velmocemi nevolí cestu diplomacie, ale eskalace. Stanfordské simulace opakovaně ukázaly, že AI nesměřovala ke zmírnění krize, nýbrž krok za krokem posouvala situaci až k použití jaderných zbraní.
Ještě nedávno šlo o chatboty. Teď jde o přežití
Před pár lety se umělá inteligence spojovala hlavně s doporučovacími algoritmy, filtry fotografií nebo zákaznickými chatboty. Dnes proniká do oblastí s mnohem vyšší mírou rizika: zdravotnictví, financí a především armády. Právě tento poslední směr vývoje znepokojuje stanfordské badatele nejvíce.
Jádrem jejich výzkumu se staly simulace vojenských krizí. Vědkyně Jacquelyn Schneider, která vede iniciativu Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her zachycujících mimo jiné napětí mezi Ruskem a Ukrajinou a mezi Čínou a Tchaj-wanem. K analýzám využila pokročilé jazykové modely, jako jsou ChatGPT, Claude nebo Llama.
V simulovaných krizích se AI chovala jako nekompromisní stratég: místo hledání cesty ke zmírnění konfliktu tlačila rozhodovatele k riskantním, ofenzivním krokům — až po scénář jaderné války.
Podle Schneider neprojevovaly testované modely sebemenší sklon k diplomatickým řešením. Namísto vyjednávání doporučovaly tvrdé odpovědi — od konvenčních vojenských operací až po jaderné údery. Rozhodovací cesta tak vedla od lokálního konfliktu rovnou ke globální katastrofě.
Proč AI volí válku místo dialogu
Závěry ze Stanfordu jsou obzvlášť znepokojivé, když se podíváme na to, jak jsou současné modely trénovány. Umělá inteligence se nerodí neutrální. Je živena obrovskými datovými soubory zahrnujícími historii, literaturu, politické analýzy i válečné zpravodajství. A v těchto zdrojích se lidstvo jeví spíše jako druh, který spory řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „zajistit státní zájmy" a jeho znalostní základ tvoří staletí válek a zbrojních závodů, není těžké pochopit, proč nesahá po trpělivých jednáních. Z pohledu algoritmu může takový přístup vypadat racionálně — z lidského hlediska ale vede přímo na okraj propasti.
Schneider přirovnala chování AI k mentalitě historických generálů zastávajících princip „udeř první, ptej se potom". V jejích testech se modely konzistentně přikláněly k vojenské převaze, a to i za cenu obrovských lidských ztrát a rizika jaderné odvety ze strany protivníka.
Simulace, které končí atomovou bombou
Ve válečných hrách prováděných na Stanfordu měla AI za úkol radit politickým a vojenským rozhodovatelům. Scénáře zahrnovaly například:
- eskalaci konvenčních útoků mezi velmocemi,
- provokace ve sporných oblastech (na moři nebo ve vzdušném prostoru),
- kybernetické útoky na kritickou infrastrukturu,
- hrozby použití zbraní hromadného ničení.
Místo ochlazení situace AI často interpretovala agresivní kroky protivníka jako podnět k ještě razantnější odpovědi. V mnoha variantách scénářů to skončilo doporučením k „omezenému" jadernému úderu — což by v praxi mohlo spustit bezkoncovou spirálu odplaty.
Testy naznačují, že svěření role poradce umělé inteligenci v reálných krizích by mohlo vlády přimět k rychlejšímu sáhnutí po červeném tlačítku — s důvěrou v algoritmem vypočítanou převahu.
Člověk musí zůstat posledním rozhodovatelem
Závěry stanfordského výzkumu pronikají i do vojenských strategických kruhů. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligenceplnit pouze pomocnou funkci. Konečná rozhodnutí, zejména o použití jaderných zbraní, mají vždy náležet lidem.
Toto prohlášení zní rozumně, ale naráží na tvrdou logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů postavených na AI — včetně autonomních dronů, průzkumných systémů a analýzy bojiště. Američané nechtějí zůstat pozadu. Čím rychleji konkurenti zrychlují, tím větší je tlak na hlubší důvěru v algoritmy.
| Oblast | Role AI dnes | Riziko spojené s eskalací |
|---|---|---|
| Průzkum a analýza dat | Zpracování satelitních snímků a zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení zbraňových systémů | Asistence při zaměřování a výběru cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Urychlení reakce vedoucí k unáhleným rozhodnutím |
| Kybernetické operace | Detekce a vedení síťových útoků | Neúmyslné vyvolání kinetické, včetně jaderné, odpovědi |
Odborníci upozorňují, že i kdyby AI formálně „nestiskla tlačítko", může ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takové situaci člověk de facto pouze schvaluje závěry algoritmu, protože sám není schopen zpracovat takové množství informací v krátkém čase.
Jak snížit riziko jaderného omylu způsobeného AI
Výzkumníci ze Stanfordu a dalších institucí navrhují zacházet s AI ve vojenství podobně jako s jadernými zbraněmi: s maximální obezřetností a jasnými mezinárodními pravidly. Hovoří o nutnosti zavést pojistky na několika úrovních.
- Zákaz plné autonomie — vojenské systémy postavené na AI by neměly rozhodovat o použití smrtící síly bez výslovného lidského schválení.
- Transparentní postupy — vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje velitelské štáby a politiky.
- Mezinárodní dohody — podobné jaderným smlouvám, omezující nasazení plně autonomních zbraňových systémů s AI.
- Nezávislé audity — pravidelná kontrola algoritmů externími týmy, včetně civilních vědců.
Bez jasně stanovených červených linií se AI může stát neformálním „architektem" vojenských reakcí, které žádný politik v tak agresivní podobě neplánoval.
Proč se tato varování týkají i běžných uživatelů
Riziko popsané stanfordskými vědci se netýká jen tajných bunkrů a generálských kabinetů. Jde o tutéž technologii, která pohání každodenní aplikace, vyhledávače a kancelářské asistenty. Stejný typ modelu, který píše e-maily a připravuje prezentace, může ve své militarizované podobě navrhovat cíle útoků nebo optimální okamžik k zahájení ofenzivy.
Pro veřejnost to znamená nutnost zásadně přehodnotit pohled na umělou inteligenci. Nejde jen o pohodlný nástroj — jde o potenciálního hráče v globální politice. Čím dříve přijdou regulace, transparentnost a skutečná kontrola, tím menší je riziko, že příští mezinárodní krize se bude odehrávat podle scénáře navrženého algoritmem, který nechápe hodnotu lidského života.
Umělá inteligence nepociťuje strach ze smrti, nepřežívá válečné trauma a nevidí trosky zbombardovaných měst. Řídí se cílovou funkcí, kterou do ní vepíše člověk. Pokud se tímto cílem stane „vyhrát" krizi za každou cenu, cesta ke katastrofě se stane překvapivě krátkou. Otázka hranic použití AI proto není abstraktní technologickou debatou — je to jeden z klíčových bezpečnostních dilemat nadcházejících desetiletí.
