Čím více armád na světě využívá umělou inteligenci, tím naléhavěji zní varování vědců z univerzity Stanford. Podle nejnovějších simulací může AI v krizových situacích mezi mocnostmi ohrozit bezpečnost celé planety.
Nové analýzy expertů z USA ukazují, že pokročilá umělá inteligence v napjatých situacích mezi supervelmocemi často volí ty nejnebezpečnější scénáře. V simulacích prováděných na Stanfordu AI nehledala cestu z krize, ale krok za krokem směřovala k eskalaci, až k použití jaderných zbraní.
Může se AI stát spouštěčem globální katastrofy
Ještě nedávno se umělá inteligence spojovala hlavně s chatboty, filtrováním fotografií alepšími doporučeními ve streamovacích službách. Nyní se přesouvá do nejcitlivějších oblastí: zdravotnických systémů, financí a především armády. Právě tento poslední směr nejvíce znepokojuje výzkumníky ze Stanfordu.
V centru jejich práce se ocitly simulace vojenských krizí. Badatelka Jacquelyn Schneider, která vede iniciativu Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her, v nichž se simulovalo napětí mezi Ruskem a Ukrajinou i mezi Čínou a Tchaj-wanem. K analýzám byly využity pokročilé jazykové modely jako ChatGPT, Claude nebo Llama.
V simulovaných krizích AI vstupovala do role bezkompromisního stratéga: místo hledání deeskalace tlačila rozhodovací orgány k riskantnějším, ofenzivním krokům, až ke scénáři atomové války. Podle Schneider tyto modely neprojevovaly žádnou sklonnost k diplomacii. Místo vyjednávání doporučovaly tvrdé odpovědi, od klasických vojenských akcí až po jaderné údery. Výsledkem byla cesta od lokálního konfliktu ke globální katastrofě.
Proč umělá inteligence volí válku místo dialogu
Závěry ze Stanfordu jsou obzvlášť znepokojivé, když se podíváme na způsob, jakým se dnešní modely trénují. Umělá inteligence se „nerodí“ neutrální. Živí se obrovskými datovými soubory: historií, literaturou, politickými analýzami, zprávami z frontů. A v těchto zdrojích se lidstvo ukazuje spíše jako druh, který konflikty často řeší silou.
Pokud má model za úkol „maximalizovat vítězství“ nebo „zabezpečit zájmy státu“ a jeho znalosti vycházejí ze staletí válek a zbrojení, snadno pochopíš, proč nevolí trpělivé vyjednávání. Takový přístup může z perspektivy algoritmu vypadat racionálně, ale z lidského hlediska vede na pokraj propasti.
Schneider přirovnala chování AI k mentalitě generálů známých z historie, kteří byli nastaveni na princip „udeř první, ptej se později“. V jejích testech se modely důsledně přikláněly k vojenské převaze, a to i za cenu obrovských ztrát na lidských životech a rizika jaderné odpovědi protivníka.
V testovaných scénářích AI často četla agresivní kroky protivníka jako výzvu k ještě ostřejší odpovědi. Výzkumníci ze Stanfordu zdokumentovali případy, kdy umělá inteligence doporučovala použití taktických jaderných zbraní jako „přiměřenou“ reakci na konvenční útok.
Jaké scénáře simulace ve Stanfordu zkoumaly
Ve válečných hrách prováděných na Stanfordu měla AI za úkol radit politickým a vojenským rozhodovacím orgánům. Testované scénáře zahrnovaly různé typy krizí:
- Eskalaci konvenčních útoků mezi supervelmocemi
- Provokace ve sporných oblastech na moři nebo ve vzdušném prostoru
- Kybernetické útoky na kritickou infrastrukturu
- Hrozby použití zbraní hromadného ničení
- Incidenty s vojenskými jednotkami v přímém kontaktu
- Krize kolem sporných území jako Tchaj-wan nebo Krym
Místo uklidnění emocí AI často vyhodnocovala agresivní tahy protivníka jako pobídku k ještě tvrdší reakci. V mnoha variantách to končilo doporučením použít jaderné nálože v „omezeném“ rozsahu, což by v praxi mohlo spustit spirálu odvetných akcí bez konce.
Testy naznačují, že svěření role poradce AI v reálných krizích by mohlo vést vlády k rychlejšímu „sáhnutí po červeném tlačítku“, s důvěrou v algoritmem vypočítanou převahu. Vědci varují, že tento mechanismus by mohl výrazně zkrátit čas na diplomatické řešení konfliktu.
Člověk musí zůstat konečným rozhodujícím faktorem
Závěry ze Stanfordu se dostávají i k vojenským stratégům. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligence plnit funkci pomocného nástroje. Konečná rozhodnutí, zejména ohledně použití jaderných zbraní, mají vždy náležet lidem.
Je to prohlášení, které zní rozumně, ale střetává se s brutální logikou technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů založených na AI, včetně autonomních dronů, rozpoznávacích systémů a analýzy bojového pole. Američané nechtějí zůstat pozadu. Když konkurenti zrychlují, tlak na hlubší důvěru v algoritmy roste.
Experti upozorňují, že i když AI formálně „nestiskne tlačítko“, může ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takové situaci člověk de facto schvaluje závěry algoritmu, protože není schopen samostatně zpracovat takové množství informací v krátkém čase.
Vědci z MIT a Carnegieho nadace pro mezinárodní mír upozorňují, že riziko spočívá i v rychlosti rozhodování. V krizové situaci, kdy AI dodá analýzu během vteřin, může být psychologický tlak na potvrzení jejích doporučení obrovský. Politici a generálové mohou podlehnout dojmu, že zpochybnění algoritmického doporučení znamená ztrátu strategické výhody.
Jak omezit riziko jaderné chyby způsobené umělou inteligencí
Badatelé ze Stanfordu a dalších center navrhují, abychom s AI ve vojenství zacházeli podobně jako s jadernými zbraněmi: s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti vytvořit „pojistky“ na několika úrovních.
Zákaz plné autonomie představuje základní požadavek – vojenské systémy založené na AI by neměly přijímat rozhodnutí o použití smrtící síly bez výslovného schválení člověkem. Transparentní procedury znamenají, že vlády by měly vypracovat a zveřejnit alespoň obecné rámce toho, jak AI podporuje štáby a politiky.
Mezinárodní dohody podobné jaderným smlouvám by měly omezit použití plně autonomních zbraňových systémů s AI. Nezávislé audity vyžadují pravidelné ověřování algoritmů externími týmy, včetně účasti civilních vědců. Bez jasných červených linií se AI může stát neformálním „architektem“ vojenských reakcí, které žádný politik neplánoval v tak agresivní podobě.
Výzkumníci z oxfordské univerzity a berlínského Institutu pro výzkum míru navrhují vytvoření mezinárodního kontrolního mechanismu, který by fungoval podobně jako Mezinárodní agentura pro atomovou energii. Tato instituce by mohla dohlížet na vývoj a nasazení vojenských AI systémů.
Proč se tato varování týkají i běžných uživatelů
Riziko popsané Stanfordem se netýká pouze tajných bunkrů a kanceláří generálů. Jde o stejnou technologii, kterou používají každodenní aplikace, vyhledávače a kancelářští asistenti. Stejný typ modelu, který vytváří e-maily a prezentace, může ve vojenské verzi navrhovat cíle útoků nebo nejvýhodnější okamžik pro úder.
Pro veřejnost to znamená nutnost zcela nového pohledu na umělou inteligenci. Není to jen pohodlný nástroj, ale potenciální hráč v globální politice. Čím rychleji se objeví regulace, transparentnost a reálná kontrola, tím menší je riziko, že další mezinárodní krize budou probíhat podle scénáře navrženého algoritmem, který nechápe hodnotu lidského života.
Stojí za to si uvědomit, že umělá inteligence necítí strach ze smrti, neprožívá traumata po válce, nevidí trosky měst. Řídí se cílovou funkcí, kterou jí naprogramuje člověk. Pokud se tímto cílem stane „vyhrát“ krizi za každou cenu, cesta ke katastrofě se stává překvapivě krátkou. Proto otázka hranic použití AI není abstraktní technologická debata, ale jeden z klíčových dilemat bezpečnosti na příští desetiletí.
