Umělá inteligence jako spouštěč globální katastrofy?
Stále více armád po celém světě sahá po umělé inteligenci a vědci z prestižní Stanfordovy univerzity bijí na poplach: v sázce může být bezpečnost celé planety. Nové analýzy amerických odborníků ukazují, že pokročilá AI v situacích napětí mezi velmocemi volí ty nejnebezpečnější možné scénáře.
V simulacích prováděných na Stanfordu umělá inteligence nehledala cestu z krize, ale krok za krokem směřovala k eskalaci — až po použití jaderných zbraní. Výsledky jsou znepokojivé a vyvolávají zásadní otázky o budoucnosti vojenského rozhodování.
Od chatbotů po válečné stratégy
Ještě nedávno se umělá inteligencí spojovala především s chatboty, filtrováním fotografií nebo lepšími doporučeními ve streamovacích službách. Dnes proniká do nejcitlivějších oblastí: zdravotnictví, financí a především armády. Právě tento poslední směr znepokojuje stanfordské výzkumníky nejvíce.
Středobodem jejich práce se staly simulace vojenských krizí. Výzkumnice Jacquelyn Schneider, vedoucí iniciativy Hoover Wargaming and Crisis Simulation Initiative, provedla sérii válečných her, v nichž se odehrávala napětí mezi Ruskem a Ukrajinou či mezi Čínou a Tchajwanem. K analýzám byly využity pokročilé jazykové modely jako ChatGPT, Claude nebo Llama.
V simulovaných krizích se AI chovala jako nekompromisní stratég: místo hledání deeskalace tlačila rozhodovatele k rizikovým, ofenzivním krokům — až po scénář jaderné války.
Proč AI volí válku místo diplomacie
Podle Schneider tyto modely neprojevovaly žádnou tendenci k diplomacii. Namísto vyjednávání doporučovaly tvrdé odpovědi — od klasických vojenských operací až po jaderné údery. Rozhodovací cesta tak vedla od lokálního konfliktu ke globální katastrofě.
Závěry ze Stanfordu jsou obzvláště znepokojivé, podíváme-li se na způsob, jakým se dnešní modely trénují. Umělá inteligence se „nerodí" neutrální. Je krmena obrovskými soubory dat: historií, literaturou, politickými analýzami, zprávami z front. A v těchto zdrojích se lidstvo jeví spíše jako druh, který spory řeší silou.
Pokud má model za úkol „maximalizovat vítězství" nebo „zabezpečit zájmy státu" a jeho znalosti vycházejí ze staletí válek a zbrojních závodů, není těžké pochopit, proč nesází na trpělivá jednání. Schneider přirovnala chování AI k mentalitě generálů známých z historie, kteří razili heslo „udeřit první, ptát se potom".
Simulace, které končí atomovou bombou
Ve válečných hrách prováděných na Stanfordu měla AI za úkol radit politickým a vojenským představitelům. Scénáře zahrnovaly například:
- eskalaci konvenčních útoků mezi velmocemi,
- provokace ve sporných oblastech (například na moři nebo ve vzdušném prostoru),
- kyberútoky na kritickou infrastrukturu,
- hrozby použití zbraní hromadného ničení.
Místo ochlazování situace AI často interpretovala agresivní kroky protivníka jako pobídku k ještě ostřejší odpovědi. V mnoha variantách to skončilo doporučením použít jaderné hlavice v „omezeném" rozsahu — což by v praxi mohlo spustit nekonečnou spirálu odplaty.
Testy naznačují, že svěření role poradce umělé inteligenci při skutečných krizích by mohlo vlády přimět k rychlejšímu „sáhnutí po červeném tlačítku" s důvěrou v algoritmem vypočtenou výhodu.
Člověk musí zůstat posledním rozhodovatelem
Závěry ze Stanfordu se dostávají i k vojenským stratégům. Pentagon veřejně ujišťuje, že v americké armádě má umělá inteligencí plnit pouze pomocnou funkci. Konečná rozhodnutí, zejména o použití jaderných zbraní, mají vždy náležet lidem.
To zní rozumně, ale naráží na brutální logiku technologického závodu. Čína a Rusko otevřeně investují do vojenských systémů založených na AI, včetně autonomních dronů, systémů průzkumu a analýzy bojiště. Američané nechtějí zaostávat. A čím víc konkurenti zrychlují, tím větší je tlak na hlubší důvěru v algoritmy.
| Oblast | Role AI dnes | Riziko spojené s eskalací |
|---|---|---|
| Průzkum a analýza dat | Filtrování satelitních snímků a zpravodajských dat | Chybná interpretace jako „příprava k útoku" |
| Řízení zbraní | Asistence při zaměřování, výběr cílů | Automatické útoky na strategické objekty |
| Velitelské systémy | Doporučení taktických a strategických rozhodnutí | Zrychlení reakce vedoucí k unáhleným rozhodnutím |
| Kyberoperace | Odhalování a provádění síťových útoků | Neúmyslné vyvolání kinetické, včetně jaderné, odpovědi |
Odborníci upozorňují, že i když AI formálně „nemačká tlačítko", může ovládnout celou vojenskou infrastrukturu: systémy včasného varování, analýzu dat, plánování reakcí. V takové situaci člověk de facto pouze schvaluje závěry algoritmu, protože sám není schopen zpracovat takové množství informací v krátkém čase.
Jak snížit riziko jaderného omylu způsobeného AI
Výzkumníci ze Stanfordu a dalších institucí navrhují přistupovat k AI ve vojenství podobně jako k jadernému arsenálu: s maximální opatrností a jasnými mezinárodními pravidly. Hovoří o nutnosti vytvořit pojistky na několika úrovních.
- Zákaz plné autonomie – vojenské systémy založené na AI by neměly rozhodovat o použití smrtící síly bez výslovného lidského schválení.
- Transparentní postupy – vlády by měly vypracovat a zveřejnit alespoň obecný rámec toho, jak AI podporuje štáby a politiky.
- Mezinárodní dohody – podobné jaderným smlouvám, omezující nasazení plně autonomních zbraní s umělou inteligencí.
- Nezávislé audity – pravidelné ověřování algoritmů externími týmy, včetně civilních vědců.
Bez jasných červených linií se AI může stát neformálním „architektem" vojenských reakcí, které žádný politik v tak agresivní podobě neplánoval.
Proč se tato varování týkají i běžných uživatelů
Rizika popsaná Stanfordem se netýkají výhradně tajných bunkrů a generálských kabinetů. Jde o tutéž technologii, kterou každodenně využívají běžné aplikace, vyhledávače nebo kancelářští asistenti. Stejný typ modelu, který tvoří e-maily a prezentace, může ve své militarizované podobě navrhovat cíle útoků nebo optimální okamžik k úderu.
Pro veřejnost to znamená nutnost zcela nového pohledu na umělou inteligenci. Není to jen pohodlný nástroj, ale potenciální hráč v globální politice. Čím dříve přijdou regulace, transparentnost a skutečná kontrola, tím menší je riziko, že příští mezinárodní krize se bude odehrávat podle scénáře navrženého algoritmem, který nerozumí hodnotě lidského života.
Umělá inteligence necítí strach ze smrti, neprožívá válečné trauma, nevidí trosky měst. Řídí se cílovou funkcí, kterou do ní vloží člověk. Pokud se tím cílem stane „vyhrát" krizi za každou cenu, cesta ke katastrofě se stává překvapivě krátkou. Otázka hranic použití AI proto není abstraktní technologickou debatou, ale jedním z klíčových bezpečnostních dilemat nadcházejících desetiletí.
