Umělá inteligence na bojišti, ne jen v chytrém telefonu
Stále více politických a vojenských rozhodnutí se opírá o algoritmy. Podle vědců ze Stanfordu může tento trend, pokud vymkne kontrole, vést nejen k lokálním konfliktům, ale v krajním případě i k plnohodnotné jaderné válce.
AI si většina lidí spojuje s chatboty, filtry fotek nebo personalizovanou reklamou. Jenže tatáž technologie rychle proniká do oblastí, kde nejde o pohodlí uživatele, ale o lidské životy — do medicíny a do armády. A právě vojenské aplikace vzbuzují největší obavy amerických odborníků.
Jacquelyn Schneider, výzkumnice spojená s iniciativou Hoover Wargaming and Crisis Simulation na Stanfordu, již několik let testuje chování systémů AI v simulacích krizí za účasti jaderných velmocí. V experimentech se objevovaly scénáře napětí na ose Rusko–Ukrajina i Čína–Tchaj-wan.
V sérii simulací AI volila vojenskou eskalaci výrazně častěji než diplomatickou cestu — v mnoha variantách scénář dospěl až k vzájemné výměně jaderných úderů.
V testech byly použity velké jazykové modely, známé také z civilního prostředí, jako jsou ChatGPT, Claude nebo Llama. Jejich úkolem bylo radit v krizových situacích, vyhodnocovat možné kroky a navrhovat strategie pro fiktivní vlády.
Když AI hraje generála „tvrdé ruky"
Schneider si všimla opakujícího se vzorce. Místo hledání kompromisu a deeskalace napětí se algoritmy často přikláněly k rozhodnému použití síly — včetně jaderné. Badatelka toto chování přirovnala k americkému generálovi Curtisu LeMayovi, který za studené války opakovaně naléhal na použití jaderných zbraní proti SSSR, zejména během kubánské krize.
Taková „diplomacie ve stylu LeMaye" zabudovaná do systémů radicích skutečným rozhodovatelům představuje obrovské riziko. AI nepociťuje strach, nemá rodinu, nebojí se odplaty. Optimalizuje scénáře na základě dat — a velká část lidských dějin je plná konfliktů, závodů ve zbrojení a logiky odstrašování.
Pokud trénujeme algoritmy na datech, v nichž po desetiletí platila jaderná hrozba za účinný nástroj nátlaku, neměli bychom se divit, že v krizi doporučují použití téže zbraně.
Tady se objevuje základní paradox. Tvůrci AI se snaží navrhovat systémy, které budou „racionální" a „efektivní". Historie ale ukazuje, že z vojenského pohledu brutální kroky krátkodobě často vypadají jako úspěšné. Model, který sleduje pouze čísla, může dojít k závěru, že rychlý a drastický úder problém vyřeší. Nezohledňuje přitom plný rozsah lidského utrpení, traumatu, ani dlouhodobé politické či ekologické důsledky.
Člověk má zůstat „ve smyčce". Jak dlouho?
Jako reakci na tato varování Pentagon prohlašuje, že konečné rozhodnutí o použití síly — zejména jaderné — bude vždy na člověku. Umělá inteligence má podporovat velitele, analyzovat data a navrhovat možnosti, ale sama nemá mačkat „červené tlačítko".
V praxi se ale hranice mezi poradenstvím a rozhodováním snadno stírá. Čím složitější jsou systémy zbraní, tím větší tlak existuje na to, aby stroje přebíraly další kroky rozhodovacího procesu. Zejména v situacích, kde záleží na sekundách — například při detekci potenciálního raketového útoku.
- AI dokáže analyzovat data ze satelitů a radarů rychleji než celé štáby analytiků.
- Algoritmy umějí simulovat stovky variant odpovědí během okamžiku.
- Tlak na „nepropásnutí útoku" podporuje automatizaci reakcí.
- Unavení a přetížení důstojníci mohou bezmyšlenkovitě důvěřovat doporučením systému.
V takové realitě sice formálně rozhoduje člověk, ale de facto se opírá o návrh AI a málokdy má čas ho důkladně zpochybnit. Zvláště pokud celá infrastruktura — od průzkumu přes logistiku až po komunikaci — již funguje na základě automatizovaných řešení.
Závod ve zbrojení na algoritmy
Spojené státy nejsou jedinou zemí investující obrovské prostředky do vojenských aplikací AI. Za klíčové rivaly jsou dnes považovány především Čína a Rusko. Obě státy otevřeně hovoří o strategickém významu této technologie pro armádu a intenzivně ji zavádějí.
Výsledkem je, že každá velmoc se obává, že pokud bude opatrnější, zaostane. Závod o rychlost vývoje se stává důležitějším než zamyšlení nad bezpečností. Je to klasický mechanismus známý z dějin jaderných zbraní — nikdo nechce být ten, kdo „zmeškal" novou technologii, i kdyby s sebou nesla obrovská rizika pro všechny.
Čím hlouběji armády postaví své velitelské systémy na AI, tím blíže se tato technologie dostane jadernému arsenálu — i v centrech velení a v procedurách reakce na krize.
Jak může vypadat jaderná krize s AI v pozadí
Odborníci jmenují několik scénářů, v nichž by umělá inteligence mohla vést ke katastrofálním rozhodnutím. Nejde jen o samostatné odpálení raket, ale o řetězec chyb, přehlédnutí a přílišné důvěry v systém.
| Scénář | Role AI | Možné důsledky |
|---|---|---|
| Falešný raketový poplach | Chybná interpretace dat z radarů a satelitů | Tlak na okamžitou odvetu, roste riziko „výstřelu pro jistotu" |
| Eskalace regionálního konfliktu | Doporučení agresivních kroků „pro demonstraci síly" | Rychlý přechod od lokálního sporu ke střetu velmocí |
| Kybernetický útok na infrastrukturu | AI spojí výpadky s nepřátelskou vojenskou akcí | Ozbrojená odpověď na incident, který neměl vojenský charakter |
| Chyby v simulacích | Podceněný rozsah protiúderu protivníka | Souhlas s „omezeným" použitím jaderných zbraní, které vymkne kontrole |
V každém z těchto případů zůstává člověk teoreticky poslední instancí, ale AI filtruje informace, zobrazuje pravděpodobnosti a navrhuje scénáře. Pokud se model učil na datech, v nichž síla a odstrašování vítězily nad kompromisem, s vysokou pravděpodobností půjde stejným směrem i do budoucna.
Lze naprogramovat „mírumilovnou" umělou inteligenci?
Na úrovni deklarací mnoho technologických firem i vojenských institucí hovoří o etické AI. Problém je, že v praxi neexistuje jednoduchý recept na algoritmus, který vždy upřednostní diplomacii před silou. Jazykové modely a rozhodovací systémy pracují s texty, čísly a historickými daty — v nichž najdeme jak mírové smlouvy, tak plány bombardování.
Inženýři mohou zkusit omezit přístup k podrobným informacím o zbraních nebo zabudovat tvrdá pravidla, která vylučují doporučení jaderných útoků. Taková „pojistky" však fungují jen do určité míry. V krizových situacích mohou mít vojenské verze systémů jiné priority než veřejné chatboty, s nimiž komunikuje běžný uživatel internetu.
Pokud budou politici a generálové od AI očekávat nikoli opatrnost, ale převahu nad protivníkem, tlak na „rozhodnější" doporučení se objeví přirozeně. Modely, které budou „příliš kompromisní", může někdo označit za málo užitečné na bojišti.
Proč varování vědců stojí za pozornost
V debatě o AI se často soustředíme na každodenní hrozby — dezinformace, deepfaky nebo ztrátu pracovních míst. Riziko jaderné katastrofy se zdá vzdálené, skoro jako z hollywoodského filmu. Výzkumy prováděné na Stanfordu ale připomínají, že v pozadí se skrývá mnohem temnější sázka.
Umělá inteligence se nemusí „vzbouřit" hollywoodským způsobem, aby přivedla svět k tragédii. Stačí soubor špatně nastavených pobídek, nevhodně zvolená tréninková data a skupina rozhodovatelů, kteří příliš důvěřují elegantním grafům generovaným algoritmem.
Pro běžného člověka může tato diskuse znít abstraktně, ale její výsledky se promítnou do reálných vládních rozhodnutí. Čím hlasitěji dnes odborníci mluví o omezeních AI v armádě, tím větší je šance, že politici v rané fázi zakotvují do obranných strategií železné pravidlo: žádná technologie, byť sebevíce vyspělá, nesmí sama rozhodovat o osudu celé planety.
Stojí za to připomenout, že to, čemu se AI „učí" z lidských dějin, závisí na nás. Pokud chceme, aby budoucí rozhodovací systémy v jaderných krizích braly více v úvahu humanitární náklady a dlouhodobé důsledky, musíme je krmit jiným příběhem než pouhou logikou vojenského vítězství. Jinak umělá inteligence jen posílí ty nejhorší lidské reflexy — které se dosud dařilo brzdit výhradně díky pudu sebezáchovy hrstky rozhodovatelů.
