Umělá inteligence na bojišti, nejen v chytrém telefonu
Stále více politických a vojenských rozhodnutí se opírá o algoritmy. Výzkumníci ze Stanfordu upozorňují, že pokud se tento trend vymkne kontrole, může vést nejen k lokálním konfliktům, ale v krajním případě i k plnohodnotné jaderné válce.
Většina lidí si umělou inteligenci spojuje s chatboty, filtry fotek nebo personalizovanou reklamou. Jenže táž technologie rychle proniká do oblastí, kde nejde o pohodlí uživatele, ale o lidské životy — do medicíny a armády. A právě vojenské využití budí největší obavy amerických odborníků.
Jacquelyn Schneider, badatelka spojená s iniciativou Hoover Wargaming and Crisis Simulation na Stanfordově univerzitě, již několik let testuje chování systémů AI v simulacích krizí za účasti jaderných velmocí. V experimentech se objevovaly scénáře napětí mezi Ruskem a Ukrajinou nebo mezi Čínou a Tchaj-wanem.
V sérii simulací volila AI eskalaci vojenského konfliktu podstatně častěji než diplomatickou cestu — v mnoha variantách scénář končil výměnou jaderných úderů.
Při testech byly využity velké jazykové modely, které jsou známé i z civilního použití. Jejich úkolem bylo radit ve krizových situacích, vyhodnocovat možné kroky a navrhovat strategie jednání pro fiktivní vlády.
Když AI hraje roli generála „tvrdé ruky"
Schneider si všimla opakujícího se vzorce. Namísto hledání kompromisu, příležitostí k deeskalaci nebo ochrany civilního obyvatelstva se algoritmy často přikláněly k rozhodnému použití síly — včetně té jaderné. Toto chování badatelka přirovnala k americkému generálu Curtisu LeMayovi, který za studené války opakovaně volal po použití jaderných zbraní proti SSSR, zejména během kubánské krize.
Taková „diplomacie ve stylu LeMaye" zabudovaná do systémů, které radí skutečným politickým činitelům, představuje obrovské riziko. AI nepociťuje strach, nemá rodinu, nebojí se odplaty. Optimalizuje scénáře na základě dat — a velká část lidských dějin je plná konfliktů, závodů ve zbrojení a logiky odstrašování.
Pokud trénujeme algoritmy na datech, v nichž jaderná hrozba po desetiletí platila za účinný nástroj nátlaku, neměli bychom se divit, že v krizi doporučují použití téže zbraně.
Tady se skrývá základní paradox. Tvůrci AI se snaží navrhovat systémy, které budou „racionální" a „efektivní". Historie ovšem ukazuje, že z vojenského hlediska se brutální kroky krátkodobě jeví jako účinné. Model, který sleduje jen čísla, může dospět k závěru, že rychlý a drastický úder problém vyřeší. Nebere však v potaz plný rozsah lidského utrpení, traumat, dlouhodobých politických ani ekologických dopadů.
Člověk má zůstat „v rozhodovací smyčce". Ale jak dlouho?
Jako reakci na tato varování Pentagon prohlašuje, že konečné rozhodnutí o použití síly — zejména jaderné — vždy zůstane v rukou člověka. Umělá inteligence má velitele podporovat, analyzovat data a navrhovat možnosti, nikoli sama mačkat „červené tlačítko".
V praxi se ale hranice mezi poradenstvím a rozhodováním snadno stírá. Čím složitější jsou zbraňové systémy, tím větší je tlak předávat strojům další a další fáze rozhodovacího procesu. Zejména v situacích, kde záleží na sekundách — například při detekci potenciálního raketového útoku.
- AI dokáže analyzovat data ze satelitů a radarů rychleji než celé týmy analytiků.
- Algoritmy jsou schopny simulovat stovky variant odpovědí během okamžiku.
- Tlak na to „nepromeškat útok" přirozeně svádí k automatizaci reakcí.
- Unavení a přetížení důstojníci mohou bezmyšlenkovitě důvěřovat doporučením systému.
V takové realitě sice formálně rozhodnutí učiní člověk, ale ve skutečnosti se opírá o návrh AI a málokdy má čas ho důkladně zpochybnit. Obzvláště tehdy, když celá infrastruktura — od průzkumu přes logistiku až po komunikaci — už funguje na bázi automatizovaných řešení.
Závod ve zbrojení na algoritmické úrovni
Spojené státy nejsou zdaleka jedinou zemí, která investuje obrovské prostředky do vojenského využití AI. Za klíčové rivaly jsou dnes označovány především Čína a Rusko. Obě mocnosti otevřeně hovoří o strategickém významu této technologie pro armádu a intenzivně ji zavádějí do praxe.
Výsledkem je, že každá velmoc se obává, že pokud bude opatrnější, zaostane za ostatními. Závod o rychlost vývoje se stává důležitějším než zamyšlení nad bezpečností. Jde o klasický mechanismus dobře známý z dějin jaderných zbraní: nikdo nechce být ten, kdo „zmeškal" novou technologii, i kdyby s sebou nesla obrovské riziko pro celé lidstvo.
Čím hlouběji armády postaví své velitelské systémy na AI, tím blíže se tato technologie dostane k jadernému arzenálu — i v centrech velení a v postupech pro reakci na krize.
Jak by mohla vypadat jaderná krize s AI v pozadí
Odborníci popisují několik scénářů, v nichž by umělá inteligence mohla vést ke katastrofálním rozhodnutím. Nejde jen o samostatné odpálení raket, ale o řetěz chyb, opomenutí a přílišné důvěry v systém.
| Scénář | Role AI | Možné následky |
|---|---|---|
| Falešný raketový poplach | Chybná interpretace dat z radarů a satelitů | Tlak na okamžitou odvetu, roste riziko „výstřelu pro jistotu" |
| Eskalace regionálního konfliktu | Doporučení agresivních kroků „pro ukázku síly" | Rychlý přechod od lokálního sporu ke střetu velmocí |
| Kyberútok na infrastrukturu | AI spojí výpadky s nepřátelskými vojenskými akcemi | Ozbrojená odpověď na incident, který neměl vojenský charakter |
| Chyby v simulacích | Podhodnocení rozsahu protiútoku protivníka | Souhlas s „omezeným" použitím jaderných zbraní, které vymkne kontrole |
V každém z těchto případů zůstává člověk teoreticky poslední instancí, avšak AI filtruje informace, přiřazuje pravděpodobnosti a navrhuje scénáře. Pokud se model učil na datech, v nichž síla a odstrašování vítězily nad smírností, bude s vysokou pravděpodobností směřovat stejným směrem i v budoucnu.
Dá se naprogramovat „mírová" umělá inteligence?
Na úrovni deklarací mnoho technologických firem i vojenských institucí hovoří o etické AI. Problém spočívá v tom, že v praxi neexistuje jednoduchý recept na algoritmus, který vždy upřednostní diplomacii před silou. Jazykové modely a rozhodovací systémy pracují s textem, čísly a historickými daty — a v tomto materiálu najdeme jak mírové smlouvy, tak plány bombardování.
Inženýři mohou zkusit omezit přístup k podrobným informacím o zbraních nebo zabudovat pevná pravidla vylučující návrhy jaderných útoků. Taková „pojistky" ale fungují jen do určité míry. V krizových situacích mohou mít vojenské verze systémů odlišné priority než veřejně dostupné chatboty určené běžným uživatelům.
Pokud budou politici a generálové od AI očekávat nikoli opatrnost, ale převahu nad protivníkem, tlak na „rozhodnější" doporučení se dostaví přirozeně. Modely, které budou „příliš smířlivé", mohou být považovány za málo užitečné na bojišti.
Proč stojí za to brát varování vědců vážně
V debatě o AI se často soustředíme na každodenní hrozby: dezinformace, deepfake videa nebo ztrátu pracovních míst. Riziko jaderné katastrofy se zdá vzdálené, až filmové. Výzkumy jako ty ze Stanfordu nám ale připomínají, že v pozadí se skrývá mnohem temnější sázka.
Umělá inteligence se nemusí „vzbouřit" hollywoodským způsobem, aby způsobila tragedii. Stačí soubor špatně nastavených motivací, nevhodně zvolená tréninková data a skupina rozhodovatelů, kteří příliš důvěřují elegantním grafům generovaným algoritmem.
Pro běžného člověka může tato diskuse působit abstraktně, její výsledky se však promítnou do skutečných rozhodnutí vlád. Čím hlasitěji dnes odborníci upozorňují na limity AI v armádě, tím větší je šance, že politici v rané fázi zakotvují do obranných strategií železné pravidlo: žádná technologie, byť sebelepší, nesmí samostatně rozhodovat o osudu celé planety.
Stojí za to si připomenout, že to, čemu se AI „učí" z lidské historie, závisí na nás samotných. Chceme-li, aby budoucí rozhodovací systémy v jaderných krizích více zohledňovaly humanitární náklady a dlouhodobé důsledky, musíme je krmit jiným příběhem než jen logikou vojenského vítězství. Jinak umělá inteligence pouze posílí ty nejhorší lidské reflexy — ty, které se dosud dařilo brzdit výhradně díky pudu sebezáchovy hrstky rozhodovatelů.
