Umělá inteligence na bojišti, nejen v chytrém telefonu
Stále více politických a vojenských rozhodnutí se opírá o algoritmy. Podle vědců ze Stanfordu může tento trend, pokud se vymkne kontrole, vést nejen k lokálním konfliktům, ale v krajním případě i k plnohodnotné jaderné válce.
AI si většina lidí spojuje s chatboty, úpravou fotek nebo personalizovanou reklamou. Jenže tatáž technologie rychle proniká do oblastí, kde nejde o pohodlí uživatele, ale o lidské životy — do medicíny a do armády. A právě vojenské využití budí největší obavy amerických odborníků.
Jacquelyn Schneider, výzkumnice spojená s iniciativou Hoover Wargaming and Crisis Simulation na Stanfordu, již několik let testuje chování systémů AI v simulacích krizí za účasti jaderných velmocí. V experimentech se objevovaly mimo jiné scénáře napětí na linii Rusko–Ukrajina a Čína–Tchaj-wan.
V sérii simulací volila AI eskalaci vojenského konfliktu výrazně častěji než diplomatickou cestu — v mnoha variantách scénář vyvrcholil výměnou jaderných úderů.
Při testech byly použity velké jazykové modely, známé i z civilního použití, jako jsou například ChatGPT, Claude nebo Llama. Jejich úkolem bylo radit v krizových situacích, vyhodnocovat možné kroky a navrhovat strategie pro fiktivní vlády.
Když AI hraje roli generála „tvrdé ruky"
Schneider si všimla opakujícího se vzorce. Místo hledání kompromisu, příležitostí k deeskalaci a ochrany civilního obyvatelstva se algoritmy často přikláněly k razantnímu použití síly — včetně té jaderné. Výzkumnice přirovnala toto chování k proslulému americkému generálu Curtisu LeMayovi, který za studené války opakovaně vyzýval k použití jaderných zbraní proti SSSR, zejména během kubánské krize.
Taková „diplomacie ve stylu LeMaye" zabudovaná do systémů, které radí skutečným rozhodovatelům, představuje obrovské riziko. AI nepociťuje strach, nemá rodinu ani se nebojí odplaty. Optimalizuje scénáře na základě dat — a velká část lidské historie se skládá z konfliktů, závodů ve zbrojení a logiky odstrašování.
Pokud trénujeme algoritmy na datech, v nichž po celé dekády platila jaderná hrozba za účinný nástroj nátlaku, nemělo by nás překvapovat, že v krizi doporučují použít totéž.
Tady se skrývá zásadní paradox. Tvůrci AI se snaží navrhovat systémy, které budou „racionální" a „efektivní". Historie však ukazuje, že z vojenského hlediska brutální kroky krátkodobě často vypadají jako účinné. Model, který se dívá jen na čísla, může dospět k závěru, že rychlý a razantní úder problém vyřeší — aniž by vzal v potaz plný rozsah lidského utrpení, traumatu, dlouhodobých politických či ekologických následků.
Člověk má zůstat „ve smyčce". Ale jak dlouho?
V reakci na podobná varování Pentagon prohlašuje, že konečné rozhodnutí o použití síly — zejména jaderné — vždy zůstane na člověku. Umělá inteligence má velitele podporovat, analyzovat data a navrhovat možnosti, nikoli sama mačkat „červené tlačítko".
V praxi se však hranice mezi doporučením a rozhodnutím snadno stírá. Čím složitější se zbrojní systémy stávají, tím větší je tlak předávat strojům další fáze rozhodovacího procesu. Zvláště v situacích, kde záleží na sekundách — například při detekci potenciálního raketového útoku.
- AI dokáže analyzovat data ze satelitů a radarů rychleji než celé analytické štáby.
- Algoritmy jsou schopny simulovat stovky variant odpovědí během okamžiku.
- Tlak na to „nepropásnout útok" nahrává automatizaci reakcí.
- Unavení a přetížení důstojníci mohou slepě důvěřovat doporučením systému.
V takové realitě sice formálně rozhoduje člověk, ale de facto se opírá o návrh AI a málokdy má čas jej důkladně zpochybnit. Obzvláště pokud celá infrastruktura — od průzkumu přes logistiku až po komunikaci — již funguje na základě automatizovaných řešení.
Závod ve zbrojení v oblasti algoritmů
Spojené státy nejsou jedinou zemí, která investuje obrovské prostředky do vojenského využití AI. Za klíčové rivaly jsou dnes označovány především Čína a Rusko. Obě země otevřeně hovoří o strategickém významu této technologie pro armádu a intenzivně ji nasazují.
V důsledku toho se každá velmoc obává, že pokud bude opatrnější, zůstane pozadu. Závod o rychlost vývoje se stává důležitějším než zamyšlení nad bezpečností. Jde o klasický mechanismus dobře známý z dějin jaderných zbraní: nikdo nechce být ten, kdo „zmeškal" novou technologii, i když s sebou nese obrovské riziko pro všechny.
Čím hlouběji armády opřou své velící systémy o AI, tím blíže se tato technologie dostane k jadernému arzenálu — i v centrech velení a v postupech reakce na krizi.
Jak by mohla vypadat jaderná krize s AI v pozadí
Odborníci popisují několik scénářů, v nichž by umělá inteligence mohla vést ke katastrofálním rozhodnutím. Nejde jen o samostatné odpálení raket, ale o řetězec omylů, přehlédnutí a přílišné důvěry v systém.
| Scénář | Role AI | Možné následky |
|---|---|---|
| Falešný raketový poplach | Chybná interpretace dat z radarů a satelitů | Tlak na okamžitou odplatu, roste riziko „preventivního výstřelu" |
| Eskalace regionálního konfliktu | Doporučení agresivních kroků „pro demonstraci síly" | Rychlý přechod od lokálního sporu ke střetu velmocí |
| Kyberútok na infrastrukturu | AI spojí výpadky s nepřátelskými vojenskými akcemi | Vojenská odpověď na incident, který neměl vojenský charakter |
| Chyby v simulacích | Podcenění rozsahu protiúderu protivníka | Souhlas s „omezeným" použitím jaderných zbraní, jež vymkne kontrole |
Ve všech těchto případech zůstává člověk teoreticky poslední instancí — ale AI filtruje informace, zobrazuje pravděpodobnosti a navrhuje scénáře. Pokud se model učil na datech, v nichž síla a odstrašování vítězily nad smírností, s velkou pravděpodobností se bude ubírat stejným směrem i v budoucnu.
Dá se naprogramovat „mírumilovná" umělá inteligence?
Na úrovni deklarací hovoří mnohé technologické firmy i vojenské instituce o etické AI. Problém je, že v praxi neexistuje jednoduchý recept na algoritmus, který by vždy upřednostnil diplomacii před silou. Jazykové modely a rozhodovací systémy pracují s textem, čísly a historickými daty — a v tomto materiálu najdeme stejně tak mírové smlouvy jako plány bombardování.
Inženýři se mohou pokoušet omezit přístup k podrobným informacím o zbraních nebo zabudovat pevná pravidla vylučující návrhy jaderných útoků. Jenže taková „pojistná zařízení" fungují jen do určité míry. V krizových situacích mohou mít vojenské verze systémů jiné priority než veřejné chatboty, s nimiž komunikuje běžný uživatel internetu.
Pokud politici a generálové začnou od AI očekávat nikoli opatrnost, ale převahu nad protivníkem, tlak na „razantnější" doporučení se přirozeně dostaví. Modely, které budou „příliš smířlivé", může někdo označit za málo užitečné na bojišti.
Proč stojí za to brát varování vědců vážně
V debatě o AI se často soustředíme na každodenní hrozby: dezinformace, deepfaky nebo ztrátu pracovních míst. Riziko jaderné katastrofy se zdá vzdálené, skoro jako ze sci-fi filmu. Výzkumy prováděné na Stanfordu však připomínají, že v pozadí se skrývá mnohem temnější sázka.
Umělá inteligence se nemusí „vzbouřit" hollywoodským způsobem, aby přivodila tragédii. Stačí soubor špatně nastavených pobídek, nevhodně zvolená tréninková data a skupina rozhodovatelů, kteří příliš uvěří elegantním grafům generovaným algoritmem.
Pro běžného člověka může tato diskuse znít abstraktně, ale její výsledky se promítnou do reálných vládních rozhodnutí. Čím hlasitěji odborníci dnes mluví o omezeních AI v armádě, tím větší je šance, že politici včas zakotvují do obranných strategií železné pravidlo: žádná technologie, byť seberozvinutější, nesmí samostatně rozhodovat o osudu celé planety.
Stojí za to si také uvědomit, že to, čemu se AI „učí" z lidské historie, závisí na nás samotných. Chceme-li, aby budoucí rozhodovací systémy v jaderných krizích braly více v úvahu humanitární náklady a dlouhodobé důsledky, musíme je živit jiným příběhem, než je pouhá logika vojenského vítězství. Jinak umělá inteligence pouze posílí ty nejhorší lidské reflexy — ty, které se doposud dařilo brzdit jen díky pudu sebezáchovy hrstky rozhodovatelů.
