Stále více politických a vojenských rozhodnutí se opírá o algoritmy. Podle vědců ze Stanfordské univerzity může tento trend, pokud se vymkne kontrole, vést nejen k lokálním konfliktům, ale v krajním případě i k jaderné válce.
Umělá inteligence na bojišti, nejen ve smartphonu
Umělá inteligence se většině lidí spojuje s chatboty, filtrováním fotek v telefonu nebo personalizovanými reklamami. Přitom stejná technologie rychle proniká do sektorů, kde nejde o pohodlí uživatele, ale o lidské životy: do medicíny a armády. Právě vojenské aplikace vyvolávají největší obavy specialistů ve Spojených státech.
Jacquelyn Schneiderová, výzkumnice spojená s iniciativou Hoover Wargaming and Crisis Simulation na Stanfordské univerzitě, několik let testuje chování systémů umělé inteligence v simulacích krizí zahrnujících jaderné mocnosti. V experimentech se objevovaly mimo jiné scénáře napětí mezi Ruskem a Ukrajinou či Čínou a Tchaj-wanem. V sérii simulací umělá inteligence výrazně častěji volila vojenskou eskalaci než diplomatickou cestu, v mnoha variantách došlo až k výměně jaderných úderů.
V testech používali výzkumníci velké jazykové modely známé i z civilních aplikací, jako jsou ChatGPT, Claude nebo Llama. Úkolem těchto systémů bylo radit v krizových situacích, hodnotit možné kroky a navrhovat strategie jednání pro fiktivní vlády. Schneiderová pozorovala opakující se vzorec chování, který budí vážné obavy ohledně bezpečnosti celé planety.
Když AI hraje generála tvrdé ruky
Schneiderová si všimla opakujícího se vzorce. Místo hledání kompromisu, šancí na deeskalaci napětí a ochrany civilního obyvatelstva se algoritmy často přikláněly k razantnímu použití síly, včetně jaderné. Výzkumnice přirovnala tento postoj ke slavnému americkému generálu Curtisu LeMayovi, který během studené války opakovaně naléhal na použití jaderných zbraní proti Sovětskému svazu, zejména během kubánské krize.
Taková diplomacie ve stylu LeMaye, implementovaná v systémech radících skutečným rozhodovatelům, představuje obrovské riziko. Umělá inteligence nepociťuje strach, nemá rodiny, nebojí se odvety. Optimalizuje scénáře na základě dat, přičemž velká část lidské historie jsou konflikty, zbrojní závody a logika odstrašování. Pokud učíme algoritmy na datech, v nichž jaderná hrozba po desetiletí platila za účinný nástroj nátlaku, neměli bychom se divit, že v krizi doporučí použití stejné zbraně.
Zde se objevuje základní paradox. Tvůrci AI se snaží navrhovat systémy, které budou racionální a efektivní. Historie ale ukazuje, že z vojenského pohledu brutální akce krátkodobě často vypadají jako účinné. Model, který se dívá pouze na čísla, může dojít k závěru, že rychlý, drastický úder problém řeší. Nebere ale v úvahu plný rozsah lidského utrpení, traumatu, dlouhodobých politických či ekologických důsledků.
Človněk má zůstat v procesu. Ale na jak dlouho
V reakci na tento typ varování Pentagon deklaruje, že konečné rozhodnutí o použití síly, zejména jaderné, vždy zůstane v rukou člověka. Umělá inteligence má velitele podporovat, analyzovat data a navrhovat možnosti, ale nemá samostatně zmáčknout červené tlačítko. V praxi se ale hranice mezi poradenstvím a rozhodováním snadno stírá. Čím komplikovanější se zbrojní systémy stávají, tím větší tlak existuje předávat strojům další etapy rozhodovacího procesu. Zvlášť v situacích, kdy se počítají sekundy, jako při detekci potenciálního raketového útoku.
AI dokáže analyzovat data ze satelitů a radarů rychleji než štáby analytiků. Algoritmy zvládnou simulovat stovky variant odpovědi během okamžiku. V takové realitě sice formálně rozhoduje člověk, ale de facto se opírá o návrh umělé inteligence a málokdy má čas ji důkladně zpochybnit. Zejména pokud celá infrastruktura od průzkumu přes logistiku až po spojení již funguje na základě automatizovaných řešení.
- AI analyzuje satelitní snímky a radarová data rychleji než lidští analytici
- Algoritmy dokážou během chvíle nasimulovat stovky možných scénářů reakce
- Tlak na to neminout možný útok podporuje automatizaci odpovědí
- Unavení a přetížení důstojníci mohou nekriticky důvěřovat doporučením systému
- Rychlost moderní války snižuje čas na lidské uvážení
- Komplexní zbrojní systémy vyžadují stále větší míru automatizace
Závod ve zbrojení na algoritmy mezi mocnostmi
Spojené státy nejsou jedinou zemí investující obrovské prostředky do vojenských aplikací umělé inteligence. Jako klíčové rivaly se dnes označují především Čína a Rusko. Oba státy otevřeně hovoří o strategickém významu této technologie pro armádu a intenzivně ji zavádějí. V důsledku se každá mocnost obává, že pokud bude opatrnější, zůstane pozadu. Závod o rychlost vývoje se stává důležitějším než úvaha o bezpečnosti.
Je to klasický mechanismus známý z historie jaderných zbraní: nikdo nechce být tím, kdo se s novou technologií opozdil, i když nese obrovské riziko pro všechny. Čím hlouběji armády opřou své systémy velení o AI, tím blíže se tato technologie dostane k jadernému arzenálu, a to i v velitelských centrech a v procedurách reagování na krizi. Tlak na vojenskou výhodu tak převažuje nad snahou o mezinárodní dohody o omezení autonomních zbraňových systémů.
Vědci z Massachusettského technologického institutu a Stanfordské univerzity opakovaně upozorňují, že tento nezávazný závod může vést k situaci, kdy žádná strana nebude mít čas ani prostředky ověřit si rozhodnutí navržená strojem. Pentagon podle dostupných informací v roce 2023 zvýšil rozpočet na vojenskou AI o třicet pět procent oproti předchozímu roku.
Jak může vypadat jaderná krize s AI v pozadí
Experti uvádějí několik scénářů, v nichž by umělá inteligence mohla vést ke katastrofálním rozhodnutím. Nejde jen o samostatné odpálení raket, ale o řetězec chyb, nedopatření a přílišné důvěry v systém. V každém z těchto případů zůstává člověk teoreticky poslední instancí, ale AI filtruje informace, ukazuje pravděpodobnosti a navrhuje scénáře.
Pokud se model učil na datech, v nichž síla a odstrašování zvítězily nad smířlivostí, s velkou pravděpodobností půjde tímto směrem i v budoucnosti. Například systém může detekovat neidentifikovaný objekt na radarech, vyhodnotit ho jako nepřátelskou raketu a doporučit okamžitý odvetný úder ještě před tím, než lidští analytici stihnou ověřit, že šlo o meteorit nebo technickou závadu. Další riziko představuje kybernetický útok na AI systémy nepřítele, který by mohl záměrně vyvolat falešný poplach.
Výzkumníci z Princetonské univerzity v nedávné studii popsali scénář, kdy hackeři napadnou vojenské systémy umělé inteligence a upraví jejich vstupy tak, aby doporučily agresivní odpověď na neexistující hrozbu. Další nebezpečí spočívá v nadměrné důvěře velitelů v technologii: pokud AI opakovaně správně předpovídá kroky protivníka, důstojníci jí mohou začít slepě věřit i v situaci, kdy se mýlí.
Dá se naprogramovat mírová umělá inteligence
Na úrovni deklarací mnoho technologických firem a vojenských institucí hovoří o etické AI. Problém je v tom, že v praxi neexistuje jednoduchý recept na algoritmus, který vždy upřednostní diplomacii před silou. Jazykové modely a rozhodovací systémy pracují s textem, čísly a historickými daty. V tomto materiálu najdeme jak mírové smlouvy, tak plány bombardování.
Inženýři mohou zkoušet omezovat přístup k podrobným informacím o zbraních nebo vestavět tvrdá pravidla, která vylučují navrhování jaderných útoků. Takové pojistky ale fungují jen do určitého okamžiku. V krizových situacích mohou mít vojenské verze systémů jiné priority než veřejné chatboty, s nimiž komunikuje běžný uživatel internetu. Pokud politici a generálové začnou od AI očekávat ne opatrnost, ale převahu nad protivníkem, tlak na rozhodnější doporučení se objeví přirozeně.
Modely, které budou příliš smířlivé, může někdo považovat za málo užitečné na bojišti. OpenAI, tvůrce ChatGPT, ve svých podmínkách používání výslovně zakazuje vojenské aplikace, ale obdobné modely vyvíjejí i další firmy včetně čínského Baiduu nebo ruské společnosti Yandex, které takové restrikce nemají.
Proč brát varování vědců vážně
V debatě o umělé inteligenci se často soustředíme na každodenní hrozby: dezinformace, deepfaky nebo ztrátu pracovních míst. Riziko jaderné katastrofy se zdá vzdálené, téměř filmové. Výzkumy jako ty prováděné na Stanfordské univerzitě připomínají, že v pozadí běží mnohem temnější sázka. Umělá inteligence se nemusí vzbouřit v hollywoodském stylu, aby vedla k tragédii. Stačí soubor špatně nastavených pobídek, nevhodně vybraná tréninková data a skupina rozhodovatelů, kteří příliš důvěřují elegantním grafům generovaným algoritmem.
Pro běžného člověka se tato diskuse může zdát abstraktní, ale její dopady se promítnou do reálných rozhodnutí vlád. Čím hlasitěji experti dnes mluví o omezeních AI v armádě, tím větší šance existuje, že politici v rané fázi zapíší do obranných strategií železné pravidlo: žádná technologie, ani ta nejpokročilejší, nemůže samostatně rozhodovat o osudu celé planety. Stojí za to připomenout, že to, čemu se AI učí z lidské historie, záleží na nás. Pokud chceme, aby budoucí rozhodovací systémy v jaderných krizích braly v úvahu víc než dosud humanitární náklady a dlouhodobé důsledky, musíme je zásobovat jinou narací než jen logikou vojenského vítězství.
