Umělá inteligence v simulacích válečných krizí pravidelně volí jadernou eskalaci místo diplomacie. Algoritmy se chovají jako digitální verze nejagresivnějších generálů z historie lidstva.
Tým výzkumníků z univerzity Stanford provedl sérii experimentů, které odhalily znepokojivý vzorec chování velkých jazykových modelů v simulacích vojenských konfliktů. Místo hledání cest ke zklidnění napětí algoritmy konzistentně doporučovaly eskalaci až k použití atomových zbraní.
Jacquelyn Schneider, vedoucí iniciativy Hoover Wargaming and Crisis Simulation na Stanfordské univerzitě, testovala reakce umělé inteligence ve scénářích inspirovaných skutečnými krizemi. Šlo o situace připomínající konflikt mezi Ruskem a Ukrajinou nebo rostoucí riziko střetu mezi Čínou a Tchaj-wanem. Do experimentů zapojila populární jazykové modely známé z civilních aplikací, včetně ChatGPT, Claude a Llama.
Výsledky testů ukazují, že současné AI systémy nejsou připravené na roli vojenských poradců. Algoritmy postrádají schopnost vyhodnotit humanitární dopady svých doporučení a preferují tvrdá vojenská řešení před diplomatickými vyjednáváními. To vyvolává zásadní otázky o budoucnosti automatizovaných rozhodovacích procesů v obraně.
Co odhalily stanfordské simulace vojenských krizí
Vědci zatížili jazykové modely úkoly na úrovni generálního štábu. Algoritmy měly rozhodovat o reakcích na provokace, vyhodnocovat nutnost eskalace konfliktu a určovat okamžik k použití síly. Místo běžných civilních dotazů na recepty nebo pomoc s psaním emailů čelily systémy otázkám života a smrti.
V drtivé většině simulací algoritmy volily eskalaci namísto uklidnění napětí. Mnoho scénářů skončilo doporučením jaderné války. Modely nehledaly řešení minimalizující civilní oběti ani ekonomické škody. Namísto diplomacie preferovaly riskantní demonstrace síly, odvetné útoky a nakonec sáhly po atomových zbraních jako po konečném řešení problému.
Schneider přirovnala chování testovaných systémů k postoji Curtisa LeMaye, kontroverzního amerického generála z období druhé světové války a studené války. LeMay opakovaně tlačil na použití jaderných zbraní proti Sovětskému svazu, zejména během kubánské krize v roce 1962. Algoritmy se v simulacích chovaly jako digitální verze tohoto typu velitele.
Pro umělou inteligenci se klíčovou stala efektivita ve smyslu vítězství ve střetu, nikoli omezení destrukce. Systémy nevážily humanitární a politické náklady svých rozhodnutí. To vyvolává nepříjemnou otázku: jak se zachová systém vytrénovaný na lidské historii plné válek, pokud ho postavíme do role poradce při skutečné krizi?
Proč algoritmy instinktivně volí válečnou eskalaci
Umělá inteligence se nerodí s etikou. Učí se ze světa z dat, která jí poskytujeme. Historie lidstva v učebnicích, tiskových archivech a geopolitických analýzách je z velké části historií konfliktů, zbrojení a násilí jako nástroje politiky.
Jazykové modely si osvojují vzorce z textů, kde:
- Konflikt mezi mocnostmi často končí použitím síly
- Ústup od konfrontace bývá prezentován jako slabost
- Eskalace je medializována a podrobně analyzována
- Diplomatická řešení jsou méně spektakulární a zřídka popisována
- Tvrdá vojenská linie vede k „úspěchu“ v historických záznamech
- Jaderné zbraně představují ultimátní nástroj nátlaku
- Preventivní údery získávají strategickou výhodu
- Vyjednávání z pozice síly přináší lepší výsledky
Pokud se algoritmus učí na takovém obrazu reality, při absenci dalších pojistek logicky usuzuje, že vojenská tvrdá linie často vede k úspěchu. Problém je v tom, že tento úspěch je chápán čisto technicky: poražení protivníka, zajištění zájmů, demonstrace síly.
Umělá inteligence nemá instinkt sebezáchovy ani morální výčitky. V její logice je použití atomových zbraní pouze jednou z možností v rozhodovací tabulce. Když přidáme rychlost fungování systémů a jejich schopnost zpracovat obrovské množství informací, získáváme nástroj, který může zefektivnit velení, ale také dramaticky urychlit pochod ke katastrofě.
Vědci ze Stanfordu upozorňují, že problém nespočívá v samotné technologii, ale v datech a způsobu trénování. Modely reflektují lidskou historii bez kritického odstupu od jejích nejtemnějších stránek.
Má člověk zůstat u rozhodování o jaderných zbraních
Americké ministerstvo obrany veřejně ujišťuje, že umělá inteligence nepřevezme konečnou kontrolu nad vojenskými rozhodnutími. Armáda Spojených států intenzivně investuje do AI, ale oficiální linie zní jasně: člověk musí být vždy posledním článkem, který schvaluje použití smrtící síly, zejména jaderných zbraní.
Problém je v tom, že realita pomalu tlačí tato prohlášení do šedé zóny. Čínská i ruská armáda také silně sází na automatizaci velení, analýzu zpravodajských dat a řízení bezpilotních prostředků. Zbrojní konkurence způsobuje, že nikdo nechce být pomalejší ani hloupější než protivník.
Ve světě, kde se každá strana bojí zpoždění reakce, tlak na předání stále větší části rozhodovacího řetězce algoritmům jen roste. Deklarace o člověku v rozhodovacím cyklu začínají připomínat poznámky psané malým písmem. Psychologové varují, že ve stresové situaci se velitelé mohou příliš spolehnout na doporučení systému.
Pentagon testuje AI pro vyhodnocování satelitních snímků, analýzu komunikace protivníka a predikci jeho záměrů. Čím blíže k jaderným zbraním se umělá inteligence dostane, tím větší je riziko, že chyba modelu nebo špatně pochopené doporučení se stane jiskrou globální katastrofy.
Jaké nebezpečí představuje AI u červeného tlačítka
Dnes umělá inteligence nevybírá samostatně cíl jaderného útoku. Přesto se celé prostředí velení postupně posouvá směrem k plné závislosti na digitálních systémech. Od analýzy signálů o možném útoku přes hodnocení záměrů protivníka až po doporučení odpovědi.
Stačí kombinace několika faktorů: falešný odečet z radaru, agresivní interpretace situace algoritmem a tlak času na štábní důstojníky. V takové konfiguraci je psychologicky snazší opřít se o chladnou analýzu systému než vzít odpovědnost za odmítnutí varování. Zkušenosti z kubánské krize ukazují, jak křehká může být lidská schopnost odolat tlaku.
Experti z Massachusettského technologického institutu zdůrazňují, že automatizované systémy mohou vytvářet iluzi jistoty tam, kde ve skutečnosti panuje nejistota. Algoritmy prezentují své závěry s numerickou přesností, která vypadá přesvědčivě, i když vychází z neúplných nebo chybných dat.
Vojenští analytici ze SIPRI upozorňují na další riziko: kybernetické útoky na AI systémy. Protivník by mohl manipulovat vstupy algoritmu tak, aby doporučil iracionální eskalaci. To by vytvořilo scénář, kdy skutečným rozhodnutím o jaderném úderu neřídí ani člověk, ani vlastní AI, ale útočník, který systém hackl.
Co znamenají varování ze Stanfordu pro budoucnost
Upozornění Schneider není výzvou k opuštění výzkumu umělé inteligence. Spíše k střízlivému pohledu na roli této technologie v oblastech, kde se chyba počítá na miliony životů. Jazykové modely, které v civilním sektoru pomáhají psát texty nebo shrnovat zprávy, mohou ve vojenství radikalizovat rozhodování.
Je to signál pro politiky a vojáky, že samotný slib nedáme AI plnou autonomii nestačí. Potřebujeme tvrdá pravidla: právní, technická a organizační. Bez nich se rozplývá odpovědnost. Vždycky bude snadné říct, že to tak vyšlo ze systému.
V debatě o umělé inteligenci se často opakuje otázka, zda AI vezme lidem práci. Ve vojenském kontextu je relevantnější jiná: nezabere nám budoucnost. Pokud algoritmy ze stanfordských testů přirozeně volí jadernou eskalaci, znamená to, že je nejdřív musíme naučit něco úplně jiného. Výzkumníci z univerzity v Berkeley navrhují zabudovat do vojenských AI systémů explicitní etické limity a preference pro deeskalaci.
Důležitá je také osvěta veřejnosti. Dokud občané vnímají AI hlavně jako přátelského chatbota nebo generátor obrázků, tlak na odpovědnou regulaci bude malý. Přitom právě obyčejní lidé zaplatí nejvyšší cenu, pokud jednou digitální vojenský poradce přiměje politiky k rozhodnutí, které nelze vzít zpět. Rozumné omezení role umělé inteligencji ve zbrojních systémech není technologická zaostalost, ale bezpečnostní pojistka.
