Vojenská umělá inteligence rozbouřila celé odvětví
Za pouhých několik dní ukázalo celé odvětví AI, jak mocně dokáže téma vojenského využití umělé inteligence rozzlobit běžné uživatele. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a vzápětí ji ve spěchu upravovalo — poté, co statistiky odinstalací ChatGPT vyskočily o téměř 300 procent.
Odvážné „ne" od Anthropicu a hněv Pentagonu
Celý příběh začal u firmy Anthropic, tvůrce modelu Claude, které ležela na stole podobná nabídka spolupráce. Pentagon chtěl zapojit jejich umělou inteligenci do systémů analyzujících v reálném čase obrovské množství dat — od satelitních snímků až po zpravodajské zprávy — s cílem zrychlit rozhodování na bojišti.
Anthropic ale stanovil dvě velmi tvrdé etické hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, tedy takových, kde stroj sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných amerických občanů.
Anthropic souhlasil se spoluprací s armádou pouze v případech, kde má člověk skutečnou kontrolu nad konečným rozhodnutím a kde zcela chybí prvek masového sledování.
Tyto podmínky se z vojenského pohledu ukázaly jako nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu ke státním zakázkám. Firma si vybudovala pověst „tvrdošíjně etické" společnosti, avšak přišla o potenciálně velmi výnosný trh.
Situaci dále komplikuje skutečnost, že podle mediálních zdrojů je Claude přesto využíván v operacích spojených s napětím mezi USA, Izraelem a Íránem — a to i přes formální vyřazení firmy z výběrových řízení. Pentagon tyto zprávy nekomentuje, takže mnoho otázek zůstává bez odpovědi.
OpenAI podepisuje to, co Anthropic odmítl
Jakmile Anthropic řekl ne, vstoupilo do hry OpenAI. V pátek byla podepsána smlouva, která v praxi zaplnila mezeru po konkurentovi. ChatGPT má být nasazen v obranných aplikacích, přičemž podrobnosti kontraktu zůstávají zčásti utajeny.
Sam Altman, šéf OpenAI, vydal následující den prohlášení, v němž tvrdil, že sjednaná záruky jsou prý přísnější než ty, s nimiž byl ochoten souhlasit Anthropic. Toto sdělení mělo firmu obhájit, ale v očích mnoha lidí působilo spíše jako snaha těžit z „zásadovosti" rivala.
Reakce uživatelů byla okamžitá. Data společnosti Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se objevila obvinění ze zrady deklarovaných hodnot a z podlehnutí vojenským zakázkám.
Během několika málo dní přestal být ChatGPT v očích mnoha lidí symbolem „odpovědné AI" a stal se nástrojem spojeným s vojenskou mašinérií.
V pondělí Altman vystoupil v roli „viníka, který přiznává chybu". Veřejně prohlásil, že komunikace byla uspěchaná a nepromyšlená a že celá věc působila čistě oportunisticky. Zároveň oznámil úpravy smlouvy s ministerstvem obrany.
Co konkrétně OpenAI slíbilo napravit
Pod tlakem veřejného mínění a rostoucího bojkotu zapracovalo OpenAI do smlouvy několik velmi konkrétních ustanovení. Nejdůležitější z nich se týkají sledování amerických občanů a přístupu zpravodajských služeb k modelům.
- Výslovný zákaz vědomého využívání systémů OpenAI ke sledování obyvatel Spojených států.
- Blokace automatického přístupu pro zpravodajské agentury — jako je NSA — bez samostatné, veřejně dohodnuté změny smlouvy.
- Deklarace, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.
Jde o částečné přiblížení k přístupu Anthropicu, avšak rozdíl je zřetelný: Anthropic raději obětoval zakázky, než aby ustoupil požadavkům Pentagonu. OpenAI naopak zvolilo cestu doplnění omezení a zachování spolupráce.
Proč armáda o umělou inteligenci tak stojí
Za celým příběhem stojí širší vize moderních ozbrojených sil. Platformy budované mimo jiné firmou Palantir už nyní integrují data z mnoha zdrojů — senzorů, dronů, satelitů a zpravodajských zpráv — a předkládají velitelům hotová doporučení.
Podle zástupců tohoto odvětví podobné systémy umožňují:
| Účel využití AI | Přínos pro armádu |
|---|---|
| Rychlejší analýza dat | Kratší reakční čas na hrozbu |
| Propojení mnoha informačních zdrojů | Lepší přehled o operační situaci |
| Modelování scénářů | Předběžné plánování akcí |
| Automatická detekce cílů | Vyšší efektivita, ale i větší riziko chyb |
Zde se objevuje klíčové napětí: generativní AI bývá omylná, trpí tzv. halucinacemi a dokáže s plnou přesvědčivostí vytvářet nepravdivé informace. V civilních aplikacích to skončí nejvýše trapnou odpovědí v chatu. Na bojišti by to znamenalo smrt nevinných lidí.
ChatGPT ztrácí, Claude raketově roste
Mediální bouře přinesla okamžitý tržní efekt. Když uživatelé mažou aplikaci ChatGPT, mnozí z nich hledají alternativu. Přirozenou volbou se ukázal právě Claude — model, jehož výrobce se s Pentagonem střetl tváří v tvář.
Data z App Store ukazují, že aplikace Anthropicu v sobotu vyskočila na první místo žebříčků stahování a držela se tam nejméně do čtvrtka. Americká média píší, že Claude předčil ChatGPT v počtu nových instalací, což by ještě před několika týdny nikdo nepovažoval za reálné.
Na internetu se rozjela organizovaná kampaň nátlaku na OpenAI. Oblíbenými se staly hashtagy #CancelChatGPT a #QuitGPT, vyzývající k trvalému opuštění produktů firmy, dokud bude spolupracovat s ministerstvem obrany. Některé aktivistické kruhy to vnímají jako test toho, zda je uživatelský tlak schopen skutečně změnit chování gigantů v oblasti AI.
Reputační krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném sloganu: „my jsme neustoupili."
Politici se probouzejí k akci
Na celé dění rychle reagují think tanky a experti na technologickou politiku. Center for American Progress přímo uvádí, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně začal zabývat regulací využití AI armádou.
Podle této organizace by soukromé firmy neměly samy určovat etické hranice — protože budou vždy pod tlakem zisku a tržního podílu. Podobně se vyjadřuje i Mariarosaria Taddeo z Oxfordské univerzity, která poukazuje na to, že „vytlačování" nejobezřetnějšího hráče, jímž je Anthropic, oslabuje bezpečnost celého ekosystému.
Vojenští představitelé se snaží obavy uklidnit. Důstojníci odpovědní za projekty AI v rámci NATO zdůrazňují, že v současných systémech formálně vždy zůstává člověk v rozhodovací smyčce. Jenže čím je AI pokročilejší a „sebejistější", tím psychologicky obtížnější je zpochybnit její doporučení — zvláště ve stresu a pod časovým tlakem.
Proč by se tato kauza měla týkat i běžných uživatelů AI
Pro průměrného uživatele ChatGPT nebo Claude může tato vojenská skládačka znít jako něco velmi vzdáleného. Přitom rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se přímo promítnou do toho, jaké funkce budou mít aplikace v telefonech za několik let.
Pokud budou jazykové modely „vychovány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale zároveň si osvojí předsudky typické pro toto prostředí. Pokud soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelské předplatné, snáze zvolí finanční jistotu před etickými omezeními.
Pro uživatele v České republice je to dobrý okamžik k tomu, aby se podívali, jaké podmínky si do svých obchodních podmínek zapisují firmy nabízející AI i u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tlak trhu nenahradí zákony, ale ukazuje korporacím, že reputace se stala skutečnou měnou.
Stále zřetelněji se také projevuje napětí mezi rychlostí inovací a stabilitou a bezpečností. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, lékařských či finančních aplikacích může mít dramatické důsledky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat — a právě teď probíhá spor o to, na které straně této linie by se měla umělá inteligence zastavit.
