Jak vojenské využití AI rozzuřilo uživatele během jediného týdne
Celé AI odvětví přihlíželo tomu, jak dokáže téma vojenského využití umělé inteligence pobouřit statisíce uživatelů. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a vzápětí ji horečně přepisovalo, když statistiky odinstalací ChatGPT vyskočily o téměř 300 procent.
Jak Anthropic řekl „ne" a co ho to stálo
Celý příběh začal u společnosti Anthropic, tvůrce modelu Claude. Pentagon jim předložil návrh spolupráce: jejich AI měla v reálném čase zpracovávat obrovské množství dat – od satelitních snímků až po zpravodajské zprávy – a urychlovat rozhodování přímo na bojišti.
Anthropic však stanovil dvě nepřekročitelné etické hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, kde by stroj sám rozhodoval o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných amerických občanů.
Tyto podmínky se ukázaly pro armádu jako nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu ke státním zakázkám. Firma si zachovala pověst eticky zásadové společnosti, ale přišla o potenciálně velmi lukrativní trh.
Anthropic souhlasil se spoluprací s armádou pouze tam, kde člověk reálně kontroluje konečné rozhodnutí a kde zcela chybí prvek masového sledování.
Situaci navíc komplikuje skutečnost, že podle mediálních zdrojů se Claude přesto využívá při operacích spojených s napětím mezi USA, Izraelem a Íránem – navzdory formálnímu vyloučení firmy z výběrových řízení. Pentagon tato tvrzení nekomentuje, takže celá řada otázek zůstává bez odpovědi.
OpenAI podepíše to, co Anthropic odmítl
Jakmile Anthropic odmítne, přichází na řadu OpenAI. V pátek dochází k podpisu smlouvy, která v praxi zaplňuje mezeru po konkurentovi. ChatGPT má zamířit do obranných aplikací, přičemž podrobnosti kontraktu zůstávají částečně utajené.
Sam Altman, šéf OpenAI, vydává den poté prohlášení, v němž tvrdí, že vyjednaná bezpečnostní opatření jsou prý přísnější než ta, na která byl Anthropic ochoten přistoupit. Toto sdělení mělo firmu obhájit, ale mnoho lidí ho vnímalo jako pokus těžit z „zásadovosti" rivala.
Reakce uživatelů přišla okamžitě. Data společnosti Sensor Tower ukazují, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se začala šířit obvinění ze zrady deklarovaných hodnot a prodání se vojenským zakázkám.
Během několika málo dní se ChatGPT v očích mnoha lidí proměnil ze symbolu „zodpovědné AI" v nástroj spojovaný s vojenskou mašinerií.
V pondělí Altman vstupuje do role „toho, kdo přiznává chybu". Veřejně uznává, že komunikace byla unáhlená a nepromyšlená a celá věc působila čistě oportunisticky. Zároveň oznamuje úpravy smlouvy s ministerstvem obrany.
Co přesně OpenAI slíbilo napravit
Pod tlakem veřejnosti a narůstajícího bojkotu zapracovalo OpenAI do smlouvy několik velmi konkrétních ustanovení. Nejdůležitější se týkají sledování občanů USA a přístupu zpravodajských služeb k modelům.
- Výslovný zákaz vědomého využívání systémů OpenAI ke sledování obyvatel Spojených států.
- Blokace automatického přístupu pro zpravodajské agentury – jako je NSA – bez samostatné a transparentně dojednané změny smlouvy.
- Závazek, že AI bude podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.
Jde o částečné přiblížení k přístupu Anthropic, ale rozdíl je zřetelný: Anthropic raději o zakázky přišel, než aby ustoupil požadavkům Pentagonu. OpenAI zvolilo cestu doplňkových omezení a zachování spolupráce.
Proč armáda o AI tak stojí
V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy vyvíjené například společností Palantir již dnes integrují data z nejrůznějších zdrojů – senzorů, dronů, satelitů i zpravodajských zpráv – a předkládají velitelům hotová doporučení.
Podle zástupců tohoto odvětví takové systémy umožňují:
| Účel využití AI | Přínos pro armádu |
|---|---|
| Rychlejší analýza dat | Kratší reakční čas při ohrožení |
| Propojení více zdrojů informací | Lepší přehled o operační situaci |
| Modelování scénářů | Plánování akcí s předstihem |
| Automatická detekce cílů | Vyšší účinnost, ale také větší riziko chyb |
A právě tady se projevuje klíčové napětí: generativní AI se mýlí, trpí „halucinacemi" a dokáže vytvářet falešné informace s naprostou přesvědčivostí. V civilních aplikacích to nejvýše způsobí trapnou odpověď v chatu. Na bojišti by to znamenalo smrt nevinných lidí.
ChatGPT ztrácí, Claude roste jako z vody
Mediální bouře přinesla okamžité tržní důsledky. Když uživatelé mažou aplikaci ChatGPT, mnozí hledají alternativu. Přirozenou volbou se ukázal právě Claude – model, jehož výrobce se s Pentagonem střetl a neustoupil.
Podle dat z App Store vyskočila aplikace Anthropic v sobotu na první místo žebříčků stahování a udržela se tam minimálně do čtvrtka. Americká média informovala, že Claude předčí ChatGPT v počtu nových instalací, což by ještě před několika týdny bylo těžko představitelné.
Na internetu se rozeběhla organizovaná nátlaková kampaň proti OpenAI. Hashtagy CancelChatGPT a QuitGPT vybízely k trvalému opuštění produktů firmy, dokud bude spolupracovat s ministerstvem obrany. Některé aktivistické kruhy to vnímají jako test toho, zda dokáže uživatelský tlak skutečně změnit chování gigantů v oblasti AI.
Reputační krize OpenAI v praxi vybudoval pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném poselství: „my jsme neustoupili."
Politici se probouzejí k akci
Na celé pozdvižení rychle reagují think-tanky a experti na technologickou politiku. Center for American Progress přímo uvádí, že spor Pentagonu s Anthropic a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně pustil do regulace vojenského využití AI.
Podle této organizace by soukromé firmy neměly samy o sobě vymezovat etické hranice – protože budou vždy pod tlakem zisku a tržního podílu. Podobně hovoří Mariarosaria Taddeo z Oxfordské univerzity, která poukazuje na to, že „vytlačování" nejobezřetnějšího hráče na trhu – tedy Anthropic – oslabuje bezpečnost celého ekosystému.
Vojenští představitelé se snaží obavy zmírnit. Důstojníci zodpovědní za projekty AI v rámci NATO zdůrazňují, že v současných systémech je člověk formálně vždy součástí rozhodovacího procesu. Jenže čím je AI pokročilejší a „sebevědomější", tím psychologicky obtížnější je zpochybnit její doporučení – zvlášť ve stresu a pod časovým tlakem.
Proč by tento příběh měl zajímat i běžné uživatele AI
Pro průměrného uživatele ChatGPT nebo Claude může tato vojenská skládačka znít jako vzdálená záležitost. Přitom rozhodnutí přijímaná dnes ve Washingtonu a v Silicon Valley se přímo promítnou do toho, jaké funkce budou mít aplikace v mobilech za několik let.
Pokud budou jazykové modely „vychovávány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale také si osvojit předsudky typické pro toto prostředí. A pokud soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelská předplatná, snáze zvolí finanční jistotu před etickými omezeními.
Pro uživatele v České republice je to dobrý okamžik k tomu, aby se podívali, jaké podmínky si do svých smluvních dokumentů zapisují firmy nabízející AI i u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice ohledně sledování a vojenských aplikací? Tržní tlak právo nenahradí, ale korporacím ukazuje, že pověst se stala reálnou měnou.
Stále zřetelněji se projevuje napětí mezi rychlostí inovací na jedné straně a stabilitou a bezpečností na straně druhé. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, lékařských nebo finančních aplikacích může mít dramatické následky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat – a právě teď probíhá spor o to, kde by se AI měla zastavit.
