Jak celý průmysl AI najednou zjistil, jak moc dokáže vojenské využití umělé inteligence rozzlobit uživatele
Během pouhých několika dní se ukázalo, jak citlivé téma vojenské využití umělé inteligence skutečně je. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a vzápětí ji ve spěchu upravovalo, když statistiky odinstalování ChatGPT vyskočily o téměř 300 procent.
Odvážné „ne" Anthropicu a hněv Pentagonu
Celý příběh začal u firmy Anthropic, tvůrce modelu Claude, která dostala na stůl podobnou nabídku ke spolupráci. Pentagon chtěl zapojit jejich AI do systémů analyzujících v reálném čase obrovské množství dat – od satelitních snímků až po zpravodajské zprávy – aby se urychlilo rozhodování na bojišti.
Anthropic však stanovil dvě velmi tvrdé etické hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, tedy takových, kde stroj nakonec sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných občanů na území USA.
Anthropic souhlasil se spoluprací s armádou pouze tam, kde má člověk skutečnou kontrolu nad konečným rozhodnutím a kde absentuje prvek masového sledování.
Tyto podmínky se z vojenského pohledu ukázaly jako nepřijatelné. Podle mediálních zpráv zařadila Trumpova administrativa Anthropic na černou listinu subjektů zbavených přístupu k vládním zakázkám. Firma si sice získala pověst „neústupně etické společnosti", avšak přišla o potenciálně velmi výnosný trh.
Situaci navíc komplikuje skutečnost, že podle mediálních zdrojů je Claude přesto využíván při operacích spojených s napětím mezi USA, Izraelem a Íránem, přestože je firma formálně vyloučena z výběrových řízení. Pentagon tyto zprávy nekomentuje, což zanechává mnoho otázek bez odpovědi.
OpenAI podepisuje to, co Anthropic odmítl
Jakmile Anthropic odmítne, do hry vstupuje OpenAI. V pátek dochází k podpisu smlouvy, která v praxi zaplňuje mezeru po konkurentovi. ChatGPT má být nasazen v obranných aplikacích a podrobnosti kontraktu zůstávají částečně utajeny.
Sam Altman, šéf OpenAI, vydává následující den prohlášení, v němž tvrdí, že vyjednané záruky jsou údajně přísnější než ty, které byl ochoten přijmout Anthropic. Toto sdělení má firmu hájit, avšak v očích mnoha lidí působí jako pokus těžit z „zásadovosti" soupeře.
Reakce uživatelů je bleskurychlá. Data společnosti Sensor Tower ukazují, že průměrná denní úroveň odinstalování aplikace ChatGPT roste o 295 procent oproti obvyklé hodnotě. Na sociálních sítích se objevují obvinění ze zrady deklarovaných hodnot a z prodání se vojenským zakázkám.
Během několika málo dní přestal být ChatGPT v očích mnoha lidí symbolem „odpovědné AI" a stal se nástrojem spojeným s vojenskou mašinérií.
Altman v pondělí přebírá roli „viníka, který přiznává chybu". Veřejně prohlašuje, že komunikace byla ukvapená a nepromyšlená a celá věc působila jako čistě oportunistický tah. Zároveň oznamuje úpravy smlouvy s ministerstvem obrany.
Co konkrétně OpenAI slíbilo změnit
Pod tlakem veřejného mínění a narůstajícího bojkotu zapracovalo OpenAI do smlouvy několik velmi konkrétních ustanovení. Nejdůležitější z nich se týkají sledování amerických občanů a přístupu zpravodajských služeb k modelům.
- Výslovný zákaz vědomého využívání systémů OpenAI ke sledování obyvatel Spojených států.
- Blokace automatického přístupu pro zpravodajské agentury – jako je NSA – bez samostatné, otevřeně sjednané změny smlouvy.
- Prohlášení, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.
Jde o částečné přiblížení se přístupu Anthropicu, avšak rozdíl je zřetelný: Anthropic raději přišel o zakázky, než aby ustoupil očekáváním Pentagonu. OpenAI raději doplnilo omezení a spolupráci zachovalo.
Proč na AI armáda tolik lpí
V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy vytvářené mimo jiné firmou Palantir již nyní integrují data z mnoha zdrojů – senzorů, dronů, satelitů, zpravodajských zpráv – a předkládají je velitelům v podobě hotových doporučení.
Podle představitelů tohoto odvětví takovéto systémy umožňují:
| Účel využití AI | Přínos pro armádu |
|---|---|
| Rychlejší analýza dat | Kratší reakční doba na hrozbu |
| Propojení více zdrojů informací | Lepší přehled o operační situaci |
| Modelování scénářů | Plánování akcí s předstihem |
| Automatická detekce cílů | Vyšší účinnost, ale také větší riziko chyb |
Právě zde vyvstává klíčové napětí: generativní AI bývá omylná, trpí „halucinacemi" a dokáže vytvářet falešné informace s plným přesvědčením. V civilních aplikacích to skončí nanejvýš trapnou odpovědí v chatu. Na bojišti by to znamenalo smrt nevinných lidí.
ChatGPT ztrácí, Claude roste jako z vody
Mediální bouře přinesla okamžitý tržní efekt. Když uživatelé mažou aplikaci ChatGPT, mnozí z nich hledají alternativu. Přirozenou volbou se ukazuje právě Claude – model, jehož výrobce se postavil Pentagonu.
Z dat App Store vyplývá, že aplikace Anthropicu v sobotu vyskočila na první místo žebříčku stahování a drží se tam přinejmenším do čtvrtka. Americká média píší, že Claude předstihuje ChatGPT z hlediska nových instalací, což ještě před několika týdny vypadalo jako nepravděpodobný scénář.
Na internetu se rozbíhá organizovaná nátlaková kampaň na OpenAI. Populárními se stávají hashtagy CancelChatGPT a QuitGPT, vybízející k trvalému opuštění produktů firmy, dokud bude spolupracovat s ministerstvem obrany. Některé aktivistické kruhy to vnímají jako test toho, zda tlak uživatelů dokáže skutečně změnit chování gigantů v oblasti AI.
Reputační krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném heslu: „my jsme se neohnuli."
Politici se probouzejí k akci
Na celý rozruch rychle reagují think-tanky a odborníci na technologickou politiku. Center for American Progress otevřeně píše, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně zabýval regulací využití AI armádou.
Podle tohoto sdružení by soukromé firmy neměly samy stanovovat etické hranice – protože budou vždy pod tlakem zisků a tržních podílů. Podobně se vyjadřuje Mariarosaria Taddeo z Oxfordské univerzity, která upozorňuje, že „vytlačování" nejostražitějšího hráče, jímž je Anthropic, oslabuje bezpečnost celého ekosystému.
Vojenští představitelé se snaží obavy uklidnit. Důstojníci zodpovědní za projekty AI v rámci NATO zdůrazňují, že v současných systémech formálně vždy zůstává člověk v rozhodovací smyčce. Jenže čím pokročilejší a „sebejistější" AI je, tím psychologicky obtížnější je zpochybnit její doporučení – zvláště ve stresu a pod časovým tlakem.
Proč by tato kauza měla zajímat i běžné uživatele AI
Pro průměrného uživatele ChatGPT nebo Clauda může tato vojenská skládačka znít jako něco velmi vzdáleného. Přitom rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se přímo promítnou do toho, jaké funkce budou mít aplikace v telefonech za několik let.
Pokud budou jazykové modely „vychovávány" na datech z vojenských operací, mohou lépe chápat strategické analýzy, avšak zároveň si osvojí předsudky typické pro toto odvětví. Jestliže soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelské předplatné, snadněji zvolí finanční bezpečnost před etickými omezeními.
Pro uživatele v České republice je to vhodná chvíle k tomu, aby se podívali, jaké podmínky si do svých obchodních podmínek zapisují firmy nabízející AI i u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tržní tlak nenahradí zákon, ale ukazuje korporacím, že reputace se stala skutečnou měnou.
Stále zřetelněji se také projevuje napětí mezi rychlostí inovací a stabilitou a bezpečností. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, lékařských či finančních aplikacích může mít dramatické důsledky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat – a právě teď probíhá spor o to, na které straně této linie by se AI měla zastavit.
