Jak celý průmysl umělé inteligence zjistil, jak moc dokáže vojenské téma rozzuřit uživatele
Během pouhých několika dní bylo jasné, jak citlivé téma vojenské využití AI skutečně je. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a pak ji v chvatu opravovalo, zatímco statistiky odinstalací ChatGPT vyletěly o téměř 300 procent.
Odvážné „ne" Anthropicu a hněv Pentagonu
Celý příběh začal u firmy Anthropic, tvůrce modelu Claude, která měla na stole podobnou nabídku spolupráce. Pentagon chtěl zapojit jejich AI do systémů analyzujících v reálném čase obrovské množství dat – od satelitních snímků po zpravodajské zprávy – aby se urychlilo rozhodování na bojišti.
Anthropic však stanovil dvě velmi přísné etické podmínky. Za prvé, Claude nesmí pomáhat vytvářet plně autonomní zbraňové systémy, tedy takové, kde stroj sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných občanů na území USA.
Tyto podmínky se z vojenského pohledu ukázaly jako nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu ke státním zakázkám. Firma si vybudovala pověst „tvrdohlavě etické" společnosti, ale přišla o potenciálně lukrativní trh.
Anthropic přistoupil na spolupráci s armádou pouze tam, kde má člověk reálnou kontrolu nad konečným rozhodnutím a kde zcela chybí prvek masového sledování.
Situaci ještě více komplikuje skutečnost, že podle mediálních zdrojů je Claude přesto používán při operacích spojených s napětím mezi USA, Izraelem a Íránem – navzdory formálnímu vyloučení firmy z výběrových řízení. Pentagon tyto zprávy nekomentuje, což zanechává řadu otázek bez odpovědi.
OpenAI podepisuje to, co Anthropic odmítl
Jakmile Anthropic řekl ne, nastoupilo OpenAI. V pátek došlo k podpisu smlouvy, která v praxi zaplnila mezeru po konkurentovi. ChatGPT měl zamířit do obranných aplikací a podrobnosti kontraktu zůstaly částečně utajeny.
Sam Altman, šéf OpenAI, vydal následující den prohlášení, v němž tvrdil, že vyjednané záruky jsou údajně přísnější než ty, na které byl Anthropic ochoten přistoupit. Toto sdělení mělo firmu chránit, ale mnohým lidem působilo spíše jako snaha vytěžit z principiálnosti rivala.
Reakce uživatelů byla okamžitá. Data společnosti Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se objevila obvinění ze zrady deklarovaných hodnot a prodeje se vojenským zakázkám.
Během několika dní se ChatGPT v očích mnoha lidí přeměnil ze symbolu „zodpovědné AI" na nástroj spojovaný s válečným strojem.
Altman v pondělí vystoupil v roli „viníka, který přiznává chybu". Veřejně prohlásil, že komunikace byla uspěchaná a nepromyšlená a celá věc vypadala čistě oportunisticky. Zároveň oznámil úpravy smlouvy s ministerstvem obrany.
Co konkrétně OpenAI slíbilo napravit
Pod tlakem veřejného mínění a rostoucího bojkotu zapracovalo OpenAI do smlouvy několik velmi konkrétních ustanovení. Nejdůležitější se týkají sledování občanů USA a přístupu zpravodajských služeb k modelům.
- Výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států.
- Blokace automatického přístupu pro zpravodajské agentury – jako je NSA – bez samostatné, transparentně dohodnuté změny smlouvy.
- Prohlášení, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.
To představuje částečné přiblížení k přístupu Anthropicu, ale rozdíl je zřejmý: Anthropic raději přišel o zakázky, než aby ustoupil požadavkům Pentagonu. OpenAI raději doplnil omezení a spolupráci zachoval.
Proč armádě na AI tolik záleží
V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy vytvářené mimo jiné firmou Palantir již nyní integrují data z mnoha zdrojů – senzorů, dronů, satelitů a zpravodajských zpráv – a předkládají je velitelům v podobě připravených doporučení.
Podle zástupců tohoto odvětví takovéto systémy umožňují:
| Účel využití AI | Přínos pro armádu |
|---|---|
| Rychlejší analýza dat | Kratší reakční doba na hrozbu |
| Propojení více zdrojů informací | Lepší přehled o operační situaci |
| Modelování scénářů | Plánování akcí s předstihem |
| Automatická detekce cílů | Vyšší účinnost, ale i vyšší riziko chyb |
Zde vyvstává klíčové napětí: generativní AI bývá omylná, trpí „halucinacemi" a dokáže vytvářet nepravdivé informace s naprostou přesvědčivostí. V civilních aplikacích to skončí nanejvýš trapnou odpovědí v chatu. Na bojišti by to znamenalo smrt náhodných lidí.
ChatGPT ztrácí, Claude roste závratným tempem
Mediální bouře přinesla okamžitý tržní efekt. Když uživatelé odinstalovali ChatGPT, mnozí z nich hledali alternativu. Přirozenou volbou se ukázal právě Claude – model, jehož výrobce se střetl s Pentagonem.
Z dat App Store vyplývá, že aplikace Anthropicu v sobotu vyskočila na první místo žebříčků stahování a udržela se tam přinejmenším do čtvrtka. Americká média píší, že Claude překonal ChatGPT v počtu nových instalací, což ještě před několika týdny vypadalo jako nepravděpodobný scénář.
Na internetu se rozjela organizovaná kampaň tlaku na OpenAI. Populárními se staly hashtagy CancelChatGPT a QuitGPT, vyzývající k trvalému opuštění produktů firmy, dokud bude spolupracovat s ministerstvem obrany. Některé aktivistické kruhy to považují za test toho, zda může tlak uživatelů skutečně změnit chování gigantů v oblasti AI.
Reputační krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném heslu: „my jsme neustoupili".
Politici se probouzejí k akci
Na celý rozruch rychle reagují think-tanky a experti na technologickou politiku. Center for American Progress otevřeně píše, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně zabýval regulací vojenského využití AI.
Podle názoru této organizace by soukromé firmy neměly samy určovat etické hranice – protože vždy budou pod tlakem zisku a tržních podílů. Podobně hovoří Mariarosaria Taddeo z Oxfordské univerzity, která upozorňuje, že „vytlačení" nejobezřetnějšího hráče, jímž je Anthropic, z diskuse oslabuje bezpečnost celého ekosystému.
Vojenští představitelé se snaží obavy uklidnit. Důstojníci odpovědní za projekty AI v rámci NATO zdůrazňují, že ve stávajících systémech je člověk formálně vždy součástí rozhodovacího procesu. Jenže čím pokročilejší a „sebejistější" AI je, tím psychologicky obtížnější je zpochybnit její doporučení – zvláště ve stresu a pod časovým tlakem.
Proč by tato událost měla zajímat i běžné uživatele AI
Pro průměrného uživatele ChatGPT nebo Claude může tato vojenská skládačka znít jako něco velmi vzdáleného. Ve skutečnosti se ale rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley přímo promítnou do toho, jaké funkce budou aplikace v telefonech nabízet za několik let.
Pokud budou jazykové modely „vychovány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale zároveň si osvojí předsudky typické pro toto odvětví. Pokud soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelská předplatná, snáze upřednostní finanční jistotu před etickými omezeními.
Pro uživatele v České republice je to dobrý okamžik k tomu, aby se podívali, jaké podmínky zapisují do svých obchodních podmínek firmy nabízející AI i u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tržní tlak nenahradí právo, ale ukazuje korporacím, že reputace se stala reálnou měnou.
Stále zřetelněji vystupuje napětí mezi rychlostí inovací a stabilitou a bezpečností. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, medicínských nebo finančních aplikacích může mít dramatické následky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat – a právě teď probíhá spor o to, na které straně této linie by se AI měla zastavit.
