Celý technologický průmysl sledoval, jak vojenské využití AI rozzuřilo uživatele
Během několika málo dní se ukázalo, jak citlivé téma představuje nasazení umělé inteligence v armádě. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a vzápětí ji ve spěchu přepisovalo — statistiky odinstalování ChatGPT totiž vyskočily o téměř 300 procent.
Anthropic řekl „ne" a Pentagon se rozzlobil
Celý příběh začal u firmy Anthropic, tvůrce modelu Claude. Pentagon ji oslovil s nabídkou zapojit jejich AI do systémů, které by v reálném čase analyzovaly obrovské množství dat — od satelitních snímků až po zpravodajské zprávy — s cílem zrychlit rozhodování na bojišti.
Anthropic však stanovil dvě pevné etické hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, tedy těch, kde stroj sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na hromadném sledování běžných amerických občanů.
Tyto podmínky se z vojenského hlediska ukázaly jako nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma si sice vysloužila pověst „vytrvale etické", ale přišla o potenciálně velmi výnosný trh.
Anthropic přistoupil na spolupráci s armádou pouze tam, kde má člověk skutečnou kontrolu nad konečným rozhodnutím a kde zcela chybí prvek masového sledování.
Situaci dále komplikuje fakt, že podle mediálních zdrojů je Claude přesto používán v operacích spojených s napětím mezi USA, Izraelem a Íránem — i přes formální vyřazení firmy z výběrových řízení. Pentagon tyto zprávy nekomentuje, takže celá řada otázek zůstává bez odpovědi.
OpenAI podepsalo to, co Anthropic odmítl
Když Anthropic řekl ne, nastoupilo OpenAI. V pátek byla podepsána smlouva, která v praxi zaplnila mezeru po konkurentovi. ChatGPT má být nasazen v obranných aplikacích, přičemž podrobnosti kontraktu zůstávají zčásti utajeny.
Sam Altman, šéf OpenAI, vydal následující den prohlášení, v němž tvrdil, že vyjednaná ochranná opatření jsou údajně přísnější než ta, která bylo ochotno přijmout Anthropic. Toto sdělení mělo firmu hájit, jenže pro mnoho lidí vypadalo spíš jako pokus profitovat z „zásadovosti" rivala.
Reakce uživatelů přišla okamžitě. Data společnosti Sensor Tower ukázala, že průměrná denní míra odinstalování aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se začala množit obvinění ze zrady deklarovaných hodnot a prodání se vojenským zakázkám.
Během několika dní přestal být ChatGPT v očích mnoha uživatelů symbolem „zodpovědné AI" a začal být spojován s válečným strojem.
V pondělí vystoupil Altman v roli kajícníka. Veřejně přiznal, že komunikace byla unáhlená a nepromyšlená a celá záležitost působila čistě oportunisticky. Zároveň oznámil úpravy smlouvy s ministerstvem obrany.
Co konkrétně OpenAI slíbilo napravit
Pod tlakem veřejného mínění a narůstajícího bojkotu zapracovalo OpenAI do smlouvy několik zcela konkrétních ustanovení. Nejdůležitější z nich se týkají sledování amerických občanů a přístupu zpravodajských služeb k modelům.
- Výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států,
- blokace automatického přístupu pro zpravodajské agentury — jako je NSA — bez samostatné a transparentně dohodnuté změny smlouvy,
- deklarace, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.
Jde o částečné přiblížení přístupu Anthropicu, ale rozdíl je zřejmý: Anthropic raději přišel o zakázky, než aby ustupoval požadavkům Pentagonu. OpenAI zvolilo cestu dopsání omezení při zachování spolupráce.
Proč armáda tolik stojí o umělou inteligenci
Za celým příběhem stojí širší vize moderních ozbrojených sil. Platformy vyvíjené mimo jiné firmou Palantir již dnes integrují data z mnoha zdrojů — senzorů, dronů, satelitů a zpravodajských zpráv — a předkládají velitelům hotová doporučení.
Podle zástupců tohoto odvětví takové systémy umožňují:
| Účel využití AI | Přínos pro armádu |
|---|---|
| Rychlejší analýza dat | Kratší reakční doba na hrozbu |
| Propojení více zdrojů informací | Lepší přehled o operační situaci |
| Modelování scénářů | Předstihové plánování operací |
| Automatická detekce cílů | Vyšší efektivita, ale také větší riziko chyb |
A právě zde vzniká klíčové napětí. Generativní AI se občas mýlí, trpí „halucinacemi" a dokáže s plným přesvědčením vytvářet nepravdivé informace. V civilních aplikacích to v nejhorším případě skončí trapnou odpovědí v chatu. Na bojišti by to znamenalo smrt nevinných lidí.
ChatGPT ztrácí, Claude raketově roste
Mediální bouře přinesla okamžitý tržní efekt. Uživatelé, kteří aplikaci ChatGPT mazali, hledali alternativu — a přirozenou volbou se ukázal právě Claude, jehož výrobce se s Pentagonem střetl.
Data z App Store ukazují, že aplikace Anthropicu v sobotu vystřelila na první místo žebříčků stahování a tam se udržela minimálně do čtvrtka. Americká média informovala o tom, že Claude předstihuje ChatGPT v počtu nových instalací, což by ještě před pár týdny vypadalo zcela nereálně.
Na internetu se rozběhla organizovaná nátlaková kampaň na OpenAI. Populárními se staly hashtagy CancelChatGPT a QuitGPT, vybízející k trvalému opuštění produktů firmy, dokud bude spolupracovat s ministerstvem obrany. Některé aktivistické kruhy to vnímají jako test toho, zda uživatelský tlak dokáže skutečně změnit chování technologických gigantů.
Reputační krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném poselství: „My jsme neustoupili."
Politici se probouzejí k akci
Na celý rozruch rychle reagovaly think-tanky a odborníci na technologickou politiku. Center for American Progress přímo píše, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně pustil do regulace vojenského využívání AI.
Podle této organizace by soukromé firmy neměly etické hranice stanovovat samy od sebe — vždy totiž budou pod tlakem zisku a tržních podílů. Podobně se vyjadřuje i Mariarosaria Taddeo z Oxfordské univerzity, která upozorňuje, že „vytlačení" nejobezřetnějšího hráče — tedy Anthropicu — z těchto rozhovorů oslabuje bezpečnost celého ekosystému.
Vojenští představitelé se pokoušejí obavy uklidnit. Důstojníci odpovědní za projekty AI v rámci NATO zdůrazňují, že v současných systémech zůstává člověk formálně vždy součástí rozhodovacího procesu. Jenže čím je AI pokročilejší a „sebevědomější", tím psychologicky obtížnější je její doporučení zpochybnit — zvláště ve stresu a pod časovým tlakem.
Proč by se tímto měli zabývat i běžní uživatelé AI
Pro průměrného uživatele ChatGPT nebo Claudea může tato vojenská skládačka znít jako velmi vzdálená záležitost. Rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se ale přímo promítnou do funkcí, které budou aplikace v telefonech nabízet za několik let.
Pokud budou jazykové modely „vychovávány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám — ale zároveň si osvojí předsudky typické pro toto prostředí. A pokud soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelská předplatná, snáze upřednostní finanční jistotu před etickými omezeními.
Pro uživatele v České republice je to dobrý okamžik zamyslet se nad tím, jaké podmínky mají ve svých obchodních podmínkách firmy nabízející AI i u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tržní tlak právo nenahradí, ale korporacím ukazuje, že reputace se stala skutečnou měnou.
Stále zřetelněji se projevuje napětí mezi rychlostí inovací na jedné straně a stabilitou a bezpečností na straně druhé. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, lékařských nebo finančních aplikacích může mít dramatické následky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat — a právě teď se vede spor o to, kde by se měla umělá inteligence zastavit.
