Odvážné „ne" Anthropicu a hněv Pentagonu
Celé odvětví AI se během několika dní přesvědčilo, jak silně dokáže téma vojenského využití umělé inteligence rozzuřit běžné uživatele. OpenAI nejprve podepsal smlouvu s americkým ministerstvem obrany a vzápětí ji horečně upravoval, když statistiky odinstalací ChatGPT vyletěly o téměř 300 procent.
Příběh začal u společnosti Anthropic, tvůrce modelu Claude, která měla na stole podobnou nabídku spolupráce. Pentagon chtěl zapojit její AI do systémů schopných v reálném čase zpracovávat obrovské objemy dat – od satelitních snímků až po zpravodajské zprávy – s cílem urychlit rozhodování na bojišti.
Anthropic však stanovil dvě pevné etické hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, tedy takových, kde stroj sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných občanů na území USA.
Anthropic souhlasil se spoluprací s armádou pouze tam, kde člověk skutečně kontroluje konečné rozhodnutí a kde zcela chybí prvek hromadného sledování.
Tyto podmínky se ukázaly jako pro armádu nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma získala pověst „neústupně etické" společnosti, ale přišla o potenciálně velmi výnosný trh.
Situaci dále komplikuje skutečnost, že Claude podle mediálních zdrojů přesto bývá využíván při operacích spojených s napětím mezi USA, Izraelem a Íránem – a to i přes formální vyloučení firmy z výběrových řízení. Pentagon tyto zprávy nekomentuje, což ponechává řadu otázek bez odpovědi.
OpenAI podepisuje to, co Anthropic odmítl
Jakmile Anthropic řekl ne, vstoupil do hry OpenAI. V pátek byla podepsána smlouva, která v praxi zaplnila mezeru po konkurentovi. ChatGPT má být nasazen k obranným účelům, přičemž podrobnosti kontraktu zůstávají částečně utajeny.
Sam Altman, šéf OpenAI, vydal následující den prohlášení, v němž tvrdil, že sjednaná ochranná opatření jsou údajně přísnější než ta, na která byl ochoten přistoupit Anthropic. Tato zpráva měla firmu hájit, avšak v očích mnoha lidí působila jako snaha profitovat z principiálnosti rivala.
Reakce uživatelů přišla okamžitě. Data společnosti Sensor Tower ukázala, že průměrná denní míra odinstalování aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se začala šířit obvinění ze zrady deklarovaných hodnot a zaprodání se vojenským zakázkám.
Během několika dní se ChatGPT v očích mnoha lidí proměnil ze symbolu „zodpovědné AI" v nástroj spojovaný s válečným strojem.
V pondělí vystoupil Altman v roli toho, kdo přiznává chybu. Veřejně uvedl, že komunikace byla uspěchaná a nedostatečně promyšlená, a celá záležitost vypadala čistě oportunisticky. Zároveň přislíbil úpravy smlouvy s ministerstvem obrany.
Co konkrétně OpenAI slíbil napravit
Pod tlakem veřejnosti a sílícího bojkotu doplnil OpenAI do kontraktu několik velmi konkrétních ustanovení. Nejdůležitější se týkají sledování občanů USA a přístupu zpravodajských služeb k modelům.
- Výslovný zákaz vědomého využívání systémů OpenAI ke sledování obyvatel Spojených států.
- Blokace automatického přístupu zpravodajských agentur – jako je NSA – bez samostatné a transparentně sjednané změny smlouvy.
- Deklarace, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.
Jde o částečné přiblížení k přístupu Anthropicu, ale rozdíl zůstává zřetelný: Anthropic raději přišel o zakázky, než aby se ohýbal před požadavky Pentagonu. OpenAI naopak zvolil cestu doplnění omezení a zachování spolupráce.
Proč armáda tak stojí o umělou inteligenci
V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy vyvíjené mimo jiné společností Palantir už dnes integrují data z mnoha zdrojů – senzorů, dronů, satelitů a zpravodajských zpráv – a předkládají velitelům hotové doporučení.
Podle zástupců tohoto odvětví takové systémy umožňují:
| Účel využití AI | Přínos pro armádu |
|---|---|
| Rychlejší analýza dat | Kratší reakční doba na hrozbu |
| Propojení více zdrojů informací | Lepší obraz operační situace |
| Modelování scénářů | Plánování akcí s předstihem |
| Automatická detekce cílů | Vyšší účinnost, ale také větší riziko chyb |
Právě zde vzniká klíčové napětí: generativní AI se mýlí, trpí „halucinacemi" a dokáže s plným přesvědčením produkovat nepravdivé informace. V civilním prostředí to skončí přinejhorším trapnou odpovědí v chatu. Na bojišti by to znamenalo smrt náhodných lidí.
ChatGPT ztrácí, Claude roste jako z vody
Mediální bouře přinesla okamžité tržní důsledky. Zatímco uživatelé mazali aplikaci ChatGPT, mnozí z nich hledali náhradu. Přirozenou volbou se ukázal právě Claude – model, jehož výrobce se s Pentagonem střetl čelem.
Z dat App Store vyplývá, že aplikace Anthropicu v sobotu vyskočila na první místo žebříčků stahování a udržela se tam minimálně do čtvrtka. Americká média informovala, že Claude předstihl ChatGPT v počtu nových instalací, což by ještě před pár týdny působilo jako nepravděpodobný scénář.
Na internetu se rozjela organizovaná nátlaková kampaň proti OpenAI. Populárními se staly hashtagy #CancelChatGPT a #QuitGPT, vyzývající k trvalému opuštění produktů firmy po dobu, kdy spolupracuje s ministerstvem obrany. Některé aktivistické skupiny to vnímají jako test toho, zda uživatelský tlak dokáže skutečně změnit chování gigantů v oblasti AI.
Reputační krize OpenAI v praxi vybudovala Anthropicu bezplatnou marketingovou kampaň postavenou na jediném heslu: „my jsme nepovolili".
Politici se probouzejí k akci
Na celý rozruch rychle reagovaly think-tanky a experti na technologickou politiku. Center for American Progress přímo uvádí, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně pustil do regulace vojenského využití AI.
Podle této organizace by soukromé firmy neměly samy stanovovat etické hranice – protože budou vždy pod tlakem zisku a tržního podílu. Podobně hovoří Mariarosaria Taddeo z Oxfordské univerzity, která upozorňuje, že „vytlačení" nejobezřetnějšího hráče – tedy Anthropicu – z těchto diskusí oslabuje bezpečnost celého ekosystému.
Vojenští představitelé se snaží obavy uklidnit. Důstojníci odpovědní za projekty AI v rámci NATO zdůrazňují, že v současných systémech člověk formálně vždy zůstává v rozhodovací smyčce. Jenže čím sebejistější a pokročilejší AI je, tím psychologicky obtížnější je zpochybnit její doporučení – zvláště ve stresu a pod časovým tlakem.
Proč by tento příběh měl zajímat i běžné uživatele AI
Pro průměrného uživatele ChatGPT nebo Claudu může tato vojenská hádanka znít jako velmi vzdálená záležitost. Přitom rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se přímo promítnou do toho, jaké funkce budou mít aplikace v telefonech za několik let.
Pokud budou jazykové modely „vychovány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale zároveň si osvojí předsudky typické pro toto prostředí. Jestliže soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelská předplatná, snáze zvolí finanční jistotu před etickými omezeními.
Pro uživatele v České republice je to vhodný okamžik zamyslet se nad tím, jaké podmínky uvádějí do svých obchodních podmínek firmy nabízející AI i u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tržní tlak právo nenahradí, ale dává korporacím najevo, že reputace se stala skutečnou měnou.
Stále zřetelněji se také projevuje napětí mezi rychlostí inovací a stabilitou a bezpečností. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, lékařských či finančních aplikacích může mít dramatické následky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat – a právě teď probíhá spor o to, na které straně této linie by se AI měla zastavit.
