OpenAI mění smlouvu s Pentagonem po vlně odinstalací ChatGPT

Jak celý průmysl AI pochopil, jak moc dokáže vojenské využití umělé inteligence rozzuřit uživatele

Během pouhých několika dní se ukázalo, jak citlivé téma vojenské využití AI skutečně je. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a vzápětí ji ve spěchu přepisovalo — statistiky odinstalací ChatGPT mezitím vyletěly o téměř 300 procent.

Odvážné „ne" Anthropicu a hněv Pentagonu

Celý příběh začal u firmy Anthropic, která stojí za modelem Claude. Pentagon jí předložil podobnou nabídku spolupráce. Ministerstvo obrany chtělo zapojit jejich AI do systémů schopných v reálném čase zpracovávat obrovské množství dat — od satelitních snímků až po zpravodajské zprávy — a tím urychlit rozhodování přímo na bojišti.

Anthropic ale stanovil dvě velmi tvrdé etické hranice. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů, tedy takových, kde stroj sám o sobě rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných občanů na území USA.

Tyto podmínky se z vojenského pohledu ukázaly jako nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma si vysloužila pověst „neústupně etické společnosti", ale přišla o potenciálně velmi lukrativní trh.

Anthropic přistoupil na spolupráci s armádou pouze tam, kde má člověk skutečnou kontrolu nad finálním rozhodnutím a kde zcela chybí prvek masového sledování.

Situaci navíc komplikuje skutečnost, že podle mediálních zdrojů je Claude v praxi využíván při operacích spojených s napětím mezi USA, Izraelem a Íránem — a to i přes formální vyloučení firmy z výběrových řízení. Pentagon se k těmto zprávám nevyjadřuje, takže mnoho otázek zůstává bez odpovědi.

OpenAI podepisuje to, co Anthropic odmítl

Jakmile Anthropic odmítl, OpenAI vstoupilo do hry. V pátek byla podepsána smlouva, která v praxi zaplnila mezeru po konkurentovi. ChatGPT má být nasazen v obranných aplikacích, přičemž podrobnosti kontraktu zůstávají částečně utajeny.

Sam Altman, šéf OpenAI, vydal následující den prohlášení, v němž tvrdil, že dojednané záruky jsou údajně přísnější než ty, na něž byl ochoten přistoupit Anthropic. Toto sdělení mělo firmu hájit, avšak mnoha lidem připadalo spíše jako snaha těžit z „zásadovosti" konkurenta.

Reakce uživatelů byla okamžitá. Data společnosti Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti obvyklé úrovni. Na sociálních sítích se objevila vlna obvinění ze zrady deklarovaných hodnot a podlehnutí vojenským zakázkám.

Během několika dní se ChatGPT v očích mnoha lidí proměnil ze symbolu „odpovědné AI" v nástroj spojovaný s vojenskou mašinérií.

V pondělí vystoupil Altman v roli toho, kdo přiznává chybu. Veřejně uznal, že komunikace byla uspěchaná a nedostatečně promyšlená a celá záležitost působila čistě oportunisticky. Zároveň avizoval úpravy ve smlouvě s ministerstvem obrany.

Co konkrétně OpenAI slíbilo změnit

Pod tlakem veřejnosti a rostoucího bojkotu zavedlo OpenAI do smlouvy několik velmi konkrétních ustanovení. Nejdůležitější z nich se týkají sledování občanů USA a přístupu zpravodajských služeb k modelům.

• Výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států,
• blokáda automatického přístupu zpravodajských agentur — jako je NSA — bez samostatné, výslovně sjednané změny smlouvy,
• deklarace, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.

Jde o částečné přiblížení přístupu Anthropicu, avšak rozdíl je zřetelný: Anthropic raději přišel o zakázky, než aby ustoupil požadavkům Pentagonu. OpenAI se rozhodlo doplnit omezení a spolupráci udržet.

Proč armáda o AI tak stojí

V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy jako ty, které vyvíjí firma Palantir, už dnes integrují data z mnoha zdrojů — senzorů, dronů, satelitů a zpravodajských zpráv — a předkládají velitelům hotová doporučení.

Podle zástupců tohoto odvětví podobné systémy umožňují:

Právě zde vyvstává klíčové napětí. Generativní AI bývá nespolehlivá, trpí tzv. halucinacemi a dokáže s plným přesvědčením produkovat nepravdivé informace. V civilních aplikacích to znamená nanejvýš trapnou odpověď v chatu. Na bojišti by to mohlo znamenat smrt nevinných lidí.

ChatGPT ztrácí, Claude roste závratným tempem

Mediální bouře přinesla okamžitý tržní efekt. Uživatelé, kteří odinstalovali ChatGPT, začali hledat alternativu. Přirozenou volbou se ukázal právě Claude — model, jehož výrobce se s Pentagonem střetl a neustoupil.

Data z App Store ukazují, že aplikace Anthropicu v sobotu vyskočila na první místo žebříčků stahování a udržela se tam nejméně do čtvrtka. Americká média informovala, že Claude předstihl ChatGPT v počtu nových instalací — něco, co by ještě před pár týdny vypadalo jako nepravděpodobný scénář.

Na internetu se rozjela organizovaná kampaň tlaku na OpenAI. Populárními se staly hashtagy CancelChatGPT a QuitGPT, vyzývající k trvalému odchodu od produktů firmy, dokud bude spolupracovat s ministerstvem obrany. Část aktivistických kruhů to vnímá jako test toho, zda uživatelský tlak dokáže skutečně změnit chování gigantů v oblasti AI.

Reputační krize OpenAI de facto poskytla Anthropicu bezplatnou marketingovou kampaň postavenou na jediném poselství: „my jsme neustoupili."

Politici se probouzejí k akci

Na celé dění rychle reagují think tanky a odborníci na technologickou politiku. Center for American Progress přímo uvádí, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně začal zabývat regulací vojenského využití AI.

Podle této organizace by soukromé firmy neměly samy o sobě určovat etické hranice — protože budou vždy pod tlakem zisku a podílu na trhu. Podobně se vyjadřuje Mariarosaria Taddeo z Oxfordské univerzity, která upozorňuje, že „vytlačení" nejobezřetnějšího hráče — tedy Anthropicu — z diskuse oslabuje bezpečnost celého ekosystému.

Vojenští představitelé se snaží obavy uklidnit. Důstojníci odpovědní za projekty AI v rámci NATO zdůrazňují, že v současných systémech je člověk formálně vždy součástí rozhodovacího řetězce. Jenže čím je AI pokročilejší a „sebejistější", tím je psychologicky obtížnější její doporučení zpochybnit — zejména ve stresu a pod časovým tlakem.

Proč by tento příběh měl zajímat i běžné uživatele AI

Pro průměrného uživatele ChatGPT nebo Claude může tato vojenská skládanka znít jako velmi vzdálená záležitost. Rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se ale přímo promítnou do toho, jaké funkce budou mít aplikace v mobilech za několik let.

Pokud budou jazykové modely „vychovávány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám — ale také si osvojit předsudky typické pro toto prostředí. Pokud soukromé firmy zjistí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelské předplatné, snáze zvolí finanční jistotu před etickými omezeními.

Pro uživatele v České republice je to vhodná chvíle podívat se blíže na to, jaké podmínky uvádějí ve svých smluvních dokumentech firmy nabízející AI i u nás. Stanovují jasně, s kým spolupracují? Deklarují hranice ohledně sledování a vojenských aplikací? Tlak trhu právo nenahradí, ale ukazuje korporacím, že reputace se stala skutečnou měnou.

Stále zřetelněji se také projevuje napětí mezi rychlostí inovací a stabilitou a bezpečností. Generativní modely se vyvíjejí závratným tempem, avšak jejich sklon k halucinacím ve vojenských, medicínských nebo finančních aplikacích může mít dramatické důsledky. Hranice mezi „asistentem" a „spolurozhodujícím" se začíná stírat — a právě teď probíhá zásadní spor o to, kde přesně by měla AI zastavit.