OpenAI mění smlouvu s Pentagonem po vlně odinstalací ChatGPT

Za několik dní celý průmysl AI pocítil, jak citlivé téma vojenské využití umělé inteligence skutečně je

OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany a vzápětí ji horečně přepisovalo, když statistiky odinstalací ChatGPT vyskočily o téměř 300 procent. Tato událost odhalila hluboké napětí uvnitř celého odvětví — napětí mezi ziskem a etikou.

Odvážné „ne" Anthropicu a hněv Pentagonu

Celý příběh začal u společnosti Anthropic, tvůrce modelu Claude. Pentagon přišel s nabídkou spolupráce — chtěl zapojit jejich umělou inteligenci do systémů schopných v reálném čase zpracovávat obrovská množství dat, od satelitních snímků až po zpravodajské zprávy, a tím urychlit rozhodování na bojišti.

Anthropic však postavil dvě pevné etické podmínky. Za prvé, Claude nesmí podporovat vývoj plně autonomních zbraňových systémů — tedy takových, kde stroj sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných amerických občanů.

Tyto podmínky se z vojenského hlediska ukázaly jako nepřijatelné. Podle dostupných informací zařadila Trumpova administrativa Anthropic na černou listinu subjektů bez přístupu ke státním zakázkám. Firma si vybudovala pověst „neústupně etické společnosti", ale přišla o potenciálně lukrativní trh.

Anthropic přistoupil na spolupráci s armádou pouze tam, kde má člověk skutečnou kontrolu nad finálním rozhodnutím a kde zcela chybí prvek masového sledování.

Situaci navíc komplikuje fakt, že podle mediálních zdrojů je Claude přesto využíván při operacích spojených s napětím mezi USA, Izraelem a Íránem — a to i přes formální vyřazení firmy z výběrových řízení. Pentagon tyto informace nekomentuje, což zanechává řadu otázek bez odpovědi.

OpenAI podepisuje to, co Anthropic odmítl

Jakmile Anthropic řekl ne, na scénu vstoupilo OpenAI. V pátek byla podepsána smlouva, která v praxi zaplnila mezeru po konkurentovi. ChatGPT měl zamířit do obranných aplikací, přičemž podrobnosti kontraktu zůstaly částečně utajeny.

Šéf OpenAI Sam Altman zveřejnil následující den prohlášení, ve kterém tvrdil, že sjednané záruky jsou prý přísnější než ty, na které byl ochoten přistoupit Anthropic. Tento vzkaz měl firmu hájit, jenže pro mnohé pozorovatele působil spíše jako snaha profitovat z „zásadovosti" rivala.

Reakce uživatelů přišla okamžitě. Data společnosti Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vzrostla o 295 procent oproti běžné úrovni. Na sociálních sítích se hromadily obviňení ze zrady deklarovaných hodnot a z prodeje se vojenskému průmyslu.

Během několika dní se ChatGPT v očích mnoha lidí proměnil ze symbolu „zodpovědné AI" v nástroj spojovaný s vojenským aparátem.

V pondělí Altman vystoupil s přiznáním chyby. Veřejně uznal, že komunikace byla uspěchaná a nepromyšlená a celá věc působila ryze oportunisticky. Zároveň avizoval úpravy smlouvy s ministerstvem obrany.

Co konkrétně OpenAI slíbilo napravit

Pod tlakem veřejného mínění a rostoucího bojkotu OpenAI zapracovalo do smlouvy několik velmi konkrétních ustanovení. Ta nejdůležitější se týkají sledování amerických občanů a přístupu zpravodajských služeb k modelům.

• Výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států.
• Blokace automatického přístupu pro zpravodajské agentury — například NSA — bez samostatné, otevřeně dohodnuté změny smlouvy.
• Deklarace, že AI má podporovat analytiky, nikoli nahrazovat člověka při rozhodování o použití síly.

Jde o částečné přiblížení k přístupu Anthropicu, jenže rozdíl zůstává zásadní: Anthropic raději obětoval kontrakty, než aby se podřídil požadavkům Pentagonu. OpenAI zvolilo cestu doplnění omezení a zachování spolupráce.

Proč armáda tak intenzivně touží po AI

V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy budované mimo jiné společností Palantir již nyní integrují data z mnoha zdrojů — senzorů, dronů, satelitů a zpravodajských hlášení — a předkládají velitelům hotová doporučení.

Podle představitelů tohoto odvětví takové systémy umožňují:

A právě zde vyvstává klíčové napětí. Generativní AI je omylná, trpí takzvanými halucinacemi a dokáže s naprostou jistotou produkovat nepravdivé informace. V civilních aplikacích to skončí nanejvýš trapnou odpovědí v chatu. Na bojišti by to znamenalo smrt nevinných lidí.

ChatGPT ztrácí, Claude roste jako z vody

Mediální bouře přinesla okamžité tržní důsledky. Když uživatelé začali ChatGPT odinstalovat, mnozí z nich hledali alternativu. Přirozenou volbou se ukázal právě Claude — model, jehož výrobce se střetl s Pentagonem a neustoupil.

Podle dat z App Store aplikace Anthropicu v sobotu vyskočila na první místo v žebříčku stahování a na této pozici se udržela minimálně do čtvrtka. Americká média psala, že Claude předčí ChatGPT počtem nových instalací, což ještě před několika týdny vypadalo jako nepravděpodobný scénář.

Na internetu se rozjela organizovaná nátlaková kampaň proti OpenAI. Populárními se staly hashtagy CancelChatGPT a QuitGPT, vyzývající k trvalému odchodu od produktů firmy, pokud bude nadále spolupracovat s ministerstvem obrany. Některé aktivistické skupiny to vnímají jako test toho, zda uživatelský tlak dokáže skutečně změnit chování technologických gigantů.

Reputační krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném sloganu: „my jsme nepovolili."

Politici se probouzejí k činu

Na celé dění rychle reagovaly think-tanky a odborníci na technologickou politiku. Center for American Progress otevřeně napsal, že spor Pentagonu s Anthropicem a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně pustil do regulace vojenského využití AI.

Podle této organizace by soukromé firmy neměly samy určovat etické hranice — vždy totiž budou pod tlakem zisků a podílů na trhu. Podobně hovoří Mariarosaria Taddeo z Oxfordské univerzity, která upozorňuje, že vyřazování nejostražitějšího hráče — tedy Anthropicu — z diskuse oslabuje bezpečnost celého ekosystému.

Vojenští představitelé se snaží obavy uklidnit. Důstojníci zodpovědní za projekty AI v rámci NATO zdůrazňují, že ve stávajících systémech je člověk formálně vždy součástí rozhodovacího procesu. Jenže čím více je AI pokročilá a „sebejistá", tím psychologicky obtížnější je zpochybnit její doporučení — zvláště ve stresu a pod časovým tlakem.

Proč by tento příběh měl zajímat i běžné uživatele AI

Pro průměrného uživatele ChatGPT nebo Claudu může vojenský kontext znít jako záležitost z velmi vzdáleného světa. Ve skutečnosti však rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley přímo ovlivní to, jaké funkce budou mít aplikace v našich telefonech za několik let.

Pokud budou jazykové modely „vychovávány" na datech z vojenských operací, mohou lépe rozumět strategickým analýzám — zároveň ale mohou přijmout předsudky typické pro toto prostředí. A pokud soukromé firmy zjistí, že obranné kontrakty jsou odolnější vůči bojkotu než spotřebitelské předplatné, snáze upřednostní finanční jistotu před etickými omezeními.

Pro uživatele v České republice je to dobrý moment podívat se, jaké podmínky uvádějí do svých zásad firmy nabízející AI také u nás. Uvádějí jasně, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tržní tlak nenahradí legislativu, ale ukazuje korporacím, že reputace se stala skutečnou měnou.

Stále zřetelněji se také rýsuje napětí mezi rychlostí inovací na jedné straně a stabilitou a bezpečností na straně druhé. Generativní modely se vyvíjejí závratným tempem, ale jejich sklon k halucinacím ve vojenských, lékařských nebo finančních aplikacích může mít dramatické následky. Hranice mezi „asistentem" a „spolurozhodčím" se začíná stírat — a právě teď probíhá zásadní spor o to, kde by měla AI zastavit.