Když se počet denních odinstalací aplikace ChatGPT vyšplhal téměř o 300 procent, vedení OpenAI pochopilo, že vojenské kontrakty mohou stát firmu loajalitu uživatelů. Úpravy smlouvy přišly během několika dní.
Celý sektor umělé inteligence sledoval, jak rychle dokáže téma vojenského využití AI rozzlobit běžné uživatele. OpenAI nejprve podepsalo smlouvu s americkým ministerstvem obrany, pak ji ve spěchu upravovalo, když statistiky odinstalací ChatGPT vystřelily téměř o 300 procent. Pentagon přitom tlačí na firmy, aby mu poskytly co nejvíce možností, zatímco část z nich nastavuje tvrdé etické hranice.
Experti z Center for American Progress upozorňují, že soukromé korporace by neměly samy určovat etické limity pro armádní nasazení AI. Podle výzkumníků z Oxfordské univerzity vyřazování nejobezřetnějších hráčů, jako je Anthropic, oslabuje bezpečnost celého ekosystému. Tato kauza ukazuje, jak křehká je důvěra uživatelů, když se technologické firmy dostanou do kontaktu s vojenskými strukturami.
Pro běžné uživatele to znamená moment, kdy se ukáže, zda firmy nabízející ChatGPT, Claude nebo jiné asistenty staví na stranu transparentnosti, nebo ustupují tlaku vojenských kontraktů. Rozhodnutí přijatá dnes ve Washingtonu a v Silicon Valley budou přímo ovlivňovat funkce aplikací v telefonech za pár let.
Jak Anthropic odmítl Pentagon a skončil na černé listině
Celá historie začala u firmy Anthropic, tvůrce modelu Claude, která dostala od Pentagonu podobnou nabídku ke spolupráci. Ministerstvo obrony chtělo začlenit jejich AI do systémů analyzujících v reálném čase obrovské množství dat – od satelitních snímků po zpravodajské zprávy – aby urychlilo rozhodování na bojišti.
Anthropic však stanovil dvě velmi tvrdé etické hranice. Za prvé, Claude nemůže podporovat vývoj plně autonomních zbraňových systémů, tedy těch, kde stroj sám rozhoduje o použití síly. Za druhé, model se nesmí podílet na masovém sledování běžných občanů na území USA.
Tyto podmínky se z pohledu armády ukázaly jako nepřijatelné. Podle médií administrativa Donalda Trumpa zařadila Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma si vybudovala pověst „neústupně etické“, ale přišla o potenciálně lukrativní trh.
Situaci komplikuje fakt, že podle mediálních zdrojů se Claude stejně občas používá v operacích spojených s napětím mezi USA, Izraelem a Íránem, i přes formální vyřazení firmy z výběrových řízení. Pentagon tyto informace nekomentuje, což zanechává řadu nezodpovězených otázek.
OpenAI podepisuje to, co Anthropic odmítl
Když Anthropic odmítá, nastupuje OpenAI. V pátek dochází k podpisu smlouvy, která v praxi zaplňuje mezeru po konkurentovi. ChatGPT má směřovat do obranných aplikací a detaily kontraktu zůstávají částečně utajené.
Sam Altman, šéf OpenAI, následující den zveřejňuje prohlášení, kde tvrdí, že vyjednaná ochranná opatření jsou prý přísnější než ta, na která byl ochoten přistoupit Anthropic. Tento komunikát má firmu obhájit, ale v očích mnoha lidí vypadá jako pokus profitovat na „zásadovosti“ rivala.
Reakce uživatelů je okamžitá. Data firmy Sensor Tower ukazují, že průměrná denní úroveň odinstalací aplikace ChatGPT roste o 295 procent oproti běžné hodnotě. Na sociálních sítích se objevují obvinění ze zrady deklarovaných hodnot a prodání se vojenským zakázkám.
- Anthropic odmítl plně autonomní zbraňové systémy
- Pentagon vyřadil Anthropic z vládních tendrů
- OpenAI podepsalo smlouvu v pátek
- Sam Altman tvrdil, že ochrana je přísnější než u Anthropic
- Odinstalace ChatGPT vzrostly o 295 procent
- Uživatelé spustili kampaň pod hashtagem CancelChatGPT
- Aplikace Claude se dostala na první místo v App Store
- OpenAI slíbilo úpravy smlouvy v pondělí
V průběhu několika dnů se ChatGPT v očích mnoha lidí proměnil ze symbolu „odpovědné AI“ na nástroj spojený s vojenským aparátem. Altman v pondělí přijímá roli „vinníka, který se přiznává“. Veřejně uvádí, že komunikace byla uspěchaná a nepromyšlená a celá věc vypadala čisto oportunisticky. Zároveň oznamuje úpravy ve smlouvě s ministerstvem obrony.
Co konkrétně OpenAI slíbilo upravit
Pod tlakem veřejného mínění a narůstajícího bojkotu OpenAI vkládá do kontraktu několik velmi konkrétních ustanovení. Nejdůležitější z nich se týkají dohledu nad občany USA a přístupu zpravodajských služeb k modelům.
Výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států je jednou z hlavních změn. Firma také blokuje automatický přístup pro zpravodajské agentury, jako je NSA, bez samostatné a otevřeně dohodnuté změny smlouvy. Deklaruje, že AI má podporovat analytiky, nikoli nahrazovat člověka v rozhodování o použití síly.
Jde o částečné přiblížení k přístupu Anthropic, ale rozdíl je viditelný. Anthropic raději rezignoval na zakázky, než aby ustoupil požadavkům Pentagonu. OpenAI volí cestu doplnění omezení a udržení spolupráce.
Výzkumníci z Oxfordské univerzity upozorňují, že tlačit z jednání nejobezřetnějšího hráče, jakým je Anthropic, oslabuje bezpečnost celého ekosystému. Mariarosaria Taddeo z téže univerzity zdůrazňuje, že soukromé firmy by neměly jednotlivě určovat etické hranice, protože budou vždy pod tlakem zisků a tržních podílů.
Proč armádě na umělé inteligenci tolik záleží
V pozadí této historie stojí širší vize moderních ozbrojených sil. Platformy vytvářené mimo jiné firmou Palantir už nyní integrují data z mnoha zdrojů – senzorů, dronů, satelitů, zpravodajských zpráv – a prezentují je velitelům ve formě hotových doporučení.
Podle zástupců tohoto odvětví takové systémy umožňují mnohem rychlejší analýzu satelitních snímků, automatické třídění zpravodajských hlášení podle priorit a včasné varování před hrozbami ještě před výskytem přímých útoků. Vojenští důstojníci odpovědní za projekty AI v rámci NATO podkreslují, že v současných systémech člověk formálně vždy zůstává v rozhodovací smyčce.
Tady se však objevuje klíčové napětí. Generativní AI bývá omylná, má „halucinace“ a dokáže vytvářet falešné informace s naprostým přesvědčením. V civilních aplikacích to končí nanejvýš kompromitující odpovědí v chatu. Na bojišti by to znamenalo smrt náhodných osob.
Čím pokročilejší a „jistější“ je AI, tím těžší je psychologicky zpochybnit její doporučení, zvláště ve stresu a pod tlakem času. Odborníci z Center for American Progress varují, že bez právního rámce budou firmy vždy volit finanční bezpečnost před etickými omezeními.
Claude roste, ChatGPT ztrácí uživatele
Mediální bouře přinesla okamžitý tržní efekt. Když uživatelé mažou aplikaci ChatGPT, mnohé z nich hledají alternativu. Přirozenou volbou se ukazuje právě Claude – model, jehož výrobce šel s Pentagonem do přímého konfliktu.
Z dat App Store vyplývá, že aplikace Anthropic v sobotu vyskočila na první místo žebříčků stahování a drží se tam minimálně do čtvrtka. Americká média píší, že Claude předhání ChatGPT v počtu nových instalací, což ještě před několika týdny vypadalo málo reálně.
Na internetu běží organizovaná kampaň tlaku na OpenAI. Populárními se staly hashtagy CancelChatGPT a QuitGPT, vyzývající k trvalému odchodu od produktů firmy, dokud bude spolupracovat s ministerstvem obrony. Některé aktivistické skupiny to berou jako test, zda tlak uživatelů dokáže reálně změnit chování gigantů v oblasti AI.
Krize image OpenAI v praxi postavila Anthropic bezplatnou marketingovou kampaň postavenou na jediném sloganu: „my jsme neustoupili“. Sociální sítě se plní příběhů lidí, kteří přecházejí od ChatGPT ke Claude. Výzkumníci sledují, jak rychle dokáže etické rozhodnutí jedné firmy posunout celý trh.
Proč by tato kauza měla zajímat i běžné uživatele
Pro běžného uživatele ChatGPT nebo Claude může tahle vojenská záležitost znít jako něco velmi vzdáleného. Přitom rozhodnutí přijatá dnes ve Washingtonu a v Silicon Valley přímo ovlivní, jaké funkce budou aplikace v telefonech mít za pár let.
Pokud se jazykové modely „vychovají“ na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale také získat předsudky typické pro toto odvětví. Pokud soukromé firmy uvidí, že obranné zakázky jsou odolnější vůči bojkotu než spotřebitelská předplatná, snáze zvolí finanční bezpečnost místo etických omezení.
Pro uživatele v Česku je to dobrý okamžik, aby se podívali, jaké podmínky si do svých pravidel zapisují firmy nabízející AI i u nás. Jasně definují, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tlak trhu nenahradí zákon, ale ukazuje korporacím, že pověst se stala skutečnou měnou.
Čím dál častěji vidíme napětí mezi rychlostí inovací a stabilitou a bezpečností. Generativní modely se vyvíjejí závratným tempem, ale jejich sklon k halucinacím ve vojenských, lékařských nebo finančních aplikacích může mít dramatické důsledky. Hranice mezi „asistentem“ a „spolurozhodujícím“ se začína rozostřovat – a právě teď probíhá spor o to, na které straně této linie by se měla AI zastavit.
