Během několika dní celý AI průmysl sledoval, jak dokáže téma vojenského využití umělé inteligence rozzuřit uživatele. Společnost OpenAI nejprve podepsala dohodu s americkým ministerstvem obrany a vzápětí ji ve spěchu upravovala, když statistiky odinstalací ChatGPT vystřelily téměř o tři sta procent.
Když se začátkem března objevily první zprávy o spolupráci velkých AI firem s Pentagonem, jen málokdo čekal tak bouřlivou reakci veřejnosti. Během jediného víkendového týdne se z ChatGPT z pozice důvěryhodného asistenta stal v očích mnoha uživatelů nástroj spojený s vojenskou mašinérií. Podle analytických dat od firmy Sensor Tower vzrostl počet denních odinstalací aplikace ChatGPT o dvě stě devadesát pět procent oproti běžné úrovni. Tato eskalace přiměla vedení OpenAI k mimořádným krokům a veřejným omluvám.
Odborníci z Center for American Progress upozorňují, že spor mezi technologickými giganty a Pentagonem odhaluje zásadní problém současného vývoje umělé inteligence. Soukromé společnosti v tuto chvíli de facto vytyčují etické hranice bez jasného legislativního rámce. Mariarosaria Taddeo z Oxfordské univerzity varuje, že když z jednacího stolu vypadne nejobezřetnější hráč jako Anthropic, bezpečnost celého ekosystému tím trpí. Pro tebe jako uživatele to znamená, že rozhodnutí přijatá teď ve Washingtonu a Silicon Valley ovlivní funkce aplikací v tvém telefonu už za pár let.
Kde začalo tvrdé odmítnutí Anthropic a vztek Pentagonu
Celý příběh odstartovala firma Anthropic, tvůrce jazykového modelu Claude, která dostala podobnou nabídku ke spolupráci. Pentagon chtěl zapojit jejich AI do systémů analyzujících v reálném čase obrovské objemy dat od satelitních snímků přes zpravodajské zprávy až po senzorová data z bojových oblastí. Cílem bylo urychlit rozhodování velitelů přímo na bojišti a poskytnout jim doporučení založená na strojovém zpracování informací.
Anthropicu ale dvě etické hranice představovaly tvrdý limit. Zaprvé model Claude nemůže podporovat vývoj plně autonomních zbraňových systémů, tedy těch, kde o nasazení síly rozhoduje stroj bez lidské kontroly. Zadruhé se Claude nesmí účastnit masového sledování běžných občanů na americkém území. Tyto podmínky dávaly jasnou prioritu ochraně lidských práv před strategickými zájmy armády.
Z pohledu vojenských plánovačů se obě podmínky ukázaly jako nepřijatelné. Podle informací z tisku správa Donalda Trumpa zařadila Anthropic na černou listinu subjektů, jimž byl odepřen přístup ke státním zakázkám. Firma si vybudovala pověst zarytě etické společnosti, ale přišla o potenciálně lukrativní trh. Dario Amodei, generální ředitel Anthropic, to na veřejnosti obhajuje jako strategii dlouhodobé zodpovědnosti.
Situaci komplikuje fakt, že podle mediálních zdrojů Claude stejně bývá využíván při operacích spojených s napětím mezi Spojenými státy, Izraelem a Íránem, a to i přes formální blokaci firmy v zadávacích řízeních. Pentagon k těmto tvrzením nevydává komentáře, což zanechává řadu otázek bez odpovědi. Taddeo k tomu poznamenává, že taková situace jen potvrzuje potřebu transparentní regulace na úrovni Kongresu.
Jak OpenAI podepsalo to, co Anthropic odmítl
V pátek, kdy už bylo jasné, že Anthropic ze hry vystupuje, podepsala OpenAI dohodu, která prakticky zaplnila mezeru po konkurentovi. ChatGPT měl zamířit do obranných aplikací a podrobnosti smlouvy zůstaly částečně utajené. Sam Altman, generální ředitel OpenAI, následující den zveřejnil prohlášení, v němž tvrdil, že vyjednaná ochranná opatření jsou prý dokonce přísnější než ta, na která byl ochoten přistoupit Anthropic.
Tento komunikát měl firmu ochránit před kritikou, ale u mnoha lidí působil jako pokus vytěžit ze zásadovosti rivala. V sociálních sítích se okamžitě objevily výtky za zradu deklarovaných hodnot a prodání se vojenským kontraktům. Hashtag CancelChatGPT rychle nabíral na síle a aktivističtí uživatelé začali organizovat bojkot produktů OpenAI.
Reakce uživatelů byla bleskurychlá a tvrdá. Data od Sensor Tower ukázala, že průměrná denní míra odinstalací aplikace ChatGPT vyskočila o dvě stě devadesát pět procent oproti typické hodnotě. Během několika dnů se ChatGPT ze symbolu odpovědné AI proměnil v nástroj spojený s válečným průmyslem. Analytici z technologických médií shodně konstatovali, že takovou negativní vlnu OpenAI nezažil ani při předchozích kontroverzích kolem licenčních sporů.
Altman v pondělí vystoupil s veřejnou omluvou a přiznal, že komunikace byla uspěchaná a nepromyšlená. Slíbil revizi podmínek smlouvy s ministerstvem obrany a ujistil, že firma hodnoty umělé inteligence bere vážně. Podle expertů na krizovou komunikaci šlo o typický krok poté, co se krize vymkla kontrole. Altman musel uznat, že finanční atraktivita kontraktu v tom okamžiku převážila nad pečlivou veřejnou diskusí.
Jaké konkrétní změny OpenAI slíbilo provést ve smlouvě
Pod tlakem veřejnosti a rostoucího bojkotu OpenAI do kontraktu doplnila několik velmi specifických ustanovení. Nejdůležitější z nich se týkají dohledu nad americkými občany a přístupu zpravodajských služeb k modelům. Vedení firmy sice tvrdí, že ani původní verze takové excesy nepovolovala, ale explicitní zmínky v textu mají uklidnit kritiky.
Mezi hlavní úpravy patří:
- výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států
- blokace automatického přístupu pro zpravodajské agentury jako NSA bez samostatné veřejně odsouhlasené změny smlouvy
- deklarace, že AI má podporovat analytiky, ale ne nahrazovat člověka při rozhodování o použití síly
- pravidelné audity implementace modelů pod supervizí nezávislých odborníků
- transparentní reporting o typech úloh, na nichž ChatGPT v obranném sektoru pracuje
- právo OpenAI jednostranně vypovědět smlouvu, pokud dojde k porušení etických zásad
Jde o částečné přiblížení se k přístupu Anthropic, ovšem rozdíl zůstává viditelný. Anthropic raději rezignoval na zakázky, než aby ustupoval požadavkům Pentagonu. OpenAI si zvolilo cestu doplnění omezení a udržení spolupráce. Podle Taddeo z Oxfordské univerzity taková strategie funguje jen tehdy, když existuje nezávislý kontrolní orgán schopný ověřit dodržování slibů.
Podobné debaty probíhají i v Evropě, kde Evropský parlament připravuje nařízení o umělé inteligenci známé jako AI Act. Legislativci v Bruselu navrhují kategorizaci rizik aplikací a zákaz některých užití v oblasti masového sledování. Zástupci NATO zároveň zdůrazňují, že v současných systémech člověk formálně vždy zůstává v rozhodovací smyčce, ale psychologický tlak na akceptaci doporučení AI roste úměrně k její sofistikovanosti.
Proč armádě na umělé inteligenci tolik záleží
V pozadí celého sporu stojí širší vize moderních ozbrojených sil. Platformy vytvářené například firmou Palantir už nyní integrují data z mnoha zdrojů jako jsou senzory, drony, satelity a zpravodajské zprávy a prezentují je velitelům formou hotových doporučení. Podle představitelů obranného průmyslu takové systémy umožňují rychlejší reakce na hrozby a koordinaci jednotek v reálném čase.
Generativní AI nabízí další dimenzi schopností. ChatGPT dokáže rychle agregovat textové zprávy v různých jazycích, identifikovat klíčové informace a navrhnout scénáře dalšího vývoje situace. Armáda si od těchto nástrojů slibuje zrychlení rozhodovacích procesů a snížení kognitivní zátěže velitelů zaplavených informacemi z desítek kanálů.
Tady ale vyvstává zásadní napětí mezi přínosem a rizikem. Generativní modele trpí takzvanými halucinacemi a dokážou tvořit nepravdivé informace s plným přesvědčením o jejich správnosti. V civilních aplikacích to skončí maximálně trapnou odpovědí v chatu. Na bojišti by takový omyl mohl znamenat smrt nevinných lidí nebo eskalaci konfliktu založenou na falešných datech.
Vědci z Massachusetts Institute of Technology nedávno publikovali studii o spolehlivosti velkých jazykových modelů v kritických situacích. Zjistili, že míra chybovosti roste při práci s neúplnými nebo protichůdnými informacemi, tedy přesně v podmínkách typických pro vojenské operace. Autoři studie doporučují vícestupňovou kontrolu výstupů a zásadní investice do vysvětlitelnosti systémů dřív, než se dostanou do bojového nasazení.
Jak Claude profituje z krize ChatGPT
Mediální bouře přinesla okamžitý efekt na trhu aplikací. Když uživatelé odinstalovali ChatGPT, mnoho z nich hledalo alternativu. Přirozenou volbou se stal právě Claude, model jehož výrobce šel do otevřeného střetu s Pentagonem. Krizový management OpenAI v praxi vybudoval pro Anthropic bezplatnou marketingovou kampaň postavěnou na jediném hesle: my jsme neustoupili.
Data z App Store ukazují, že aplikace Claude ve sobotu vyskočila na první místo žebříčků stahování a udržela se tam minimálně do čtvrtka. Americká média píší, že Claude předstihl ChatGPT v počtu nových instalací, což ještě před pár týdny vypadalo jako nereálné. Dario Amodei sice veřejně nechce těžit z problémů konkurence, ale čísla mluví jasně.
Na sociálních sítích odstartovala organizovaná kampaň tlaku na OpenAI. Populárními se staly hashtagy CancelChatGPT a QuitGPT vyzývající k trvalému opuštění produktů firmy, dokud bude spolupracovat s armádou. Některá aktivistická hnutí to chápou jako test, zda tlak uživatelů dokáže reálně změnit chování AI gigantů.
Experti na korporátní reputaci poznamenávají, že takový posun preferencí má pro OpenAI dlouhodobé důsledky. Podle průzkumů důvěra uživatelů k technologickým firmám roste s transparentností a klesá, když vidí rozpory mezi deklarovanými hodnotami a skutečnými kroky. Sam Altman opakovaně tvrdil, že OpenAI vzniklo jako nezisková organizace zaměřená na bezpečný vývoj AI, a právě tento obraz se nyní hroutí.
Co by teď měli dělat běžní uživatelé AI
Pro většinu lidí může tahle vojenská skládačka znít jako něco velmi vzdáleného. Přitom rozhodnutí přijímaná teď ve Washingtonu a Silicon Valley se přímo promítnou do funkcí aplikací v telefonech za pár let. Pokud budou jazykové modely trénovány na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale také získat předsudky typické pro obranný sektor.
Pro uživatele v Česku je to dobrá příležitost prozkoumat, jaké podmínky vkládají do svých dokumentů firmy nabízející AI také u nás. Jasně definují, s kým spolupracují? Deklarují hranice ohledně sledování a vojenských aplikací? Tlak trhu sice nenahradí legislativu, ale ukazuje korporacím, že reputace se stala skutečnou měnou.
Stále častěji vidíme napětí mezi rychlostí inovace a stabilitou i bezpečností. Generativní modely se vyvíjejí závratným tempem, ale jejich náchylnost k halucinacím může mít dramatické důsledky ve vojenských, zdravotnických nebo finančních aplikacích. Hranice mezi asistentem a spolurozhodujícím se začíná stírat a právě teď probíhá spor o to, na které straně této čáry by se měla AI zastavit.
