Během několika dnů ukázal celý průmysl umělé inteligence, jak výbušné dokáže být téma vojenského využití AI. Statistiky odinstalací ChatGPT vystřelily o téměř 300 procent poté, co firma podepsala kontroverzní smlouvu s americkým ministerstvem obrany.
Aféra, která otřásla světem umělé inteligence, začala odmítnutím společnosti Anthropic. Tvůrce modelu Claude dostal od Pentagonu nabídku na spolupráci, ale rozhodl se nepřekročit vlastní etické hranice. Výsledkem byla černá listina, ztráta lukrativních kontraktů a nečekaný přesun uživatelů mezi konkurenčními aplikacemi.
Pro běžné uživatele v Česku může tato záležitost znít jako vzdálený americký problém. Ve skutečnosti rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley přímo ovlivní, jaké funkce budou mít aplikace v našich telefonech za pár let. Experti z oxfordské univerzity i amerických think tanků varují, že soukromé firmy by neměly samy určovat etické hranice technologií, které mohou mít dopad na životy lidí po celém světě.
Jak Anthropic odmítl Pentagon a skončil na černé listině
Celý příběh začal nabídkou pro společnost Anthropic, která stojí za modelem Claude. Pentagon chtěl začlenit jejich umělou inteligenci do systémů analyzujících v reálném čase obrovské množství dat – od satelitních snímků přes zpravodajské zprávy až po senzorová data z bojového pole. Cílem bylo urychlit rozhodování velitelů během bojových operací.
Anthropic však stanovil dvě nepřekročitelné etické hranice. Zaprvé, model Claude nesmí podporovat vytváření plně autonomních zbraňových systémů, kde by stroj sám rozhodoval o použití síly proti lidem. Zadruhé, systém nesmí být využit k masovému sledování běžných občanů na území Spojených států.
Tyto podmínky se z pohledu vojenských představitelů ukázaly jako nepřijatelné. Podle médií administrativa Donalda Trumpa zařadila Anthropic na černou listinu subjektů bez přístupu k vládním zakázkám. Firma získala pověst „neústupně etické“ společnosti, ale přišla o potenciálně výnosný trh.
Situaci komplikuje fakt, že podle zdrojů blízkých Pentagon je model Claude tak jako tak využíván v operacích souvisejících s napětím mezi USA, Izraelem a Íránem, přestože je firma formálně zablokována v soutěžních řízeních. Ministerstvo obrony tyto informace nekomentuje, což zanechává řadu otázek bez odpovědi.
Co podepsalo OpenAI a proč to rozzuřilo uživatele
Když Anthropic odmítá spolupráci, do hry vstupuje OpenAI. V pátek dochází k podpisu smlouvy, která fakticky zaplňuje mezeru po konkurentovi. ChatGPT má směřovat do obranných aplikací, přičemž detaily kontraktu zůstávají částečně utajené.
Sam Altman, šéf OpenAI, následující den zveřejňuje prohlášení, v němž tvrdí, že vyjednaná bezpečnostní opatření jsou údajně přísnější než ta, na která byl ochoten přistoupit Anthropic. Tento komunikát má bránit reputaci firmy, ale v očích mnoha lidí vypadá jako pokus těžit z „principiálnosti“ rivala.
Reakce uživatelů je okamžitá. Data analytické firmy Sensor Tower ukazují, že průměrná denní míra odinstalací aplikace ChatGPT roste o 295 procent oproti běžné úrovni. Na sociálních sítích se objevují obvinění ze zrady deklarovaných hodnot a prodání se vojenským zakázkám. V internetových diskuzích se množí komentáře zklamaných vývojářů a akademiků, kteří ChatGPT využívali pro výzkumné účely.
V pondělí Altman vychází s rolí „viníka, který přiznává chybu“. Veřejně prohlašuje, že komunikace byla ukvapená a nepromyšlená a celá záležitost působila čistě oportunisticky. Oznamuje také úpravy ve smlouvě s ministerstvem obrany. Během několika dnů se ChatGPT v očích mnoha lidí proměnil ze symbolu „odpovědné AI“ v nástroj spojovaný s vojenskou mašinérií.
Jaké konkrétní úpravy OpenAI slíbilo provést ve smlouvě
Pod tlakem veřejného mínění a rostoucího bojkotu zavádí OpenAI do kontraktu několik velmi konkrétních ustanovení. Nejdůležitější z nich se týkají dohledu nad americkými občany a přístupu zpravodajských služeb k modelům.
Zásadní změny zahrnují:
- výslovný zákaz vědomého využívání systémů OpenAI k monitorování obyvatel Spojených států
- blokování automatického přístupu pro zpravodajské agentury jako NSA bez samostatné, explicitně dohodnuté změny smlouvy
- prohlášení, že umělá inteligence má podporovat analytiky, nikoliv nahrazovat člověka v rozhodování o použití síly
- požadavek na transparentní vykazování případů potenciálního zneužití systémů
- právo OpenAI pozastavit poskytování služeb při porušení dohodnutých limitů
- nezávislý audit využití technologie každých šest měsíců
- omezení přístupu k nejnovějším modelům pro aplikace s letálním potenciálem
Jde o částečné přiblížení k přístupu Anthropic, ale rozdíl je zřejmý. Anthropic raději rezignoval na zakázky, než aby ustoupil očekáváním Pentagonu. OpenAI zvolilo cestu doplnění omezení při zachování spolupráce. Podle analytiků z Center for American Progress však tyto dodatečné záruky nemusí stačit, pokud chybí nezávislá kontrola jejich dodržování.
Proč armáda tak intenzivně usiluje o využití umělé inteligence
V pozadí celého příběhu stojí širší vize moderních ozbrojených sil. Platformy vytvářené mimo jiné firmou Palantir už dnes integrují data z mnoha zdrojů – senzorů, dronů, satelitů, zpravodajských zpráv – a prezentují je velitelům ve formě hotových doporučení.
Podle představitelů tohoto odvětví takové systémy umožňují rychlejší analýzu tisíců satelitních snímků než desítky analytiků, predikci pohybů nepřátelských jednotek na základě vzorců z předchozích konfliktů a identifikaci cílů s vyšší přesností než tradiční metody. Generál Roger Cloutier z velení USA v Evropě nedávno prohlásil, že integrace umělé inteligence do bojových systémů je stejně zásadní jako zavedení parního stroje do průmyslu.
Tady se objevuje klíčové napětí. Generativní umělá inteligence bývá omylná, má sklony k „halucinacím“ a dokáže vytvářet falešné informace s naprostou přesvědčivostí. V civilních aplikacích to skončí maximálně kompromitující odpovědí v chatu. Na bojišti by to znamenalo smrt náhodných lidí. Výzkumníci z Massachusetts Institute of Technology varují, že psychologický tlak na velitele, aby akceptovali doporučení AI v časové tísni, může být obrovský.
Jak krize ChatGPT pomohla modelu Claude k nečekanému růstu
Mediální bouře přinesla okamžitý tržní efekt. Když uživatelé mažou aplikaci ChatGPT, mnozí z nich hledají alternativu. Přirozenou volbou se ukazuje právě Claude – model, jehož výrobce šel do konfrontace s Pentagonem.
Z dat App Store vyplývá, že aplikace Anthropic v sobotu vyskočila na první místo žebříčků stahování a drží se tam minimálně do čtvrtka. Americká média píší, že Claude předhání ChatGPT v počtu nových instalací, což ještě před několika týdny vypadalo málo reálně. Tržní analytici odhadují, že Anthropic získal během jediného týdne tolik nových uživatelů, kolik by za běžných okolností potřeboval tři měsíce intenzivního marketingu.
Na internetu startuje organizovaná kampaň tlaku na OpenAI. Populárními se stávají hashtagy CancelChatGPT a QuitGPT, které nabádají k trvalému opuštění produktů firmy, dokud bude spolupracovat s ministerstvem obrony. Některé aktivistické skupiny toto chápou jako test, zda tlak uživatelů dokáže reálně změnit chování gigantů v oblasti AI.
Imageová krize OpenAI v praxi vybudovala pro Anthropic bezplatnou marketingovou kampaň postavenou na jediném hesle: „my jsme neustoupili“. V technologických komunitách na Redditu a Hacker News se rozjely diskuse o etice používání AI nástrojů, přičemž mnoho vývojářů veřejně oznamuje přechod na Claude pro své projekty.
Měli by běžní uživatelé umělé inteligence věnovat pozornost vojenským kontraktům
Pro průměrného uživatele ChatGPT nebo Claude může tato vojenská skládačka znít jako něco velmi vzdáleného. Přitom rozhodnutí přijímaná dnes ve Washingtonu a Silicon Valley se přímo promítnou do funkcí, které budou aplikace v telefonech využívat za několik let.
Pokud budou jazykové modely „vychovávány“ na datech z vojenských operací, mohou lépe rozumět strategickým analýzám, ale také získat předsudky typické pro toto odvětví. Jestliže soukromé firmy uvidí, že obranné kontrakty jsou odolnější vůči bojkotu než spotřebitelské předplatné, snadněji zvolí finanční jistotu místo etických omezení. Mariarosaria Taddeo z oxfordské univerzity upozorňuje, že vytlačování nejobezřetnějšího hráče, jakým je Anthropic, oslabuje bezpečnost celého ekosystému.
Pro uživatele v Česku je to dobrý moment přezkoumat, jaké podmínky zapisují do svých pravidel firmy nabízející AI i u nás. Jasně definují, s kým spolupracují? Deklarují hranice týkající se sledování a vojenských aplikací? Tlak trhu sice nenahradí legislativu, ale ukazuje korporacím, že reputace se stala reálnou měnou. Experti z Center for American Progress přímo píší, že spor Pentagonu s Anthropic a následná smlouva s OpenAI jsou signálem pro Kongres, aby se konečně zabýval regulacemi využití AI armádou.
Čím dál zřetelněji se projevuje napětí mezi rychlostí inovací a stabilitou či bezpečností. Generativní modely se rozvíjejí závratným tempem, ale jejich sklon k halucinacím ve vojenských, zdravotnických nebo finančních aplikacích může mít dramatické důsledky. Hranice mezi „asistentem“ a „spolurozhodovatelem“ se začína stírat – a právě teraz probíhá spor o to, na které straně této čáry by se měla umělá inteligence zastavit.
