Americká vláda zasadila tvrdou ránu technologické společnosti Anthropic. Nařídila jí totiž okamžitě znepřístupnit její dva historicky nejvýkonnější modely umělé inteligence – Claude Fable 5 a Mythos 5. Oficiálním důvodem je vládní směrnice o kontrole exportu, která se opírá o pravomoci v oblasti národní bezpečnosti. Zákaz se vztahuje na jakéhokoli uživatele bez amerického občanství.
Vládní nařízení samo o sobě sice nepožadovalo, aby Anthropic systémy kompletně vypnul, ale striktně zakázalo přístup komukoli, kdo nemá americké občanství (a to bez ohledu na to, zda se nachází v USA, nebo kdekoli jinde na světě). Toto omezení se paradoxně dotklo i samotných zaměstnanců Anthropicu, kteří nejsou občany Spojených států.
Vzhledem k tomu, že společnost nedokáže spolehlivě a s naprostou jistotou filtrovat uživatele podle jejich občanství, rozhodla se oba špičkové modely úplně vypnout pro celý svět, tedy včetně uživatelů v USA. Ostatní, méně výkonné modely z portfolia Anthropicu, zůstávají nadále v provozu bez omezení. Modely Fable 5 a Mythos 5 byly přitom považovány za absolutní světovou špičku, přičemž vývojáři je už dříve museli kvůli enormnímu výkonu výrazně cenzurovat.
Mohlo by vás zajímat
Důvodem je údajný jailbreak
Společnost obdržela vládní nařízení nečekaně v noci. Konkrétní technické odůvodnění vládní směrnice sice neobsahovala, podle informací Anthropicu se však úřady dozvěděly o způsobu, jakým lze obejít bezpečnostní pojistky (tzv. jailbreak) modelu Fable 5.
Anthropic sice přiznal, že mu byla technika prolomení demonstrována, avšak podle vyjádření firmy se ukázalo, že odhalila pouze drobné a již dříve známé zranitelnosti. Vývojáři navíc upozorňují, že stejné nedostatky vykazují i ostatní běžně dostupné modely na trhu, aniž by u nich bylo nutné provádět složité obcházení systému.
Bezpečnostní strategie Anthropicu u těchto modelů sází na princip „obrany do hloubky“. Firma vychází z reality, že stoprocentně neprůstřelná AI neexistuje. Cílem ochrany je proto udělat jakýkoli pokus o prolomení natolik finančně a technologicky nákladný, aby se útočníkům nevyplatil, a případné anomálie zachytit rychlým monitorováním. Z toho důvodu firma také uchovává zákaznická data po dobu 30 dnů, což sice vyvolává nevoli u části uživatelů, ale umožňuje to podobné útoky efektivně studovat.
Nesouhlas s vládním zásahem
V praxi měl údajný jailbreak spočívat pouze v tom, že byl model ústně požádán, aby přečetl specifickou část kódu a opravil v ní chyby. Anthropic se hájí tím, že totožnou úroveň schopností nabízejí i konkurenční systémy a jde o běžnou denní rutinu expertů, kteří kybernetické systémy chrání. Společnost navíc neeviduje žádné hlášení, že by tato zranitelnost vedla k reálnému zneužití nebo škodlivému výsledku.
Anthropic sice vládní směrnici pod nátlakem splnil a přístup k modelům Fable 5 a Mythos 5 zablokoval, s rozhodnutím úřadů ale zásadně nesouhlasí. Stažení celého modelu kvůli marginální chybě považuje za nebezpečný precedens. Pokud by se totiž stejný metr uplatnil na celý obor umělé inteligence, mohl by se vývoj a nasazování nových AI systémů v podstatě úplně zastavit. Firma uznává, že vláda má mít právo zasáhnout v případě reálného nebezpečí, takový krok by však měl vycházet z transparentního procesu založeného na jasných technických faktech, což se v tomto případě nestalo.
