Vztah mezi technologickým gigantem z Cupertina a ambiciózní AI divizí Elona Muska, xAI, se ocitl na bodu mrazu. Jádrem sporu není nic menšího než bezpečnostní politika App Storu a neschopnost (či neochota) chatbota Grok efektivně filtrovat toxický obsah. Apple údajně vynesl ultimátum: buď xAI vyřeší nekontrolované generování sexualizovaných deepfakes, nebo aplikace z platformy iOS zmizí. A je otázka, jak s k tomu postaví Google a jestli bude na Google Play také tak striktní.
Apple je proslulý svým uzavřeným ekosystémem, kde jsou App Store Review Guidelines zákonem. Interní audit Applu odhalil, že Grok a jeho úzká integrace se sociální sítí X (dříve Twitter) vykazují systémové nedostatky v moderaci. Problémem jsou zejména NSFW (Not Safe For Work) výstupy a fotorealistické deepfake vytvářené bez souhlasu dotčených osob.
Tento typ obsahu přímo porušuje ustanovení o urážlivém a zneužívajícím obsahu. Zatímco Musk prosazuje vizi absolutní svobody slova i v rámci LLM, Apple trvá na striktních mantinelech, které chrání koncové uživatele před zneužitím technologie k digitálnímu násilí. A Google? Ten se zatím nevyjadřuje, i když se ho to kvůli aplikaci Grok pro Android také přímo týká.
Fotogalerie
Odmítnutí a nápravná opatření
Cesta k nápravě nebyla pro xAI přímočará. První verze zprávy o moderaci, kterou vývojáři Applu předložili, byla okamžitě zamítnuta jako nedostatečná. Technologický gigant vyžadoval robustnější moderátorský rámec, který by implementoval pokročilé filtry na úrovni API i uživatelského rozhraní.
Teprve po několika kolech revizí a úpravách bezpečnostních protokolů Apple schválil aktualizovanou verzi aplikace. xAI musela implementovat:
- Sémantické filtry promptů, které blokují explicitní požadavky.
- Monitorovací systémy v reálném čase.
- Zpřísněná pravidla pro generování lidských podobizen, aby se minimalizovalo riziko vzniku deepfakes.
I přes aktuální schválení se však mluví o tom, že xAI splnila pouze minimální nutné požadavky pro setrvání v digitálním obchodě.
Krok Applu přitom nebyl veden pouze interní etikou, ale i narůstajícím tlakem ze strany amerických zákonodárců. Senátoři opakovaně apelovali na Apple i Google, aby převzali odpovědnost za obsah generovaný umělou inteligencí v jejich ekosystémech. Argumentují tím, že neregulovaná AI představuje bezprostřední bezpečnostní riziko.
Ačkoliv xAI deklaruje, že zneužívání Groka aktivně brání, komunita „prompt inženýrů“ neustále hledá cesty, jak ochranné bariéry obejít pomocí tzv. jailbreakingu (manipulace s příkazy tak, aby AI obešla své vlastní etické bloky). Souboj mezi vývojáři bezpečnostních algoritmů a vynalézavými uživateli tak zůstává otevřenou frontou, kterou bude Apple i nadále bedlivě sledovat. A Google by měl také.
