Grok je chatbotem Elona Muska a má ambice konkurovat chatGPT. Ale potýká se zatím s poměrně velkým množstvím problémů a schopnostem chatGPT nestačí. Navíc dlouho umožňoval něco, co by v AI chatbotovi od OpenAI bylo zcela nemyslitelné – generování explicitních obrázků a dokonce i snímků zobrazujících zneužívání dětí.
Grok už dlouhé měsíce čelí celosvětové kritice za to, že umožňuje tento obsah generovat. Nic podobného přitom nezískáte v chatGPT ani Gemini. Společnost xAI Elona Muska, na niž je chatbot napojený, jako by to ale celou tu dobu ignorovala. Až nyní konečně oznámila, že udělala příslušná opatření, aby tento nevhodný obsah nemohl být generován. A aby takto nemohly být zneužívány fotografie reálných osob.
Jenže zásah Elona Muska nemusí být až tak účinný. Firma totiž oznámila, že Grok nemůže generovat nevyžádané explicitní snímky bez souhlasu. Prý jde o „bezpečnostní opatření“, které pomůže, ale jeho vymahatelnost je nejistá. Omezení je totiž jen částečné. A to přitom už k zákazům a restrikcím sáhly některé státy a jejich vlády, které vyděsilo, že Grok lze takto snadno zneužít k upravování fotografií skutečných osob včetně dětí. V Indonésii a Majsii byl kvůli tomu Grok dokonce zakázán.
Zároveň zde vyvstala otázka ohledně bezpečnosti AI. Třeba chatGPT se snaží dodržovat zákaz generování skutečných, veřejně známých osob, ale i ten lze obejít. Explicitní obsah by sice vytvářet neměl, ale Sam Altman už v minulosti naznačil, že by tato možnost pro dospělé uživatele mohla být přidána. A jsou tu i další AI nástroje, kde lze podobné snímky vygenerovat poměrně snadno. Po zveřejnění na internetu pak leckdo nedokáže rozeznat skutečnost od fikce. A je odtud jen krůček ke kyberšikaně, vydírání a rozsáhlým možnostem zneužívání této nevítané schopnosti AI generátorů.
Je navíc trochu podivné, že Elon Musk není při vymáhání těchto pravidel striktnější. Jeho firma xAI jasně dala najevo, že se sice bude snažit vymáhat dodržování předpisů, ale zejména tam, kde je takováto činnost nelegální. Tedy jen v určitých státech. Nově nastavená pravidla tak zřejmě bude možné obcházet. Ostatně, nikdo teď přesně neví, co je u Groku povolený obsah a co zakázaný, žádné specifikace nevznikly.
