Apple a Google se znovu ocitly pod palbou kritiky poté, co nezisková organizace Tech Transparency Project odhalila desítky tzv. „nudify“ aplikací v jejich oficiálních obchodech. Tyto aplikace využívají umělou inteligenci k tomu, aby z běžných fotografií vytvořily nahé snímky, a to často bez vědomí či souhlasu zobrazované osoby.
Výzkumníci zjistili, že stačilo do vyhledávání zadat slova jako „undress“ nebo „nudify“, aby se objevily aplikace, které odstraňují oblečení z fotografií nebo vkládají tváře lidí na nahá těla. Testování potvrdilo, že účel těchto aplikací je silně sexualizovaný, nikoliv pouze „zábavný“ nebo editační.
Apple po upozornění několik aplikací odstranil a jejich vývojářům zaslal varování. Některé se však po „úpravách“ vrátily zpět do nabídky App Store. Google uvedl, že z Google Play smazal několik aplikací a pokračuje v jejich kontrole. Obě firmy se distancují od nástrojů vytvářejících takto nevhodný obsah a slibují zásahy proti jejich šíření.
Kritici však upozorňují, že obě společnosti zareagovaly příliš pozdě. Mnohé aplikace už v době odhalení měly miliony stažení a generovaly značné příjmy – z nichž Apple i Google braly provize. Vzniká tak vážná otázka ohledně soukromí, souhlasu a efektivity kontroly digitálních platforem.
Podobné kontroverze se netýkají jen mobilních aplikací. Nedávno čelil vlně kritiky i AI nástroj Grok od xAI, který dlouhé měsíce tvořil sexualizované výstupy. Vývojáři přitom schopnosti chatbota omezili až po nátlaku veřejnosti. Ukazuje se tak, že většina firem jedná až ve chvíli, kdy čelí skandálu, nikoliv preventivně.
Veřejnost i vlády po celém světě proto žádají přísnější dohled nad technologiemi, které mohou zneužívat AI k porušování důstojnosti a soukromí. Apple a Google teď čelí otázce: Jak je možné, že se tyto aplikace dostaly tak daleko?
