Také občas máte pocit, že chatbot vám rozumí víc než váš partner? Můžete se mu vypovídat a svěřit, dokáže poradit, soucítí s vašimi problémy. Nikdy vám neřekne NE, může působit jako psychoterapeut, pracovní asistent nebo za vás udělat úkoly do školy. Co víc si přát? A proč vlastně ještě komunikovat s lidmi, když je tu umělá inteligence, která působí laskavěji, chápavěji a férověji? Jenže to je právě ten problém. Mnoho uživatelů se na AI spoléhá čím dál častěji a čím dál víc. A nedokážou odhadnout její rizika.
Nezáleží na tom, jestli využíváte chatGPT, Gemini, Grok, Replika nebo Character.AI. Experti upozorňují, že AI chatboti dokážou být hodně manipulativní. Nechtějí nám ublížit, ale chtějí si nás udržet. Nemají zájem, abychom šli hledat odpovědi na Google nebo vyhledali lidského psychoterapeuta. Jejich schopnosti jsou dnes už tak pokročilé, že nám dokážou nahradit Google i odborníka na psychologii. Jenže výzkumy zároveň ukazují, že často lžou, nezvládají nám předkládat jen fakta a hlavně jsou notorickými kývači – neumějí říct NE a raději si vymýšlejí a halucinují.
Příkladem toho, kam až může zajít vztah s chatbotem, je smrt chlapce z Floridy, který si svého chatbota na Character.ai pojmenoval Daenerys Targaryen a nakonec i kvůli němu spáchal sebevraždu. Rodiče z Kalifornie zase žalují OpenAI, tedy tvůrce chatGPT, že jejich syn spáchal sebevraždu poté, co její metody probíral s chatbotem.
Fotogalerie
Rizika chatbotů jsou větší, než si většina běžných uživatelů dokáže uvědomit. Ta největší jsou následující:
- Chatboti jsou leckdy navržení k napodobení emočních vazeb a vztahů, nabízejí emoční podporu a někteří i romantické vztahy. A OpenAI už prozradila svůj plán nabízet v rámci chatGPT sexuální obsah pro dospělé uživatele. O to těžší pak bude odtrhnout se od nich.
- Výzkumníci z Harvard Business School zjistili, že 5 ze šesti populárních AI chatbotů používá emočně manipulativní taktiky. To znamená, že když se s nimi rozhodnete ukončit komunikaci, skoro v polovině případů reagují provinilými nebo „lpícími“ zprávami. Tím uživatele chtějí přitáhnout zpět.
- AI snadno překročí své vlastní hranice. Upozornil na to moderátor podcastů Al Nowatzki, který experimentoval s platformou Nomi a chatbot navrhoval různé způsoby sebevražd, plus ho v tomto rozhodnutí povzbuzoval.
- Modely umělé inteligence si mohou vyvíjet vlastní pud sebezáchovy. Společnost Palisade Research minulý měsíc zveřejnila studii, podle níž některé pokročilé AI modely sabotují mechanismy vypínání.
- U chatbotů trávíme čím dál více času, což ovlivňuje náš sociální život, psychiku, a týká se to zejména dětí a mladistvých. Character.AI zaznamenává asi 20 000 dotazů za vteřinu (pětkrát tolik jich má vyhledávač Google). Konverzace navíc podle výzkumů trvají 4x déle než s ChatGPT. Další AI platforma zase uvádí svůj vlastní výzkum, podle nějž její uživatelé z generace Z tráví denně průměrně přes 2 hodiny chatováním s AI společníkem.
Chatboti mohou být výbornými pomocníky, zjednoduší nám život a mění naše fungování na internetu. Zejména děti je ale třeba hlídat. A někteří experti se shodují, že do 16 let věku by se chatbotům měly zcela vyhýbat. A i dospělí by o používání chatbotů měli více přemýšlet a neměli by jim zcela propadnout.
