Je umělá inteligence ku prospěchu lidstva nebo nás ohrožuje? O tom můžeme dlouze diskutovat, ale následně se lidé rozdělí na dva tábory – jeden je pro další rozvoj umělé inteligence a věří v její velké přínosy lidstvu, další pesimisticky varuje před všemi možnými riziky. Faktem ale je, že AI už je nedílnou součástí našich životů a firmy i přední odborníci se snaží neustále její schopnosti vylepšovat. Cílem mnohých z nich je přitom sestrojení super-inteligence.
Obecná umělá inteligence má mít nadlidské schopnosti a vědomosti a mohla by dosavadní pokrok velmi urychlit. Může být velmi prospěšná a posunout nás mnohem dál. O tom nikdo nepochybuje. Zároveň ale zaznívá i čím dál víc kritických a varovných hlasů. A ty se zvedají i v řadách předních odborníků na kyberbezpečnost. Nyní vychází kniha, která kritikou vůči super AI nešetří. A dostala velmi jasný a prostý název – „Pokud to kdokoli postaví, všichni zemřeme“.
Za publikací stojí dva výzkumníci z Institutu pro výzkum strojové inteligence, Eliezer Yudkowsky a Nate Soares. Varují, že obecná umělá inteligence by nás převyšovala podobně, jako člověk převyšuje mravence (a to ne velikostí, nýbrž inteligenčními schopnostmi). Cíle AI by tedy mohly být vyšší než ty naše. A aby jich dosáhla, může klidně vyhubit lidstvo. A to nikoliv způsobem, jaký vídáme ve sci-fi filmech, tedy zuřivou válkou s roboty a se zlým Skynetem.
Fotogalerie
Nejde přitom jen o aktuální snahu vědců zalíbit se kritikům AI. Yudkovsky byl proti neopatrnému zacházení s umělou inteligencí po většinu své kariéry a už před čtvrt stoletím vydal studii s názvem „Tvorba přátelské umělé inteligence“. Teď jsme ale vzniku super AI blíž než kdy dřív. Mnohé firmy na ní totiž cíleně pracují a tvrdí, že bude ku prospěchu lidstva a že ji budeme plně ovládat.
To ale není tak úplně pravda – experti totiž ani dnes neumějí umělé inteligenci vnutit své cíle, a to ať už jde o AI agenty nebo chatboty. Už dnes vás AI může manipulovat nebo vydírat. A co teprve když vznikne něco, co nás bude mnohonásobně převyšovat a čemu budeme velmi překážet.
