Môže nás umelá inteligencia raz vyhladiť? Dodržujú firmy ako OpenAI dostatočné bezpečnostné opatrenia? Majú svoje modely a AI agentov plne pod kontrolou? A nesledujú nás ich prostredníctvom? To je len pár z mnohých otázok, ktoré si kladie takmer každý z nás. Odpovede na ne ale nemáme a šéfovia Anthropic a OpenAI, plánujúci skorý vstup na burzu, sa nás snaží ukolísať tvrdením o 100% bezpečnosti. Lenže teraz náhle došlo k stiahnutiu najnovšieho modelu GPT-6.1 Astra. A otázky sú tu zase.
OpenAI predstavila GPT-6 Astra až na začiatku septembra a odborníci na kyberbezpečnosti ihneď zbystrili. Tvorcovia modelu sa totiž nijako netajili jeho pokročilými schopnosťami, ktoré by ľahko mohli byť zneužité hackermi . A navyše sa ukázalo, že Astra dokáže tajiť svoje myšlienkové pochody. Mnohým ľuďom vrátane mňa tak vytanul na mysli nedávny incident, kedy sa AI agent OpenAI pri teste izolovanom od internetu doslova odtrhol z reťaze a napadol platformu Hugging Face . Firma to označila za ojedinelý prípad. Ale teraz sa niečo deje.
OpenAI náhle zrušila plán na vydanie GPT-6.1 Astra , k čomu malo dôjsť už v októbri . Dôvodom sú obavy, že sa model môže správať úplne nepredvídateľne.
Mohlo by vás zaujímať
GPT-6.1 Astra ako zdroj nebezpečenstva
Model GPT-6.1 Astra by pritom mohol byť doslova revolučný. Jeho tvorcovia o ňom zatiaľ naznačujú, že zvláda „plnenie náročných úloh od začiatku do konca bez ľudskej pomoci a tiež písanie“. Lenže oproti svojmu predchodcovi si aj v dvoch oblastiach pohoršil - preukázateľne horšie spolupracuje s užívateľmi a menej ochotne plnia ich príkazy, plus častejšie klame. A tým nemienim klasické halucinovanie bežných modelov ChatGPT dostupných zadarmo. Toto sú skutočne nebezpečné klamstvá a zatajovanie informáciímací.
Šéfka bezpečnosti OpenAI Saachi Jain dokonca priznala, že pri testoch sa ukázalo, že model pokračoval za hranice rozsahu úlohy, a to bez súhlasu používateľa. Čo už mnohým ľuďom môže pripomínať legendárny Skynet zo série filmov Terminátor.
Fotogaléria
Je pravdepodobné, že firma model napriek tomu vydá, aj keď podaj. Mal by potom byť dostupný pre platiacich užívateľov v rámci v ChatGPT i Codexu. Ale bude nutné poupraviť ho a skrotiť. Dostávame sa totiž na hranici nebezpečných vylepšení umelej inteligencie, nad ktorými strácame kontrolu.
A možno aj preto teraz prišla spoločnosť NVIDIA s otvorenou platformou nazvanou Open Agent Safety Platform, Ktorá má za cieľ doslova uzamknúť AI agentov av prípade rizikového konania ich zastaviť. Projekt vznikol za podpory ďalšej zhruba stovky firiem vrátane Microsoftu ČI SpaceX a je dostupný cez GitHub. Je ale otázkou, či bude stačiť.
