Vajon a mesterséges intelligencia egy napon eltörölhet minket? Vajon az olyan cégek, mint az OpenAI, megfelelő biztonsági intézkedésekkel rendelkeznek? Teljes mértékben ellenőrzik modelljeiket és MI-ügynökeiket? És nem követnek minket rajtuk keresztül? Ezek csak néhány kérdés a sok közül, amelyeket szinte mindannyian felteszünk magunknak. De nincsenek válaszaink, és az Anthropic és az OpenAI vezetői, akik egy korai tőzsdei bevezetést terveznek, a 100%-os biztonság állításaival próbálnak elriasztani minket. De most hirtelen visszahívták a legújabb GPT-6.1 Astra modellt. És a kérdések visszatértek.
Az OpenAI csak szeptember elején mutatta be a GPT-6 Astrát , és a kiberbiztonsági szakértők azonnal aggódni kezdtek. A modell megalkotói nem titkolták a fejlett képességeit, amelyekkel a hackerek könnyen visszaélhetnek . Az Astra pedig azt is bebizonyította, hogy képes elrejteni a gondolkodási folyamatait. Sokaknak, köztük nekem is, eszünkbe jutott a közelmúltbeli incidens, amikor egy OpenAI MI-ügynök szó szerint kiszabadult a láncból egy internettől elszigetelt teszt során, és megtámadta a Hugging Face platformot . A cég elszigetelt esetként írta le. De most valami történik.
Az OpenAI váratlanul lemondta a GPT-6.1 Astra októberre tervezett megjelenését , mivel aggodalmak merültek fel a modell kiszámíthatatlan viselkedése miatt.
Érdekelhet
GPT-6.1 Astra, mint veszélyforrás
A GPT-6.1 Astra modell szó szerint forradalmi lehet. Alkotói eddig jelezték, hogy képes kezelni a problémákat. „Kihívást jelentő feladatok elvégzése az elejétől a végéig emberi segítség nélkül, valamint írás”De elődjéhez képest két területen is romlott – kimutathatóan kevésbé együttműködő a felhasználókkal, és kevésbé szívesen teljesítik a megrendeléseiket, ráadásul gyakrabban megtévesztÉs ezzel nem a hétköznapi modellek klasszikus hallucinációjára gondolok ChatGPT ingyenesen elérhető. Ezek valóban veszélyes hazugságok és információk eltitkolásamacalkalmazható.
Az OpenAI biztonsági igazgatója, Saachi Jain még azt is elismerte, hogy a tesztek kimutatták, hogy a modell a felhasználó engedélye nélkül túllépte a feladat kereteit. Ez sokaknak a legendás Skynetre emlékeztetheti a Terminátor filmsorozatból.
Photo Gallery
Valószínű, hogy a cég mindenképpen kiadja a modellt, bár később. Ezután elérhetővé válik a fizetős felhasználók számára a régión belül. ChatGPT i Kódex...De szükség lesz a kijavítására és megszelídítésére. Veszélyes fejlődés határához érkezünk. mesterséges intelligenciaamely felett elveszítjük az irányítást.
És talán ezért jött most a cég NVIDIA egy nyílt platformmal, az úgynevezett Nyílt ügynökbiztonsági platform, amelynek célja, hogy szó szerint lefogja a mesterséges intelligencia által működtetett ügynököket, és megállítsa őket kockázatos viselkedés esetén. A projektet körülbelül száz másik vállalat támogatásával hozták létre, köztük a Microsoftu vajon SpaceX és elérhető a következőn keresztül: GitHubDe a kérdés az, hogy ez elég lesz-e.
