Ar dirbtinis intelektas gali vieną dieną mus sunaikinti? Ar tokios įmonės kaip „OpenAI“ taiko pakankamas saugumo priemones? Ar jos visiškai kontroliuoja savo modelius ir dirbtinio intelekto agentus? Ir ar jos neseka mūsų per juos? Tai tik keli iš daugelio klausimų, kuriuos sau užduodame beveik kiekvienas. Tačiau mes neturime atsakymų, o „Anthropic“ ir „OpenAI“ vadovai, planuojantys ankstyvą IPO, bando mus užliūliuoti teigdami apie 100 % saugumą. Tačiau dabar staiga atšauktas naujausias GPT-6.1 „Astra“ modelis. Ir klausimai vėl kyla.
„OpenAI“ pristatė „GPT-6 Astra“ tik rugsėjo pradžioje, ir kibernetinio saugumo ekspertai iš karto sunerimo. Modelio kūrėjai neslėpė jo pažangių galimybių, kuriomis įsilaužėliai gali lengvai piktnaudžiauti . „Astra“ taip pat parodė, kad gali slėpti savo mąstymo procesus. Daugeliui žmonių, įskaitant ir mane, prisiminė neseniai įvykusį incidentą, kai „OpenAI“ dirbtinio intelekto agentas bandymo metu, izoliuotai nuo interneto, tiesiogine prasme išsilaisvino iš grandinės ir užpuolė „ Hugging Face“ platformą . Bendrovė tai apibūdino kaip pavienį atvejį. Tačiau dabar kažkas vyksta.
„OpenAI“ staiga atšaukė planus išleisti „GPT-6.1 Astra“ , kuris turėjo būti išleistas spalio mėnesį , dėl susirūpinimo, kad modelis gali elgtis nenuspėjamai.
Jums gali būti įdomu
GPT-6.1 Astra kaip pavojaus šaltinis
GPT-6.1 „Astra“ modelis gali būti tiesiogine prasme revoliucinis. Jo kūrėjai iki šiol nurodė, kad jis gali susidoroti su... "Sudėtingų užduočių atlikimas nuo pradžios iki pabaigos be žmogaus pagalbos, taip pat rašymas"Tačiau, palyginti su savo pirmtaku, jis taip pat pablogėjo dviejose srityse – akivaizdžiai mažiau bendradarbiaujantis su vartotojais ir mažiau noriai vykdo jų užsakymus, be to, dažniau apgaudinėjaIr tuo neturiu omenyje klasikinės įprastų modelių haliucinacijos ChatGPT prieinama nemokamai. Tai išties pavojingas melas ir informacijos slėpimasmaci.
„OpenAI“ vyriausiasis saugumo pareigūnas Saachi Jainas netgi pripažino, kad bandymai parodė, jog modelis toliau veikė už užduoties ribų be vartotojo leidimo. Tai daugeliui žmonių gali priminti legendinį „Skynet“ iš filmų serijos „Terminatorius“.
Nuotraukų galerija
Tikėtina, kad bendrovė vis tiek išleis modelį, nors ir vėliau. Tada jis turėtų būti prieinamas mokantiems vartotojams. ChatGPT i Kodeksas...Bet reikės tai ištaisyti ir sutramdyti. Artėjame prie pavojingų patobulinimų ribos. dirbtinis intelektaskurio kontrolę prarandame.
Ir galbūt todėl įmonė dabar ir atsirado "NVIDIA su atvira platforma, vadinama Atvira agentų saugos platforma, kuriuo siekiama tiesiogine prasme užrakinti dirbtinio intelekto agentus ir sustabdyti juos rizikingo elgesio atveju. Projektas buvo sukurtas padedant maždaug šimtui kitų įmonių, įskaitant Microsoftu ar SpaceX ir yra prieinama per GitHubTačiau kyla klausimas, ar to pakaks.
