Կարո՞ղ է արհեստական բանականությունը մի օր մեզ ոչնչացնել։ Արդյո՞ք OpenAI-ի նման ընկերություններն ունեն բավարար անվտանգության միջոցներ։ Արդյո՞ք նրանք լիակատար վերահսկողություն ունեն իրենց մոդելների և արհեստական բանականության գործակալների նկատմամբ։ Եվ մի՞թե նրանք չեն հետևում մեզ դրանց միջոցով։ Սրանք միայն մի քանիսն են այն բազմաթիվ հարցերից, որոնք մեզանից գրեթե յուրաքանչյուրը տալիս է ինքներս մեզ։ Բայց մենք պատասխաններ չունենք, և Anthropic-ի և OpenAI-ի ղեկավարները, որոնք պլանավորում են վաղաժամ IPO, փորձում են մեզ քնեցնել 100% անվտանգության մասին պնդումներով։ Բայց հիմա, հանկարծ, վերջին GPT-6.1 Astra մոդելը հետ է կանչվել։ Եվ հարցերը վերադարձել են։
OpenAI-ը GPT-6 Astra-ն ներկայացրեց միայն սեպտեմբերի սկզբին, և կիբերանվտանգության մասնագետները անմիջապես անհանգստացան։ Մոդելի ստեղծողները չթաքցրին դրա առաջադեմ հնարավորությունները, որոնք հեշտությամբ կարող էին չարաշահվել հաքերների կողմից ։ Եվ Astra-ն նաև ցույց տվեց, որ կարող է թաքցնել իր մտածողության գործընթացները։ Շատերը, այդ թվում՝ ես, հիշեցին վերջերս տեղի ունեցած միջադեպը, երբ OpenAI-ի արհեստական բանականության գործակալը բառացիորեն անջատվեց ցանցից ինտերնետից մեկուսացված փորձարկման ժամանակ և հարձակվեց Hugging Face հարթակի վրա ։ Ընկերությունը այն որակեց որպես մեկուսացված դեպք։ Բայց հիմա ինչ-որ բան է կատարվում։
OpenAI-ը կտրուկ չեղարկել է GPT-6.1 Astra-ի թողարկման ծրագրերը , որը նախատեսված էր հոկտեմբերին ՝ մոդելի անկանխատեսելի վարքագծի հնարավորության վերաբերյալ մտավախությունների պատճառով ։
Ձեզ կարող է հետաքրքրել
GPT-6.1 Astra-ն որպես վտանգի աղբյուր
GPT-6.1 Astra մոդելը կարող է բառացիորեն հեղափոխական լինել։ Դրա ստեղծողները մինչ այժմ նշել են, որ այն կարող է հաղթահարել «Առանց մարդկային օգնության սկզբից մինչև վերջ բարդ առաջադրանքներ կատարելը, ինչպես նաև գրելը»Սակայն իր նախորդի համեմատ, նա նաև վատթարացել է երկու ոլորտներում՝ ակնհայտորեն ավելի քիչ համագործակցող օգտատերերի հետ և ավելի քիչ պատրաստակամորեն կատարում են նրանց պատվերները, գումարած ավելի հաճախ խաբում էԵվ դրանով ես նկատի չունեմ տարածված մոդելների դասական հալյուցինացիան ChatGPT հասանելի է անվճար։ Սրանք իսկապես վտանգավոր ստեր են և տեղեկատվության թաքցումներmacդ.
OpenAI-ի գլխավոր անվտանգության պատասխանատու Սաաչի Ջեյնը նույնիսկ խոստովանեց, որ թեստերը ցույց են տվել, որ մոդելը շարունակել է աշխատել առաջադրանքի շրջանակներից դուրս՝ առանց օգտատիրոջ թույլտվության։ Սա շատերին կարող է հիշեցնել «Տերմինատոր» ֆիլմաշարի լեգենդար Skynet-ը։
Լուսանկարը պատկերասրահ
Հավանական է, որ ընկերությունը այնուամենայնիվ կթողարկի մոդելը, թեև ավելի ուշ։ Այնուհետև այն պետք է հասանելի լինի վճարող օգտատերերին՝ ChatGPT i ԿոդեքսԲայց անհրաժեշտ կլինի այն շտկել և սանձել։ Մենք հասնում ենք վտանգավոր բարելավումների սահմանին։ արհեստական բանականությունորի նկատմամբ մենք կորցնում ենք վերահսկողությունը։
Եվ գուցե այդ պատճառով է, որ ընկերությունը հիմա եկել է NVIDIA բաց հարթակով, որը կոչվում է Բաց գործակալի անվտանգության հարթակ, որի նպատակն է բառացիորեն փակել արհեստական բանականության գործակալներին և կանգնեցնել նրանց ռիսկային վարքագծի դեպքում: Նախագիծը ստեղծվել է մոտ հարյուր այլ ընկերությունների աջակցությամբ, այդ թվում՝ Microsoftu արդյոք SpaceX և հասանելի է միջոցով GitHubԲայց հարցն այն է, թե արդյոք դա բավարար կլինի։
