Vai mākslīgais intelekts kādu dienu spēs mūs iznīcināt? Vai tādiem uzņēmumiem kā OpenAI ir pietiekami drošības pasākumi? Vai viņiem ir pilnīga kontrole pār saviem modeļiem un mākslīgā intelekta aģentiem? Un vai viņi neseko mums caur tiem? Šie ir tikai daži no daudzajiem jautājumiem, ko sev uzdod gandrīz ikviens no mums. Taču mums nav atbilžu, un Anthropic un OpenAI vadītāji, kas plāno agrīnu IPO, cenšas mūs iemidzināt ar apgalvojumiem par 100% drošību. Taču tagad pēkšņi ir atsaukts jaunākais GPT-6.1 Astra modelis. Un jautājumi atkal ir atgriežas.
OpenAI ieviesa GPT-6 Astra tikai septembra sākumā, un kiberdrošības eksperti nekavējoties satraucās. Modeļa veidotāji neslēpa tā uzlabotās iespējas, kuras hakeri varētu viegli izmantot ļaunprātīgi . Un Astra ir arī pierādījusi, ka tā spēj slēpt savus domāšanas procesus. Daudziem cilvēkiem, tostarp man, atgādināja nesen notikušo incidentu, kad OpenAI mākslīgā intelekta aģents testa laikā, izolēti no interneta, burtiski izrāvās no ķēdes un uzbruka Hugging Face platformai . Uzņēmums to raksturoja kā atsevišķu gadījumu. Bet tagad kaut kas notiek.
OpenAI pēkšņi atcēla plānus izlaist GPT-6.1 Astra , kura izlaišana bija paredzēta oktobrī , bažu dēļ, ka modelis varētu uzvesties neparedzami.
Jūs varētu interesēt
GPT-6.1 Astra kā briesmu avots
GPT-6.1 Astra modelis varētu būt burtiski revolucionārs. Tā radītāji līdz šim ir norādījuši, ka tas var tikt galā. "Izaicinošu uzdevumu paveikšana no sākuma līdz beigām bez cilvēka palīdzības, kā arī rakstīšana"Bet, salīdzinot ar savu priekšgājēju, viņš ir arī pasliktinājies divās jomās – acīmredzami mazāk sadarboties ar lietotājiem un mazāk labprāt izpilda viņu pasūtījumus, kā arī biežāk maldinaUn ar to es nedomāju klasisko halucināciju, kas raksturīga ierastajiem modeļiem. ChatGPT pieejams bez maksas. Tie ir patiesi bīstami meli un informācijas slēpšanamaci
OpenAI galvenais drošības speciālists Saači Džeins pat atzina, ka testi liecina, ka modelis turpinājis darboties ārpus uzdevuma robežām bez lietotāja atļaujas. Tas daudziem cilvēkiem varētu atgādināt leģendāro Skynet no filmu sērijas "Terminators".
Fotogalerie
Visticamāk, uzņēmums modeli laidīs klajā jebkurā gadījumā, kaut arī vēlāk. Pēc tam tam vajadzētu būt pieejamam maksājošiem lietotājiem noteiktā laika posmā. ChatGPT i KodekssBet tas būs jālabo un jāsamierina. Mēs tuvojamies bīstamu uzlabojumu robežai. mākslīgais intelektspār kuru mēs zaudējam kontroli.
Un varbūt tāpēc uzņēmums tagad ir ieradies NVIDIA ar atvērtu platformu, ko sauc par Atvērtā aģenta drošības platforma, kura mērķis ir burtiski ieslēgt mākslīgā intelekta aģentus un apturēt tos riskantas uzvedības gadījumā. Projekts tika izveidots ar aptuveni simts citu uzņēmumu atbalstu, tostarp Microsoftu vai SpaceX un ir pieejams, izmantojot GitHubBet jautājums ir, vai ar to pietiks.
