Kan kunstig intelligens udslette os en dag? Har virksomheder som OpenAI tilstrækkelige sikkerhedsforanstaltninger? Har de fuld kontrol over deres modeller og AI-agenter? Og sporer de os ikke gennem dem? Dette er blot nogle få af de mange spørgsmål, som næsten hver eneste af os stiller os selv. Men vi har ikke svarene, og cheferne for Anthropic og OpenAI, der planlægger en tidlig børsnotering, forsøger at lulle os ned med påstande om 100% sikkerhed. Men nu er den nyeste GPT-6.1 Astra-model pludselig blevet tilbagekaldt. Og spørgsmålene er tilbage.
OpenAI introducerede først GPT-6 Astra i starten af september, og cybersikkerhedseksperter blev straks alarmerede. Modellens skabere lagde ikke skjul på dens avancerede funktioner, som let kunne misbruges af hackere . Og Astra har også vist, at den kan skjule sine tankeprocesser. Mange mennesker, inklusive mig selv, blev mindet om den nylige hændelse, hvor en OpenAI AI-agent bogstaveligt talt brød fri fra kæden under en test isoleret fra internettet og angreb Hugging Face- platformen . Virksomheden beskrev det som et isoleret tilfælde. Men nu sker der noget.
OpenAI har pludselig annulleret planerne om at udgive GPT-6.1 Astra , som skulle have været udgivet i oktober , på grund af bekymringer om, at modellen kunne opføre sig uforudsigeligt.
Du kunne være interesseret i
GPT-6.1 Astra som en kilde til fare
GPT-6.1 Astra-modellen kunne bogstaveligt talt blive revolutionerende. Dens skabere har indtil videre indikeret, at den kan håndtere "At udføre udfordrende opgaver fra start til slut uden menneskelig hjælp, samt at skrive"Men sammenlignet med sin forgænger er han også blevet dårligere på to områder – påviseligt mindre samarbejdsvillig med brugerne og mindre villigt opfylde deres ordrer, plus oftere bedragerOg med det mener jeg ikke den klassiske hallucination af almindelige modeller ChatGPT tilgængelig gratis. Disse er virkelig farlige løgne og fortielser af informationmacÍ.
OpenAIs sikkerhedschef Saachi Jain indrømmede endda, at test viste, at modellen fortsatte ud over opgavens omfang uden brugerens tilladelse. Hvilket måske minder mange om det legendariske Skynet fra Terminator-filmserien.
Fotogalerie
Det er sandsynligt, at virksomheden vil udgive modellen alligevel, omend senere. Den burde derefter være tilgængelig for betalende brugere inden for ChatGPT i KodeksMen det bliver nødvendigt at korrigere og tæmme det. Vi er ved at nå grænsen for farlige forbedringer. kunstig intelligenssom vi mister kontrollen over.
Og måske er det derfor, virksomheden nu er kommet NVIDIA med en åben platform kaldet Åben agentsikkerhedsplatform, som bogstaveligt talt har til formål at låse AI-agenter fast og stoppe dem i tilfælde af risikabel adfærd. Projektet blev skabt med støtte fra omkring hundrede andre virksomheder, herunder Microsoftu hvorvidt SpaceX og er tilgængelig via GitHubMen spørgsmålet er, om det vil være nok.
