Kan kunstig intelligens utslette oss en dag? Har selskaper som OpenAI tilstrekkelige sikkerhetstiltak? Har de full kontroll over modellene og AI-agentene sine? Og sporer de oss ikke gjennom dem? Dette er bare noen få av de mange spørsmålene som nesten hver og en av oss stiller oss. Men vi har ikke svarene, og sjefene i Anthropic og OpenAI, som planlegger en tidlig børsnotering, prøver å lure oss med påstander om 100 % sikkerhet. Men nå, plutselig, har den nyeste GPT-6.1 Astra-modellen blitt tilbakekalt. Og spørsmålene er tilbake.
OpenAI introduserte GPT-6 Astra først tidlig i september, og cybersikkerhetseksperter ble umiddelbart alarmert. Skaperne av modellen la ikke skjul på dens avanserte funksjoner, som lett kunne misbrukes av hackere . Og Astra har også vist at den kan skjule tankeprosessene sine. Mange, inkludert meg, ble minnet på den nylige hendelsen da en OpenAI AI-agent bokstavelig talt brøt seg løs fra kjeden under en test isolert fra Internett og angrep Hugging Face -plattformen . Selskapet beskrev det som et isolert tilfelle. Men nå skjer det noe.
OpenAI har brått kansellert planene om å lansere GPT-6.1 Astra , som etter planen skulle lanseres i oktober , på grunn av bekymringer om at modellen kan oppføre seg uforutsigbart.
Du kan være interessert i
GPT-6.1 Astra som en kilde til fare
GPT-6.1 Astra-modellen kan bokstavelig talt bli revolusjonerende. Skaperne har så langt indikert at den kan håndtere "Å fullføre utfordrende oppgaver fra start til slutt uten menneskelig hjelp, samt å skrive"Men sammenlignet med forgjengeren har han også blitt dårligere på to områder – påviselig mindre samarbeidsvillig med brukere og mindre villig til å oppfylle bestillingene sine, pluss oftere bedrarOg med det mener jeg ikke den klassiske hallusinasjonen til vanlige modeller. ChatGPT tilgjengelig gratis. Dette er virkelig farlige løgner og fortielser av informasjonmacog.
OpenAIs sikkerhetssjef Saachi Jain innrømmet til og med at tester viste at modellen fortsatte utenfor oppgavens omfang, uten brukerens tillatelse. Noe som kan minne mange om det legendariske Skynet fra Terminator-filmserien.
Fotogalerie
Det er sannsynlig at selskapet vil lansere modellen uansett, om enn senere. Den bør da være tilgjengelig for betalende brukere innen ChatGPT i KodeksMen det vil være nødvendig å korrigere og temme det. Vi nærmer oss grensen for farlige forbedringer. kunstig intelligenssom vi mister kontrollen over.
Og kanskje det er derfor selskapet nå har kommet NVIDIA med en åpen plattform kalt Åpen agentsikkerhetsplattform, som har som mål å bokstavelig talt låse inne AI-agenter og stoppe dem i tilfelle risikabel atferd. Prosjektet ble opprettet med støtte fra rundt hundre andre selskaper, inkludert Microsoftu om SpaceX og er tilgjengelig via GitHubMen spørsmålet er om det vil være nok.
