Kan artificiell intelligens utplåna oss en dag? Har företag som OpenAI tillräckliga säkerhetsåtgärder? Har de full kontroll över sina modeller och AI-agenter? Och spårar de oss inte via dem? Det här är bara några av de många frågor som nästan var och en av oss ställer oss. Men vi har inte svaren, och cheferna för Anthropic och OpenAI, som planerar en tidig börsintroduktion, försöker vagga in oss med påståenden om 100 % säkerhet. Men nu, plötsligt, har den senaste GPT-6.1 Astra-modellen återkallats. Och frågorna är tillbaka.
OpenAI introducerade GPT-6 Astra först i början av september, och cybersäkerhetsexperter blev omedelbart oroade. Skaparna av modellen gjorde ingen hemlighet av dess avancerade funktioner, som lätt kunde missbrukas av hackare . Och Astra har också visat att den kan dölja sina tankeprocesser. Många, inklusive jag, påmindes om den senaste händelsen då en OpenAI AI-agent bokstavligen bröt sig loss från kedjan under ett test isolerat från internet och attackerade Hugging Face- plattformen . Företaget beskrev det som ett isolerat fall. Men nu händer något.
OpenAI har plötsligt ställt in planerna på att släppa GPT-6.1 Astra , som skulle släppas i oktober , på grund av oro för att modellen kan bete sig oförutsägbart.
Du kan vara intresserad av
GPT-6.1 Astra som en källa till fara
GPT-6.1 Astra-modellen kan bokstavligen bli revolutionerande. Dess skapare har hittills indikerat att den kan hantera "Att slutföra utmanande uppgifter från början till slut utan mänsklig hjälp, såväl som att skriva"Men jämfört med sin föregångare har han också försämrats på två områden – påvisbart mindre samarbetsvillig med användare och mindre villigt fullföljer sina beställningar, plus oftare bedrarOch med det menar jag inte den klassiska hallucinationen av vanliga modeller ChatGPT tillgängligt gratis. Dessa är verkligt farliga lögner och undanhållande av informationmacd.
OpenAIs säkerhetschef Saachi Jain erkände till och med att tester visade att modellen fortsatte utanför uppgiftens ram, utan användarens tillåtelse. Vilket kan påminna många om det legendariska Skynet från Terminator-filmerna.
Fotogalerie
Det är troligt att företaget kommer att släppa modellen ändå, om än senare. Den bör då vara tillgänglig för betalande användare inom ChatGPT i KodexMen det kommer att bli nödvändigt att korrigera och tämja det. Vi närmar oss gränsen för farliga förbättringar. artificiell intelligenssom vi tappar kontrollen över.
Och kanske är det därför företaget nu har kommit NVIDIA med en öppen plattform som heter Öppen agentsäkerhetsplattform, som syftar till att bokstavligen låsa in AI-agenter och stoppa dem vid riskfyllt beteende. Projektet skapades med stöd av ett hundratal andra företag, inklusive Microsoftu huruvida SpaceX och är tillgänglig via GitHubMen frågan är om det kommer att räcka.
