Kan kunstmatige intelligentie ons op een dag uitroeien? Hebben bedrijven zoals OpenAI voldoende beveiligingsmaatregelen getroffen? Hebben ze volledige controle over hun modellen en AI-agenten? En volgen ze ons niet via deze systemen? Dit zijn slechts enkele van de vele vragen die bijna iedereen zich stelt. Maar we hebben de antwoorden niet, en de topmannen van Anthropic en OpenAI, die een snelle beursgang plannen, proberen ons gerust te stellen met beweringen over 100% veiligheid. Maar nu is plotseling het nieuwste GPT-6.1 Astra-model teruggeroepen. En de vragen zijn terug.
OpenAI introduceerde GPT-6 Astra pas begin september, en cybersecurity-experts sloegen meteen alarm. De makers van het model maakten geen geheim van de geavanceerde mogelijkheden ervan, die gemakkelijk door hackers misbruikt zouden kunnen worden . Astra heeft bovendien laten zien dat het zijn denkprocessen kan verbergen. Velen, waaronder ikzelf, moesten denken aan het recente incident waarbij een AI-agent van OpenAI tijdens een test, die volledig van het internet was afgesloten, letterlijk uit de keten brak en het Hugging Face- platform aanviel . Het bedrijf beschreef het als een geïsoleerd geval. Maar nu is er iets aan de hand.
OpenAI heeft de plannen voor de release van GPT-6.1 Astra , die gepland stond voor oktober , abrupt geannuleerd vanwege de vrees dat het model zich onvoorspelbaar zou kunnen gedragen.
Misschien bent u geïnteresseerd in
GPT-6.1 Astra als bron van gevaar
Het GPT-6.1 Astra-model zou letterlijk revolutionair kunnen zijn. De makers hebben tot nu toe aangegeven dat het aankan. "Uitdagende taken van begin tot eind zelfstandig voltooien, zonder menselijke hulp, en ook schrijven."Maar vergeleken met zijn voorganger is hij ook op twee gebieden achteruitgegaan – aantoonbaar minder coöperatief met gebruikers en minder bereidwillig om hun bestellingen uit te voeren, en bovendien vaker misleidtEn daarmee bedoel ik niet de klassieke hallucinatie van gangbare modellen. ChatGPT Gratis beschikbaar. Dit zijn werkelijk gevaarlijke leugens en verzwijgingen van informatie.mactoepassing.
Saachi Jain, de hoofdbeveiligingsfunctionaris van OpenAI, gaf zelfs toe dat tests hadden aangetoond dat het model, zonder toestemming van de gebruiker, verder ging dan de beoogde taak. Dit doet bij velen denken aan het legendarische Skynet uit de Terminator-filmreeks.
Fotogalerij
Het is waarschijnlijk dat het bedrijf het model sowieso zal uitbrengen, zij het later. Het zou dan beschikbaar moeten zijn voor betalende gebruikers binnen de ChatGPT i CodexMaar het zal nodig zijn om het te corrigeren en in toom te houden. We naderen de grens van gevaarlijke verbeteringen. kunstmatige intelligentiewaarover we de controle verliezen.
En misschien is dat wel de reden waarom het bedrijf nu gekomen is. NVIDIA met een open platform genaamd Open Agent Safety PlatformHet project heeft als doel AI-agenten letterlijk te vergrendelen en te stoppen in geval van risicovol gedrag. Het project is ontwikkeld met de steun van ongeveer honderd andere bedrijven, waaronder Microsoftu of SpaceX en is beschikbaar via GitHubMaar de vraag is of het genoeg zal zijn.
