Ali nas lahko umetna inteligenca nekega dne izbriše iz tira? Ali imajo podjetja, kot je OpenAI, zadostne varnostne ukrepe? Ali imajo popoln nadzor nad svojimi modeli in agenti umetne inteligence? In ali nas ne sledijo prek njih? To je le nekaj od številnih vprašanj, ki si jih zastavlja skoraj vsak od nas. Vendar nimamo odgovorov, šefi Anthropic in OpenAI, ki načrtujejo zgodnjo prvo javno ponudbo delnic, pa nas poskušajo uspavati s trditvami o 100-odstotni varnosti. Zdaj pa je bil nenadoma odpoklican najnovejši model Astra GPT-6.1. In vprašanja so se vrnila.
OpenAI je GPT-6 Astra predstavil šele v začetku septembra, strokovnjaki za kibernetsko varnost pa so takoj postali zaskrbljeni. Ustvarjalci modela niso skrivali njegovih naprednih zmogljivosti, ki bi jih hekerji zlahka zlorabili . Astra pa je tudi pokazala, da lahko skrije svoje miselne procese. Mnogi, vključno z mano, so se spomnili nedavnega incidenta, ko se je agent umetne inteligence OpenAI med testom, izoliranim od interneta, dobesedno osvobodil verige in napadel platformo Hugging Face . Podjetje je to opisalo kot osamljen primer. Zdaj pa se nekaj dogaja.
OpenAI je nenadoma odpovedal načrte za izdajo GPT-6.1 Astra , ki naj bi izšla oktobra , zaradi pomislekov, da bi se model lahko obnašal nepredvidljivo.
Lahko bi vas zanimalo
GPT-6.1 Astra kot vir nevarnosti
Model GPT-6.1 Astra bi lahko bil dobesedno revolucionaren. Njegovi ustvarjalci so doslej nakazali, da zmore "Opravljanje zahtevnih nalog od začetka do konca brez človeške pomoči, pa tudi pisanje"Toda v primerjavi s svojim predhodnikom se je poslabšal tudi na dveh področjih – očitno manj kooperativen z uporabniki in manj voljno izpolnjujejo njihova naročila, poleg tega pa pogosteje zavajaIn s tem ne mislim klasične halucinacije običajnih modelov ChatGPT na voljo brezplačno. To so resnično nevarne laži in prikrivanje informacijmacin.
Vodja varnostne službe pri OpenAI, Saachi Jain, je celo priznal, da so testi pokazali, da je model nadaljeval delo preko okvirov naloge, brez uporabnikovega dovoljenja. Kar lahko mnoge spomni na legendarni Skynet iz filmske serije Terminator.
Fotogalerie
Verjetno bo podjetje model vseeno izdalo, čeprav kasneje. Takrat bi moral biti na voljo plačljivim uporabnikom v ChatGPT i KodeksVendar ga bo treba popraviti in ukrotiti. Približujemo se meji nevarnih izboljšav. umetna inteligencanad katerimi izgubimo nadzor.
In morda je zato podjetje zdaj prišlo NVIDIA z odprto platformo, imenovano Odprta platforma za varnost agentov, katerega cilj je dobesedno zakleniti agente umetne inteligence in jih ustaviti v primeru tveganega vedenja. Projekt je bil ustvarjen s podporo približno sto drugih podjetij, vključno z Microsoftu ali SpaceX in je na voljo prek GitHubVprašanje pa je, ali bo to dovolj.
