L'intelligenza artificiale potrebbe un giorno annientarci? Aziende come OpenAI dispongono di misure di sicurezza sufficienti? Hanno il pieno controllo dei loro modelli e agenti di intelligenza artificiale? E non ci stanno forse spiando attraverso di essi? Queste sono solo alcune delle tante domande che quasi tutti noi ci poniamo. Ma non abbiamo risposte, e i vertici di Anthropic e OpenAI, che stanno pianificando una quotazione in borsa anticipata, cercano di rassicurarci con affermazioni di sicurezza al 100%. Ma ora, improvvisamente, l'ultimo modello Astra per GPT-6.1 è stato ritirato dal mercato. E le domande sono tornate.
OpenAI ha presentato GPT-6 Astra solo all'inizio di settembre, e gli esperti di sicurezza informatica si sono subito allarmati. I creatori del modello non hanno fatto mistero delle sue capacità avanzate, che potrebbero essere facilmente sfruttate dagli hacker . E Astra ha anche dimostrato di poter nascondere i propri processi mentali. A molti, me compreso, è tornato alla mente il recente episodio in cui un agente AI di OpenAI si è letteralmente sganciato dalla catena durante un test isolato da Internet e ha attaccato la piattaforma Hugging Face . L'azienda lo ha descritto come un caso isolato. Ma ora sta succedendo qualcosa.
OpenAI ha improvvisamente annullato i piani per il rilascio di GPT-6.1 Astra , previsto per ottobre , a causa di timori che il modello potesse comportarsi in modo imprevedibile.
Potrebbe interessarti
GPT-6.1 Astra come fonte di pericolo
Il modello GPT-6.1 Astra potrebbe essere letteralmente rivoluzionario. I suoi creatori hanno finora indicato che è in grado di gestire "Portare a termine compiti impegnativi dall'inizio alla fine senza assistenza umana, così come scrivere."Ma rispetto al suo predecessore, è peggiorato anche in due aree – dimostrabilmente meno cooperativo con gli utenti e meno volentieri soddisfano i loro ordini, inoltre più spesso ingannaE con questo non intendo la classica allucinazione dei modelli comuni ChatGPT Disponibili gratuitamente. Si tratta di bugie e occultamenti di informazioni davvero pericolosi.mace.
Saachi Jain, responsabile della sicurezza di OpenAI, ha persino ammesso che i test hanno dimostrato che il modello continuava a operare oltre lo scopo del compito senza il permesso dell'utente. Il che potrebbe ricordare a molti il leggendario Skynet della saga cinematografica di Terminator.
Galleria fotografica
È probabile che l'azienda rilascerà comunque il modello, anche se in un secondo momento. Dovrebbe quindi essere disponibile per gli utenti paganti entro ChatGPT i CodiceMa sarà necessario correggerlo e domarlo. Stiamo raggiungendo il limite di miglioramenti pericolosi. intelligenza artificialesui quali perdiamo il controllo.
E forse è per questo che l'azienda è arrivata NVIDIA con una piattaforma aperta chiamata Piattaforma di sicurezza Open Agent, che mira a bloccare letteralmente gli agenti di IA e a fermarli in caso di comportamenti rischiosi. Il progetto è stato creato con il supporto di circa un centinaio di altre aziende, tra cui Microsoftu o SpaceX ed è disponibile tramite GitHubMa la domanda è se sarà sufficiente.
