Será que a inteligência artificial pode nos exterminar um dia? Empresas como a OpenAI possuem medidas de segurança suficientes? Elas têm controle total sobre seus modelos e agentes de IA? E será que não estão nos rastreando por meio deles? Essas são apenas algumas das muitas perguntas que quase todos nós nos fazemos. Mas não temos as respostas, e os chefes da Anthropic e da OpenAI, que planejam um IPO antecipado, tentam nos tranquilizar com promessas de segurança total. Mas agora, de repente, o modelo GPT-6.1 Astra mais recente foi recolhido. E as perguntas voltam à tona.
A OpenAI apresentou o GPT-6 Astra apenas no início de setembro, e especialistas em cibersegurança imediatamente se alarmaram. Os criadores do modelo não fizeram segredo de suas capacidades avançadas, que poderiam ser facilmente exploradas por hackers . E o Astra também demonstrou ser capaz de ocultar seus processos de pensamento. Muitas pessoas, inclusive eu, se lembraram do incidente recente em que um agente de IA da OpenAI literalmente se libertou da cadeia durante um teste isolado da internet e atacou a plataforma Hugging Face . A empresa descreveu o ocorrido como um caso isolado. Mas agora algo está acontecendo.
A OpenAI cancelou abruptamente os planos de lançamento do GPT-6.1 Astra , que estava previsto para outubro , devido a preocupações de que o modelo pudesse se comportar de maneira imprevisível.
Você pode estar interessado
GPT-6.1 Astra como fonte de perigo
O modelo GPT-6.1 Astra pode ser literalmente revolucionário. Seus criadores indicaram até agora que ele é capaz de lidar com "Concluir tarefas desafiadoras do início ao fim sem assistência humana, bem como escrever"Mas, em comparação com seu antecessor, ele também piorou em duas áreas – demonstrativamente. menos cooperativo com usuários e menos dispostos a atender seus pedidos, além de com mais frequência enganaE com isso não me refiro à clássica alucinação dos modelos comuns. ChatGPT Disponível gratuitamente. Essas são mentiras e ocultações de informação verdadeiramente perigosas.mace.
A diretora de segurança da OpenAI, Saachi Jain, chegou a admitir que os testes mostraram que o modelo continuou a executar tarefas além do escopo da tarefa, sem a permissão do usuário. Isso pode lembrar muitas pessoas da lendária Skynet da série de filmes O Exterminador do Futuro.
Galeria de fotos
É provável que a empresa lance o modelo de qualquer forma, embora mais tarde. Ele deverá então estar disponível para usuários pagantes dentro do ChatGPT i CódiceMas será necessário corrigi-lo e controlá-lo. Estamos chegando à fronteira de melhorias perigosas. inteligência artificialSobre o que perdemos o controle.
E talvez seja por isso que a empresa tenha chegado agora. NVIDIA com uma plataforma aberta chamada Plataforma de Segurança de Agente Aberto, que visa literalmente bloquear agentes de IA e impedi-los em caso de comportamento de risco. O projeto foi criado com o apoio de cerca de cem outras empresas, incluindo Microsoftu ou SpaceX e está disponível através de GitHubMas a questão é se isso será suficiente.
