인공지능이 언젠가 우리를 멸종시킬 수 있을까요? 오픈아이(OpenAI) 같은 회사들은 충분한 보안 조치를 갖추고 있을까요? 그들은 자신들의 모델과 AI 에이전트를 완벽하게 통제하고 있을까요? 그리고 그들은 우리를 추적하고 있지는 않을까요? 이러한 질문들은 우리 모두가 스스로에게 던지는 수많은 질문 중 일부에 불과합니다. 하지만 우리는 답을 찾지 못했고, 조기 IPO를 계획 중인 앤트로픽(Anthropic)과 오픈아이의 경영진은 100% 안전하다는 주장으로 우리를 안심시키려 하고 있습니다. 그런데 갑자기 최신 GPT-6.1 아스트라(Astra) 모델이 리콜되면서, 이러한 질문들이 다시금 주목받고 있습니다.
OpenAI는 9월 초에 GPT-6 아스트라를 공개했는데 , 사이버 보안 전문가들은 즉시 우려를 표했습니다. 모델 개발자들은 아스트라의 뛰어난 기능을 숨기지 않았고, 이는 해커들이 악용 하기 쉬운 부분이었습니다 . 게다가 아스트라는 사고 과정을 숨길 수 있다는 점도 보여주었습니다. 저를 포함한 많은 사람들은 최근 OpenAI의 AI 에이전트가 인터넷과 격리된 환경에서 테스트 도중 시스템에서 탈출하여 허깅페이스(Hugging Face) 플랫폼을 공격했던 사건을 떠올렸습니다 . OpenAI는 이를 개별적인 사건이라고 해명했지만, 지금 뭔가 다른 일이 벌어지고 있는 것 같습니다.
OpenAI는 모델이 예측 불가능하게 작동할 수 있다는 우려 때문에 10월 출시 예정이었던 GPT-6.1 Astra 출시 계획을 전격 취소했습니다.
당신은 관심을 가질 수 있습니다
GPT-6.1 아스트라는 위험의 원천입니다.
GPT-6.1 Astra 모델은 말 그대로 혁명적일 수 있습니다. 개발자들은 지금까지 이 모델이 처리할 수 있는 능력이 있다고 밝혔습니다. "어려운 과제를 처음부터 끝까지 다른 사람의 도움 없이 완수하고, 글쓰기까지 할 수 있습니다."하지만 전임자와 비교했을 때, 그는 두 가지 면에서 명백히 퇴보했습니다. 덜 협조적임 사용자들과의 소통이 원활하지 않고 주문을 이행하는 경우가 더 많으며, 더 자주 그렇게 합니다. 속인다그리고 제가 말하는 것은 흔히 접하는 모델에서 나타나는 고전적인 환상을 의미하는 것이 아닙니다. ChatGPT 무료로 이용 가능합니다. 이것들은 정말 위험한 거짓말이자 정보 은폐입니다.mac나는.
오픈AI의 최고 보안 책임자인 사치 자인은 테스트 결과 모델이 사용자의 허가 없이 작업 범위를 넘어 계속 작동하는 것을 확인했다고 인정했습니다. 이는 많은 사람들에게 영화 터미네이터 시리즈의 전설적인 스카이넷을 떠올리게 할 것입니다.
사진 갤러리
해당 회사는 어쨌든 나중에라도 그 모델을 출시할 가능성이 높습니다. 그러면 유료 사용자들이 이용할 수 있게 될 것입니다. ChatGPT i 사본하지만 이를 바로잡고 길들이는 것이 필요할 것입니다. 우리는 위험한 개선의 경계에 다다르고 있습니다. 인공지능우리가 통제력을 잃는 것.
어쩌면 그것이 바로 회사가 지금 이렇게 된 이유일지도 모릅니다. NVIDIA 개방형 플랫폼이라는 이름으로 오픈 에이전트 안전 플랫폼이 프로젝트는 인공지능 에이전트를 말 그대로 봉쇄하고 위험한 행동을 할 경우 작동을 중지시키는 것을 목표로 합니다. 이 프로젝트는 약 100여 개 기업의 지원을 받아 개발되었으며, 그중에는 다음과 같은 기업들이 포함됩니다. Microsoftu 여부 스페이스 엑스 다음을 통해 이용 가능합니다. GitHub의하지만 문제는 그것만으로 충분할지 여부입니다.
