Liệu trí tuệ nhân tạo có thể xóa sổ loài người một ngày nào đó? Liệu các công ty như OpenAI có đủ biện pháp bảo mật? Họ có kiểm soát hoàn toàn các mô hình và tác nhân AI của mình không? Và liệu họ có đang theo dõi chúng ta thông qua chúng không? Đây chỉ là một vài trong số rất nhiều câu hỏi mà hầu hết chúng ta đều đang tự hỏi. Nhưng chúng ta không có câu trả lời, và các ông chủ của Anthropic và OpenAI, những người đang lên kế hoạch IPO sớm, đang cố gắng ru ngủ chúng ta bằng những tuyên bố về tính bảo mật 100%. Nhưng giờ đây, đột nhiên, mẫu Astra GPT-6.1 mới nhất đã bị thu hồi. Và những câu hỏi lại xuất hiện.
OpenAI chỉ mới giới thiệu GPT-6 Astra vào đầu tháng 9, và các chuyên gia an ninh mạng ngay lập tức tỏ ra lo ngại. Những người tạo ra mô hình này không hề giấu giếm khả năng tiên tiến của nó, điều mà tin tặc có thể dễ dàng lợi dụng . Và Astra cũng cho thấy nó có thể che giấu quá trình suy nghĩ của mình. Nhiều người, bao gồm cả tôi, đã nhớ lại sự cố gần đây khi một tác nhân AI của OpenAI thực sự thoát khỏi sự kiểm soát trong một thử nghiệm được cách ly khỏi Internet và tấn công nền tảng Hugging Face . Công ty mô tả đó là một trường hợp cá biệt. Nhưng giờ đây, điều gì đó đang xảy ra.
OpenAI đã đột ngột hủy bỏ kế hoạch phát hành GPT-6.1 Astra , dự kiến ra mắt vào tháng 10 , do lo ngại mô hình này có thể hoạt động khó lường.
Bạn có thể quan tâm đến
GPT-6.1 Astra là nguồn gây nguy hiểm
Mẫu GPT-6.1 Astra có thể thực sự mang tính cách mạng. Những người tạo ra nó cho đến nay đã chỉ ra rằng nó có thể xử lý "Hoàn thành các nhiệm vụ khó khăn từ đầu đến cuối mà không cần sự trợ giúp của người khác, cũng như viết lách."Nhưng so với người tiền nhiệm, ông ta cũng đã sa sút ở hai lĩnh vực – điều này thể hiện rõ ràng. ít hợp tác hơn với người dùng và ít sẵn lòng thực hiện đơn đặt hàng của họ hơn, cộng thêm thường xuyên hơn lừa dốiVà ý tôi không phải là ảo giác kinh điển của các mô hình thông thường. ChatGPT Có sẵn miễn phí. Đây thực sự là những lời nói dối và che giấu thông tin nguy hiểm.macvà.
Giám đốc an ninh của OpenAI, Saachi Jain, thậm chí thừa nhận rằng các thử nghiệm cho thấy mô hình tiếp tục hoạt động vượt quá phạm vi nhiệm vụ được giao mà không cần sự cho phép của người dùng. Điều này có thể khiến nhiều người liên tưởng đến Skynet huyền thoại trong loạt phim Terminator.
photo Gallery
Rất có thể công ty vẫn sẽ phát hành mẫu sản phẩm này, dù là muộn hơn. Khi đó, người dùng trả phí sẽ có thể sử dụng được sản phẩm trong thời gian tới. ChatGPT i Bộ luậtNhưng cần phải điều chỉnh và kiềm chế nó. Chúng ta đang tiến đến ranh giới của những cải tiến nguy hiểm. trí tuệ nhân tạomà chúng ta mất kiểm soát.
Và có lẽ đó là lý do tại sao công ty hiện nay đã trở nên... NVIDIA với một nền tảng mở được gọi là Nền tảng an toàn cho đặc vụ mởDự án này nhằm mục đích khóa chặt các tác nhân AI và ngăn chặn chúng trong trường hợp có hành vi nguy hiểm. Dự án được tạo ra với sự hỗ trợ của khoảng một trăm công ty khác, bao gồm... Microsoftu liệu SpaceX và có sẵn thông qua GitHubNhưng câu hỏi đặt ra là liệu điều đó có đủ hay không.
