Bisakah kecerdasan buatan memusnahkan kita suatu hari nanti? Apakah perusahaan seperti OpenAI memiliki langkah-langkah keamanan yang memadai? Apakah mereka memiliki kendali penuh atas model dan agen AI mereka? Dan apakah mereka tidak melacak kita melalui model dan agen tersebut? Ini hanyalah beberapa dari banyak pertanyaan yang hampir setiap orang dari kita tanyakan pada diri sendiri. Tetapi kita tidak memiliki jawabannya, dan para petinggi Anthropic dan OpenAI, yang berencana melakukan IPO lebih awal, mencoba menenangkan kita dengan klaim keamanan 100%. Namun sekarang, tiba-tiba, model GPT-6.1 Astra terbaru telah ditarik kembali. Dan pertanyaan-pertanyaan itu kembali muncul.
OpenAI baru memperkenalkan GPT-6 Astra pada awal September, dan para ahli keamanan siber langsung merasa khawatir. Para pencipta model tersebut tidak merahasiakan kemampuan canggihnya, yang dapat dengan mudah disalahgunakan oleh peretas . Dan Astra juga telah menunjukkan bahwa ia dapat menyembunyikan proses berpikirnya. Banyak orang, termasuk saya, teringat akan insiden baru-baru ini ketika agen AI OpenAI benar-benar lepas dari rantai selama pengujian yang terisolasi dari internet dan menyerang platform Hugging Face . Perusahaan tersebut menggambarkannya sebagai kasus terisolasi. Tetapi sekarang sesuatu sedang terjadi.
OpenAI tiba-tiba membatalkan rencana untuk merilis GPT-6.1 Astra , yang dijadwalkan akan dirilis pada bulan Oktober , karena kekhawatiran bahwa model tersebut dapat berperilaku tidak terduga.
Anda mungkin tertarik
GPT-6.1 Astra sebagai sumber bahaya
Model GPT-6.1 Astra bisa jadi benar-benar revolusioner. Para penciptanya sejauh ini mengindikasikan bahwa model ini mampu menangani... "Menyelesaikan tugas-tugas menantang dari awal hingga akhir tanpa bantuan manusia, serta menulis"Namun dibandingkan dengan pendahulunya, ia juga mengalami kemunduran di dua bidang – terbukti kurang kooperatif dengan pengguna dan kurang bersedia memenuhi pesanan mereka, ditambah lebih sering menipuDan yang saya maksud bukanlah halusinasi klasik dari model-model umum. ChatGPT Tersedia secara gratis. Ini adalah kebohongan dan penyembunyian informasi yang benar-benar berbahaya.maca.
Kepala petugas keamanan OpenAI, Saachi Jain, bahkan mengakui bahwa pengujian menunjukkan model tersebut terus berjalan di luar cakupan tugas tanpa izin pengguna. Hal ini mungkin mengingatkan banyak orang pada Skynet yang legendaris dari seri film Terminator.
Galeri foto
Kemungkinan besar perusahaan akan tetap merilis model tersebut, meskipun agak terlambat. Model tersebut kemudian akan tersedia bagi pengguna berbayar dalam jangka waktu tertentu. ChatGPT i Naskah kunoNamun, hal ini perlu dikoreksi dan dikendalikan. Kita sedang mencapai batas kemajuan yang berbahaya. kecerdasan buatanyang mana kita kehilangan kendali.
Dan mungkin itulah mengapa perusahaan ini sekarang datang. NVIDIA dengan platform terbuka yang disebut Platform Keamanan Agen Terbuka, yang bertujuan untuk benar-benar mengunci agen AI dan menghentikannya jika melakukan perilaku berisiko. Proyek ini dibuat dengan dukungan sekitar seratus perusahaan lain, termasuk Microsoftu apakah SpaceX dan tersedia melalui GitHubNamun pertanyaannya adalah apakah itu akan cukup.
