Bolehkah kecerdasan buatan menghapuskan kita suatu hari nanti? Adakah syarikat seperti OpenAI mempunyai langkah keselamatan yang mencukupi? Adakah mereka mempunyai kawalan penuh ke atas model dan ejen AI mereka? Dan adakah mereka tidak menjejaki kita melaluinya? Ini hanyalah beberapa daripada banyak soalan yang hampir setiap daripada kita tanyakan kepada diri sendiri. Tetapi kita tidak mempunyai jawapannya, dan ketua Anthropic dan OpenAI, yang merancang IPO awal, cuba memperdaya kita dengan dakwaan keselamatan 100%. Tetapi kini, tiba-tiba, model GPT-6.1 Astra terkini telah ditarik balik. Dan persoalannya kembali.
OpenAI memperkenalkan GPT-6 Astra hanya pada awal September, dan pakar keselamatan siber serta-merta menjadi cemas. Pencipta model itu tidak merahsiakan keupayaan canggihnya, yang mudah disalahgunakan oleh penggodam . Dan Astra juga telah menunjukkan bahawa ia boleh menyembunyikan proses pemikirannya. Ramai orang, termasuk saya, teringat akan kejadian baru-baru ini apabila ejen AI OpenAI benar-benar melepaskan diri daripada rantai semasa ujian yang diasingkan dari Internet dan menyerang platform Hugging Face . Syarikat itu menyifatkannya sebagai kes terpencil. Tetapi sekarang sesuatu sedang berlaku.
OpenAI telah membatalkan rancangan untuk mengeluarkan GPT-6.1 Astra secara tiba-tiba , yang dijadualkan dikeluarkan pada bulan Oktober , disebabkan oleh kebimbangan bahawa model itu boleh bertindak secara tidak dijangka.
Anda mungkin berminat
GPT-6.1 Astra sebagai sumber bahaya
Model GPT-6.1 Astra boleh jadi benar-benar revolusioner. Penciptanya setakat ini telah menunjukkan bahawa ia boleh mengendalikan "Menyelesaikan tugasan yang mencabar dari awal hingga akhir tanpa bantuan manusia, serta menulis"Tetapi berbanding dengan pendahulunya, beliau juga telah merosot dalam dua bidang – jelas kelihatan kurang bekerjasama dengan pengguna dan kurang rela memenuhi pesanan mereka, serta lebih kerap menipuDan dengan itu saya tidak bermaksud halusinasi klasik model biasa ChatGPT tersedia secara percuma. Ini adalah pembohongan dan penyembunyian maklumat yang benar-benar berbahayamací.
Ketua pegawai keselamatan OpenAI, Saachi Jain, malah mengakui bahawa ujian menunjukkan bahawa model itu terus beroperasi di luar skop tugas tanpa kebenaran pengguna. Ini mungkin mengingatkan ramai orang tentang Skynet legenda daripada siri filem Terminator.
Fotogalerie
Kemungkinan besar syarikat itu akan mengeluarkan model itu, walaupun kemudian. Ia kemudiannya akan tersedia untuk pengguna yang membayar dalam tempoh tersebut. ChatGPT i KodeksTetapi ia perlu untuk membetulkan dan menjinakkannya. Kita sedang mencapai sempadan penambahbaikan yang berbahaya. kecerdasan buatanyang mana kita hilang kawalan.
Dan mungkin itulah sebabnya syarikat itu kini telah datang NVIDIA dengan platform terbuka yang dipanggil Platform Keselamatan Ejen Terbuka, yang bertujuan untuk mengunci ejen AI secara literal dan menghentikannya sekiranya berlaku tingkah laku berisiko. Projek ini diwujudkan dengan sokongan kira-kira seratus syarikat lain, termasuk Microsoftu yang SpaceX dan boleh didapati melalui GitHubTetapi persoalannya ialah sama ada ia akan mencukupi.
