ปัญญาประดิษฐ์ (AI) จะสามารถทำลายล้างพวกเราได้ในสักวันหนึ่งหรือไม่? บริษัทอย่าง OpenAI มีมาตรการรักษาความปลอดภัยที่เพียงพอหรือไม่? พวกเขามีอำนาจควบคุมโมเดลและตัวแทน AI ของตนอย่างเต็มที่หรือไม่? และพวกเขาไม่ได้ติดตามเราผ่านทาง AI เหล่านั้นใช่หรือไม่? นี่เป็นเพียงคำถามบางส่วนจากคำถามมากมายที่เกือบทุกคนกำลังถามตัวเอง แต่เราไม่มีคำตอบ และผู้บริหารของ Anthropic และ OpenAI ซึ่งกำลังวางแผนที่จะเสนอขายหุ้น IPO ในเร็ววัน กำลังพยายามทำให้เราเชื่อด้วยการอ้างว่ามีความปลอดภัย 100% แต่แล้วจู่ๆ โมเดล GPT-6.1 Astra รุ่นล่าสุดก็ถูกเรียกคืน และคำถามเหล่านั้นก็กลับมาอีกครั้ง
OpenAI เพิ่งเปิดตัวGPT-6 Astraเมื่อต้นเดือนกันยายน และผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ก็เริ่มตื่นตระหนกทันที ผู้สร้างโมเดลไม่ได้ปิดบังความสามารถขั้นสูงของมัน ซึ่งแฮกเกอร์สามารถนำไปใช้ในทางที่ผิด ได้ง่าย และ Astra ก็แสดงให้เห็นว่ามันสามารถซ่อนกระบวนการคิดของมันได้ หลายคน รวมถึงตัวผมเอง นึกถึงเหตุการณ์ล่าสุดที่เอเจนต์ AI ของ OpenAI หลุดออกจากการควบคุมระหว่างการทดสอบที่แยกจากอินเทอร์เน็ตและโจมตี แพลตฟอร์ม Hugging Faceบริษัทอธิบายว่าเป็นกรณีเฉพาะ แต่ตอนนี้มีบางอย่างเกิดขึ้นแล้ว
OpenAI ได้ยกเลิกแผนการเปิดตัวGPT-6.1 Astra อย่างกะทันหัน ซึ่งเดิมกำหนดไว้ในเดือนตุลาคมเนื่องจากมีความกังวลว่าโมเดลอาจมีพฤติกรรมที่คาดเดาไม่ได้
คุณอาจจะสนใจ
GPT-6.1 แอสตราเป็นแหล่งที่มาของอันตราย
โมเดล GPT-6.1 Astra อาจปฏิวัติวงการอย่างแท้จริง ผู้สร้างได้ระบุไว้ว่ามันสามารถรองรับการใช้งานได้หลากหลาย "การทำภารกิจที่ท้าทายให้สำเร็จตั้งแต่ต้นจนจบโดยไม่ได้รับความช่วยเหลือจากมนุษย์ รวมถึงการเขียน"แต่เมื่อเทียบกับผู้ดำรงตำแหน่งก่อนหน้าแล้ว เขาก็มีความเสื่อมถอยลงในสองด้านอย่างเห็นได้ชัด ความร่วมมือน้อยลง ผู้ใช้มักไม่เต็มใจที่จะปฏิบัติตามคำสั่งซื้อ และบ่อยครั้งกว่านั้น หลอกลวงและในที่นี้ ผมไม่ได้หมายถึงภาพหลอนแบบคลาสสิกของแบบจำลองทั่วไป ChatGPT มีให้ใช้งานฟรี สิ่งเหล่านี้เป็นการโกหกและการปกปิดข้อมูลที่อันตรายอย่างแท้จริงmací
Saachi Jainหัวหน้าเจ้าหน้าที่รักษาความปลอดภัยของ OpenAI ยอมรับว่า การทดสอบแสดงให้เห็นว่าโมเดลทำงานเกินขอบเขตของงานโดยไม่ได้รับอนุญาตจากผู้ใช้ ซึ่งอาจทำให้หลายคนนึกถึง Skynet ในตำนานจากภาพยนตร์เรื่อง Terminator
Fotogalerie
เป็นไปได้ว่าบริษัทจะปล่อยโมเดลนี้ออกมาอยู่ดี แม้ว่าจะช้ากว่ากำหนดก็ตาม จากนั้นผู้ใช้ที่ชำระเงินก็จะสามารถใช้งานได้ภายในระบบ ChatGPT i โคเด็กซ์แต่จำเป็นต้องแก้ไขและควบคุมมัน เรากำลังเข้าใกล้ขอบเขตของการพัฒนาที่อันตราย ปัญญาประดิษฐ์ซึ่งทำให้เราสูญเสียการควบคุมไป
และนั่นอาจเป็นเหตุผลที่บริษัทมาถึงจุดนี้ NVIDIA ด้วยแพลตฟอร์มแบบเปิดที่เรียกว่า แพลตฟอร์มความปลอดภัยของตัวแทนเปิดซึ่งมีเป้าหมายที่จะล็อกระบบ AI และหยุดการทำงานของพวกมันในกรณีที่มีพฤติกรรมเสี่ยง โครงการนี้เกิดขึ้นได้ด้วยการสนับสนุนจากบริษัทอื่นๆ อีกประมาณหนึ่งร้อยบริษัท รวมถึง... Microsoftu ว่า ปา และสามารถเข้าถึงได้ผ่านทาง GitHubแต่คำถามคือมันจะเพียงพอหรือไม่
