آیا هوش مصنوعی می‌تواند روزی ما را نابود کند؟ آیا شرکت‌هایی مانند OpenAI اقدامات امنیتی کافی دارند؟ آیا آنها کنترل کاملی بر مدل‌ها و عوامل هوش مصنوعی خود دارند؟ و آیا از طریق آنها ما را ردیابی نمی‌کنند؟ اینها تنها چند نمونه از سوالات فراوانی است که تقریباً هر یک از ما از خود می‌پرسیم. اما ما پاسخی برای آنها نداریم و روسای Anthropic و OpenAI که در حال برنامه‌ریزی برای عرضه اولیه سهام اولیه خود هستند، سعی می‌کنند با ادعای امنیت ۱۰۰٪ ما را آرام کنند. اما اکنون، ناگهان، آخرین مدل GPT-6.1 Astra فراخوانده شده است. و سوالات دوباره مطرح شده‌اند.
OpenAI مدل GPT-6 Astra را اوایل سپتامبر معرفی کرد و کارشناسان امنیت سایبری بلافاصله نگران شدند. سازندگان این مدل، قابلیت‌های پیشرفته آن را که به راحتی توسط هکرها قابل سوءاستفاده بود، پنهان نکردند . و Astra همچنین نشان داده است که می‌تواند فرآیندهای فکری خود را پنهان کند. بسیاری از مردم، از جمله من، به یاد حادثه اخیر افتادند که یک عامل هوش مصنوعی OpenAI در طول یک آزمایش جدا از اینترنت، به معنای واقعی کلمه از زنجیره جدا شد و به پلتفرم Hugging Face حمله کرد . این شرکت آن را یک مورد جداگانه توصیف کرد. اما اکنون اتفاقی در حال رخ دادن است.
شرکت OpenAI به طور ناگهانی برنامه‌های خود برای انتشار GPT-6.1 Astra را که قرار بود در ماه اکتبر منتشر شود ، به دلیل نگرانی از رفتار غیرقابل پیش‌بینی این مدل، لغو کرد.
شما می توانید علاقه مند شوید
GPT-6.1 آسترا به عنوان منبع خطر
مدل GPT-6.1 Astra می‌تواند به معنای واقعی کلمه انقلابی باشد. سازندگان آن تاکنون نشان داده‌اند که می‌تواند از پس این کار برآید. «انجام وظایف چالش‌برانگیز از ابتدا تا انتها بدون کمک انسانی، و همچنین نوشتن»اما در مقایسه با سلف خود، او در دو زمینه نیز رو به زوال بوده است - به طور قابل توجهی همکاری کمتر با کاربران و با تمایل کمتر، سفارشات آنها را انجام می‌دهند، به علاوه بیشتر اوقات فریب می‌دهدو منظورم از این، توهم کلاسیک مدل‌های رایج نیست ChatGPT به صورت رایگان در دسترس است. اینها دروغ‌ها و پنهان‌کاری‌های واقعاً خطرناکی هستند.macیک
ساچی جین، مدیر ارشد امنیتی OpenAI ، حتی اعتراف کرد که آزمایش‌ها نشان داده‌اند که این مدل بدون اجازه کاربر، فراتر از محدوده وظیفه ادامه یافته است. این موضوع ممکن است بسیاری از افراد را به یاد اسکای‌نت افسانه‌ای از مجموعه فیلم‌های ترمیناتور بیندازد.
گالری عکس
احتمالاً این شرکت در هر صورت، هرچند بعداً، این مدل را منتشر خواهد کرد. سپس باید برای کاربرانی که هزینه پرداخت می‌کنند در داخل کشور در دسترس باشد. ChatGPT i کدکس... اما اصلاح و رام کردن آن ضروری خواهد بود. ما به مرز پیشرفت‌های خطرناکی رسیده‌ایم. هوش مصنوعیکه کنترلمان را روی آن از دست می‌دهیم.
و شاید به همین دلیل است که این شرکت اکنون آمده است NVIDIA با یک پلتفرم باز به نام پلتفرم ایمنی عامل باز، که هدف آن به معنای واقعی کلمه قفل کردن عوامل هوش مصنوعی و متوقف کردن آنها در صورت رفتار پرخطر است. این پروژه با حمایت حدود صد شرکت دیگر، از جمله ... ایجاد شده است. Microsoftu که SpaceX و از طریق آن قابل دسترسی است GitHubاما سوال این است که آیا این کافی خواهد بود؟
