কৃত্রিম বুদ্ধিমত্তা কি একদিন আমাদের নিশ্চিহ্ন করে দিতে পারে? ওপেনএআই-এর মতো কোম্পানিগুলোর কি পর্যাপ্ত নিরাপত্তা ব্যবস্থা আছে? তাদের মডেল এবং এআই এজেন্টগুলোর ওপর কি তাদের সম্পূর্ণ নিয়ন্ত্রণ আছে? এবং তারা কি এগুলোর মাধ্যমে আমাদের ওপর নজরদারি করছে না? এইগুলো এমন অনেক প্রশ্নের মধ্যে কয়েকটি মাত্র, যা আমাদের প্রায় প্রত্যেকেই নিজেদেরকে জিজ্ঞাসা করছি। কিন্তু আমাদের কাছে এর উত্তর নেই, এবং অ্যানথ্রোপিক ও ওপেনএআই-এর কর্তারা, যারা একটি আগাম আইপিও-র পরিকল্পনা করছেন, তারা ১০০% নিরাপত্তার দাবি করে আমাদের নিশ্চিন্ত করার চেষ্টা করছেন। কিন্তু এখন, হঠাৎ করেই, সর্বশেষ GPT-6.1 অ্যাস্ট্রা মডেলটি প্রত্যাহার করা হয়েছে। আর প্রশ্নগুলো আবার ফিরে এসেছে।
ওপেনএআই সেপ্টেম্বরের শুরুতে জিপিটি-৬ অ্যাস্ট্রা উন্মোচন করার সাথে সাথেই সাইবার নিরাপত্তা বিশেষজ্ঞরা শঙ্কিত হয়ে পড়েন। মডেলটির নির্মাতারা এর উন্নত সক্ষমতা গোপন করেননি, যা হ্যাকাররা সহজেই অপব্যবহার করতে পারে । এবং অ্যাস্ট্রা এটাও দেখিয়েছে যে এটি তার চিন্তাভাবনাও গোপন করতে পারে। আমার সহ অনেকেরই সাম্প্রতিক সেই ঘটনাটির কথা মনে পড়ে যায়, যখন ইন্টারনেট থেকে বিচ্ছিন্ন একটি পরীক্ষার সময় ওপেনএআই-এর একটি এআই এজেন্ট আক্ষরিক অর্থেই শৃঙ্খল থেকে মুক্ত হয়ে হাগিং ফেস প্ল্যাটফর্মে আক্রমণ করেছিল । সংস্থাটি এটিকে একটি বিচ্ছিন্ন ঘটনা বলে বর্ণনা করেছিল। কিন্তু এখন কিছু একটা ঘটছে।
মডেলটির আচরণ অপ্রত্যাশিত হতে পারে এমন উদ্বেগের কারণে ওপেনএআই অক্টোবরে মুক্তি পাওয়ার কথা থাকা GPT-6.1 Astra প্রকাশের পরিকল্পনা আকস্মিকভাবে বাতিল করেছে ।
আপনি আগ্রহী হতে পারে
বিপদের উৎস হিসেবে জিপিটি-৬.১ অ্যাস্ট্রা
GPT-6.1 Astra মডেলটি আক্ষরিক অর্থেই বৈপ্লবিক হতে পারে। এর নির্মাতারা এখন পর্যন্ত ইঙ্গিত দিয়েছেন যে এটি পরিচালনা করতে পারে। মানুষের সাহায্য ছাড়া শুরু থেকে শেষ পর্যন্ত কঠিন কাজ সম্পন্ন করা, সেইসাথে লেখালেখি করা।কিন্তু তার পূর্বসূরীর তুলনায় তিনি দুটি ক্ষেত্রে অবনতিও করেছেন – যা সুস্পষ্ট। কম সহযোগী ব্যবহারকারীদের সাথে এবং কম আগ্রহের সাথে তাদের অর্ডার পূরণ করে, এছাড়াও প্রায়শই প্রতারণা করেএবং এর দ্বারা আমি প্রচলিত মডেলগুলোর চিরাচরিত বিভ্রমের কথা বলছি না। ChatGPT বিনামূল্যে পাওয়া যায়। এগুলো প্রকৃতপক্ষে বিপজ্জনক মিথ্যা এবং তথ্য গোপন।macঘ।
ওপেনএআই-এর প্রধান নিরাপত্তা কর্মকর্তা সাচি জৈনও স্বীকার করেছেন যে, পরীক্ষায় দেখা গেছে মডেলটি ব্যবহারকারীর অনুমতি ছাড়াই নির্ধারিত কাজের পরিধির বাইরেও কাজ চালিয়ে গেছে। যা অনেকের কাছেই টার্মিনেটর চলচ্চিত্র সিরিজের কিংবদন্তিতুল্য স্কাইনেটের কথা মনে করিয়ে দিতে পারে।
ফটো গ্যালারি
সম্ভবত কোম্পানিটি মডেলটি প্রকাশ করবেই, যদিও তা কিছুটা দেরিতে। এরপর এটি অর্থ প্রদানকারী ব্যবহারকারীদের জন্য উপলব্ধ হবে। ChatGPT i কোডেক্সকিন্তু একে সংশোধন ও নিয়ন্ত্রণে আনা প্রয়োজন হবে। আমরা বিপজ্জনক উন্নতির সীমানায় পৌঁছে গেছি। কৃত্রিম বুদ্ধিমত্তাযার উপর আমরা নিয়ন্ত্রণ হারিয়ে ফেলি।
আর সম্ভবত একারণেই কোম্পানিটি এখন এসেছে এনভিডিয়া একটি উন্মুক্ত প্ল্যাটফর্মের সাথে যার নাম ওপেন এজেন্ট সেফটি প্ল্যাটফর্মযার লক্ষ্য হলো ঝুঁকিপূর্ণ আচরণের ক্ষেত্রে এআই এজেন্টদের আক্ষরিক অর্থেই আটকে দেওয়া এবং থামিয়ে দেওয়া। এই প্রকল্পটি আরও প্রায় একশটি কোম্পানির সমর্থনে তৈরি করা হয়েছিল, যার মধ্যে রয়েছে Microsoftu কিনা স্পেস এক্স এবং এর মাধ্যমে উপলব্ধ GitHubকিন্তু প্রশ্ন হলো, তা যথেষ্ট হবে কি না।
