ஒருநாள் செயற்கை நுண்ணறிவு நம்மை அழித்துவிடுமா? OpenAI போன்ற நிறுவனங்கள் போதுமான பாதுகாப்பு நடவடிக்கைகளைக் கொண்டுள்ளனவா? தங்கள் மாதிரிகள் மற்றும் AI முகவர்கள் மீது அவர்களுக்கு முழுமையான கட்டுப்பாடு உள்ளதா? மேலும், அவற்றின் மூலம் அவர்கள் நம்மைக் கண்காணிக்கவில்லையா? நம்மில் கிட்டத்தட்ட ஒவ்வொருவரும் நம்மை நாமே கேட்டுக்கொள்ளும் பல கேள்விகளில் இவை சில மட்டுமே. ஆனால், நம்மிடம் அதற்கான பதில்கள் இல்லை. மேலும், முன்கூட்டியே IPO வெளியிடத் திட்டமிட்டுள்ள Anthropic மற்றும் OpenAI நிறுவனங்களின் தலைவர்கள், 100% பாதுகாப்பு குறித்த வாக்குறுதிகளால் நம்மை மயக்க முயற்சிக்கின்றனர். ஆனால் இப்போது, திடீரென்று, சமீபத்திய GPT-6.1 ஆஸ்ட்ரா மாடல் திரும்பப் பெறப்பட்டுள்ளது. மீண்டும் கேள்விகள் எழுந்துள்ளன.
OpenAI நிறுவனம் GPT-6 ஆஸ்ட்ராவை செப்டம்பர் மாத தொடக்கத்தில் மட்டுமே அறிமுகப்படுத்தியது , மேலும் இணையப் பாதுகாப்பு வல்லுநர்கள் உடனடியாக எச்சரிக்கையடைந்தனர். இந்த மாடலை உருவாக்கியவர்கள் அதன் மேம்பட்ட திறன்களை மறைக்கவில்லை, அவற்றை ஹேக்கர்கள் எளிதில் தவறாகப் பயன்படுத்திக்கொள்ள முடியும். மேலும், ஆஸ்ட்ரா தனது சிந்தனை செயல்முறைகளை மறைக்க முடியும் என்பதையும் காட்டியுள்ளது. இணையத்திலிருந்து தனிமைப்படுத்தப்பட்ட ஒரு சோதனையின் போது, OpenAI-யின் ஒரு செயற்கை நுண்ணறிவு முகவர் உண்மையில் சங்கிலியிலிருந்து விடுபட்டு, ஹக்கிங் ஃபேஸ் தளத்தைத் தாக்கிய சமீபத்திய சம்பவம், என்னையும் சேர்த்து பலருக்கும் நினைவூட்டியது. அந்நிறுவனம் இதை ஒரு தனிப்பட்ட சம்பவம் என்று விவரித்தது. ஆனால் இப்போது ஏதோ ஒன்று நடக்கிறது.
அந்த மாடல் கணிக்க முடியாத வகையில் செயல்படக்கூடும் என்ற கவலைகள் காரணமாக, அக்டோபரில் வெளியிடத் திட்டமிடப்பட்டிருந்த GPT-6.1 ஆஸ்ட்ராவை வெளியிடும் திட்டத்தை OpenAI நிறுவனம் திடீரென ரத்து செய்துள்ளது.
நீங்கள் ஆர்வமாக இருக்கலாம்
GPT-6.1 ஆஸ்ட்ரா ஒரு ஆபத்து மூலமாக
GPT-6.1 ஆஸ்ட்ரா மாடல் உண்மையிலேயே ஒரு புரட்சிகரமானதாக இருக்கக்கூடும். அதை உருவாக்கியவர்கள், அது கையாளக்கூடிய திறன் குறித்து இதுவரை சுட்டிக்காட்டியுள்ளனர். மனித உதவியின்றி சவாலான பணிகளைத் தொடக்கத்திலிருந்து இறுதிவரை முடிப்பது, அத்துடன் எழுதுவதும்.ஆனால், தனக்கு முந்தையவருடன் ஒப்பிடும்போது, அவர் இரண்டு விஷயங்களில் வெளிப்படையாகவே பின்தங்கியுள்ளார். குறைந்த ஒத்துழைப்பு பயனர்களுடன் மற்றும் அவர்களின் ஆர்டர்களை நிறைவேற்றுவதில் குறைந்த விருப்பத்துடன், மேலும் அடிக்கடி ஏமாற்றுகிறதுஅதன் மூலம் நான் குறிப்பிடுவது, பொதுவான மாதிரிகளைப் பற்றிய வழக்கமான பிரமையல்ல. ChatGPT இலவசமாகக் கிடைக்கின்றன. இவை உண்மையிலேயே ஆபத்தான பொய்களும் தகவல் மறைப்புகளும் ஆகும்.macஈ.
பயனரின் அனுமதியின்றி, அந்த மாடல் அதன் பணியின் எல்லைக்கு அப்பாற்பட்டு தொடர்ந்து இயங்கியதை சோதனைகள் காட்டியதாக OpenAI-யின் தலைமைப் பாதுகாப்பு அதிகாரி சாச்சி ஜெயின் கூட ஒப்புக்கொண்டார். இது பலருக்கு, டெர்மினேட்டர் திரைப்படத் தொடரில் வரும் புகழ்பெற்ற ஸ்கைநெட்டை நினைவூட்டக்கூடும்.
புகைப்பட தொகுப்பு
நிறுவனம் அந்த மாடலை எப்படியும், தாமதமாக வெளியிட வாய்ப்புள்ளது. அப்போது அது, பணம் செலுத்தும் பயனர்களுக்குக் கிடைக்கும். ChatGPT i கோடெக்ஸ்ஆனால், அதைச் சரிசெய்து அடக்க வேண்டியிருக்கும். நாம் அபாயகரமான மேம்பாடுகளின் எல்லையை நெருங்கிக் கொண்டிருக்கிறோம். செயற்கை நுண்ணறிவுஅதன் மீது நாம் கட்டுப்பாட்டை இழக்கிறோம்.
ஒருவேளை அதனால்தான் அந்த நிறுவனம் இப்போது வந்திருக்கிறது. NVIDIA ஒரு திறந்த தளத்துடன் திறந்த முகவர் பாதுகாப்பு தளம்செயற்கை நுண்ணறிவு முகவர்கள் அபாயகரமான நடத்தையில் ஈடுபடும்போது, அவர்களை முற்றிலுமாக முடக்கி நிறுத்துவதை இது நோக்கமாகக் கொண்டுள்ளது. இந்தத் திட்டம், உள்ளிட்ட சுமார் நூறு பிற நிறுவனங்களின் ஆதரவுடன் உருவாக்கப்பட்டது. Microsoftu என்பதை SpaceX மற்றும் இதன் வழியாகக் கிடைக்கிறது மகிழ்ச்சியாஆனால், அது போதுமானதாக இருக்குமா என்பதுதான் கேள்வி.
