Може ли изкуственият интелект да ни унищожи един ден? Имат ли компании като OpenAI достатъчни мерки за сигурност? Имат ли пълен контрол над своите модели и ИИ агенти? И не ни ли проследяват чрез тях? Това са само част от многото въпроси, които почти всеки от нас си задава. Но нямаме отговорите, а шефовете на Anthropic и OpenAI, които планират ранно първично публично предлагане, се опитват да ни приспят с твърдения за 100% сигурност. Но сега, изведнъж, най-новият модел GPT-6.1 Astra беше изтеглен от пазара. И въпросите се завръщат.
OpenAI представи GPT-6 Astra едва в началото на септември и експертите по киберсигурност веднага се разтревожиха. Създателите на модела не криеха неговите усъвършенствани възможности, които лесно биха могли да бъдат злоупотребени от хакери . А Astra също така показа, че може да крие мисловните си процеси. Много хора, включително и аз, си спомниха за скорошния инцидент, когато AI агент на OpenAI буквално се освободи от веригата по време на тест, изолиран от интернет, и атакува платформата Hugging Face . Компанията го определи като изолиран случай. Но сега нещо се случва.
OpenAI внезапно отмени плановете си за пускане на GPT-6.1 Astra , което беше планирано за октомври , поради опасения, че моделът може да се държи непредсказуемо.
Може да се интересувате от
GPT-6.1 Astra като източник на опасност
Моделът GPT-6.1 Astra може да бъде буквално революционен. Създателите му досега са посочвали, че може да се справи „Изпълнение на трудни задачи от началото до края без човешка помощ, както и писане“Но в сравнение с предшественика си, той също се е влошил в две области – видимо по-малко кооперативни с потребителите и по-малко охотно изпълняват поръчките им, плюс по-често заблуждаваИ с това нямам предвид класическата халюцинация на често срещаните модели ChatGPT достъпни безплатно. Това са наистина опасни лъжи и укриване на информацияmacприложимо.
Главният директор по сигурността на OpenAI, Саачи Джаин, дори призна, че тестовете показват, че моделът е продължил извън обхвата на задачата, без разрешението на потребителя. Което може да напомни на много хора за легендарния Skynet от филмовата поредица „Терминатор“.
Фото галерия
Вероятно компанията ще пусне модела така или иначе, макар и по-късно. След това той би трябвало да бъде достъпен за платени потребители в рамките на ChatGPT i КодексНо ще е необходимо да го коригираме и опитомим. Достигаме границата на опасните подобрения. изкуствен интелектнад които губим контрол.
И може би затова компанията е дошла сега NVIDIA с отворена платформа, наречена Платформа за безопасност на отворени агенти, който има за цел буквално да блокира агентите с изкуствен интелект и да ги спре в случай на рисково поведение. Проектът е създаден с подкрепата на около сто други компании, включително Microsoftu дали SpaceX и е достъпен чрез GitHubНо въпросът е дали ще е достатъчно.
