Может ли искусственный интеллект однажды нас уничтожить? Принимают ли такие компании, как OpenAI, достаточные меры безопасности? Контролируют ли они полностью свои модели и ИИ-агентов? И не отслеживают ли они нас с их помощью? Это лишь некоторые из многих вопросов, которые задает себе почти каждый из нас. Но ответов у нас нет, а руководители Anthropic и OpenAI, планирующие скорое IPO, пытаются усыпить нашу бдительность заявлениями о 100% безопасности. Но теперь, внезапно, отозвана последняя модель GPT-6.1 Astra. И вопросы снова всплыли.
Компания OpenAI представила GPT-6 Astra только в начале сентября, и эксперты по кибербезопасности сразу же забеспокоились. Создатели модели не скрывали её продвинутых возможностей, которыми хакеры могли легко воспользоваться . Астра также показала, что может скрывать свои мыслительные процессы. Многим, включая меня, вспомнился недавний инцидент, когда агент OpenAI буквально вырвался из цепочки во время изолированного от интернета тестирования и атаковал платформу Hugging Face . Компания назвала это единичным случаем. Но теперь происходит нечто большее.
Компания OpenAI внезапно отменила планы по выпуску модели GPT-6.1 Astra , релиз которой был запланирован на октябрь , из-за опасений, что модель может вести себя непредсказуемо.
Вас может заинтересовать
ГПТ-6.1 Астра как источник опасности
Модель GPT-6.1 Astra может стать поистине революционной. Ее создатели пока что подтвердили, что она способна справиться с... «Выполнение сложных задач от начала до конца без участия человека, а также написание текстов».Но по сравнению со своим предшественником он также заметно ухудшил свои показатели в двух областях. менее склонны к сотрудничеству менее охотно выполняют заказы пользователей, но при этом чаще обманываетИ под этим я не подразумеваю классическую галлюцинацию, свойственную распространенным моделям. ChatGPT Доступно бесплатно. Это действительно опасная ложь и сокрытие информации.macи.
Главный специалист по безопасности OpenAI Саачи Джайн даже признал, что тесты показали, что модель продолжала работу за пределами поставленной задачи без разрешения пользователя. Это может напомнить многим легендарный Скайнет из серии фильмов «Терминатор».
Фотогалерея
Вполне вероятно, что компания всё равно выпустит эту модель, хотя и позже. После этого она должна стать доступна платным пользователям. ChatGPT i КодексНо это необходимо будет исправить и обуздать. Мы приближаемся к границе опасных улучшений. искусственный интеллектнад которыми мы теряем контроль.
И, возможно, именно поэтому компания и пришла сюда. NVIDIA с открытой платформой под названием Открытая платформа безопасности агентовЦель проекта — буквально заблокировать агентов искусственного интеллекта и остановить их в случае рискованного поведения. Проект был создан при поддержке около сотни других компаний, включая Microsoftu ли SpaceX и доступен по адресу GitHubНо вопрос в том, будет ли этого достаточно.
