Може ли нас вештачка интелигенција једног дана збрисати? Да ли компаније попут OpenAI имају довољне мере безбедности? Да ли имају потпуну контролу над својим моделима и AI агентима? И да ли нас не прате преко њих? Ово су само нека од многих питања која скоро свако од нас себи поставља. Али немамо одговоре, а шефови Anthropic-а и OpenAI-а, који планирају рану почетну јавну понуду акција (IPO), покушавају да нас успавају тврдњама о 100% безбедности. Али сада је, изненада, најновији GPT-6.1 Astra модел опозван. И питања су се вратила.
OpenAI је представио GPT-6 Astra тек почетком септембра, а стручњаци за сајбер безбедност су се одмах узбунили. Креатори модела нису крили његове напредне могућности, које хакери лако могу злоупотребити . А Astra је такође показала да може да сакрије своје мисаоне процесе. Многи људи, укључујући и мене, подсетили су се недавног инцидента када се OpenAI AI агент буквално откинуо из ланца током теста изолованог од интернета и напао платформу Hugging Face . Компанија је то описала као изолован случај. Али сада се нешто дешава.
OpenAI је нагло отказао планове за објављивање GPT-6.1 Astra , чије је објављивање било заказано за октобар , због забринутости да би се модел могао понашати непредвидиво.
Могли бисте бити заинтересовани
GPT-6.1 Astra као извор опасности
Модел GPT-6.1 Astra би могао бити буквално револуционаран. Његови творци су до сада назначили да може да се носи са „Завршавање изазовних задатака од почетка до краја без људске помоћи, као и писање“Али у поређењу са својим претходником, он се такође погоршао у две области – очигледно мање кооперативан са корисницима и мање вољно испуњавају њихове налоге, плус чешће обмањујеИ под тим не мислим на класичну халуцинацију уобичајених модела ChatGPT доступно бесплатно. Ово су заиста опасне лажи и прикривање информацијаmacи.
Главни службеник за безбедност компаније OpenAI, Саачи Џаин, чак је признао да су тестови показали да је модел наставио да ради изван оквира задатка без дозволе корисника. Што многе људе може подсетити на легендарни Скајнет из серије филмова о Терминатору.
Фотогалерие
Вероватно је да ће компанија ипак објавити модел, мада касније. Тада би требало да буде доступан корисницима који плаћају у року од ChatGPT i КодексАли биће неопходно да се то исправи и укроти. Долазимо до границе опасних побољшања. вештачка интелигенцијанад којима губимо контролу.
И можда је зато компанија сада дошла АМД са отвореном платформом под називом Отворена платформа за безбедност агената, који има за циљ да буквално закључа вештачку интелигенцију агенте и заустави их у случају ризичног понашања. Пројекат је креиран уз подршку око стотину других компанија, укључујући Microsoftu да ли СпацеКс и доступан је преко ГитХубАли питање је да ли ће то бити довољно.
