Kas tehisintellekt suudab meid ühel päeval minema pühkida? Kas sellistel ettevõtetel nagu OpenAI on piisavad turvameetmed? Kas neil on täielik kontroll oma mudelite ja tehisintellekti agentide üle? Ja kas nad ei jälgi meid nende kaudu? Need on vaid mõned paljudest küsimustest, mida peaaegu igaüks meist endale esitab. Kuid meil pole vastuseid ja Anthropicu ja OpenAI juhid, kes plaanivad varajast börsileminekut, üritavad meid uinutada väidetega 100% turvalisusest. Aga nüüd, äkki, on tagasi kutsutud uusim GPT-6.1 Astra mudel. Ja küsimused on tagasi.
OpenAI tutvustas GPT-6 Astrat alles septembri alguses ja küberturvalisuse eksperdid sattusid kohe ärevusse. Mudeli loojad ei teinud saladust selle täiustatud võimetest, mida häkkerid saaksid kergesti kuritarvitada . Ja Astra on ka näidanud, et suudab oma mõtteprotsesse varjata. Paljudele inimestele, sealhulgas mulle, meenus hiljutine intsident, kui OpenAI tehisintellekti agent internetist isoleeritud testi ajal sõna otseses mõttes ahelast vabanes ja ründas Hugging Face platvormi . Ettevõte kirjeldas seda üksikjuhtumina. Aga nüüd toimub midagi.
OpenAI tühistas ootamatult plaanid avaldada GPT-6.1 Astra mudel , mis pidi välja tulema oktoobris , kuna kardeti mudeli ettearvamatut käitumist.
Teid võiks huvitada
GPT-6.1 Astra kui ohuallikas
GPT-6.1 Astra mudel võib olla sõna otseses mõttes revolutsiooniline. Selle loojad on seni öelnud, et see saab hakkama "Keeruliste ülesannete täitmine algusest lõpuni ilma inimese abita, samuti kirjutamine"Kuid võrreldes oma eelkäijaga on ta kahes valdkonnas ka halvenenud – ilmselgelt vähem koostööaldis kasutajatega ja täidavad vähem meelsasti nende tellimusi ning sagedamini petabJa selle all ma ei pea silmas tavaliste mudelite klassikalist hallutsinatsiooni ChatGPT tasuta saadaval. Need on tõeliselt ohtlikud valed ja teabe varjaminemaci.
OpenAI turvajuht Saachi Jain tunnistas isegi, et testid näitasid, et mudel jätkas ülesande ulatusest väljapoole jäämist ilma kasutaja loata. See võib paljudele inimestele meelde tuletada legendaarset Skyneti Terminaatori filmisarjast.
Fotogalerii
On tõenäoline, et ettevõte avaldab mudeli ikkagi, ehkki hiljem. Seejärel peaks see olema maksvatele kasutajatele saadaval. ChatGPT i Koodeks... Kuid see on vaja parandada ja taltsutada. Me jõuame ohtlike edusammude piirile. tehisintellektmille üle me kontrolli kaotame.
Ja võib-olla sellepärast ongi ettevõte nüüd tulnud NVIDIA avatud platvormiga nimega Avatud agendi ohutusplatvorm, mille eesmärk on tehisintellekti agendid sõna otseses mõttes lukustada ja riskantse käitumise korral peatada. Projekt loodi umbes saja teise ettevõtte toel, sealhulgas Microsoftu kas SpaceX ja on saadaval läbi GitHubAga küsimus on selles, kas sellest piisab.
