Voiko tekoäly pyyhkiä meidät pois jonain päivänä? Onko OpenAI:n kaltaisilla yrityksillä riittävät turvatoimet? Onko niillä täysi hallinta malleihinsa ja tekoälyagentteihinsa? Eivätkö ne seuraa meitä niiden kautta? Nämä ovat vain muutamia niistä monista kysymyksistä, joita lähes jokainen meistä kysyy itseltään. Mutta meillä ei ole vastauksia, ja Anthropicin ja OpenAI:n johtajat, jotka suunnittelevat varhaista listautumisantia, yrittävät tuudittaa meitä väitteillä 100 %:n turvallisuudesta. Mutta nyt yhtäkkiä uusin GPT-6.1 Astra -malli on kutsuttu takaisin. Ja kysymykset ovat palanneet.
OpenAI esitteli GPT-6 Astran vasta syyskuun alussa, ja kyberturvallisuusasiantuntijat huolestuivat välittömästi. Mallin luojat eivät salanneet sen edistyneitä ominaisuuksia, joita hakkerit voisivat helposti väärinkäyttää . Astra on myös osoittanut, että se pystyy piilottamaan ajatteluprosessinsa. Monille ihmisille, myös minulle, mieleen tuli hiljattain tapahtunut tapaus, jossa OpenAI:n tekoälyagentti kirjaimellisesti irtautui ketjusta internetistä eristetyn testin aikana ja hyökkäsi Hugging Face -alustan kimppuun . Yritys kuvaili sitä yksittäistapaukseksi. Mutta nyt jotain on tapahtumassa.
OpenAI on äkillisesti perunut suunnitelmansa julkaista GPT-6.1 Astra , jonka oli määrä tulla markkinoille lokakuussa , koska on esitetty huolta mallin arvaamattomuudesta.
Saatat olla kiinnostunut
GPT-6.1 Astra vaaran lähteenä
GPT-6.1 Astra -malli voisi olla kirjaimellisesti mullistava. Sen luojat ovat tähän mennessä antaneet ymmärtää, että se pystyy käsittelemään "Haastavien tehtävien suorittaminen alusta loppuun ilman ihmisen apua, sekä kirjoittaminen"Mutta edeltäjäänsä verrattuna hän on myös heikentynyt kahdella osa-alueella – todistettavasti vähemmän yhteistyökykyinen käyttäjien kanssa ja täyttävät tilauksia harvemmin ja useammin pettääEnkä tarkoita tällä tavallisten mallien klassista hallusinaatiota ChatGPT saatavilla ilmaiseksi. Nämä ovat todella vaarallisia valheita ja tiedon salaamistamacd.
OpenAI:n tietoturvajohtaja Saachi Jain jopa myönsi, että testit osoittivat mallin jatkaneen tehtävän rajojen ulkopuolella ilman käyttäjän lupaa. Tämä saattaa tuoda mieleen monia ihmisiä legendaarisesta Skynetistä Terminator-elokuvasarjasta.
Fotogalerie
On todennäköistä, että yritys julkaisee mallin joka tapauksessa, vaikkakin myöhemmin. Sen pitäisi olla sitten saatavilla maksaville käyttäjille ChatGPT i KoodeksiMutta se on tarpeen korjata ja kesyttää. Olemme saavuttamassa vaarallisten parannusten rajan. tekoälyjonka yli menetämme kontrollin.
Ja ehkä siksi yritys on nyt tullut NVIDIA avoimella alustalla nimeltä Avoin agenttien turvallisuusalusta, jonka tavoitteena on kirjaimellisesti lukita tekoälyagentit ja pysäyttää heidät riskialttiista käyttäytymisestä. Projekti luotiin noin sadan muun yrityksen tuella, mukaan lukien Microsoftu onko SpaceX ja on saatavilla kautta GitHubMutta kysymys kuuluu, riittääkö se.
