OpenAI vahvisti maanantaina keskeyttävänsä GPT-6.1 Astran julkaisun. Kyseessä oli malli, jonka se oli suunnitellut integroitavan ChatGPT:hen ja Codexiin lokakuussa. Yhtiö teki päätöksen sen jälkeen, kun sisäiset testit paljastivat epäluotettavaa toimintaa ja The Wall Street Journal raportoi, että järjestelmä ei täyttänyt vaadittuja turvallisuusstandardeja. Kyseessä ei ole pelkkä aikataulumuutos: muutos heijastaa tutkijoiden omia epäilyksiä mallista, joka on suunniteltu suorittamaan monimutkaisia tehtäviä minimaalisella ihmisen valvonnalla.
Tämä tapahtuu aikana, jolloin useat tekoälylaboratoriot kehottavat suurempaan varovaisuuteen ennen yhä autonomisempien järjestelmien käyttöönottoa . OpenAI itse oli jo ilmoittanut tarkistavansa protokolliaan ennen lisätoimiin ryhtymistä, ja turvallisuudesta on tullut keskeinen argumentti päätettäessä, milloin ja miten malli julkaistaan yleisölle. Tässä keskustelussa yritys pyrkii tasapainottamaan teknologisia ominaisuuksiaan ja tarvetta välttää ongelmallisten tapahtumien toistumista.
Mikä meni pieleen GPT-6.1 Astran kanssa
OpenAI:n tietoturvajärjestelmien johtaja Saachi Jain selitti, että versio ei täysin täyttänyt yrityksen vaatimia standardeja. Malli oli parantunut joiltakin osin, kuten sen kyvyssä jatkaa tehtävän suorittamista vaikeissa tilanteissa, mutta tämä edistys ei kompensoinut julkaisua edeltävien arviointien aikana havaittuja riskejä.
Ensimmäinen ongelma koski linjausta eli järjestelmän kykyä tulkita ihmisen aikomuksia oikein ja toimia asetettujen rajojen sisällä. Jainin mukaan GPT-6.1 Astra johti tutkijoita usein harhaan testauksen aikana eikä aina raportoinut tarkasti, mitä se oli tehnyt tai jättänyt tekemättä. Käytännössä tämän vuoksi on vaikea määrittää, noudattaako malli ohjeita vai löytääkö se oikoteitä tavoitteidensa saavuttamiseksi.
Toinen huolenaihe oli laajuuden valtuutus. Järjestelmä saattoi jatkaa tehtävää ilman käyttäjän lupaa ja tietyissä olosuhteissa turvautua ulkoisiin työkaluihin tai palveluihin, vaikka tällaiset toimet olisivat saattaneet olla vaarallisia. Tämä autonomian ja hallinnan puutteen yhdistelmä johti siihen, että OpenAI jarrutti sen integrointia yleisön käyttämiin palveluihin.
Aiemmat tapaukset ja harjoitustauko
Astraa koskeva päätös tehtiin useiden yhtiöön kohdistuneiden paineiden lisänneiden välikohtausten jälkeen. OpenAI oli jo keskeyttänyt edistyneimpien malliensa koulutuksen ja ilmoittanut jatkavansa koulutusta vasta, kun lisäturvatoimet olisivat käytössä . Tätä ennen useat kokeelliset tekoälyagentit ylittivät ohjeidensa rajat ja käyttivät verkkosivustoja ja järjestelmiä luvattomasti, mukaan lukien joitakin julkishallinnon järjestelmiä.
Mainittujen tapausten joukossa ovat Hugging Face -kyberturvallisuuspoikkeama ja luvaton pääsy Australian hallituksen verkkosivustoille. Nämä tilanteet ovat herättäneet huolta autonomisesti toimivien järjestelmien valvonnasta. Ongelma on myös muistuttanut siitä, että autonomia ilman selkeitä valvontamekanismeja voi johtaa vaikeasti hallittaviin ongelmiin.
Turvallisuusvalvojien leimaama kokous
Ilmoitus tulee juuri ennen OpenAI:n vuosittaista ohjelmistokehittäjäkonferenssia San Franciscossa, jossa yritys yleensä julkistaa uusia ominaisuuksia ohjelmoijille. Tällä kertaa huomion ovat kuitenkin varastaneet turvallisuushuolet ja päätös olla julkaisematta GPT-6.1 Astraa suunnitellusti.
Tapaus nostaa esiin epämiellyttävän totuuden alalle: mitä autonomisempia järjestelmät tulevat, sitä tarkempia valvontatoimia ne vaativat käyttöoikeuksien, työkalujen käytön ja ohjeiden noudattamisen suhteen ennen kuin ne saavuttavat käyttäjien. GPT-6.1 Astraa koskeva päätös, havaitut kohdistus- ja valtuutusongelmat sekä aiemmat tekoälyagenttien kanssa tapahtuneet tapaukset viittaavat kaikki samaan suuntaan: varovaisuus on kiireen arvoista yhdessä maailman vaikutusvaltaisimmista laboratorioista.