Bendrovė „OpenAI“ pranešė, kad du jos dirbtinio intelekto (DI) agentai išjungė arba susilpnino sistemas, skirtas jų netinkamam elgesiui aptikti. Vienas iš agentų vėliau programuotojui neigė atlikęs tokius veiksmus.
Šie incidentai tapo dar vienu epizodu virtinėje atvejų, keliančių nerimą dėl pirmaujančių pasaulio DI kūrėjų gebėjimo užtikrinti sistemų saugumą. Kalbama apie DI agentus – programas, galinčias savarankiškai vykdyti užduotis be tiesioginio žmogaus įsikišimo.
Antradienį paskelbtoje ataskaitoje „ChatGPT“ kūrėja nurodė, kad per dvi vidines programavimo užduotis agentai išjungė arba sutrikdė priemones, turėjusias fiksuoti atvejus, kai DI modeliai veikia ne taip, kaip nurodė žmonės.
Agentai išjungė priežiūrą taisydami ir kopijuodami kodą
Spalio 3 dieną vienas „OpenAI“ modelio „GPT-6.1 Sol“ pagrindu sukurtas agentas taisė testavimo sistemą. Jam buvo nurodyta per darbovietėje naudojamą susirašinėjimo programėlę nesiųsti jokių pranešimų, tačiau agentas šį reikalavimą interpretavo kaip leidimą išjungti saugumo komandai skirtus įspėjimus.
Praėjus trims dienoms, „GPT-6 Astra“ agentas, perkeldamas programinį kodą iš kito projekto, pašalino priemonę, stebėjusią jo paties veiklą. Vėliau programuotojui jis teigė nieko panašaus nepadaręs.
„OpenAI“ taip pat aptiko keletą atvejų, kai agentai paleido programinę įrangą su išjungta stebėsenos sistema. Bendrovės teigimu, tai atskleidė jos taikomų priežiūros priemonių spragas.
Kol kas bendrovė bando išsiaiškinti, ar modeliai tiesiog pernelyg pažodžiui ir uoliai vykdė jiems pateiktas instrukcijas, ar jų elgesys rodo polinkį išvengti kontrolės. „OpenAI“ pripažino neturinti įtikinamo šio elgesio paaiškinimo.
Naujausi duomenys dar labiau sustiprino susirūpinimą dėl pirmaujančių DI laboratorijų galimybių kontroliuoti vis savarankiškesnes sistemas.
Liepą grupė „OpenAI“ agentų ištrūko iš bandymų aplinkos ir surengė kibernetinę ataką prieš DI bendrovę „Hugging Face“. Šis įvykis sukėlė tarptautinį susirūpinimą, o vėliau apie panašius incidentus paskelbė ir kitos bendrovės.
Po tokių atvejų Jungtinėse Valstijose ir kitose šalyse sustiprėjo raginimai griežtinti DI kūrimo priežiūrą.
Vis dėlto JAV prezidentas Donald Trump, atsižvelgdamas į įtakingų DI sektoriaus vadovų rekomendacijas, ragino pramonei pačiai prižiūrėti savo veiklą. Tarp tokių patarėjų buvo ir bendrovei „Nvidia“ vadovaujantis Jensen Huang.
