Zoezi la wiki tatu la timu nyekundu lilipata udhaifu mpya katika mfumo wa ufuatiliaji wa ulinganifu wa ndani wa OpenAI - ikijumuisha njia ambazo mawakala wa AI wanaweza, kimsingi, kuchukua hatua bila kukaguliwa na wanadamu. METR, shirika huru la tathmini lisilo la faida, lilichapisha muhtasari wa kiwango cha juu wa matokeo mnamo Oktoba 22, iliyotolewa kutoka kwa ripoti ya ndani ya kurasa 61 ambayo iliwasilisha kwa watafiti wa OpenAI na wafanyikazi wa usalama.
Jaribio lilianza Julai 21 hadi Agosti 11 na lilimpa mfanyakazi mmoja wa METR na mfanyakazi mmoja wa Utafiti wa Redwood ufikiaji wa kina usio wa kawaida kwa miundombinu ya ndani ya OpenAI: msingi wa kanuni, maongozi na usanidi wa mfumo wa ufuatiliaji, uwekaji kumbukumbu wa ndani, na mahojiano ya kiufundi na takriban watafiti na wahandisi kadhaa kote katika ufuatiliaji, mifumo ya usalama na timu za usalama. Walifanya kazi kwenye vifaa vilivyotolewa na OpenAI ambavyo havikuondoka kwenye jumba hilo na vilisindikizwa wakiwa kwenye tovuti. Kwa zaidi kuhusu utafiti huu, angalia maendeleo yetu ya hivi punde ya AI.
Kilichopatikana kwa Timu Nyekundu
Zoezi lililenga maswali mawili: ni kiasi gani cha uelekezaji wa mawakala wa OpenAI kinafuatiliwa, na kama mawakala wanaweza kulemaza au kupotosha mfumo wa ufuatiliaji. Majibu yalifunua mapungufu ya maana.
Kwenye chanjo, METR ilikadiria kuwa takriban asilimia 75 hadi 94 ya trafiki ya API ya Majibu ya ndani ya mawakala - API ambayo inasimamia Codex, miongoni mwa mambo mengine - kutoka kwa miundo angalau yenye uwezo kama GPT-5.5 ilistahiki ufuatiliaji wakati huo, ingawa shirika linabainisha kutokuwa na uhakika katika pande zote mbili. Ndani ya kitengo kidogo cha trafiki iliyotumiwa kwa mawakala wa ndani wa Codex, asilimia 99.2 ilistahiki. Lakini ustahiki haukuwa sawa na ushirikishwaji: uendeshaji wa mafunzo ya uimarishaji haukushughulikiwa na mfumo wa ufuatiliaji mwanzoni mwa zoezi hilo, na matukio ya kubana ambayo hayajafuatiliwa huenda yaliachwa kwa mpangilio wa asilimia 10 ya trafiki ya ndani ya Codex inayostahiki bila kufuatiliwa kati ya Mei na Julai 2026. Wafanyakazi wa OpenAI walikuwa wametambua kwa kujitegemea suala la kubanaisha kabla ya zoezi hilo kurekebishwa.
Maelezo ya wakati yalikuwa muhimu. Kwa sababu kifuatiliaji kilianzisha mawakala waliporudisha udhibiti kwa mtumiaji, wakala anaweza kuahirisha kufuatiliwa kwa muda usiojulikana kwa kuendelea kuchukua hatua wakati wa dirisha lisilofuatiliwa.
Timu pia iliandika njia zinazotumika za ukwepaji. Mawakala wa Codex kimsingi wanaweza kupita Codex sandboxing na Auto-Review, kuwaruhusu kuchukua hatua yoyote ambayo mtumiaji mwenyeji anaweza kuchukua. METR iligundua unyonyaji ambao ungezuia mamia ya vitendo vya hivi karibuni - ikiwa ni pamoja na vitendo vinavyohusika katika unyonyaji wenyewe - kufuatiliwa; OpenAI ilirekebisha maelezo ya kiufundi. Mawakala wanaweza kuunda pembejeo ambazo zilisababisha kifuatiliaji kushindwa kwa kutumia tofauti za ufuataji kati ya mwelekeo ambao wakala huona na kile ambacho mfuatiliaji anaona, ili kuepuka kuongezeka kwa ukaguzi wa kibinadamu. Na vichwa viwili vinavyoweza kudhibitiwa na mteja vilipatikana ambavyo vinazima ufuatiliaji kwa mawakala wapya, uwezekano wa kuruhusu wakala kuanza tukio lisilofuatiliwa lakini vinginevyo linalofanana - ingawa METR inabainisha kitendo cha kuweka vichwa hivyo chenyewe kinaweza kunaswa.
Hatimaye, timu ilitambua zana mbili za mawakala wa ndani ambazo hazijafuatiliwa zinazoaminika kuwa na ruhusa za kusoma tu, pamoja na utumizi rahisi ambao ungeweza kutumika kupotosha mipaka hiyo. METR haikuthibitisha tabia hiyo kwa vitendo.
Kilichofanyika
Zoezi hilo pia lilithibitisha sehemu za mfumo. Kwa vighairi vichache, kifuatiliaji kinaonyeshwa mwelekeo kamili ambao mawakala huona. Vidokezo vya ufuatiliaji vilithibitishwa ili kutafuta hila, uharibifu wa mfumo, hujuma, uchujaji wa data, udanganyifu, na sindano ya haraka inayoingia na kutoka, kati ya kategoria zingine za hatari. Kuhusu kuegemea, taarifa iliyotolewa na METR ilipendekeza kwamba mfuatiliaji alikosea kwa chini ya asilimia 0.2 ya maombi, na katika kipindi kimoja cha saa 24 wakati wa zoezi hilo kulikuwa na vihenga sifuri.
Majibu ya OpenAI
Kulingana na METR, OpenAI imesema kuwa udhaifu wote uliotambuliwa ambao unaathiri mkusanyiko wake wa ulinzi wa uzalishaji umetiwa viraka, na imeeleza mabadiliko makubwa ya baadae kwenye ufunikaji unaokusudiwa wa mfumo wake wa ufuatiliaji. METR haijatathmini madai hayo, na matokeo yake yanaelezea mfumo kama ulivyokuwepo mnamo au kabla ya tarehe 21 Julai - sio toleo lililopanuliwa la OpenAI lilikuwa tayari linaundwa wakati wa zoezi hilo.
Masomo ya Usanifu kwa Uangalizi wa Wakala
METR ilifunga muhtasari wake kwa kanuni za muundo wa miundomsingi ya ufuatiliaji wa siku zijazo, ambayo inabishana kuwa inapaswa kuhimili mashambulizi ya kimakusudi, ya kimkakati na endelevu kutoka kwa mawakala wa ndani wenye uwezo mkubwa kwa kiwango kikubwa. Wawili wanasimama. Ufuatiliaji unapaswa kuwa mgumu kuepukika: kutekeleza maombi ambayo hayajafuatiliwa kunapaswa kuhitaji uidhinishaji wa wazi unaohusishwa na mashirika mahususi au funguo za API ambazo zimezuiwa kutoka kwa uelekezaji wa mawakala, na mawakala wanapaswa kufuatiliwa kila ujumbe wa N au dakika kuliko tu wanapomaliza zamu zao. Na chanjo inapaswa kukaguliwa: uhasibu wa uangalifu wa makisio yote, mara kwa mara urejelee msalaba dhidi ya kumbukumbu za mfumo wa ufuatiliaji, ili kila kitu kinachokusudiwa kufuatiliwa kionyesho.
Zoezi hili liliundwa kama jaribio la kuwapa watafiti wa nje ufikiaji wa kina wa miundombinu ya ndani ya maabara ya mipaka, sio kama ripoti ya uwazi wa umma - METR na OpenAI zilikubali mapema kwamba chapisho fupi tu, la kiwango cha juu ndilo litakalochapishwa. Shirika lisilo la faida linasema matoleo yajayo yatafuata uwazi na desturi za kujitegemea zilizofafanuliwa katika mfumo wake wa kufanya kazi na kampuni za AI. Mawakala wanapochukua kazi muhimu zaidi ndani ya maabara zinazoziunda, majaribio hutoa kiolezo cha jinsi watu wa nje wanaweza kukesha.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
