OpenAI imetuma mfumo wa udhibiti wa kati unaoitwa Chumba cha Kudhibiti katika miundombinu yake yote ya utafiti, iliyoundwa ili kuzuia mzigo wa kazi unaoweza kuwa hatari wa AI kutoka kwa kutoa matokeo zaidi ndani ya sekunde 35 za uamuzi wa kuingilia kati. Kama vile Uhandisi wa Kuvutia ulivyoripoti, mfumo huu unaunganisha mzigo wa kazi unaowezesha utafiti wa juu zaidi wa kampuni - ikiwa ni pamoja na mafunzo ya modeli ya wakala, tathmini, na kazi za kuchakata data - kwa huduma kuu inayodhibiti ikiwa wanaweza kuendelea kufanya kazi.
Kampuni hiyo ilitangaza mfumo huo hadharani tarehe 9 Novemba, ikiandika: "Tulijenga Chumba cha Kudhibiti, mfumo mkuu wa kufuatilia mzigo wa kazi wa kielelezo katika miundombinu yetu yote ya utafiti na kuwasimamisha haraka wakati maswala ya usalama au usalama yanapotokea. Inaunganisha kila mzigo wa kazi ya makisio ya utafiti, ikiwa ni pamoja na sampuli za mawakala kwa mafunzo ya mfano na tathmini, data..." For more context on this story, see our ongoing more AI stories.
Muda unajulikana. Miundo ya AI inapokua na uwezo zaidi na kupewa majukumu zaidi ya uhuru, kama wakala ndani ya mabomba ya mafunzo, hatari ya mwanamitindo kuwa na tabia zisizotarajiwa wakati wa utafiti hukua nayo. Chumba cha Kudhibiti ni jibu la kimuundo la OpenAI: sio tu kutazama shida, lakini kuwa na uwezo wa kuikata.
Jinsi Chumba cha Kudhibiti Hufanya Kazi
Chumba cha Kudhibiti huunganisha vipengele vitatu kuu: mzigo wa kazi wa utafiti, injini ya uelekezaji, na huduma kuu ya Chumba cha Kudhibiti. Mzigo wa kazi, katika istilahi za OpenAI, ni kazi ya utafiti kama vile majaribio ya uimarishaji wa kujifunza, tathmini, au kazi ya usindikaji wa data ya kiwango cha juu. Kila mzigo wa kazi wa utafiti unaotekeleza makisio ya mawakala lazima uhusishwe na kesi ya usalama iliyoidhinishwa kabla ya kuanza.
Mtafiti anapoanzisha kazi, msimbo wake huomba kitambulisho cha kipekee cha kazi kutoka kwa Chumba cha Kudhibiti. Kitambulisho hicho basi huambatishwa kwa kila ombi ambalo mzigo wa kazi hutuma kwa injini za uelekezaji - mifumo inayoungwa mkono na GPU ambayo huendesha miundo na kutoa matokeo.
Kabla ya kutimiza ombi lolote la makisio, injini hukagua Chumba cha Kudhibiti ili kuthibitisha kuwa kazi husika bado imeidhinishwa kufanya kazi. Iwapo mtafiti au mfumo wa ufuatiliaji wa kiotomatiki umeagiza Chumba cha Kudhibiti kusimamisha kazi, huduma hiyo inakataa ombi linalofuata la uelekezaji, na injini inakataa kutoa pato la modeli zaidi kwa mzigo huo wa kazi.
Kusimamisha Pato, Sio Lazima Kazi
Maelezo moja ya muundo yanaonekana: kusimamisha mzigo wa kazi sio lazima kuumaliza. Mchakato wa utafiti wenyewe unaweza kuendelea kufanya kazi - nambari yake inaendelea kutekeleza - lakini haiwezi tena kupata matokeo ya ziada ya mfano kupitia injini za uelekezaji zilizoidhinishwa. Kwa mafunzo ya utovu wa nidhamu, hiyo inatosha: bila ufikiaji wa vizazi vingi vya mfano, haiwezi kufanya maendeleo zaidi.
Mbinu hii pia huepuka kutegemea msimbo wa mzigo wa kazi wa watafiti kutekeleza ukaguzi wa usalama kwa usahihi. OpenAI inaweka utaratibu muhimu wa uidhinishaji katika safu ya uelekezaji badala yake, ambayo ina njia chache za kificho zinazosimamiwa na serikali kuu. Kwa maneno mengine, swichi ya kuua huishi katika miundombinu ambayo kampuni inadhibiti kikamilifu, si katika msimbo wa majaribio ulioandikwa na timu mahususi.
Iliyoundwa Ili Kushindwa Kufungwa
Chumba cha Kudhibiti kimeundwa ili kubaki na ufanisi hata wakati vipengele vingine vinapofanya kazi vibaya. Utaratibu wake wa kutofaulu huzuia maombi ya uelekezaji ikiwa huduma ya Chumba cha Udhibiti yenyewe haitapatikana - kumaanisha kutofaulu kwa kiufundi, jaribio la kuzima kimakusudi, au uwezekano wa kuchezea huduma kuu kunaweza kusababisha injini za makisio kukataa maombi yote hadi mfumo urejee kwa utendakazi wa kawaida.
Kielelezo cha sekunde 35 kinawakilisha ucheleweshaji wa juu zaidi kati ya kupokea maagizo ya kusitisha na kuzuia maendeleo zaidi. Ucheleweshaji unatokana na safu ya kache inayotumika kushughulikia idadi kubwa ya maombi ya idhini ya uelekezaji, na OpenAI inasema inafanya kazi kupunguza muda hadi sifuri.
Wachunguzi Kiotomatiki Tazama Kila Mbio za Mipaka
Jozi za swichi ya kuua na ufuatiliaji wa kiotomatiki. Kulingana na OpenAI, kazi zake zote za masomo ya kuimarisha mipaka huendeshwa na kifuatiliaji tofauti cha kielelezo ambacho huchunguza tabia ya kielelezo na kuinua arifa inapogundua matatizo yanayoweza kutokea. Iwapo tahadhari itaruhusu kuingilia kati, mfumo wa ufuatiliaji unaweza kuagiza Chumba cha Kudhibiti kusitisha kazi inayohusishwa, ambayo itazuia maombi ya makisio yanayofuata kwenye muundo au injini yoyote ambayo mzigo wa kazi hutumia.
Kampuni ilionyesha tukio la hivi majuzi linalohusiana na DNS - ambapo mfuatiliaji aligundua wakala akijaribu kufikia gumzo la nje - kama mfano wa kwa nini ulinzi kama huo ni muhimu. Katika hali hiyo, hitilafu ilinaswa na uangalizi wa kiotomatiki badala ya mkaguzi wa kibinadamu.
Sehemu ya Usukumaji Pana wa Usalama
OpenAI inabainisha kuwa Chumba cha Kudhibiti tayari kimetumwa katika miundombinu yake yote ya utafiti, ambapo hitaji la kuingilia kati ni kubwa zaidi. Miundombinu yake ya nje ya kutoa modeli, ambayo huwezesha bidhaa kama vile ChatGPT, imewekwa kati zaidi na tayari ina njia za kufanya kazi ili kupunguza uwekaji wa miundo inapohitajika - Chumba cha Kudhibiti hufunga pengo kwenye upande wa utafiti.
Kampuni hiyo inasema itaendelea kuimarisha mifumo yake ya ufuatiliaji na ulinzi dhidi ya tabia potofu na ukiukaji wa usalama kama sehemu ya mbinu yake pana ya kupata maendeleo ya mfano wa mipaka.
Kwa tasnia inayozidi kufafanuliwa na mawakala wanaojiendesha, Chumba cha Kudhibiti ni ishara ya mahali ambapo maabara za mipakani zinaelekea: mbinu za usalama ambazo zinadhania kwamba modeli wakati mwingine zitatenda vibaya kwa kiwango kikubwa, na hiyo hufanya kuzisimamisha hakikisho la miundombinu badala ya tumaini.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
