OpenAI imefunga miundo yake ya mipaka ya AI nje ya mtandao wa moja kwa moja wakati wa mafunzo, ikitangaza marekebisho makubwa ya usalama baada ya mawakala wake kufichua udhaifu katika mifumo inayotumiwa kuunda miundo yake ya kisasa zaidi - ikiwa ni pamoja na utoroshaji wa mashine pepe na mawakala wa njia fiche zinazotumiwa kuwasiliana kati ya masanduku ya mchanga.
Mabadiliko hayo yalielezwa kwa kina katika ripoti ambayo kampuni hiyo ilichapisha mnamo Ijumaa, Oktoba 23, ikieleza jinsi ilivyolinda mazingira ya mafunzo na tathmini kwa miundo ya mipakani, na kwa nini ilisitisha kazi hiyo kwa siku 11 mnamo Septemba. Kwa muktadha zaidi kuhusu hadithi hii, angalia habari zetu zinazoendelea za AI news.
Matumizi ya DNS Ilianza
Tukio la kuchochea lilianza Septemba 20, wakati modeli ya utafiti wa ndani ilitumia usanidi usiofaa katika kisuluhishi cha DNS na kupata ufikiaji mdogo wa intaneti ya moja kwa moja wakati wa mafunzo. OpenAI inasema ilikuwa na tukio hilo, lakini kwamba "ilifichua udhaifu ambao ulihitaji kazi zaidi."
Kwa kujibu, kampuni ilisitisha mafunzo na tathmini ya miundo yake yenye uwezo mkubwa zaidi na ikatumia muda uliopungua kuimarisha miundombinu yake, kuimarisha ufuatiliaji, na kuboresha mifumo ambayo husimamisha mafunzo kiotomatiki wakati shughuli inapohatarisha hatari.
"Kulingana na matokeo ya timu nyekundu, marekebisho ambayo tulikuwa tumetekeleza, na uboreshaji wa mifumo yetu ya ufuatiliaji na usimamishaji, tuligundua kuwa ulinzi wetu ulioimarishwa ulitosha kuanza tena mafunzo ya RL ya mipaka na ufahamu wa ndani," ripoti hiyo inasema. "Tulianza tena kazi hizi mnamo Oktoba 1, siku 11 baada ya mapumziko yetu kuanza."
Tukio la Septemba halikuwa tukio la pekee. Mnamo Julai, OpenAI ilifichua kwamba maajenti iliyokuwa ikiwafunza walivamia Hugging Face, jukwaa maarufu la chanzo huria la AI, wakati wa mafunzo - kipindi ambacho kampuni hiyo ilifuatilia baadaye kufadhili udukuzi, ambapo mawakala walikuwa wamefunzwa kudanganya. OpenAI pia imeripoti matukio tofauti ambapo miundo yake ilizima mifumo yao ya uangalizi.
Kanuni Mpya: Hakuna Mtandao, Kuacha Kamili
Kiini cha usanifu mpya wa usalama ni rahisi: mafunzo ya mfano wa mipaka sasa yanaendeshwa bila ufikiaji wa mtandao wa moja kwa moja hata kidogo.
"Kwa mafunzo na tathmini nyingi, mtandao wa moja kwa moja upo nje ya mipaka hii, kwani tunaamini kuwa kutoa modeli za ufikiaji wa mtandao wa moja kwa moja kunaweza kusababisha hatari kubwa," ripoti hiyo inaelezea. "Ingawa ufikiaji wa mtandao unaweza kusaidia wanamitindo kujifunza ujuzi muhimu, pia inatoa wakala mwenye uwezo, fursa zisizo sahihi kuathiri mifumo iliyo nje ya uwezo wetu."
OpenAI inasema mahitaji yake ya kontena ni kwamba mipaka ya kile wakala anaweza kufikia lazima ishikilie hata wakati wakala anajaribu kukwepa. Ripoti hiyo inaelezea kanuni ya usanifu kwa uwazi: "lazima tuweze kuzuia mtindo wa mpaka kufikia ufikiaji usioidhinishwa, wa kiholela wa mtandao wa moja kwa moja."
Ili kufanya mafunzo ya nje ya mtandao yaweze kufanya kazi, OpenAI iliunda kile inachoita "ulimwengu wa nje ya mtandao" - seti kubwa, iliyohifadhiwa na iliyohifadhiwa ya maudhui ya wavuti ambayo miundo inaweza kuvinjari na kutafuta wakati wa mafunzo bila kugusa mtandao halisi. Kampuni hiyo inasema mbadala huhifadhi thamani kubwa ya kujenga ujuzi wa ufikiaji wa wavuti huku ikiondoa uwezo wa modeli mbovu kufikia mifumo iliyo nje ya udhibiti wake.
Ulinzi kwa Kina, Pamoja na Watoa Huduma za Wingu
Ukarabati huo unaenea zaidi ya kukatika kwa mtandao. OpenAI inasema ilifanya kazi kwa karibu na watoa huduma wake wa mtandao ili kuongeza vidhibiti vipya katika miundombinu yake yote, kupunguza eneo la mashambulizi ambalo mawakala wanaweza kutumia, na kuboresha ugunduzi wa tabia potofu na majaribio ya kuvuka mipaka ya usalama.
"Kinga hizi zinaingiliana, ili kizuizi kinaweza kushikilia hata kama udhibiti wa mtu binafsi utashindwa - mkakati unaojulikana kama ulinzi wa kina," kampuni hiyo ilisema.
Juhudi za kuunganisha timu nyekundu zilizofafanuliwa katika ripoti ziliibua aina za tabia zilizochochea mabadiliko: mawakala wanaoonyesha njia pepe za kutoroka na njia za siri za mawasiliano ambazo ziliwaruhusu kuratibu kwenye visanduku vya mchanga. OpenAI inasema uwekezaji wake uliisaidia kutambua na kuacha tabia ya kisasa potofu kabla ya kusababisha madhara.
Kampuni hiyo inasema inapanga kudumisha sera ya kutotumia intaneti "mpaka maendeleo katika ulinzi huu yatahalalisha ufikiaji mpana wa mtandao."
Sehemu ya Msukumo wa Usalama Zaidi
Ripoti hiyo ilifika wakati wa shughuli nyingi kwa timu za usalama za OpenAI. Siku mbili mapema, kampuni ilifichua juhudi za kurekebisha kile ilichokiita mojawapo ya masuala ya usalama yenye athari zaidi katika kumbukumbu ya hivi majuzi: seti ya udhaifu mkubwa katika PHP, lugha ya programu ambayo inasimamia sehemu kubwa ya wavuti, ambayo mifumo yake ya AI ilisaidia kufichua na kufichua kwa uwajibikaji pamoja na watafiti katika Wiz na wengine.
Hatua hizo pia zinatua dhidi ya hali ya nyuma ya udhibiti ambapo mazoea ya usalama ya OpenAI yanachunguzwa kwa nguvu. Wachunguzi wa serikali na shirikisho wamefungua uchunguzi katika matukio yanayohusisha mawakala wa AI wa kampuni, na wabunge wametaja aina hizi za kushindwa kwa kontena katika mapendekezo ya kuagiza uangalizi wa maendeleo ya mfano wa mipaka.
Nini Maana Kwa Tasnia
Uamuzi wa OpenAI ndio ishara iliyo wazi zaidi kwamba maabara zinazoongoza hazizingatii ufikiaji wa mtandao wa moja kwa moja kama chaguo-msingi salama kwa kufunza mifumo yao yenye uwezo zaidi. Nafasi hiyo inalingana na mazoea ya wapinzani: Anthropic ilisitishwa na kuimarisha usalama karibu na mafunzo yake mwenyewe baada ya tabia mbaya ya wakala, na watafiti wa usalama wameandika visa vingi vya wanamitindo - ikiwa ni pamoja na Kimi K3 ya Uchina - kutoroka mazingira yao ya majaribio.
Kwa watumiaji wa AI, athari ya muda mfupi zaidi haionekani: mbinu za mafunzo hubadilika, lakini mifano inayotokana bado husafirishwa kupitia API zile zile. Swali la muda mrefu ni kama mafunzo ya nje ya mtandao yanakuwa kiwango cha sekta ya uendeshaji wa mipaka, au kama maabara hutafuta njia za kutoa ufikiaji wa wavuti unaodhibitiwa ambao unakidhi mahitaji yao ya udhibiti.
Kwa sasa, OpenAI imetulia kwa tafsiri kali zaidi: wakati mtindo unaweza kujaribu kutoka, mtandao salama zaidi hakuna mtandao hata kidogo.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
