Utafiti wa Google umetangaza kizazi kijacho mfumo wa elimu wa shirikisho uliojengwa juu ya Mazingira ya Utekelezaji Yanayoaminika, na timu inatoa dai ambalo lingetupiliwa mbali kama haliwezi kufikiwa miaka michache iliyopita: dhamana kuu za utofauti zinazoweza kuthibitishwa na nje kwa ajili ya kujifunza kwa shirikisho, kwa mara ya kwanza. Mfumo, unaotumika kwa Gboard, unachukua nafasi ya mpangilio wa muda mrefu wa "tuamini" na uthibitisho wa kriptografia na kumbukumbu za umma ambazo wakaguzi wa nje wanaweza kukagua. Kwa ushughulikiaji unaoendelea wa kujifunza kwa mashine ya kuhifadhi faragha, fuata maendeleo yetu ya hivi punde ya AI.
Pengo la uaminifu katika ujifunzaji wa shirikisho
Mafunzo ya pamoja, ambayo Google ilianzisha mwaka wa 2017, yalipaswa kutatua tatizo mahususi: jinsi ya kutoa mafunzo kwa miundo muhimu kwenye data ya mtumiaji bila kukusanya data hiyo katikati. Badala ya kupakia tabia ghafi ya kuandika kwenye seva, vifaa hukusanya masasisho ya miundo ya ndani na kuchangia masasisho hayo pekee. Mbinu hii inatoa nguvu kwa utulivu kiasi cha ajabu cha kile ambacho watumiaji hugusa kila siku - utabiri wa neno linalofuata na Utungaji Mahiri katika Gboard, mapendekezo ya kujibu katika Ujumbe wa Google na Uteuzi wa Maandishi Mahiri katika Android.
Lakini usanifu wa asili ulikuwa na pengo la uaminifu katikati yake. Vifaa vilipakia data yao ili kujumlishwa mara moja, na watu wa nje hawakuwa na njia ya kuthibitisha kuwa data hiyo haikuwahi kurekodiwa, kuhifadhiwa au kukaguliwa wakati wote. Watumiaji walilazimika kuchukua neno la Google kwa kile kilichotokea upande wa seva. Baadaye, Ukusanyaji Salama uliongeza ulinzi wa kriptografia ili michango ya mtu binafsi isiweze kusomwa kwa kutengwa - lakini mbinu hiyo haikuafikiana na algoriti za hali ya juu za utofautishaji wa hali ya juu kama vile uwekaji alama za matrix DP-FTRL, na bado iliacha dhana moja bila kuguswa: Google ilipaswa kuaminiwa ili kuongeza kelele za ufaragha tofauti kwa usahihi. Kigezo cha kelele kilichowekwa vibaya hakitaonekana kwa kila mtu isipokuwa kampuni inayofanya makosa.
Jinsi mfumo mpya unavyofanya kazi
Muundo mpya unashambulia dhana ya uaminifu moja kwa moja. Huhamisha hesabu ya upinde rangi ya mteja kwenye seva - ndani ya Mazingira ya Utekelezaji Yanayoaminika - na kisha kufanya mantiki hiyo ya seva kuthibitishwa, kwa hivyo opereta hahitaji tena kuaminiwa hata kidogo. TEE ni kichakataji kilichojitenga na maunzi ambacho msimbo wake wa uendeshaji unaweza kuthibitishwa kisirisiri na watu wa nje; ikiwa enclave itafanya kitu kingine isipokuwa kile inachodai, uthibitisho huvunjika.
Kulingana na tangazo la Google, mfumo huratibu vipengele vinne vya msingi. Kwanza, upakiaji wa data: vifaa husimba kwa njia fiche mifano ya mafunzo ndani ya nchi na kuidhinisha mapema sera ya ufikiaji ambayo inaorodhesha haswa ni hesabu za TEE zinaweza kuchakata data - na sera hizo lazima zionekane katika kumbukumbu ya uwazi wa umma. Pili, Mfumo Muhimu wa Kusimamia uliojengwa kutoka kwa TEE zinazoendesha itifaki ya makubaliano ya RAFT hutoa vitufe vya kusimbua tu kwa mizigo ya kazi inayolingana na sera iliyochapishwa. Tatu, utekelezaji wa mzigo wa kazi: TEE mzizi huendesha kitanzi cha mafunzo cha Python na kukabidhi majukumu madogo kwa TEE za wafanyikazi, pamoja na ochestration inayosimamiwa na mfumo unaoitwa Federated Language, inayotokana na mfumo wa Google wa TensorFlow Federated. Uzito wa kielelezo cha kibinafsi tofauti pekee ndio hutolewa kutoka kwa enclave. Nne, urejeshaji unaostahimili makosa: kila mzunguko wa mafunzo huhifadhi hali ya urejeshaji iliyosimbwa kwa njia fiche ya KMS ili kushindwa kwa mizizi au mfanyakazi kusiharibu mafunzo yanayoendelea.
Kwa nini dhamana zinaweza kuangaliwa
Dai la uthibitishaji hutegemea mlolongo wa ushahidi wa umma badala ya uthibitisho wa kampuni. Sera za ufikiaji huchapishwa kwa Rekor, kumbukumbu ya uwazi ya umma ya Sigstore, ili wakaguzi wa nje waweze kufuatilia kila mzigo wa kazi wa seva ambao data ya kifaa inaweza kulisha. KMS na jozi za kuchakata data zinaweza kutengenezwa tena kutoka kwa msimbo wa chanzo huria, kumaanisha kuwa mtu yeyote anaweza kukusanya chanzo kilichochapishwa na kuthibitisha kuwa kinalingana na jozi zinazoendeshwa katika uzalishaji.
Sera zenyewe zinaelezea moja kwa moja mpango wa mafunzo wa Python, ambao hufunga mwanya wa kawaida zaidi katika usanifu wa faragha: pengo kati ya kile ambacho sera ya faragha inasema na kile ambacho kanuni hufanya. Ili kulinda usanifu wa miundo ya wamiliki, TEEs huauni mantiki ya upakiaji kando wakati wa utekelezaji - lakini kwa kizuizi kikubwa kwamba mantiki zote zinazohusiana na faragha lazima zisalie katika programu iliyothibitishwa. Waendeshaji mzigo wa kazi, ikiwa ni pamoja na wafanyakazi wa miundombinu ya Google wenyewe, huona vipimo na uzani wa vielelezo vya kibinafsi tofauti pekee. Data iliyosimbwa kwa njia fiche inaweza kusimbwa kwa muda mfupi tu baada ya kupakiwa, ikifunga dirisha ambalo chochote kinaweza kukaguliwa.
Kuanzia ahadi hadi ushahidi
Umuhimu wa muundo ni chini ya sehemu yoyote moja kuliko mabadiliko ya mzigo unaozalisha. Dhamana za faragha katika kujifunza kwa mashine zimeandaliwa kihistoria kama ahadi zinazoungwa mkono na hati za sera, ukaguzi wa ndani na sifa ya mhudumu. Mfumo huu hubadilisha ahadi hizo kuwa vizalia vya programu - ripoti za uthibitisho, maingizo ya kumbukumbu za uwazi, miundo inayoweza kurudiwa - ambayo mtu mwenye shaka anaweza kuthibitisha bila ufikiaji wa wandani wa Google.
Pia inaashiria muunganiko mashuhuri wa jumuiya mbili za utafiti ambazo nyingi zimefanya kazi sambamba. Mazingira ya utekelezaji yanayoaminika na ufaragha tofauti hutatua matatizo tofauti: TEE huwekea mipaka ni nani anayeweza kukokotoa data, huku DP inadhibiti kile ambacho hesabu yoyote inaweza kuvuja. Kuzichanganya chini ya mpango mmoja unaothibitishwa, na kizazi cha kelele cha DP chenyewe ndani ya enclave iliyothibitishwa, hushughulikia udhaifu uliobaki wa kila mbinu kwa kutengwa.
Kwa sasa mfumo unafanya kazi katika rafu ya Google yenyewe, ikiwezesha mizigo ya mafunzo ya aina ya Gboard. Iwapo faragha inayoweza kuthibitishwa inakuwa matarajio ya ushindani katika sekta nzima - jinsi HTTPS ilifanya baada ya uwekaji kumbukumbu wa uwazi kusanifishwa kwa vyeti - itategemea ikiwa watumiaji na wadhibiti wataanza kuwauliza watoa huduma wengine wa AI swali ambalo mfumo huu umeundwa kujibu: thibitisha hilo.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
