Google Research wis ngumumake sistem pembelajaran federasi generasi sabanjure sing dibangun ing Lingkungan Eksekusi Terpercaya, lan tim kasebut nggawe pratelan sing bakal ditolak amarga ora bisa digayuh sawetara taun kepungkur: jaminan privasi diferensial pusat sing bisa diverifikasi eksternal kanggo sinau federasi, kanggo pisanan. Sistem kasebut, sing ditrapake ing Gboard, ngganti pengaturan "trust us" sing wis suwe karo bukti kriptografi lan log umum sing bisa dipriksa dening auditor njaba. Kanggo liputan terus-terusan babagan sinau mesin sing njaga privasi, tindakake [pangembangan AI paling anyar] (https://aibuzzwire.news).
Kesenjangan kepercayaan ing sinau federasi
Pembelajaran federasi, sing dienalake Google ing 2017, mesthine bakal ngrampungake masalah tartamtu: carane nglatih model sing migunani babagan data pangguna tanpa ngumpulake data kasebut ing tengah. Tinimbang ngunggah prilaku ngetik mentah menyang server, piranti ngitung nganyari model sacara lokal lan mung nyumbang nganyari kasebut. Pendekatan kasebut kanthi tenang nguwasani jumlah sing didemek pangguna saben dina - prediksi tembung sabanjure lan Smart Compose ing Gboard, saran balesan ing Pesen Google, lan Pilihan Teks Cerdas ing Android.
Nanging arsitektur asli duwe celah kepercayaan ing tengah. Piranti ngunggah data kanggo agregasi langsung, lan wong njaba ora duwe cara kanggo verifikasi manawa data kasebut ora tau dicathet, disimpen, utawa dipriksa ing dalan. Pangguna kudu njupuk tembung Google babagan apa sing kedadeyan ing sisih server. Mengko, Secure Aggregation nambahake proteksi kriptografis supaya kontribusi individu ora bisa diwaca kanthi terpisah - nanging teknik kasebut ora kompatibel karo algoritma privasi diferensial pusat sing canggih kayata faktorisasi matriks DP-FTRL, lan isih ana siji asumsi sing ora bisa ditindakake: Google kudu dipercaya kanggo nambah gangguan privasi diferensial kanthi bener. Parameter swara sing salah konfigurasi bakal ora katon kanggo kabeh wong kajaba perusahaan sing nggawe kesalahan.
Cara kerjane sistem anyar
Desain anyar nyerang asumsi kepercayaan langsung. Iki mindhah komputasi gradien klien menyang server - ing Lingkungan Eksekusi Dipercaya - banjur ndadekake logika server kasebut bisa dibuktekake, saengga operator ora perlu dipercaya maneh. A TEE minangka enclave prosesor terisolasi hardware sing kode mlaku bisa diverifikasi sacara kriptografis dening wong njaba; yen enclave nindakake soko liyane saka apa claims, atestation break.
Miturut woro-woro Google, sistem koordinat papat komponen inti. Kaping pisanan, upload data: piranti ndhelik conto latihan sacara lokal lan pre-authorize kabijakan akses sing nyathet persis komputasi TEE sing bisa ngolah data - lan kabijakan kasebut kudu katon ing log transparansi umum. Kapindho, Sistem Manajemen Kunci sing dibangun saka TEE sing nganggo protokol konsensus RAFT ngeculake kunci dekripsi mung kanggo beban kerja sing cocog karo kebijakan sing diterbitake. Katelu, eksekusi beban kerja: ROOT TEE nglakokake loop latihan Python lan delegasi subtugas menyang TEE pekerja, kanthi orkestrasi sing ditangani dening sistem sing diarani Federated Language, sing asale saka kerangka TensorFlow Federated Google. Mung bobot model beda pribadi sing tau dirilis saka enclave. Papat, Recovery fault-tolerant: saben babak latihan nyimpen negara Recovery ndhelik KMS supaya ROOT utawa Gagal buruh ora numpes latihan ing proses.
Apa njamin bener bisa dicenthang
Klaim verifiability gumantung ing rantai bukti umum tinimbang bukti perusahaan. Kawicaksanan akses diterbitake kanggo Rekor, log transparansi umum Sigstore, supaya auditor eksternal bisa nglacak saben beban kerja server sing bisa dipakani data piranti. KMS lan binari pangolahan data bisa dibangun maneh saka kode sumber terbuka, tegese sapa wae bisa ngumpulake sumber sing diterbitake lan ngonfirmasi yen cocog karo binari sing mlaku ing produksi.
Kawicaksanan kasebut kanthi langsung nggambarake program latihan Python, sing nutup celah paling umum ing arsitektur privasi: jurang antarane apa sing dikandhakake kabijakan privasi lan apa sing ditindakake kode kasebut. Kanggo nglindhungi arsitektur model proprietary, TEEs ndhukung sideloading logika serialized ing runtime - nanging karo alangan hard sing kabeh privasi-relevan logika kudu tetep hardcoded ing program kabukten. Operator beban kerja, kalebu staf infrastruktur Google dhewe, mung ndeleng metrik lan bobot model pribadi sing beda. Data sing dienkripsi bisa didekripsi mung kanggo wektu winates sawise diunggah, mbatesi jendhela sing bisa dipriksa apa wae.
Saka janji kanggo bukti
Wigati desain kurang siji komponen tinimbang shift beban sing diasilake. Jaminan privasi ing machine learning wis historis wis dipigura minangka janji sing didhukung dening dokumen kebijakan, audit internal, lan reputasi operator. Sistem iki ngowahi janji-janji kasebut dadi artefak - laporan bukti, entri log transparan, bangunan sing bisa direproduksi - sing bisa diverifikasi tanpa akses menyang internal Google.
Iki uga menehi tandha konvergensi penting saka rong komunitas riset sing umume kerja bebarengan. Lingkungan eksekusi sing dipercaya lan privasi diferensial ngatasi masalah sing beda-beda: TEE mbatesi sapa sing bisa ngitung data, dene DP mbatesi apa wae sing bisa bocor. Nggabungake mau ing program siji attestable, karo generasi gangguan DP dhewe nang enclave diverifikasi, alamat kekirangan ampas saben pendekatan ing isolasi.
Saiki sistem kasebut mlaku ing tumpukan Google dhewe, nguwasani beban kerja latihan kaya sing ditindakake Gboard. Apa privasi sing bisa diverifikasi dadi pangarepan sing kompetitif ing saindenging industri - cara HTTPS sawise logging transparan distandarisasi kanggo sertifikat - bakal gumantung apa pangguna lan regulator miwiti takon panyedhiya AI liyane babagan pitakonan sing dirancang kanggo mangsuli sistem iki: buktikake.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
