OpenAI mnamo Jumatano ilitangaza kuwa inatoa Uhifadhi wa Data Sifuri (ZDR) kwa miundo yake ya mipakani na kuhakiki mfumo mpya unaoitwa Uchakataji wa Usalama wa Kibinafsi, iliyoundwa kugundua matumizi mabaya katika mwingiliano mwingi bila kuipa kampuni ufikiaji wa yaliyomo kwa wateja. Hatua hii inaleta mstari mkali dhidi ya washindani: Axios iliripoti kwamba tangazo linakuja kwani Anthropic sasa inahitaji wateja kuruhusu kumbukumbu za data, na Firstpost ilibainisha tofauti na hoja ya Anthropic ya kuhifadhi data kwa siku 30.
Muda si wa hila. Katika tangazo lake, OpenAI iligundua kuwa "utekelezaji wa hivi majuzi wa miundo ya mipaka umewahitaji wateja kuruhusu mtoaji wao wa AI kuhifadhi maudhui nyeti kwa ufuatiliaji wa usalama" - mahitaji ambayo kampuni inasema "yanakinzana na majukumu yao ya usalama au ahadi kwa watu wanaowahudumia." Kampuni inaweka faragha kama silaha ya ushindani katika shindano la wateja wa biashara waliodhibitiwa. For more context on this story, see our ongoing AI news.
Nini ahadi ya Uhifadhi wa Data Sifuri
Chini ya toleo la ZDR, wateja wanaostahiki wa API hupata kile OpenAI inachoeleza kama "ahadi wazi": OpenAI haihifadhi madokezo au majibu ya muundo baada ya ombi kuchakatwa. Maudhui ya mteja hayapatikani kwa wafanyakazi wa OpenAI kwa ukaguzi, na data ya mteja wa biashara haitumiwi kutoa mafunzo kwa miundo ya OpenAI isipokuwa wateja wajijumuishe waziwazi.
Kwa benki, hospitali, na makampuni ya sheria yanayopima kupitishwa kwa AI, ahadi hizo hushughulikia kivunjaji cha kawaida zaidi: hatari kwamba nyenzo nyeti zinazopita kupitia mifumo ya mtoa huduma wa AI zinaweza kuhifadhiwa, kusomwa, au kufyonzwa katika miundo ya siku zijazo. OpenAI inabainisha mashirika ambayo inafanya kazi nayo hushughulikia "rekodi za fedha, data ya afya, mipango ya siri ya biashara, na utafiti wa wamiliki."
Uhifadhi wa tatizo la usalama ulikuwa unatatuliwa
Tangazo hilo pia linakubali mvutano wa kweli wa kiufundi. Kama OpenAI yenyewe inavyoielezea, hatari kubwa zaidi za usalama za AI hazionekani kila wakati katika mwingiliano mmoja. Nia mbaya zinaweza kuwa wazi tu wakati mwingiliano mwingi unatazamwa pamoja - wakati watendaji wabaya wanachunguza ulinzi mara kwa mara, kuratibu akaunti zote, kuficha vitisho kama utafiti wa kawaida, au wakati wakala wa AI anaendelea kutenda baada ya kuambiwa aache.
Mifumo iliyopo ya usalama inayooana na ZDR hutathmini kila mwingiliano mmoja mmoja, kumaanisha kuwa hatari zinazotegemea muundo hupita. Watoa huduma waliojibu kwa kuhitaji uhifadhi walitatua tatizo moja kwa kuunda jingine, na kuwalazimisha wateja kuchagua kati ya ufuatiliaji wa usalama na wajibu wao wa faragha.
Jinsi Uchakataji wa Usalama wa Kibinafsi unavyofanya kazi
Azimio lililopendekezwa la OpenAI ni la usanifu. Chini ya Uchakataji wa Usalama wa Kibinafsi, maudhui ya mteja yanasalia kwenye miundombinu ambayo mteja anadhibiti - au, katika chaguo ambalo bado linatengenezwa, huhifadhiwa kwenye miundombinu ya OpenAI iliyosimbwa kwa njia fiche kwa funguo zinazodhibitiwa na mteja. Kisha mifumo otomatiki huchanganua ruwaza katika mwingiliano unaohusiana na kurudisha "ishara chache za usalama" - alama kuhusu uwezekano wa matumizi mabaya - bila kufichua vidokezo au majibu ya msingi kwa wafanyikazi wa OpenAI.
Wateja huchunguza arifa kwa kutumia taarifa zinazopatikana katika mifumo yao wenyewe. Iwapo wanataka kukata rufaa dhidi ya uamuzi wa utekelezaji, kufafanua shughuli halali, au kuunga mkono uchunguzi wa matumizi mabaya yaliyothibitishwa, wanaweza kuchagua kushiriki maelezo muhimu na OpenAI. Faragha, kwa maneno mengine, inakuwa chaguomsingi na kufichua chaguo la mteja.
Mfumo huo kwa sasa unajaribiwa na wateja wa mapema. OpenAI inasema inapanga kuanza kusambaza Uchakataji wa Usalama wa Kibinafsi na kuchapisha karatasi nyeupe ya kiufundi mnamo Septemba.
Imani ya biashara kama soko
Tangazo lilifika na ushuhuda wa mteja unaosomeka kama hoja ya ununuzi. "Kupitishwa kwa AI ya Biashara kunategemea tu udhibiti wa wateja wa data, bila matumizi ya moja kwa moja au derivative zaidi ya huduma iliyochaguliwa," Sunil Agrawal, Afisa Mkuu wa Usalama wa Habari huko Glean, ambaye nukuu yake OpenAI ilichapisha kando ya chapisho. "Kadiri miundo inavyokuwa na uwezo zaidi, OpenAI inaonyesha usalama unaweza kuendelea bila kuathiri faragha na udhibiti unaodumisha uaminifu wa biashara."
OpenAI inaangazia onyesho la kukagua kama jibu la mahitaji, ikisema ilisikika kutoka kwa wateja "kwa sauti kubwa na wazi kwamba wanahitaji kutabirika kuhusu jinsi maudhui yao yatalindwa kadri mifumo ya AI inavyokuwa na uwezo zaidi." Kampuni hiyo inaongeza kuwa mbinu hiyo inaundwa na wateja "katika tasnia, mikoa, na saizi za kampuni," na kwamba itawafahamisha wateja kwa muda wa kutosha wa kupanga kupelekwa karibu na mabadiliko.
Mjadala huu utaibua
Watafiti wa usalama kwa muda mrefu wamekuwa wakidai kuwa mwonekano katika mifumo ya utumiaji ni muhimu ili kupata matumizi mabaya kabla hayajaleta madhara, na wengine watahoji ikiwa uchanganuzi wa kiotomatiki, uliosimbwa kwa njia fiche unaweza kulingana na ubora wa ugunduzi wa ukaguzi wa binadamu. Watetezi wa faragha, wakati huo huo, watakaribisha usanifu ambao unachukulia ufikiaji wa data ya mteja kama uamuzi wa mteja badala ya haki ya mtoa huduma.
Kilicho wazi ni kwamba usimamizi wa data umehama kutoka kwa uchapishaji wa faini ya kisheria hadi katikati ya ushindani wa AI. Kadiri miundo ya mipaka inavyochukua muda mrefu zaidi, kazi zinazojitegemea zaidi katika tasnia zinazodhibitiwa, swali la nani atapata ufuatiliaji wa mifumo hiyo inayoacha nyuma - mteja, mtoa huduma, au hakuna mtu - inakuwa mhimili wa msingi ambao mikataba ya AI ya biashara inashinda na kupotea. OpenAI sasa imeweka jibu lake wazi, na kuwaweka wapinzani wake katika nafasi ya kutetea yao.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
