Anthropic imeanza kutoa timu kutoka METR, shirika lisilo la faida ambalo hutathmini miundo ya AI ya mipakani, "ufikiaji kama wa mfanyakazi" kwa mifumo yake ya ndani - vifaa vya kampuni, nafasi ya ofisi na zana kulingana na kile ambacho timu zake za kutathmini hatari hutumia - ili kikundi cha nje kiweze kutathmini kwa uhuru hatari za miundo ya mipaka ya Anthropic na kuchapisha kile inachopata.
Mpangilio huo, uliotangazwa kwenye blogu ya Anthropic siku ya Jumatano, unaenda mbali zaidi kuliko uhusiano wa mtindo wa ukaguzi ambao makampuni ya AI kwa kawaida yamevumilia, na unakuja na kifungu kinachojulikana: METR itachapisha matokeo ya tathmini zake za hatari, na Anthropic haiwezi kuchapishwa kwa kura ya turufu.
Nini Maana ya "Upatikanaji Kama Mfanyakazi" Halisi
Wafanyikazi sita wa METR wamejumuishwa na maunzi ya kampuni, nafasi ya ofisi, na ufikiaji wa zana za ndani na mifumo ambayo Anthropic inaelezea kuwa takriban kulingana na kile timu zake za kutathmini hatari hupokea. Nje ya idadi ndogo ya kategoria zilizofafanuliwa wazi - data kuhusu wateja, maelezo ya upendeleo ya wakili-mteja, na habari kuhusu usanifu wa miundo - Anthropic inasema wafanyikazi wake wanahimizwa kushiriki habari na timu ya METR kama vile wangefanya na mfanyakazi mwenzao anayeshughulikia hatari ya upatanishi.
Uchumba ni finyu kwa makusudi. Inashughulikia timu ndogo inayofanya kazi chini ya makubaliano yanayoweza kutekelezeka, na wafanyikazi wengine wa METR wametengwa na kazi ya timu hiyo - pamoja na watafiti wanaoshirikiana na Anthropic kwenye miradi mingine. Anthropic inabainisha kuwa usanidi huwapa watu wachache waliohitimu, wanaofanya kazi chini ya viwango vya usalama vya Anthropic, mtazamo wa karibu wa jinsi kampuni inavyofanya kazi; si njia ya mashirika mengine kupata taarifa za Anthropic au za wateja wake.
Haki za Uchapishaji, Pamoja na Walinzi
Chini ya makubaliano hayo, METR itachapisha uchanganuzi wake wa viwango vya hatari vya Anthropic, matukio au desturi. Anthropic haiwezi kuzuia uchapishaji, lakini inaweza kuhitaji marekebisho wakati maelezo yanaangukia katika kategoria zilizofafanuliwa hapo juu - na Anthropic yenyewe huamua ni nini au kisichoanguka katika kategoria hizo. METR, kwa upande wake, inahifadhi haki ya kutoa taarifa fulani kuhusu kiwango cha ufikiaji na taarifa iliyopokea, uzito wa kukabiliana na ulioundwa ili kuzuia nguvu ya kurejesha kutoka kuwa kifungo cha bubu.
Kwanini Anthropic Inafunguka
Hatua hiyo inafuatia dhamira ya Anthropic iliyofanywa mwezi uliopita ya tathmini thabiti zaidi ya kujitegemea, ya mtu wa tatu ya mifano yake na mazoea ya usalama, na saini yake kwenye Mkataba wa White House juu ya Ujasusi wa Juu, ambapo kampuni za AI ziliahidi kushirikiana na wakaguzi huru wa nje au watathmini. Pia huongeza uhusiano uliopo: katika mwaka uliopita, Anthropic ilifanya kazi na METR katika hakiki kadhaa za Ripoti zake za Hatari.
METR haiko pekee katika kwingineko. Anthropic inasema pia inafanya kazi na SecureBio na Accenture kama watathmini - Kitivo cha Accenture kilitajwa kuwa mtathmini wa kwanza aliyepachikwa wa kampuni mnamo Septemba - na iko kwenye majadiliano ya mapema na mashirika mengine kadhaa, pamoja na Hugging Face. Ushirikiano huo wa hatua ya awali huja na ufikiaji mdogo wa habari na haki za uchapishaji wakati kampuni inajifunza aina gani za ushirikiano hufanya kazi.
Mlinganisho wa Usimamizi wa Benki
Uundaji wa Anthropic mwenyewe hukopa kutoka kwa fedha. Benki zinajua zaidi nafasi zao za hatari kuliko watu wa nje wanavyojua, kwa hivyo wasimamizi huwapa wakaguzi wakaazi kufanya kazi ndani ya benki kubwa zaidi; ikiwa kuchukua hatari kwa benki kunaweza kutishia umma, wahusika wengine hujaribu kuona hilo mapema. Kampuni inaweka tathmini iliyopachikwa kama toleo la tasnia ya AI la mantiki hiyo - hatua kuelekea uangalizi thabiti wa usalama katika uwanja ambao mjenzi anajua zaidi kuliko walinzi.
Msingi wa yote ni lengo lililotajwa: kufunga pengo kati ya kile watathmini huru wanaelewa kuhusu mifumo ya kampuni ya AI ya mipaka na kile ambacho kampuni yenyewe inaelewa.
Watathmini Wanahitaji Nini
Tangazo hilo pia linaweka wazi kile ambacho Anthropic anafikiria tathmini ya maana inahitaji: utaalamu katika kutathmini uwezo wa kielelezo cha mipaka, ikiwa ni pamoja na kuelewa jinsi tathmini zinaweza kwenda vibaya kupitia matukio kama vile kughushi; uhuru, kumaanisha hakuna usawa katika au utegemezi wa kifedha au kiutendaji kwa kampuni inayotathminiwa; ufikiaji wa kutosha wa kutathmini hatari kwa njia inayofaa, ikipita zaidi ya mifano ya hivi punde hadi jinsi walivyofunzwa na jinsi ulinzi unavyofanya kazi; na uhuru wa kuchapisha uchunguzi na tathmini ya modeli au mchakato.
Kesi ya Mtihani kwa Tasnia nzima
Mpangilio utahukumiwa na matokeo yake. Tathmini ya kwanza iliyochapishwa ya METR chini ya mfumo mpya wa ufikiaji itaonyesha ikiwa ufikiaji kama wa mfanyakazi hutoa matokeo kwa meno halisi au ripoti zilizopunguzwa kwa kategoria za urekebishaji ambazo kampuni yenyewe inafafanua. Wanaoshuku watatambua kwamba Anthropic inadhibiti mipaka ya kategoria na kwamba timu ya majaribio ni ndogo; wafuasi watatambua kuwa haki ya uchapishaji Anthropic haiwezi kura ya turufu ni riwaya ya kweli kati ya maabara za mipaka.
Kwa vyovyote vile, tasnia inatazama. Iwapo ufikivu uliopachikwa wa METR utagusa matokeo ya nyenzo na kuyachapisha bila kuathiriwa, muundo huo unakuwa kiolezo dhahiri cha kila maabara iliyotia saini mkataba wa Ikulu - na kigezo cha watunga sera wanaopima iwapo uangalizi wa hiari unaweza kuchukua nafasi ya ukaguzi ulioidhinishwa. Kwa utangazaji unaoendelea wa sera ya usalama ya AI na habari za tasnia ya AI zinazoiunda, AI Buzz Wire hufuata kila maendeleo kadri yanavyovunjika.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
