Google DeepMind imezindua taasisi mpya inayojitolea kupanua mazungumzo kuhusu ujasusi wa jumla bandia - na insha zake za uzinduzi ni pamoja na pendekezo madhubuti kutoka kwa Demis Hassabis kwa shirika linaloongozwa na Marekani ambalo lingetathmini miundo ya mipaka ya AI kabla ya kutumwa.
Taasisi ya DeepMind, iliyozinduliwa Jumatano na Google na watafiti wa Google DeepMind, inaorodhesha mwanzilishi mwenza wa DeepMind Shane Legg kama mhariri wake mkuu, pamoja na mtendaji mkuu wa Google James Manyika na mwenyekiti wa Google DeepMind Demis Hassabis kama wakurugenzi, kulingana na TechCrunch. For more context on this story, see our ongoing artificial intelligence updates.
Chumba cha Kutokubaliana
Madhumuni ya taasisi hii ni kuibua kutokubaliana kwa kweli - ikiwa ni pamoja na ndani ya Google yenyewe. "Hawatakubali kila wakati, na wanaweza kubadilisha mawazo yao, kwani data na habari zaidi hujitokeza kwenye mipaka inayosonga kwa kasi," tangazo hilo linasoma.
Mkusanyiko wake wa kwanza unajumuisha insha nne zinazoshughulikia sera za kiuchumi za kudhibiti usumbufu unaoweza kutokea wa AGI, kuhifadhi hoja za kielelezo zinazoweza kusomeka na binadamu, kanuni za kustawi kwa binadamu, na mfumo wa kutathmini miundo ya mipaka ya AI.
Kuanzisha kutokubaliana kwa wazi ni hatua isiyo ya kawaida kwa maabara ya shirika ya AI, ambapo ujumbe wa umma unaelekea kudhibitiwa kwa nguvu. Kwa kubuni, taasisi huwapa watafiti wa Google mahali pa kubishana misimamo ambayo inaweza kukinzana na maslahi ya kibiashara ya kampuni - au na ya kila mmoja.
Insha ya Uwazi: Tazama 'Opaque Serial Depth'
Mojawapo ya insha hizo nne, za watafiti wa usalama wa DeepMind Rohin Shah na Anca Dragan, wanabishana kuwa dirisha la uwazi la AI - uwezo wa kuona na kuangalia hoja za hatua kwa hatua za modeli - hauepukiki, hata kama usanifu mpya hufanya miundo yenye nguvu zaidi kuwa ngumu kufuatilia.
Waandishi wanasema watengenezaji na wadhibiti wanapaswa kukabiliana na biashara ya usalama moja kwa moja. Kwa hakika, hiyo inaweza kumaanisha kupunguza kile wanachokiita "opaque serial deep" - kiasi cha ukokotoaji mfuatano ambao mtindo unaweza kufanya bila kutoa matokeo yanayosomeka - au kuhitaji wasanidi programu kuonyesha kuwa mifumo isiyo na uwazi kidogo inasalia kufuatiliwa kama ile inayoweza kufasirika.
Pendekezo hilo linajulikana kwa sababu linachukulia upotezaji wa ufasiri kama chaguo la muundo na sera badala ya tokeo lisiloweza kuepukika la kiwango, na hivyo kufungua mlango kwa mahitaji ambayo yanaweza kuandikwa katika udhibiti.
Pendekezo la Hassabis: Shirika la Viwango vya Mipaka ya Marekani
Insha yenye matokeo zaidi inaweza kuwa ya Hassabis. Anapendekeza shirika la viwango vya AI linaloongozwa na Marekani lililopewa jukumu la kutathmini miundo ya hali ya juu zaidi ya AI. Chini ya mfumo huu, wasanidi awali wangewasilisha miundo kwa hiari ili ikaguliwe hadi siku 30 kabla ya kutolewa. Pindi tu mfumo wa tathmini unapokuwa na ufanisi, kufaulu majaribio yake kunaweza kuwa hitaji la kupeleka miundo ya mipakani nchini Marekani.
Baraza hilo lingeanza kwa kubuni tathmini kwa kushauriana na kampuni za AI, lakini hatimaye lingetengeneza tathmini huru, ambazo hazijafichuliwa - kile insha inaita majaribio "yaliyosimamishwa" - ili kuzuia maabara kuoanisha modeli zao kwa vigezo vinavyojulikana, hali ya kutofaulu iliyothibitishwa vizuri ya serikali za tathmini ya umma.
Hassabis pia aliacha mlango wazi wa kuongezeka: mfumo unaweza "kuratibiwa ikiwa uzito wa hali utadai," uwezekano wa kujumuisha kushuka kwa uratibu kati ya watengenezaji wa AI wa mipaka.
Kwa Nini Insha Nyingine Mbili Ni Muhimu
Insha mbili zilizosalia - kuhusu sera za kiuchumi za kudhibiti usumbufu wa AGI na kanuni za kustawi kwa binadamu - zinakamilisha mkusanyiko unaochukulia AGI kama shida ya jamii nzima badala ya ile ya kiufundi tu. Uhamisho wa kiuchumi kwa muda mrefu umekuwa jambo linaloonekana zaidi kwa umma karibu na AI ya hali ya juu, na kuiweka pamoja na sera ya tathmini na ufafanuzi unapendekeza taasisi hiyo inataka watunga sera kuona vipande kama ajenda moja badala ya mijadala tofauti.
Upana huo pia ni ishara kuhusu nafasi ya Google. Kampuni hiyo inashindania wateja wa biashara na kandarasi za serikali huku ikibishana kwa wakati mmoja kuwa mifumo ya mipaka inahitaji kuchunguzwa nje. Kuchapisha mvutano, badala ya kulainisha, ndio msingi wa taasisi.
Kutoka kwa Hoja hadi Mapendekezo ya Zege
Insha hufika wakati mjadala wa usalama wa tasnia unapohama kutoka kwa taarifa pana za wasiwasi kuelekea mifumo mahususi: mahitaji ya ufichuzi, uchunguzi wa nje, na - ikiwa ulinzi unabaki nyuma - upunguzaji wa kasi ulioratibiwa. Mabadiliko hayo yaliongezeka wiki hii huku viongozi wa sekta hiyo wakiidhinisha vipengele vya mwito wa Mkurugenzi Mtendaji wa Anthropic Dario Amodei wa "kasi" maendeleo ya AI ya mipaka, kulingana na TechCrunch.
Muda ni muhimu. Serikali za pande zote mbili za Atlantiki zinapima jinsi ya kusimamia mifumo ambayo uwezo wake unakua kwa kasi zaidi kuliko miundombinu ya tathmini. Pendekezo ambalo linatoka ndani ya maabara kuu ya AI - na ambayo ni pamoja na ukaguzi wa kabla ya kutolewa kwa meno - huwapa watunga sera kiolezo ambacho tasnia yenyewe imeidhinisha kwa jina, ambayo imekuwa hitaji la kihistoria la udhibiti mzuri wa AI.
Cha Kutazama
Uhuru wa uhariri wa taasisi kutoka Google utakuwa jaribio la kwanza. Iwapo insha zitaendelea kujumuisha misimamo ambayo inapingana na ramani ya biashara ya Google - kama insha ya uwazi inavyofanya bila shaka - ukumbi unaweza kuwa mchangiaji mkubwa wa mjadala wa sera ya AGI. Ikielea kuelekea ujumbe wa shirika, itakuwa chaneli moja zaidi ya Uhusiano katika uwanja uliojaa watu.
Vyovyote iwavyo, dutu hii iko kwenye jedwali sasa: mahitaji ya tathmini ya toleo la awali, majaribio ya muda mfupi, na hata upunguzaji ulioratibiwa unabishaniwa hadharani na mmoja wa watu wenye nguvu zaidi katika AI. Swali sio kama miundo ya mipaka inapaswa kutathminiwa kwa kujitegemea, lakini ni nani anayefanya tathmini - na kwa ratiba gani.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
