Demis Hassabis wa Google DeepMind Atoa Wito kwa Mlinzi wa AI wa Mtindo wa Marekani wa FINRA Kujaribu Miundo ya Frontier

Mkurugenzi Mtendaji wa Google DeepMind, Demis Hassabis amependekeza kuundwa kwa shirika huru la viwango linaloongozwa na Marekani linaloundwa na Mamlaka ya Udhibiti wa Sekta ya Fedha (FINRA) ili kutathmini na kudhibiti miundo ya AI ya mipaka kabla ya kutolewa kwa umma, akionya kwamba ubinadamu una "dirisha la thamani" ili kuhakikisha akili ya jumla bandia inaendelezwa kwa usalama.

Katika waraka wa mfumo unaoitwa "Mfumo wa Frontier AI na Mwanzo wa Enzi Mpya," iliyochapishwa mnamo X Jumanne asubuhi, Hassabis alitoa pendekezo la kina la jinsi Marekani inaweza kuanzisha miundombinu ya udhibiti wa kuaminika kwa mifumo ya AI yenye nguvu zaidi. Mpango huo unahitaji shirika jipya ambalo lingejaribu miundo ya mipakani na kukuza mbinu bora za upelekaji wao - inayofadhiliwa na tasnia ya AI lakini inaendeshwa bila kampuni yoyote.

Kwa habari zinazochipuka za AI na uchambuzi wa kina wa sera, AI Buzz Wire hufuatilia maendeleo yanayounda tasnia.

Jinsi Shirika la Viwango linalopendekezwa lingefanya kazi

Chini ya pendekezo la Hassabis, maabara za AI zingeshiriki kwa hiari miundo yao ya mipakani na shirika la viwango ili kukaguliwa hadi siku 30 kabla ya kutolewa kwa umma. Tathmini hii ya kabla ya utumaji itatathmini miundo ya usalama, usalama na hatari zinazoweza kutokea za matumizi mabaya. Pindi itifaki ya tathmini inapothibitishwa kuwa nzuri na thabiti, mfumo huo unatazamia kurasimisha mchakato ili miundo ya mipaka itahitajika kuipitisha kabla ya kutumwa katika soko la Marekani.

Pendekezo hili linashughulikia moja kwa moja pengo lililofichuliwa na hakiki za hivi majuzi za serikali kuhusu mifumo ya AI ya mipakani. Mapema mwaka huu, serikali ya Marekani ilifanya ukaguzi wa usalama wa dharura wa modeli ya Mythos ya Anthropic na modeli ya Sol ya OpenAI kabla ya matoleo yao. Maoni hayo yalileta ukosoaji mkubwa kwa kukosa kina cha kiufundi na kwa kufanya uamuzi usio wazi kuhusu wakati ambapo mtindo ulionekana kuwa salama vya kutosha kupelekwa kwa umma.

Chini ya mfumo wa Hassabis, maamuzi hayo yatashughulikiwa na shirika lililojitolea lenye wataalamu wa kiufundi, likisaidiwa na serikali ya Marekani lakini likizuiliwa kutokana na shinikizo la kisiasa. Maabara pia yatahitajika kufanya kazi na shirika la viwango ili kushughulikia udhaifu mkubwa uliogunduliwa baada ya kutolewa.

'Dirisha la Thamani' Kabla ya AGI

Katika mahojiano na Axios, CNBC, na The Economist inayoandamana na kutolewa kwa mfumo huo, Hassabis alisisitiza kuwa wakati wa sasa unawakilisha fursa finyu ya kuanzisha mifumo ya utawala kabla ya ujasusi wa jumla wa bandia kufika. Alielezea kipindi hiki kama "dirisha la thamani" - akimaanisha kuwa dirisha halitabaki wazi kwa muda usiojulikana.

Hassabis kwa muda mrefu amekuwa mtetezi wa utawala makini wa AI. Mfumo wake unafika huku kukiwa na mjadala mkali kuhusu iwapo Marekani inapaswa kuunda mdhibiti rasmi wa AI, na ikiwa ni hivyo, inapaswa kuwa ya namna gani. Muundo wa FINRA unajulikana kwa sababu shirika la tasnia ya fedha linalojidhibiti linafadhiliwa na makampuni wanachama lakini linafanya kazi chini ya uangalizi wa serikali, na kuipa utaalam wa sekta hiyo na uwajibikaji wa umma.

Upinzani kutoka kwa Utawala wa Trump

Pendekezo hilo linakabiliwa na changamoto kubwa za kisiasa. Utawala wa Trump umeashiria mashaka makubwa juu ya kuunda vyombo vipya vya udhibiti wa akili bandia. Mshauri wa AI ya White House na mshirika mkuu wa a16z Sriram Krishnan - ambaye tangu wakati huo ameacha jukumu lake - alipuuza hadharani wazo la mdhibiti wa AI ndani ya tawi kuu, akisema kwa uwazi kwamba "hakutakuwa na FDA kwa AI."

Msimamo huo umewafanya maafisa wa utawala kutofautiana na baadhi ya viongozi mashuhuri wa sekta hiyo. Ingawa makampuni kama vile Anthropic na OpenAI yameunga mkono kwa upana upimaji wa usalama kabla ya kupelekwa, utaratibu na mamlaka ya majaribio kama haya yanaendelea kupingwa. Pendekezo la Hassabis linajaribu kuunganisha sindano hii kwa kuweka shirika la viwango kama linalofadhiliwa na sekta na kwa hiari mwanzoni, huku urasimishaji ukija tu baada ya mchakato kuthibitisha thamani yake.

Kujenga Juhudi Zilizopo

Mfumo hauanza kutoka mwanzo. Inajengwa juu ya ahadi za hiari ambazo kampuni kadhaa za AI za mipakani tayari zimetoa kuhusu majaribio ya usalama na kupanga timu nyekundu. Pia inategemea juhudi za kimataifa, ikiwa ni pamoja na Taasisi ya Usalama ya AI ya Uingereza na Mchakato wa AI wa G7 wa Hiroshima, ambao wameanzisha mifumo ya awali ya kutathmini miundo ya hali ya juu.

Hata hivyo, pendekezo la Hassabis linakwenda mbali zaidi kwa kutoa wito kwa shirika la kudumu, lenye rasilimali nyingi na mamlaka ya kupima kila kielelezo cha mipaka kabla ya kutolewa - kiwango cha uchunguzi ambacho hakuna shirika la sasa linalotoa. Ulinganisho wa FINRA unapendekeza utendakazi wa hali ya juu, wa kitaalamu na mamia ya wataalam wa kiufundi, si jopo dogo la ushauri.

Pendekezo hili pia linashughulikia ufuatiliaji wa baada ya kupelekwa, unaohitaji maabara kufanya kazi na shirika la viwango kuhusu udhaifu uliogunduliwa baada ya modeli kupatikana kwa umma. Hili linaonyesha utambuzi unaokua kwamba hatari za usalama haziishii wakati wa kuzinduliwa, kama inavyoonyeshwa na matukio ya mapumziko ya jela na kesi za matumizi mabaya ambazo zimeibuka baada ya matoleo kadhaa ya mifano ya hali ya juu.

Mwitikio wa Kiwanda na Hatua Zinazofuata

Mfumo huo umeleta umakini mkubwa katika jumuiya ya sera za AI. Wafuasi wanahoji kuwa mfumo unaoaminika wa majaribio ya kabla ya kutumwa unaweza kujenga imani ya umma kwa mifano ya mipakani na kupunguza hatari ya matumizi mabaya ya janga. Wakosoaji, ikiwa ni pamoja na baadhi ya mawakili wa soko huria, wanaonya kwamba hitaji la lazima la upimaji linaweza kuimarisha watumishi wakuu kwa kuunda vizuizi vya udhibiti kwa kampuni ndogo na wasanidi programu huria.

Pendekezo la Hassabis halibainishi ni miundo ipi inaweza kuhitimu kuwa "mpaka" - swali la kizingiti ambalo litabainisha upeo wa utawala wowote wa udhibiti wa siku zijazo. Pia inaacha wazi jinsi shirika la viwango lingeshughulikia maombi yaliyoainishwa au ya matumizi mawili, haswa kutokana na wasiwasi wa hivi majuzi kuhusu miundo ya AI inayotumika kupasua mifumo iliyoainishwa ya Marekani.

Muda wa pendekezo ni wa makusudi. Huku AGI ikionekana kuthibitishwa zaidi katika miaka kadhaa ijayo, Hassabis anasisitiza kwamba miundombinu ya utawala lazima ijengwe sasa, si baada ya uwezo hatari kutokea. Iwapo Washington itashughulikia wito wake bado haijajulikana.

Kaa Mbele ya AI

Kwa utangazaji wa kina wa sera ya AI, udhibiti, na maendeleo ya sekta, tembelea AI Buzz Wire.

Soma habari zaidi za AI →