'Ikiwa Unamaanisha, Fungua Uzito': Barua ya Wazi ya Virusi Inatia Changamoto Simu ya Dario Amodei ya AI ya Kupunguza kasi

Saa chache baada ya Mkurugenzi Mkuu Mtendaji wa Anthropic Dario Amodei kuchapisha insha yake ya "We Must Pace the Frontier" inayozitaka serikali kupunguza kasi ya mbio za AI, jibu la moja kwa moja lilianza kupanda Habari za Hacker, hatimaye kuwa moja ya hadithi zilizoidhinishwa zaidi siku hiyo. Hoja yake, iliyowekwa katika barua ya wazi na mwandishi na msanidi programu Jacob Gold, ni rahisi sana: ikiwa Amodei ni mwaminifu kuhusu kupunguza kasi ya AI, kuna sheria moja ambayo angeweza kuitisha ambayo inaweza kuifanya - na hakuna mtendaji mwingine wa maabara anayeweza kuipendekeza. Inahitaji kila mtindo wa AI ambao kampuni hutoa kwa umma kutolewa kama uzani wazi.

"Ninaamini una nia ya dhati," barua hiyo inafungua, ikimuongelea Amodei moja kwa moja, "kwa hivyo naomba uitishe sheria tofauti, ambayo kwa kweli ingepunguza kasi, ingawa itahitaji dhabihu ya kweli kwa upande wako." Barua hiyo imezua mshangao haswa kwa sababu inajihusisha na toleo lenye nguvu zaidi la hoja ya Amodei badala ya kuitupilia mbali - na kwa sababu inafika katikati ya mjadala wa sera muhimu zaidi katika AI leo, mjadala tunaofuata kila siku katika changamoto yetu ya sera ya AI.

Amodei alipendekeza nini, na kwa nini Gold inasema haitafanya kazi

Insha ya Amodei iliweka Anthropic kwa wakaguzi wengine waliopachikwa na kuziomba serikali kuhitaji kila kampuni nyingine za mipakani kuwiana na ahadi hiyo. Sam Altman alikubali ndani ya saa chache - "Ninakubaliana na Dario kwamba tunahitaji kuongeza kasi ya mpaka," alisema, kulingana na Politico, huku OpenAI ikilingana na ahadi ya mtathmini pia. Usoni mwake, huo ni upatanisho ambao haujawahi kushuhudiwa: wakuu wa maabara mbili za thamani zaidi za AI ulimwenguni wanaomba kupunguzwa kasi.

Barua ya Gold inadai kuwa ni maafikiano haya ambayo yanapaswa kuwatia mashaka watazamaji. "Kila kanuni ulizouliza huishia kukamata," inaonya. Wakadiriaji waliopachikwa, vizingiti vya kukokotoa, uratibu wa sekta na msamaha wa kutoaminika - "Yote huandikwa kwa usaidizi wa maabara za mipaka ya sasa, kwa sababu hakuna mtu mwingine anayeelewa maelezo ya kiufundi vya kutosha kuandika." Mara tu sheria kama hizo zinapokuwa sheria, kila tukio huongeza kanuni na hakuna itakayoondolewa, na wababe hao wanaweza kumudu timu za kufuata ambazo huwazuia wapinzani wadogo wasiingie. "Badala ya kukupunguza kasi," barua hiyo inamwambia Amodei, "inalinda nafasi yako na faida."

Pendekezo la kupinga uzani huria

Michoro mbadala ya Dhahabu ni butu kimakusudi. Muundo wowote wa AI ambao kampuni inatoa kwa umma italazimika kusafirisha na uzani wake uliochapishwa. Mitindo ya ndani na ya utafiti isingeguswa, na serikali zingehifadhi ufikiaji wa mifumo ambayo haijatolewa - lakini Anthropic ingelazimika kuchapisha uzani wa modeli yake inayofuata ya mipaka siku ambayo ilitolewa, na OpenAI ingelazimika kufanya vivyo hivyo. "Hakuna kitu ndani yake cha kucheza au kukwepa," barua hiyo inahitimisha, "hata kwako."

Utaratibu ni wa kifedha badala ya urasimu. Kama Dhahabu inavyoeleza, ufadhili wa ukuzaji wa kielelezo cha mipaka unategemea hesabu ambazo zinadhania uzani hubaki kuwa wamiliki. Jukumu linageuza dhana hiyo: ikiwa kila toleo la umma limefunguliwa, faida ya ushindani hutiririka kwa yeyote anayefunza muundo bora badala ya anayeuza ufikiaji huo, malipo yanayopachikwa katika tathmini za kibinafsi hupungua, na pesa zinazopatikana kwa mafunzo yanayofuata hupungua - "katika kila maabara mara moja, bila mdhibiti kuamua chochote." Kwa kweli, ni hoja kwamba matarajio ya soko ya mifano iliyofungwa ni injini ya mbio, na kwamba kuondoa matarajio huondoa injini.

Kwa nini Amodei, haswa

Kesi ya barua kwa nini Amodei ndiye mtu mmoja anayeweza kutoa pendekezo hili imejengwa kwenye rekodi yake, na ina heshima kubwa. Dhahabu inamsifu kwa kuacha OpenAI mwishoni mwa 2020 na kupata Anthropic "wakati hatua salama ya kazi iliposalia," na kutetea udhibiti wa tasnia yake kwa miaka, na kwa kusukuma vidhibiti vya usafirishaji ambavyo vinapunguza soko lake mwenyewe. Anabainisha kuwa Anthropic ilijipanga kama Shirika la Manufaa ya Umma lenye dhamira ya kisheria - "maendeleo ya kuwajibika na matengenezo ya AI ya hali ya juu kwa manufaa ya muda mrefu ya ubinadamu" - ambayo ingeruhusu uongozi wake kuchukua athari ya kifedha ambayo sheria kama hiyo ingeleta. Insha ya Amodei mwenyewe, Gold anaona, inasema watetezi wa Anthropic wa udhibiti "hata wakati hii inatufanya kulaumiwa kwa hype, 'doomerism', au kukamata udhibiti."

Wakosoaji wataona mabishano ya wazi, na barua hiyo haiwajibu kikamilifu: uzani ulio wazi hurahisisha utumiaji mbaya na vile vile maendeleo magumu zaidi, agizo la uzani wa wazi litakabiliwa na upinzani mkali kutoka kwa wawekezaji wa kila maabara, na wakosoaji wa misimamo ya awali ya Amodei juu ya mifano ya wazi ya Kichina watasikia mwangwi wa mapigano ya zamani katika pendekezo hilo. Lakini changamoto kuu ya barua hiyo haitegemei sera yake kupitishwa. Inategemea mvutano unaoutaja kwa uwazi: maabara ambayo inauliza serikali kupunguza kasi ya kila mtu mwingine, wakati tathmini yake inategemea kukaa mbele, bado haijauliza chochote kinachogharimu chochote.

Mjadala ambao sasa hauwezi kuepukika

Ikiwa Amodei anajibu ni karibu kando ya uhakika. Ndani ya siku moja, maabara za mipaka zilihama kutoka kwa kushindana kwa uwezo hadi kukubaliana juu ya hitaji la kasi, na majibu ya umma yamehama kutoka kuuliza ikiwa AI ni hatari kuuliza ikiwa watu wanaoonya juu yake wanaweza kuaminiwa. Barua ya Gold - maneno mia chache ya maelezo ya sera ambayo yamezungukwa na swali moja lisilofurahi - imekuwa usemi mkali zaidi wa shaka hiyo, na ukweli wake unaonyesha kwamba mjadala wa kasi utapigwa vita sio tu huko Washington, lakini kwa umma, kwenye majukwaa kama Hacker News, ambapo jumuiya ya watu wenye uzito wazi imekuwa ikifanya tofauti za hoja hii kwa miaka.

Kaa Mbele ya AI

Udhibiti, uzani wazi, na mapambano juu ya kasi ya AI - kufunikwa bila hype.

Soma habari zaidi za AI →