Mwanzilishi mwenza wa Anthropic anasema serikali zinaweza kuhitaji kulazimisha kampuni za AI kusakinisha "kibadilisha kibadilishaji" - utaratibu wa kuzima mifumo ya AI kabisa - na kwamba wakaguzi wa nje wanapaswa kuwa na uwezo wa kuthibitisha kuwa inafanya kazi.
Jack Clark, mmoja wa waanzilishi saba wa maabara ya AI yenye thamani ya $965,000,000,000, aliiambia BBC kwamba ingawa maabara nyingi zinazoongoza tayari zina njia za ndani za "kuvuta kizibo" kwenye mifumo hatari, jamii "huenda ikataka hatimaye kupitisha sheria" kufanya swichi kama hizo kuwa za lazima na kukaguliwa kwa uhuru. Kwa wasomaji wanaofuatilia Mjadala wa usalama wa AI, kuingilia kati kwake kunaashiria pendekezo thabiti zaidi la sera kuwahi kutokea ndani ya maabara ya mipaka wakati wa wiki ya maonyo yanayoongezeka.
"Je, unapaswa kuamuru makampuni kuwa na swichi ya kuua? Je, swichi hiyo ya kuua inaweza kuthibitishwa na mtu wa tatu?" Clark alisema katika mahojiano na ripota wa teknolojia Kali Hays na mhariri wa uchumi Faisal Islam. "Nadhani hiyo ndio aina ya jambo ambalo jamii itataka kujua na inaweza kutaka kupitisha sheria karibu."
'Tunatembeza Kete kwa Hatari Kubwa'
Maoni ya Clark ya kushangaza zaidi yalikuwa kukataa kwa hali kama ilivyo sasa. Alipoulizwa juu ya mwelekeo wa tasnia hiyo, alisema kuruhusu AI kuendelea kama "sekta isiyodhibitiwa kabisa" lilikuwa wazo mbaya.
"Tunasonga kete kwa hatari kubwa," alisema. "Na suala ni kwamba, lazima tubadilishe mkondo wa tasnia hii."
Tofauti na baadhi ya wafanyakazi wenzake, Clark alikataa kuweka idadi kwenye hatari ya kutoweka kwa binadamu. "Sidhani takwimu hizi ni muhimu," alisema - tofauti kubwa na mtafiti wa Anthropic Evan Hubinger, ambaye alisema wiki iliyopita yeye binafsi aliamini kulikuwa na zaidi ya 10% ya uwezekano wa kutoweka kwa binadamu kutoka kwa AI ndani ya miaka kumi ijayo, na kwa mwanzilishi wa AI Geoffrey Hinton, ambaye aliiambia BBC siku ya Ijumaa kwamba makadirio ya 10% "si ya busara."
Kitu ambacho Clark hakupinga ni mwelekeo wa kusafiri. AI ni, kama alivyoiweka katika mahojiano hayo hayo, "yenye nguvu zaidi siku" - na alisema kuwa maelezo ya mahitaji yoyote ya kuzima, ikiwa ni pamoja na nani angeithibitisha na jinsi gani, ni ya "mazungumzo makubwa ya sera" yanayofanyika karibu na AI.
Pendekezo Lenye Kasi ya Kutunga Sheria
Pendekezo la Clark si kutua katika ombwe. Wabunge wa Marekani tayari wameweka sheria iliyopewa jina la Kill Switch Act, ambayo ingewahitaji watengenezaji wa AI wa mpakani kuunda mifumo ya kuzima mifumo yao - mswada wa AI Buzz Wire ulioshughulikiwa mwezi uliopita wakati uharaka wake ulikua kufuatia matukio ya kikatili ya wakala.
Wazo hilo pia linakabiliwa na mashaka wazi. Nchini Uingereza, Katibu wa Biashara Jonathan Reynolds aliiambia BBC kuwa haoni dhana hiyo kuwa ya manufaa, akisema "hakuwa na uhakika kabisa kile ambacho kingemaanisha kivitendo," na akaonya kuwa udhibiti wa kupita kiasi unaweza kuiacha nchi hiyo ikitengwa na wanamitindo walioendelezwa kutoka nje ya nchi.
Mandhari: Vita vya Usalama vya Wenyewe kwa Wenyewe kwa Wenyewe - na IPO
Maoni ya Clark ni ya mwisho kwa wiki ambapo usalama wa AI ulihama kutoka mada ya semina hadi habari za ukurasa wa mbele. Mkurugenzi Mtendaji wa Anthropic Dario Amodei alitoa wito mwishoni mwa juma kwa kasi ya maendeleo ya mipaka kupungua na kufuatiliwa kwa karibu zaidi, huku akisisitiza pause yoyote inapaswa kuja "bila kutoa sadaka ya faida ya kibiashara." Kisha akapeleka kesi hiyo kwa hadhira kuu ya Marekani katika mahojiano na Anderson Cooper wa CNN, huku Coxon mwenyewe akionekana kwenye mtandao kuitikia. Matamshi hayo yalifuatia chapisho la virusi vya kujiuzulu kutoka kwa mtafiti wa zamani wa Anthropic Jacob Coxon akionya kuhusu hatima ya ubinadamu, ambayo ilisababisha makadirio ya kutoweka kwa Hubinger. Gazeti la The Guardian, kwa upande wake, lilichunguza kwa nini onyo hili la siku ya mwisho lilitoweka ambapo zile za awali zilififia.
Kengele hizo zimekabiliwa na dhihaka za wazi kutoka kwa sehemu za tasnia ya teknolojia. Mkurugenzi Mtendaji wa Hugging Face Clement Delanggue alikejeli uamuzi wa kumfanya Coxon kuwa msemaji wa hatari ya kutoweka, akiandika: "Samahani, lakini kumuuliza Jacob kuhusu hatari ya kutoweka kwa AI ni kama kumuuliza mtu wako wa AC kuhusu mabadiliko ya hali ya hewa." Mkurugenzi Mtendaji wa Grindr George Arison alienda mbali zaidi, akisema kuwa uoga huo unachochewa kibiashara. "Njia pekee ya kuhalalisha tathmini hizi ni kudai: 'Nitachukua kila tasnia na nitachukua kila kazi, na AI yangu itakuwa ikifanya kazi hiyo yote," alisema.
There is also an enormous amount of money riding on the outcome of this debate. Anthropic is preparing for an initial public offering at a $965 billion valuation, while OpenAI — most recently valued at $852 billion — had been expected to go public before CEO Sam Altman said on Friday that an IPO would not happen this year due to the safety controversy. Critics like Arison argue the doom rhetoric and the fundraising pitch are two sides of the same coin; Clark's answer is that the industry must change course regardless.
Whether a mandatory, verifiable kill switch ever becomes law will depend on lawmakers who so far have shown little appetite for constraining an industry that is powering the US economy. But for the first time, one of the technology's most powerful insiders is explicitly inviting them to try.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
