Mwakilishi Ro Khanna, Mwanademokrasia wa Silicon Valley, ataanzisha sheria ambayo itapiga marufuku miundo ya AI yenye uwezo wa kujiboresha mara kwa mara hadi serikali ya shirikisho itengeneze mfumo wa udhibiti wenye uwezo wa kuwasimamia - pendekezo kubwa zaidi la usalama la AI ambalo bado linatua kwenye Congress.
Mswada huo, unaoitwa Sheria ya Udhibiti wa Kibinadamu Juu ya AI, ulishirikiwa pekee na CNBC katika mfumo wa muhtasari kabla ya kuanzishwa kwake. Inafika huku kukiwa na wasiwasi unaoongezeka wa usalama ambao tayari umewafanya Wakurugenzi Wakuu wa OpenAI na Anthropic kutoa wito wa kupunguza kasi ya ukuzaji wa muundo wa mipaka. For more context on this story, see our ongoing AI trends.
"Kwa kweli kuna hatari ya kutoweka kwa ustaarabu," Khanna alisema Jumatatu katika mahojiano na CNBC. "Kuna hatari ya usalama ya kupoteza udhibiti, na kisha kuna hatari ya matumizi mabaya, na tunahitaji kuchukua zote mbili kwa uzito."
Nini Mswada Ungepiga Marufuku
Kwa msingi wake, Sheria ya Udhibiti wa Kibinadamu Juu ya AI itakataza miundo ya AI ambayo inajiboresha yenyewe au kurekebisha kwa uhuru malengo yao ya msingi, mifumo ya kudhibiti au vidhibiti vya kuzima - isipokuwa kuwe na safu za ulinzi za shirikisho na wakala mpya wa serikali kuidhinisha shughuli hizo.
Katika hali halisi, hiyo inalenga uwezo ambao watafiti wa usalama wanaogopa zaidi: mifumo inayoweza kujipanga upya katika mzunguko unaoelekezwa kibinafsi, na kuwaacha wanadamu na uangalizi mdogo katika kila hatua. Marufuku hiyo ingesalia hadi wadhibiti wawe na vifaa vya kutathmini hatari.
Wakala Mpya wa Shirikisho wa Frontier AI
Mswada huo ungeunda wakala wa serikali uliojitolea kulenga miundo yenye nguvu zaidi ya AI - zile zilizotengenezwa na OpenAI, Anthropic, Google DeepMind na xAI - kampuni hizo zinapojikuta zikichunguzwa sana.
Kulingana na muhtasari ulioshirikiwa na CNBC, wakala atawajibika kwa:
- Kuandika kanuni za usalama kwa mifumo ya mipaka ya AI
- Kuendesha mfumo wa utoaji leseni ili kuidhinisha mafunzo ya kielelezo na upelekaji
- Kufanya ukaguzi wa mifano ya AI ya mipaka
- Kuweka viwango vya usalama kwa ajili ya majaribio ya mara kwa mara na udhibiti bora wa binadamu
Wakaguzi wa kujitegemea wangepachikwa katika kila maabara ya mipakani na wangeripoti moja kwa moja kwa wakala - ukaguzi wa kimuundo ulioundwa ili kuhakikisha kuwa maabara haziwezi tu kuashiria kazi zao za nyumbani. Shirika hilo pia lingeweka viwango vinavyohusu mazingira ya majaribio ya kisanduku cha mchanga, mianya ya hewa ambayo hutenganisha mifumo ya majaribio kutoka kwa mtandao, kuua swichi na vidhibiti vinavyozuia miundo kutoroka mipangilio ya maabara na kuzurura kwenye intaneti iliyo wazi.
Hasa, sheria ingepanua uangalizi wa shirikisho kwa chip za hali ya juu ambazo maabara za mipakani hutumia, ikijumuisha njia za kufuatilia au kudhibiti jinsi vichakataji hivyo vinatumwa.
Adhabu za Jinai na Bima ya Lazima
Muswada huo unakwenda mbali zaidi kuliko pendekezo lolote la awali kuhusu adhabu. Ingehalalisha kile inachofafanua kama "uhalifu dhidi ya ubinadamu" kwa kutumwa kwa miundo ya AI ambayo inasababisha uharibifu wa raia.
Wafanyikazi wa kampuni za AI watakabiliwa na adhabu ya uhalifu kwa kuzima ulinzi, kuua swichi, ukataji miti au mifumo ya kudhibiti - au kwa kusambaza mfumo usioidhinishwa kwa kujua. Kampuni za AI pia zitahitajika kubeba bima kubwa ya dhima kabla ya kutoa mifano yao, kubadilisha hatari ya kifedha ya kushindwa kwenye tasnia badala ya umma.
Kwa upande wa siasa za kijiografia, mswada huo unatoa wito kwa utawala kufuata makubaliano yanayotekelezeka na udhibiti unaolengwa wa usafirishaji bidhaa iliyoundwa kuzuia China na wapinzani wengine kuunda mifumo hatari ya AI.
Imejengwa na Jumuiya ya Usalama, Sio Maabara
Khanna alieleza kwa uwazi ni nani aliandika muswada huo. Badala ya kujadiliana na watendaji wa kampuni ambazo itasimamia, alisema sheria hiyo iliundwa kwa mazungumzo na mashirika ya usalama ya AI, pamoja na mashirika huru ya Tathmini ya Mfano na Utafiti wa Tishio, Taasisi ya Utafiti wa Ujasusi wa Mashine na Utafiti wa Palisade.
"Nataka hii iwe kielelezo cha kutoa sauti kwa jumuiya ya usalama ya AI," Khanna aliiambia CNBC. "Ninaamini wamepuuzwa isivyo haki kama hadithi za kisayansi na hawajachukuliwa kwa uzito wa kutosha. Wanahitaji kuendesha mjadala huu, jumuiya ya usalama ya AI, si watendaji wa maabara za mipakani."
Khanna alielezea hatua hiyo kama sheria ya usalama ya AI iliyopendekezwa hadi sasa.
Matarajio Marefu katika Kongamano Lililogawanyika
Sheria ya Udhibiti wa Kibinadamu Juu ya AI inajiunga na uwanja uliojaa wa mapendekezo ya usalama ya AI kwenye Capitol Hill. Miongoni mwao ni Sheria ya FRONTIER ya pande mbili kutoka kwa Wawakilishi. Jay Obernolte, Republican wa California, na Lori Trahan, Massachusetts Democrat, ambayo ingeweka wakaguzi huru katika maabara za mipakani na kuipa serikali mamlaka ya kuzima wanamitindo wanaohukumiwa kuleta hatari kubwa. Pendekezo tofauti la Sanders-Casar la kupiga marufuku ujasusi bandia limevutia uungwaji mkono wa umma kutoka kwa Wanademokrasia kumi wa Bunge, akiwemo Khanna mwenyewe.
Ukweli wa kisiasa, hata hivyo, ni wa kutisha. Hakuna miswada ya Bunge inayotarajiwa kupigiwa kura hadi baada ya uchaguzi wa katikati ya muhula, na Seneti inatarajiwa kuondoka Washington na kutorejea hadi baada ya wapiga kura kupiga kura.
Ratiba hiyo ina maana kwamba Sheria ya Udhibiti wa Kibinadamu Juu ya AI itafanya kazi, angalau kwa sasa, kama kiashirio: mchoro wa kina wa kile jumuiya ya usalama ya AI ingeunda ikiwa ingeshikilia kalamu - ikitambulishwa haswa wakati ambao watu wanaounda AI ya mpaka wanaonya, kwenye rekodi, kwamba teknolojia inapita udhibiti wake.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
