Afisa mkuu mtendaji wa Anthropic Dario Amodei amewaonya wabunge kwamba mwelekeo wa kuharakisha kuelekea kwenye ujasusi wa bandia wa chanzo huria unaweza kuelekeza jamii kwenye njia hatari ikiwa wanamitindo wenye nguvu wataachiliwa bila ulinzi makini, na kuibua mojawapo ya mijadala yenye utata katika sera ya AI.
Amodei, ambaye alianzisha na kuongoza kampuni iliyo nyuma ya familia ya Claude ya wanamitindo, alisema kuwa hali ya kipekee ya AI ya chanzo huria, ambayo hufanya mifumo ya hali ya juu ipatikane kwa urahisi kwa mtu yeyote kupakua, kurekebisha na kupeleka, huzua hatari ambazo programu ya kawaida ya chanzo-wazi haijawahi kuleta. Matamshi yake, yaliyoripotiwa na Tekedia, yanahusu ugumu wa kudhibiti AI yenye uwezo mara inapokuwa imesambazwa hadharani. Kwa muktadha zaidi kuhusu hadithi hii, angalia hadithi zetu zaidi za AI.
Tofauti na programu za kitamaduni, mifumo ya kisasa ya AI inaweza kutoa maandishi ya kushawishi, kutoa picha halisi, kuandika msimbo wa kompyuta, na kusaidia kazi za usalama wa mtandao. Amodei anashikilia kuwa katika mikono isiyofaa uwezo huo unaweza kutumiwa ili kufanya mashambulizi ya mtandao kiotomatiki, kuandaa kampeni za kisasa za kutoa taarifa zisizo sahihi, au kuendeleza utafiti hatari wa kibiolojia.
Tatizo la Kudumu
Mojawapo ya hatari kuu ambazo Amodei aliangazia ni kwamba modeli yenye nguvu inapotolewa kwa uwazi, inakuwa vigumu kukumbuka. Mifumo iliyofungwa inayoendeshwa na makampuni inaweza kufuatiliwa, kuwekwa viraka na kuwekewa vikwazo wakati udhaifu mpya unapoibuka. Muundo wa chanzo huria, kwa kulinganisha, unaweza kunakiliwa kwa muda usiojulikana na kusambazwa upya kwenye mtandao, na kuwaacha wasanidi programu bila utaratibu wa kuzuia matumizi yake baada ya kutolewa.
Kudumu huko, Amodei alionya, kunasumbua haswa wakati wanamitindo wanakaribia utendakazi wa kiwango cha binadamu kwenye kazi zinazozidi kuwa ngumu. Alisema kuwa AI ya hali ya juu inapaswa kufanyiwa majaribio ya usalama, udhibiti wa usambazaji na uangalizi sahihi wa udhibiti kabla ya kufikiwa na watu wengi, badala ya kuchukuliwa kama programu ya kawaida ambayo inaweza kuboreshwa kwa ushirikiano hadharani.
Msimamo wake unaonyesha mstari wa makosa unaokua katika tasnia. Wafuasi wa AI ya chanzo huria wanasema kuwa ufikiaji wa umma huchochea ushindani, huleta demokrasia maendeleo ya kiteknolojia, na huzuia mashirika machache kuhodhi akili ya bandia. Wasanidi programu duniani kote wanaweza kukagua usanifu wa miundo, dosari za usalama wa uso, na kuboresha mifumo kwa ushirikiano, huku wanaoanzisha, watafiti na taasisi za elimu wanaweza kujenga bila kutegemea mifumo ya umiliki ya gharama kubwa.
Hatari mahususi kwenye Jedwali
Wasiwasi wa Amodei sio wa kufikirika. Mitindo iliyotolewa kwa uwazi tayari imevuliwa linda zao za usalama na watafiti wanaotumia mbinu za moja kwa moja za kusawazisha, mazoezi ambayo yalionyesha jinsi hatua za ulinzi zinavyoweza kuondolewa mara tu uzani wa msingi unapokuwa hadharani. Miundo inapokua na uwezo zaidi katika kazi kama vile kemia, biolojia, na unyonyaji wa programu, wasiwasi ni kwamba matoleo wazi yanaweza kutoa uwezo mkubwa kwa watendaji ambao hawatawahi kupitisha uchunguzi ambao maabara huwajibika kwa wateja wao.
Kipimo cha habari potofu pia kimevutia uchunguzi. Miundo ambayo inaweza kutoa maandishi halisi, picha na sauti kwa kiwango kikubwa inaweza kuelekezwa kwenye uingiliaji kati wa uchaguzi, ulaghai wa kifedha au utayarishaji mkubwa wa propaganda. Kwa sababu muundo wa wazi hufanya kazi kabisa kwenye maunzi ya mvamizi mwenyewe, Amodei alibainisha, hakuna API ya kutuliza, hakuna akaunti ya kusimamisha, na hakuna mtoa huduma wa kuwajibisha mara uharibifu utakapofanywa.
Mandhari ya Ushindani
Maonyo ya Amodei yanawasili huku kukiwa na ongezeko kubwa la miundo ya wazi yenye uwezo kutoka kwa wasanidi wa Kichina. GLM-5.2 ya Zhipu, pamoja na mifumo mingine ya bei ya chini ya Kichina, imetoa tahadhari mpya kuhusu jinsi miundo iliyo wazi na inayopatikana kwa haraka inavyoziba pengo na mifumo ya umiliki wa mipaka kutoka kwa Anthropic na OpenAI. Shinikizo hilo la ushindani limezidisha mjadala wa sera kuhusu iwapo vizuizi vya matoleo ya wazi vitanufaisha makampuni makubwa au kuacha jamii ikiwa wazi kwa matumizi mabaya.
Wakosoaji wa msimamo wa Amodei wanasisitiza kuwa kuzuia AI ya chanzo huria kunaweza kuibua kampuni kubwa za teknolojia bila kukusudia kwa kuzuia uvumbuzi huru. Pia wanabainisha kuwa uwazi mara kwa mara huruhusu watafiti kutambua udhaifu kwa haraka zaidi kuliko maendeleo yaliyofungwa. Hata watetezi wengi wa maendeleo huria wanakubali, hata hivyo, kwamba mifumo yenye nguvu zaidi inaweza kuhitaji mifumo thabiti ya utawala kuliko vizazi vilivyotangulia vya programu.
The Regulatory Tightrope
Majadiliano yamepata uharaka huku serikali kote ulimwenguni zikipima kanuni mpya za AI. Watunga sera wanakabiliwa na uwiano mgumu: vizuizi vingi vinaweza kupunguza ukuaji wa uchumi na ugunduzi wa kisayansi, ilhali uangalizi usiotosha unaweza kuweka jamii kwenye hatari ambazo ni ngumu kutarajia. Kuweka usawa huo, Amodei alipendekeza, inahitaji ushirikiano kati ya serikali, makampuni ya teknolojia, watafiti wa kitaaluma, na mashirika ya kiraia.
Ushuhuda wake unasisitiza mojawapo ya mijadala ya sera ya teknolojia inayofafanua ya muongo huo. Kadiri akili bandia inavyokua na uwezo zaidi, lazima jamii iamue jinsi ya kuhimiza uvumbuzi huku ikipunguza hatari zinazohusiana na ufikiaji mkubwa wa mifumo ya kubadilisha. Iwe kupitia udhibiti, viwango vya tasnia, au ushirikiano wa kimataifa, chaguo zilizofanywa katika miezi ijayo juu ya AI ya chanzo huria zinaweza kuunda nani anayedhibiti teknolojia, na jinsi inavyotumiwa kwa usalama kwa miaka mingi ijayo.
Kwa Anthropic, msimamo huo unalingana na msisitizo wa muda mrefu wa kampuni juu ya usalama wa AI na matoleo yanayodhibitiwa. Lakini kwa miundo ya wazi inayoendelea kwa kasi na wasimamizi bado wanahangaika kupata, pengo kati ya maonyo ya Amodei na kasi ya harakati ya chanzo huria inaweza kuwa ndogo kwa kasi zaidi kuliko watunga sera wanaweza kuifunga.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
