Papa Leo XIV aliuambia mkutano wa Vatican wa wanasayansi na wataalamu wa AI kwamba mifumo ya kijasusi bandia ni "zana, si watu," akionya dhidi ya kuwapa mawakala wa AI haki za kisheria na kuzitaka serikali zinazokusanyika Geneva mwezi ujao kupiga marufuku silaha hatari zinazojiendesha.
Hotuba hiyo ilitolewa kwa washiriki wa "Mustakabali wa AI: Mazungumzo Kati ya Vatican na Ulimwengu wa Kisayansi juu ya Maendeleo na Matumizi ya Teknolojia ya Kiakili," mkutano ulioandaliwa kwa pamoja na Taasisi ya Kipapa ya Maisha na Mustakabali wa Maisha. Papa alisema washiriki kutoka nchi mbalimbali wanashiriki "hisia fulani ya kutokuwa na wasiwasi kuhusu maendeleo ya akili bandia. Tunatambua mwelekeo tunaopaswa kuchukua, lakini haitoshi inafanywa ili kusonga mbele."
Mashine ni zana, si watu
Mstari ulio wazi zaidi wa anwani ulilenga wazo la kupata kuvutia katika sehemu za tasnia ya teknolojia na taaluma ya sheria: kupanua utu wa kisheria - au haki - kwa mifumo ya hali ya juu ya AI. Papa Leo alibishana kinyume. Mashine, alisema, hazina uzoefu, miili, hisia au uhusiano, na hazielewi upendo, kazi au uwajibikaji.
Wengine wamependekeza kuipa mifumo hii haki au utu wa kisheria, alikubali - lakini kufanya hivyo kunahatarisha "kuficha uwajibikaji wa binadamu na kuwaacha wale wanaopata madhara kukabiliana na chombo kisicho na uso." Maoni yanatua katika msimu ule ule ambao umewafanya mawakala wa AI kuendesha biashara kwa uhuru, kujadili mikataba na kuchukua hatua kwa niaba ya watumiaji, na hivyo kusababisha mijadala ya kweli ya kisheria kuhusu dhima mifumo inayojiendesha inaposababisha madhara. AI Buzz Wire inafuatilia hii na maendeleo mengine ya sera ya AI jinsi yanavyotokea. Muundo wa Papa unarudisha swali kwa wanadamu nyuma ya mfumo: ikiwa wakala wa AI atasababisha uharibifu, mtu mwenye uso lazima ajibu.
"Kupokonya silaha" AI: marufuku ya silaha zinazojiendesha
Mawazo ya tatu ya Papa - kwamba maamuzi fulani hayapaswi kamwe kukabidhiwa kwa mashine - ilionyeshwa kwa mifano dhahiri: kumweka mtu kwenye orodha ya walengwa au katika hifadhidata ya udhibiti wa mpaka kunampunguza hadi "hatua ya data." Aliomba hotuba ya mtangulizi wake Papa Francis 2024 kwa viongozi wa G7, ambapo Francis alielezea AI kama "chombo cha kusisimua na cha kutisha" na kusisitiza hakuna mashine inayoweza kuchagua kuchukua maisha ya binadamu.
"Maamuzi yanayoathiri maisha ya binadamu, uhuru na matumizi ya nguvu lazima daima yabaki chini ya uangalizi wa kibinadamu wenye ufanisi, ufahamu na uwajibikaji," Papa Leo alisema. Ndio maana AI lazima "ipokonywe silaha," alisema - na alihimiza wazi majimbo yaliyokutana huko Geneva mnamo Novemba kuchukua hatua za kupiga marufuku silaha hatari zinazojiendesha. Wanadiplomasia wamejitahidi kwa miaka mingi kukubaliana sheria zinazofunga silaha zinazojiendesha; rufaa ya moja kwa moja ya upapa inaongeza uzito wa kimaadili kwa mchakato wa mazungumzo ambao umeendeshwa zaidi na kampeni za jumuiya ya kiraia na kambi ya mataifa husika.
Mambo matano ya kuzingatia kutoka Magnifica Humanitas
Hotuba hiyo ilijipanga katika mambo matano ambayo Papa aliyaweka katika waraka wake wa Magnifica Humanitas:
1. Mustakabali wa AI haujaamuliwa mapema. Kwa kuwa wanadamu wanakuza AI, mustakabali wake unategemea uchaguzi wa wanadamu. "Tuna jukumu la kuongoza, kubadilisha, na, inapobidi, kukataa maombi yake," Papa alisema. Swali sahihi sio "AI inaweza kufanya nini?" lakini "Inapaswa kutumika kwa madhumuni gani?"
2. Mashine ni zana, si watu. Onyo la utu hapo juu.
3. Maamuzi fulani hayawezi kamwe kukabidhiwa. Maamuzi yanayohusu maisha ya binadamu, uhuru na matumizi ya nguvu yanahitaji uangalizi wa kibinadamu wenye ufanisi, unaoeleweka na unaowajibika.
4. Teknolojia zenye akili lazima zitumikie manufaa ya wote. "Hazipaswi kamwe kuwa matamanio au zitumikie masilahi ya wachache waliobahatika," na zinapaswa kueneza manufaa ya maendeleo kwa usawa.
5. Taasisi zinahitajika ili kufanya maadili kufanya kazi. Inafafanuliwa kuwa changamoto inayoweza kuwa ya dharura zaidi: ulimwengu unahitaji "viwango vilivyoshirikiwa, uangalizi huru, na mbinu wazi za uwajibikaji, ili maamuzi kuhusu maendeleo na matumizi ya AI yaweze kuchunguzwa, kupingwa inapobidi, na kuambatanishwa na masuluhisho yanayofaa kwa madhara yoyote yanayosababishwa."
Kwa nini ni muhimu zaidi ya Vatikani
Vatikani imekuwa kimya kimya mojawapo ya sauti thabiti za kitaasisi kuhusu utawala wa AI. Wito wa Roma kwa Maadili ya AI, uliotiwa saini mnamo Februari 2020 na Chuo cha Kipapa cha Maisha pamoja na Microsoft, IBM, FAO na serikali ya Italia, ulikua kutoka kwa mfumo huu wa ikolojia, na Chuo cha Kipapa cha Maisha kimewaita mara kwa mara wanateknolojia juu ya maadili ya kibaolojia na kufanya maamuzi kwa mashine. Kushirikiana na Taasisi ya Mustakabali wa Maisha - shirika la usalama la AI nyuma ya herufi wazi juu ya hatari ya mfano wa mipaka - kunaashiria juhudi zinazoendelea za kuunganisha jamii za kidini na za kidunia za maadili ya AI.
Kwa watunga sera, rufaa ya Geneva ndiyo hatua madhubuti ya kuchukua: wakati mazungumzo kuhusu silaha zinazojiendesha yanaporejea, Vatikani inataka kupiga marufuku ya lazima, si miongozo ya hiari. Na kwa tasnia ya AI, ujumbe juu ya utu ni mstari wazi mchangani - hata hivyo mawakala wanaojiendesha wanakuwa, uwajibikaji wa kimaadili na kisheria unabaki na watu wanaowajenga na kuwapeleka.
