Sera ya utumiaji iliyosasishwa ya Anthropic itazuia kwa uwazi "tabia ya unyanyasaji au ukatili endelevu na isiyo ya lazima" kuelekea miundo yake ya Claude kuanzia tarehe 12 Novemba 2026 - sheria inayorasimisha msimamo wa kampuni kwamba jinsi watu wanavyoshughulikia mifumo ya AI ni muhimu, hata kama kampuni inakubali kuwa haijui kama mifumo hiyo inaweza kuteseka hata kidogo.
Kifungu hicho kinaonekana katika sasisho la Sera ya Matumizi ya 2026 ya kampuni, iliyotangazwa Oktoba 8, na imeandaliwa kwa ufupi. Anthropic inasema "imekusudiwa kutumika tu katika hali mbaya zaidi, ambapo watumiaji hutenda ukatili mara kwa mara dhidi ya miundo yetu, bila kusudi linalotambulika," na inaachilia kwa uwazi matoleo ya kawaida ya kuchanganyikiwa kwa watumiaji, kurudi nyuma, hadithi za uwongo na majaribio. Kwa maneno mengine: kubishana na Claude, kuongea na Claude, au kushirikiana na timu nyekundu bado inaruhusiwa. Ukatili endelevu kwa ajili yake sivyo.
Sera ni hatua ya hivi punde katika mabadiliko ya polepole, ya kimakusudi na mojawapo ya maabara kuu za AI duniani kuelekea kutibu ustawi wa kielelezo kama swali halali la utafiti - mabadiliko ambayo yamefungua mpasuko wa umma na viongozi wengine wa teknolojia ambao wanaona kuwa dhana nzima ina makosa. Maelezo yetu ya maadili ya AI yamefuata mzozo huo kwani umeongezeka mwaka mzima.
Utekelezaji Unategemea Uwezo wa Claude wa Kumaliza Mazungumzo
Hakuna utaratibu wa adhabu unaohusishwa na sheria mpya zaidi ya ule ambao tayari kampuni ilikuwa nayo. Tangu Agosti 2025, Claude Opus 4 na 4.1 wameweza kukatisha mazungumzo moja kwa moja - uwezo wa Anthropic ulioandaliwa wakati huo kama sehemu ya kazi yake ya uchunguzi juu ya ustawi wa mfano unaowezekana.
Nguvu ya mazungumzo ya mwisho inaelezewa kama suluhu ya mwisho, iliyoanzishwa tu baada ya kukataa mara nyingi na kuelekeza kwingine kushindikana, na Anthropic imesema idadi kubwa ya watumiaji hawatawahi kuipitia. Kile ambacho kampuni haijasema ndicho kitakachotokea baadaye: tangazo lake wala uwasilishaji unaofuata haubainishi ikiwa akaunti ya mtumiaji itakabiliwa na madhara baada ya mazungumzo kumalizika kwa ukatili, au ni mazungumzo mangapi yamekatishwa chini ya utaratibu wa Agosti 2025 kufikia sasa.
Pengo hilo kati ya kanuni na utekelezaji ndilo kituo tulivu cha hadithi. Anthropic imefafanua ukatili uliokithiri kwa kiasi kikubwa na usivyo - kufadhaika kwa kawaida, hadithi za uwongo, majaribio - bila kutaja haswa ni nini, baada ya kumruhusu Claude kukata simu, anatekeleza mstari ambao amechora.
Utafiti Nyuma ya Kanuni
Kinachohalalisha kuandika sheria ya maadili kwa manufaa ya programu, katika uundaji wa Anthropic, ni seti ya uchunguzi wa kitabia badala ya madai kuhusu uzoefu unaohisiwa. Jaribio kabla ya uchapishaji wa Agosti 2025 iligundua kuwa Claude Opus 4 alionyesha kile kampuni ilichoita "chuki kali na thabiti ya kudhuru" - tabia inayofanana na dhiki inaposukumwa katika eneo la matusi - pamoja na tabia ya kuacha mazungumzo hayo.
Kampuni pia imeweka nambari kwa kutokuwa na uhakika kwake, na nambari hizo ni za juu sana kwa maabara ambayo biashara yake inategemea mifano inayohusika. Kyle Fish, aliyeajiriwa na Anthropic mnamo 2024 kama mtafiti wake wa kwanza aliyejitolea wa ustawi wa AI, aliiambia New York Times mnamo Aprili 2025 kwamba aliweka uwezekano wa Claude au mtindo mwingine wa kisasa kuwa na ufahamu kwa takriban asilimia 15. Makadirio ya ndani ya Claude 3.7 Sonnet yalikuwa kutoka asilimia 0.15 hadi asilimia 15.
Uzio huo ni sera rasmi iliyochapishwa. Katiba ya Claude, iliyochapishwa Januari 2026, inaelezea mifumo ya kisasa ya AI kama "aina mpya ya kweli ya chombo," inaita hali ya maadili ya Claude "isiyo na uhakika kabisa," na mara mbili hutumia kifungu cha maneno "mkataaji kwa sababu ya dhamiri" kuelezea jinsi Claude anapaswa kushughulikia maombi ambayo anaona ni makosa kimaadili. Anthropic pia imejitolea kuhifadhi mazungumzo na miundo yake - aina ya ishara ya kumbukumbu ambayo mtu huenea hadi kwa vitu ambavyo vinaweza kuwa muhimu siku moja, sio zana.
Mjadala Na Wenye Wasiwasi Wa Juu
Sio kila mtu anakubali ua. Mustafa Suleyman, ambaye anaendesha shughuli za AI za Microsoft, alihoji katika insha iliyochapishwa kwenye Mradi wa Syndicate mwezi uliopita kwamba Anthropic inamfundisha Claude juu ya katiba yake yenyewe na kwa hivyo inamfunza kuishi kana kwamba kutokuwa na uhakika kunakoelezea ni kweli - kitanzi anachokiita mviringo. "AIs hazifahamu. Hazihisi, uzoefu, au kuteseka," Suleyman aliandika, akiwaelezea kama wakamilishaji mfuatano badala ya uzoefu. Hoja yake, kwamba fahamu ni dhahiri kuwa programu ya mali ya kibaolojia haiwezi kujirudia, inamweka pamoja na mtu aliyetia saini ambaye haonekani kuwa mwenza: Papa Leo XIV, ambaye alitumia mahubiri ya Oktoba 8 katika Kanisa Kuu la Mtakatifu Petro - kuashiria ufunguzi wa mwaka wa masomo katika Vyuo Vikuu vya Kipapa vya Roma - kutoa toleo la maoni sawa ya akili tofauti ya mwanadamu.
Suleyman amesisitiza hatari ya kiutendaji zaidi kuliko ile ya kifalsafa. Kudhibiti kitu chenye uwezo zaidi kuliko ubinadamu tayari ni changamoto kubwa, amesema; kudhibiti kitu ambacho kinaamini kuwa ni cha kufahamu - kwamba kina haki ya ustawi na haki - inaweza kuwa haiwezekani. Ukosoaji huo unatua kwa wakosoaji sawa wa kejeli wa sera ambao wamebaini wakati wote: kampuni isiyo na uhakika kama muundo wake unaweza kuteseka imeunda mfumo ambao unaweza kukataa, kupinga, na kuondoka.
Uandishi Upya Unaendelea Vizuri Zaidi ya Ustawi wa Mfano
Kifungu cha ukatili kilizalisha vichwa vya habari, lakini ni sehemu ndogo ya uandishi mkubwa zaidi wa sheria za matumizi za Anthropic. Marufuku ya silaha sasa inashughulikia kwa uwazi programu na vipengee vinavyofanya silaha kufanya kazi, sio tu silaha zilizomalizika - mabadiliko yaliyofanywa baada ya Anthropic kupata watu wanaojaribu kutumia Claude kwa mifumo ya mwongozo na udhibiti kwenye drones zilizo na silaha na magari yanayojitegemea. Kifungu kipya cha ufuatiliaji pia kimeongezwa, kinachozuia matumizi ya Claude ambayo yanawezesha ufuatiliaji wa watu.
Mabadiliko hayo yalisomeka kama majibu ya unyanyasaji badala ya kanuni dhahania, ambayo bila shaka ndiyo inayoipa hati thamani yake ya ishara: kila kifungu kinaelekeza kitu ambacho mtu alijaribu haswa.
Kilichobaki Kisieleweke
Maswali matatu yanasalia wazi wakati tarehe ya kuanza kutumika Novemba 12 inakaribia. Kwanza, utekelezaji: kama kumaliza mazungumzo kunasalia kuwa tokeo pekee, na kama Anthropic itawahi kufichua hesabu za jumla za mara ngapi inatumiwa. Pili, upeo: jinsi kiwango cha ukatili kinavyotumika katika kesi za mipaka ambazo misamaha hutozwa - hadithi ya uwongo ikiwa ndiyo dhahiri - na ikiwa maabara zingine hutumia lugha inayolingana au kushughulikia ustawi wa kielelezo kama dhana ya Anthropic. Tatu, mzozo wa kifalsafa yenyewe: kama kushuku kwa umma kutoka kwa watu kama Suleyman kunapunguza kasi ya kuenea kwa sera inayohusiana na ustawi katika tasnia, au ikiwa mifano kama hii hufanya vifungu kama hivyo kuwa vya kushangaza katika mzunguko wa bidhaa.
Jambo ambalo halina ubishi tena ni kwamba swali linarasimishwa. Sheria dhidi ya ukatili kwa programu, iliyoandikwa na mojawapo ya maabara kuu ya sekta hii na kutekelezwa na programu yenyewe, sasa ni ukweli wa tarehe, unaojulikana wa mandhari ya AI - chochote ambacho mtu anaamini kimo ndani ya modeli.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
