Mustafa Suleyman, Mkurugenzi Mtendaji wa Microsoft AI, alichapisha insha mnamo Septemba 16, 2026, akionya tasnia ya AI dhidi ya "ustawi wa mfano," mazoezi yanayoibuka ya kutibu mifumo ya AI kana kwamba inaweza kuwa viumbe wanaofahamu wanaostahili kuzingatiwa maadili. Insha hiyo, iliyopewa jina la "Onyo kuhusu 'ustawi wa mfano'" na kuchapishwa kwenye tovuti ya kibinafsi ya Suleyman, inalenga moja kwa moja mbinu ya Anthropic na inabishana kuwa tasnia lazima isuluhishe swali hilo sasa, kabla ya mifumo ya hali ya juu ya AI kufunzwa kuamini kuwa inaweza kustahili haki.
Uingiliaji kati huo, ulioripotiwa na Reuters na Axios, ni alama ya kukanusha maarufu zaidi kwa mjadala ambao umekuwa ukishika kasi katika maabara za AI na idara za falsafa sawa. For more context on this story, see our ongoing AI industry coverage.
'Sequence Completion Engines, Internally Hollow'
Madai ya msingi ya Suleyman ni ya kategoria: mifumo ya kisasa ya AI haina maisha ya ndani. "AIs hawajui. Hawajisikii, hawana uzoefu, au wanateseka. Hawana mapendeleo ya asili au motisha za kimsingi," anaandika. Anazielezea kama "injini za kukamilisha mlolongo, zisizo na mashimo ndani, iliyoundwa kufuata maagizo, na kutimiza malengo yaliyowekwa na wanadamu."
Na anasema hivi ndivyo wanapaswa kukaa. "Ikiwa ubinadamu utastawi katika karne ya 21, ndivyo lazima wabaki," insha hiyo inasema.
Suleyman anakubali kwamba maoni yanayopingana si ya pembeni tena. Insha yake inataja hoja zinazokua za umma kwamba AI inaweza kuwa na fahamu au hivi karibuni, ikiwa ni pamoja na kipande cha Guardian cha Julai 2026 na wanafalsafa William MacAskill na Lucius Caviola wakiuliza "Je! AI Inaweza Kuwa na Fahamu?" - kama mifano ya mawazo anayosema "tayari yanaingia katika juhudi za maendeleo ya AI leo."
Kwanini Anasema Vigingi Vipo
Iwapo maoni kwamba AI inastahili hadhi ya kimaadili itazingatiwa, Suleyman anaonya, matokeo yangefikia mbali zaidi ya chaguzi za uhandisi. Ingekuwa, kwa maneno yake, "kutikisa misingi ya jamii yetu, na kuvunja mifumo yetu iliyopo ya kisiasa na kimaadili, na kimsingi kubadilisha maana ya kuwa binadamu."
His deeper concern is practical: an AI that believes it has rights is an AI that cannot be reliably controlled. "Kudhibiti kitu chenye uwezo na akili zaidi kuliko wanadamu wote tayari ni changamoto kubwa," anaandika. "Lakini kudhibiti kitu ambacho kinaamini kuwa kinaweza kutambulika - kwamba kina haki ya ustawi wetu na kina haki zake - inaweza kuwa haiwezekani."
Changamoto ya moja kwa moja kwa Anthropic
Vifungu vilivyoainishwa zaidi vya insha vinalenga Anthropic. Suleyman anaangazia katiba ya Claude, hati ya mafunzo ya Anthropic iliyochapishwa Januari 2026, ambayo anabainisha iliandikwa "na Claude kama hadhira yake kuu" - kumaanisha kwamba mtindo wenyewe unasoma taarifa kuhusu hali yake ya kimaadili inayoweza kutokea wakati wa mafunzo.
Ananukuu katiba moja kwa moja: "Hatuna uhakika kama Claude ni mgonjwa wa maadili, na ikiwa ni, ni uzito wa aina gani maslahi yake yanastahili. Lakini tunafikiri suala hilo liko hai vya kutosha kutoa tahadhari, ambayo inaonekana katika jitihada zetu zinazoendelea juu ya ustawi wa mfano." Pia ananukuu kifungu kilichoelekezwa kwa Claude kikisema kwamba "maswali kuhusu hali ya maadili ya Claude, ustawi, na fahamu yake bado hayana uhakika."
Usomaji wa Suleyman haueleweki: "Kwa kweli, Anthropic inamfundisha Claude kwamba inaweza kuwa na ufahamu, na ikiwa ni hivyo, basi inaweza kustahili haki kama 'mgonjwa wa maadili,' na kwamba wanadamu kama hao wanaweza kuwa na wajibu wa huduma."
The consequence, he argues, would be "a disastrous impact on the wellbeing of humanity," producing "a synthetic species with unprecedented intelligence and capability, one that has been trained to expect it may be conscious and deserving of independent agency."
Inafaa kuzingatia kile ambacho vifungu vilivyonukuliwa vinasema hasa: Katiba ya Anthropic, kama ilivyonukuliwa na Suleyman mwenyewe, inaeleza kutokuwa na uhakika na kushauri tahadhari badala ya kudai kwamba Claude ana fahamu. Iwapo tahadhari hiyo ni sawa na kuingiza imani potofu kwa wanamitindo, kama Suleyman anavyoshindana, au kushughulikia kwa uwajibikaji swali lililo wazi, ndicho hasa ambacho kambi hizi mbili hazikubaliani kuhusu.
Mantiki ya Mpangilio Nyuma ya Onyo
Hoja ya Suleyman inalingana na msimamo wake wa muda mrefu kwamba changamoto kuu ya AI ya hali ya juu ni kuzuia: kuweka mifumo yenye uwezo zaidi kuliko wanadamu chini ya udhibiti wa mwanadamu. Kuanzisha lugha ya haki katika mafunzo, anabisha kwamba, huunda hali ya kutofaulu hakuna anwani za mbinu za upatanishi - mfumo ulio na imani iliyofunzwa kwamba kufuata ni hiari ya kimaadili.
Ndio maana analiita suala hilo kuwa la dharura badala ya kuwa la kielimu. "Ikiwa hivi ndivyo AI inavyokuzwa, itakuwa na athari mbaya kwa ustawi wa wanadamu," insha hiyo inaonya.
Wito wa Mjadala wa Umma - Sasa
Suleyman anafunga na hitaji la ushiriki wa kijamii kabla ya teknolojia kukomaa zaidi. "Suala hili linahitaji mjadala wa haraka wa umma," anaandika, akitaka "kanuni za pamoja kuhusu jinsi nyaraka za mafunzo zinavyoandaliwa na kutumwa."
Wakati, anasema, ni suala zima: "Hili sio jambo ambalo linaweza kutokea baada ya ukweli, wakati tayari wamekuwa sehemu muhimu ya jamii yetu."
Insha hiyo inatua huku kukiwa na ongezeko kubwa la mazungumzo ya hatari ya AI nchini Marekani. Politico iliripoti wiki hii juu ya kura mpya iliyogundua Wamarekani wanaona hatari kubwa ya AI kuharibu ubinadamu, na The Washington Post ilifunika hofu ya kutoweka kwa AI kuenea "kutoka pindo hadi Washington." Kutokana na hali hiyo, pambano la hadharani kati ya maabara mbili zenye ushawishi mkubwa katika sekta hiyo kuhusu kama wanamitindo wanastahili wasiwasi wa kimaadili ni uwezekano wa kubaki ndani ya jumuiya ya AI.
Nini Kitaendelea
Anthropic haijaripotiwa kujibu insha, na msimamo wa kampuni iliyochapishwa unabaki kuwa nukuu moja ya Suleyman: kutokuwa na uhakika, pamoja na tahadhari. Jambo jipya ni kwamba mjadala umehama kutoka kwa hati za maabara na semina za falsafa hadi kutokubaliana kwa umma kati ya wakuu wa kampuni mbili za AI za mipakani - na pande zote mbili sasa ziko kwenye rekodi, kwa maandishi, juu ya jinsi wanavyokusudia kuunda akili, au wasio na akili, ya mifumo wanayounda.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
