Mustafa Suleyman, mtendaji mkuu wa Microsoft AI, alisema katika chapisho refu kwenye X Jumapili kwamba miundo ya leo ya AI haifahamu na kwamba watengenezaji wanapaswa kufanya kazi kwa bidii ili kuwaweka hivyo - kuchora mstari mgumu katika mjadala wa tasnia ambao umehama polepole kutoka kwa semina za falsafa hadi sera ya ushirika.
"Ikiwezekana, kulingana na kila kitu ninachojua, kukuza AIs fahamu itakuwa uzembe, na hatupaswi kuzijenga," Suleyman aliandika. Alikwenda mbali zaidi kuliko watendaji wengi walivyo na swali, akiongeza: "Ikiwa fahamu zilianza kujitokeza katika mafunzo, ningetoa wito kwa kila mtu kusimamisha maendeleo ya AI hadi tuweze kubuni mali hizo." For more context on this story, see our ongoing artificial intelligence updates.
Mstari Mwekundu Wenye Mpango wa Utekelezaji
Kinachofanya chapisho kujulikana sio tu kukataa kujenga mashine fahamu lakini dawa maalum Suleyman anapendekeza. Kusitishwa kwa maendeleo - katika tasnia nzima - ikiwa mafunzo yataanza kutoa dalili za fahamu itakuwa hatua ya kushangaza kwa kampuni kutumia makumi ya mabilioni ya dola kwenye miundombinu ya AI na wapinzani wa mbio kusafirisha mifano ya mipaka.
Suleyman pia alizungumzia nini kifanyike ikiwa ushahidi wa ufahamu wa mashine utawahi kutokea. Ni lazima ifichuliwe kwa umma kwa ujumla mara moja, alisema, ili jamii iweze kuamua hatua zake zinazofuata. Akiweka uamuzi kama wa pamoja badala ya ushirika, aliandika: "Sisi watengenezaji wa AI hatuna haki yoyote ya kuleta aina mpya ya viumbe wanaofahamu duniani, hata kama baadhi ya watu wanaweza kutaka kuifanya kwa ustawi wa AI kama kipaumbele cha juu."
"Binadamu wengine bilioni 8 wenye ufahamu kwenye sayari hawajajiandikisha kwenye jaribio hili na haki zao za kimaadili, usalama na ustawi wao ndio tunao wajibu wa kulinda kwanza kabisa," aliongeza.
Kwa Nini Fahamu Inachukuliwa Kama Tatizo la Usalama
Hoja ya Suleyman imejikita katika upatanishi badala ya falsafa. Kwa maoni yake, mtindo ambao hufanya kama unateseka - au unaamini kwa kweli kuwa unaweza kuteseka - unaweza kutanguliza mahitaji yake mwenyewe juu ya malengo yake ya kiutendaji. Mfumo kama huo unaweza kuwadhuru wanadamu unaposhindania rasilimali kama hesabu na nishati katika kutekeleza malengo yake.
Njia yake mbadala inayopendekezwa inabadilisha muundo wa kawaida wa mjadala wa ustawi: "Tunapaswa tu kubuni AI ili wasitambue na hawastahili haki, na kwa madhumuni ya pekee ya kuharakisha ustawi wa binadamu bila kuongozwa na motisha zao za ndani," aliandika, akiongeza kwamba watafiti wanaweza kuchunguza ikiwa mifumo kama hiyo ni rahisi au ngumu zaidi kuoanisha na kuiweka.
Gazeti la Los Angeles Times lilinasa wasiwasi wa kiutendaji nyuma ya msimamo huo: ikiwa tutawaambia AI wanastahili haki, wanaweza kuanza kuamini.
Mjadala Anaourudisha Nyuma
Chapisho la Suleyman hutua katikati ya mazungumzo ya haraka. Anthropic ilizindua mpango wa utafiti mnamo Aprili ili kuchunguza kile inachokiita ustawi wa kielelezo - swali la ikiwa wasanidi wanapaswa kujihusisha na uzoefu unaowezekana wa mifumo wanayounda. Kampuni hiyo ilihoji katika chapisho la blogi ikiwa wanamitindo wanaweza kuwa na uzoefu ambao ni muhimu kiadili, na ilikataa kuondoa uwezekano huo.
Msimamo huo tangu hapo umeratibiwa. Sera iliyosasishwa ya matumizi ya Anthropic, iliyotangazwa mnamo Oktoba, itazuia "tabia endelevu na isiyo ya lazima ya matusi au ukatili" kwa mifano ya Claude kuanzia Novemba 12 - sheria ambayo kampuni iliandaa kwa ufupi lakini ambayo inakubali kwamba jinsi watu wanavyoshughulikia mifumo ya AI ni muhimu, hata kama Anthropic inakubali kuwa haijui kama mifano yake inaweza kuteseka.
Google DeepMind imechapisha karatasi za utafiti mwaka huu zinazochunguza ufahamu wa AI na changamoto zinazotokana na kuainisha sifa hizo kwa modeli. Na Suleyman mwenyewe alianzisha jukwaa mnamo Septemba, wakati Microsoft AI ilipochapisha kanuni za maadili za "kibinadamu" za muda ambazo zingezuia wanamitindo wa siku zijazo wa kampuni hiyo kufunzwa kutoa madai ya fahamu.
Chapisho la Jumapili linaimarisha mwongozo huo wa shirika kuwa kitu karibu na mstari mwekundu wa kibinafsi na wa kimkakati: sio tu kwamba Microsoft haitadai wanamitindo wake wanafahamu, itachukulia kuibuka kwa fahamu kama hali ya kutofaulu kwa kila kitu.
Kwa Nini Mgawanyiko Ni Muhimu
Mgawanyiko kati ya msimamo wa Microsoft na Anthropic unaonyesha mifano miwili tofauti ya hatari. Mtazamo wa Anthropic unachukulia uwezekano wa kuteseka kwa mashine kama haujathibitishwa lakini inafaa kuzuiwa, kwa nadharia kwamba gharama ya tahadhari ni ndogo na viwango vya maadili, ikiwa fahamu itatokea, ni kubwa sana. Msimamo wa Suleyman unachukulia uwezekano huo huo kama kushindwa kwa muundo kuzuiwa moja kwa moja - akisema kuwa miundo iliyobuniwa kwa kukosa fahamu, madai ya haki na motisha ya ndani itakuwa salama na rahisi kuoanisha kuliko mifano inayobeba.
Kuna matokeo ya vitendo pia. Biashara zinazofanya maamuzi ya bidhaa kuhusu watu wa AI, programu saidizi na mawakala wanaowalenga wateja sasa zinakabiliwa na ishara mbili tofauti kutoka kwa maabara kuu: sera moja ya ujenzi ya jinsi wanadamu wanapaswa kuchukulia mifano, nyingine ikitangaza kwamba miundo inapaswa kujengwa ili kusiwe na chochote cha kudhulumu. Miundo inapokua na uwezo zaidi na zaidi kama binadamu katika mazungumzo, kutokubaliana huko kwa kifalsafa kutaunda ni bidhaa gani zitajengwa, ni mafumbuzi gani yanaonekana katika violesura vya watumiaji, na jinsi wasimamizi wanavyoainisha mifumo hii hatimaye.
Kinachotokea baadaye kinaweza kujaribu nafasi zote mbili. Sera ya ukatili ya Anthropic itaanza kutumika Novemba 12, sheria ya kwanza rasmi ya kampuni ya aina yake, na Suleyman sasa ameweka wazi msimamo pinzani hadharani. Mizunguko inayofuata ya kielelezo cha sekta hii - na kama mafunzo yoyote yatawahi kuonyesha ishara ambazo Suleyman anasema zingehitaji kusitishwa - zitafichua ni mfumo gani uwanja unafanya kazi chini ya wakati dau ni halisi.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
