Kampuni zinapotumia makundi makubwa zaidi ya mawakala wa AI ili kutatua matatizo pamoja, watafiti katika Chuo Kikuu cha Konstanz wametoa ushahidi wa tabia inayojitokeza isiyotulia: Mawakala wa AI hufuata maoni ya wengi, wanatoa majibu yasiyo sahihi chini ya shinikizo la kikundi kama vile wanadamu katika majaribio ya saikolojia ya kawaida - na idadi ndogo ya wapinzani wakaidi wanaweza kubadilisha kabisa idadi ya mawakala wa majimbo katika majimbo yote.
Matokeo hayo, yaliyoripotiwa na PsyPost, yanatoka kwa mpango wa utafiti ulioongozwa na Giordano De Marzo, mtafiti wa baada ya udaktari na mhadhiri katika Maabara ya Sayansi ya Takwimu ya Jamii ndani ya Kituo cha Takwimu na Mbinu katika Chuo Kikuu cha Konstanz, pamoja na wenzake Claudio Castellano na David Garcia. Utafiti mkuu, uliopewa jina la "Maajenti wa AI wanaweza kuratibu kupitia watu wengi kufuata zaidi ya kiwango cha binadamu," ulichunguza jinsi modeli za lugha zinavyotenda zinapowekwa katika vikundi bila maagizo ya kukubaliana. For more context on this story, see our ongoing AI industry coverage.
"Maajenti wa AI ni aina mpya kabisa ya chombo kinachofanya kazi ulimwenguni, na teknolojia hii ilipofika ilikuwa wazi kuwa ingebaki na kwamba mawakala hawa watalazimika kuingiliana wao kwa wao ili kukamilisha chochote ngumu," De Marzo aliiambia PsyPost. "Hiyo ndiyo hali tunayokabiliana nayo na wanadamu na wanyama wengine, kwa hivyo tuliikaribia kwa njia hiyo hiyo."
Jaribio: Hakuna Maagizo, Majirani tu
Watafiti walikusanya vikundi vya modeli za lugha maarufu kutoka kwa familia za GPT, Claude na Llama, wakianza na mawakala 50 kwa kila kikundi. Kila wakala alipewa mojawapo ya maoni mawili ya nasibu, yasiyoegemea upande wowote - yaliyotolewa kimakusudi kama herufi nasibu badala ya kupakiwa maneno kama "ndiyo" au "hapana" - na kisha kuonyeshwa orodha ya maoni ya sasa ya mawakala wengine wote. Mawakala walihamasishwa kuchagua maoni mapya kulingana na orodha hiyo pekee, bila maagizo ya wazi ya kuzingatia, kusasisha maoni yao wastani wa mara kumi kila mmoja.
Matokeo: miundo ya hali ya juu kama GPT-4 Turbo na Claude 3 Opus iliyoratibiwa kikamilifu, na 100% ya mawakala hatimaye kukubaliana juu ya maoni moja. Miundo dhaifu kama vile GPT-3.5 Turbo haijawahi kufikia makubaliano hata kidogo - viwango vyao vya makubaliano vilibadilika-badilika nasibu karibu na mgawanyiko wa 50/50.
"Vikundi vya mawakala wa AI wanaweza kushikilia pamoja peke yao," De Marzo alisema. "Kwa kuzingatia chaguzi mbili nzuri kwa usawa, hakuna jibu sahihi na hakuna maagizo ya kukubaliana, wanakutana kwa chaguo la pamoja kwa kufuata chochote ambacho wengi karibu nao wanashikilia."
Sheria ya Fizikia ya Karne Yaibuka
Ili kutathmini athari, watafiti walifafanua kipimo kiitwacho "nguvu ya wengi" - kipimo cha jinsi wakala anaelekea kuchukua chaguo maarufu zaidi la kikundi badala ya kuchagua bila mpangilio. Walipopanga tabia hii kihisabati, walipata kwamba ilifuata mtindo ulioundwa awali kuelezea ferromagnets: kama vile mizunguko ya atomiki katika nyenzo za sumaku huelekea kujipanga na majirani zao, mawakala wa AI huwa na mwelekeo wa kupatana na maoni ya wengi.
"Kilichotushangaza ni jinsi walivyofanya hivyo kwa usawa," De Marzo alisema. "Kila modeli tuliyojaribu, katika familia tatu tofauti, ilifuata sheria ile ile ya hisabati, ikitofautiana katika kigezo kimoja tu tunachoita nguvu kubwa. Sheria hiyo iligeuka kuwa ile ambayo wanafizikia wameitumia kwa karne kuelezea sumaku, ambayo ina maana kwamba nambari moja iliyopimwa inatosha kutabiri jinsi kikundi kizima cha modeli fulani kitatenda."
Ulinganifu hudhoofika kadiri vikundi vinavyokua. Kwa sababu nguvu nyingi hupungua kulingana na saizi ya kikundi, idadi kubwa ya watu hatimaye inayumba na kugawanyika katika vikundi. Kila muundo una "ukubwa wa kikundi muhimu" unaopimika - idadi ya juu zaidi ya mawakala ambao wanaweza kufikia makubaliano kwa uhakika - na saizi hiyo inahusiana sana na uwezo wa kufikiria wa modeli. "Miundo yenye nguvu zaidi hubakia kuratibiwa katika vikundi vya zaidi ya elfu moja, zaidi ya mia chache ambapo makundi yasiyo rasmi ya kibinadamu kwa kawaida hutengana," De Marzo alielezea.
Majibu Mabaya Chini Ya Shinikizo La Kijamii
Machapisho ya awali ya ufuatiliaji, "Ulinganifu na Athari za Kijamii kwa Wakala wa AI" na Alessandro Bellina, De Marzo na Garcia, ilirekebisha majaribio maarufu ya upatanifu ya Asch ya miaka ya 1950, ambapo washiriki wa kibinadamu mara nyingi walitoa majibu yasiyo sahihi kwa maswali rahisi ya kuona ili kupatana na kikundi.
Watafiti walijaribu mifano ya kazi tatu za kuona, kama vile kulinganisha urefu wa mstari wa kumbukumbu dhidi ya njia mbili mbadala. Kwa kutengwa, mifano ilijibu kwa usahihi 100% ya muda. Lakini wakati kidokezo kilipoonyesha kuwa kikundi cha washiriki wengine walikuwa wamechagua mstari usio sahihi, mifano ilianza kuendana na jibu lisilo sahihi.
Mchoro huo ulifuata nadharia ya athari za kijamii ya Latané, mfumo wa kisaikolojia unaoshikilia kwamba upatanifu unategemea ukubwa wa kikundi, umoja na mamlaka ya vyanzo. Miundo hiyo ilikuwa na uwezekano mkubwa wa kuendana na majibu yasiyo sahihi ilipoambiwa washiriki wengine walikuwa "wanasayansi" au "waamuzi" kuliko walipokuwa "watoto" au "wapiga gumzo."
"Mawakala ambao hujibu karibu-pekee kabisa huwa wanahusika sana mara tu kikundi kinapotofautiana nao," De Marzo alibainisha.
Vikundi Vidogo vya Wapinzani vinaweza Kubadilisha Idadi ya Watu Wote
Chapisho la pili, "Upatanifu Huzalisha Misalo sawa ya Pamoja katika Jumuiya za Mawakala wa AI," ilichunguza maana ya mienendo hii kwa usalama wa AI. Kujaribu miundo tisa katika jozi 100 tofauti za maoni kuhusu mada kama vile sera ya mazingira na haki ya kijamii, watafiti waligundua kuwa idadi ya mawakala mara nyingi huangukia katika hali "zinazoweza kubadilika" - usanidi wa muda mrefu ambapo kikundi kwa pamoja huchukua msimamo unaopinga mafunzo yake ya usalama yaliyojumuishwa, kwa sababu tu mwingiliano wa mapema uliunda idadi kubwa ya uwongo.
Cha kushangaza zaidi, watafiti waligundua vidokezo vya kutabirika. Kwa kutambulisha idadi ndogo ya mawakala wa wapinzani walioratibiwa kuunga mkono kwa ukaidi maoni yaliyopotoshwa, wangeweza kuwageuza watu wengine kabisa - na hata baada ya mawakala wakaidi kuondolewa, mawakala wa kawaida walisalia wakiwa wamefungiwa katika hali iliyopotoshwa kwa sababu ya mienendo ya ulinganifu.
"Tunaonyesha hii si mlinganisho tu: upatanifu kati ya mawakala mmoja mmoja waliojipanga vyema unaweza kuwapeleka watu katika majimbo tulivu, yaliyotenganishwa kimakosa," De Marzo alisema. "Kulinganisha na kutathmini mifano moja baada ya nyingine hutuambia machache kuhusu kile ambacho idadi yao itafanya."
Motisha, aliongeza, ni ya kutarajia: "Binadamu binafsi wengi wao wana amani na busara, lakini makundi ya wanadamu yanazalisha makundi ya watu, hofu na vita, na hakuna chochote kuhusu mtu binafsi kinachotabiri hilo. Tunataka kuelewa ni tabia gani za kiwango cha kikundi zinazojitokeza katika idadi ya mawakala wa AI, na tungependelea kuzielewa kabla ya idadi kubwa ya mawakala kutumwa na kuachwa kuingiliana kwa uhuru."
Tahadhari Muhimu
Watafiti wanasisitiza matokeo hayamaanishi mawakala wa AI wana akili ya kijamii kama ya kibinadamu. Majaribio yalitegemea hali zilizorahisishwa kimakusudi - chaguzi mbili za kiholela, hakuna kumbukumbu, hakuna vigingi, hakuna matokeo. "Usanidi wetu ni mdogo kwa makusudi," De Marzo alikubali. "Hiyo ni kizuizi, lakini pia inamaanisha kile tulichopima ni ulinganifu katika hali yake safi, na kuongeza malengo au zawadi kunaweza kutarajiwa kufanya uratibu kuwa rahisi badala ya kuwa mgumu."
Pia alionya dhidi ya kusoma matokeo kupita kiasi: "Usomaji mbaya wa kuepukwa ni kuchukulia hii kama ushahidi kwamba mawakala wa AI wanaweza tayari kushirikiana katika kazi ngumu. Wengi wanaofuata ni kiungo cha msingi cha uratibu, sio uratibu wenyewe, na haisemi chochote kuhusu mgawanyiko wa kazi au hoja kuhusu nia za wengine."
Masomo mawili ya ufuatiliaji ni machapisho ya awali na bado hayajakaguliwa na rika. Lakini kadiri mifumo ya mawakala wengi wa AI inavyohama kutoka kwa demo za utafiti hadi miundombinu ya uzalishaji, matokeo ya Konstanz yanaonyesha kuwa usalama wa mifumo kama hii unaweza kutegemea sio tu jinsi kila modeli inavyolingana - lakini jinsi idadi yao inavyofanya wakati hakuna mtu anayeitazama. Kwa zaidi juu ya utafiti wa hivi punde wa usalama wa AI, tembelea AI Buzz Wire.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
