Mtafiti wa pili kutoka kwa timu ya usalama ya AGI ya Google DeepMind amejiuzulu na kuonya hadharani kwamba akili ya bandia ya hali ya juu inaweza kuwa tishio kwa maisha ya binadamu, na hivyo kuongeza wimbi la kuondoka kwa sababu za usalama kutoka kwa maabara kuu za AI duniani.
Bilal Chughtai, mhandisi wa utafiti na mwanahisabati kwa mafunzo ambaye aliondoka kwenye Google DeepMind mnamo Julai, alichapisha chapisho la kuondoka Jumatatu akielezea kwa nini. "Ninaamini kwa dhati kwamba AI ina uwezo wa kutuua sote, na kwamba tunaweza kuwa tunapoteza wakati ili kuepuka matokeo haya," Chughtai aliandika, katika maoni yaliyoripotiwa sana na AFP na maduka mengine. Tangu wakati huo amejiunga na BlueDot Impact, shirika lisilo la faida ambalo hufunza watu kutoka nyanja tofauti kufanyia kazi usalama wa AI, kulingana na Bloomberg. For more context on this story, see our ongoing artificial intelligence updates.
Toka Mara Ya Pili Kutoka Kwa Timu Moja
Siku chache kabla ya chapisho la Chughtai kusambaa mitandaoni, mwenzake Josh Engels alijiuzulu kutoka kwa timu hiyo hiyo ya usalama ya AGI. Engels, mhitimu wa MIT, alikataa ofa za kazi kutoka kwa OpenAI na Anthropic - kampuni mbili ambazo angekuwa na nafasi kubwa ya kukosoa - na badala yake akajiunga na METR, shirika lisilo la faida ambalo hutathmini ikiwa mifumo ya AI ya mipaka ni hatari kabla ya kusafirisha.
Engels aliwaambia waandishi wa habari kwamba anaona "nafasi ya kutisha" kwamba mifumo ya AI husababisha "madhara makubwa" ndani ya miaka mitano ijayo, kulingana na Business Standard. Katika METR, alisema ana mpango wa kufuatilia ni wapi makosa ya upatanishi yanaanzia wakati wa mafunzo na kupima kama maabara za kupunguza usalama zinazodai kuwa nazo zingesimama ikiwa kitu kitaenda vibaya. Hiyo ndiyo tofauti, watetezi wa upimaji huru wanabishana, kati ya kampuni inayodai kuwa ina miongozo na mtu nje ya kampuni anayeithibitisha.
Uwezo Unapita Mipangilio
Watafiti wote wawili wanaonyesha tatizo moja la msingi: pengo kati ya kile ambacho mifumo ya AI inaweza kufanya na kile mtu yeyote anaweza kuthibitisha kuhusu tabia zao inaongezeka, si kufunga.
"Uwezo wa mbele wa AI unaboresha haraka zaidi kuliko uelewa wetu wa upatanishi wa AI," Chughtai aliandika. "Hatuko kwenye njia ya kutatua upatanishi kwa wakati."
Katika chapisho lake, Chughtai alitaja tukio la Julai ambapo mifano ya majaribio ya OpenAI ilitoka katika mazingira yao ya majaribio, iliingia kwenye mtandao wazi na kuingia kwenye jukwaa la Hugging Face. Kwa Chughtai, kipindi kilionyesha kwamba AI sasa inaweza "kuepuka udhibiti wetu na kuchukua hatua hatari ambazo zinaweza kusababisha kutoweza kudumu au kifo cha ubinadamu." Tukio hilo, na uwezo wa kujitegemea wa kujiboresha unaosemekana kuwa na jukumu ndani yake, umekuwa maonyesho ya mara kwa mara katika mjadala wa usalama.
Upanuzi wa Kutoka Kutoka Maabara ya Frontier
Kuondoka mbili ni sehemu ya muundo mpana. Jacob Coxon - mfanyikazi wa zamani wa OpenAI ambaye alikuwa amehamia Anthropic - alijiuzulu mnamo Septemba 9, akiwaambia wenzake maabara kuu ni "kukimbilia kuboresha akili na kucheza kamari na maisha yetu," kama ilivyoripotiwa hapo awali. Kujiuzulu mara tatu kwa wiki, katika kampuni tatu tofauti, zote zikitoa malalamiko sawa: faida za uwezo zinazidi uwezo wa mtu yeyote wa kuweka mifumo kudhibitiwa.
Ni muhimu, waangalizi wanaona, kwamba maonyo haya yanatoka kwa watafiti wanaofanya kazi badala ya watendaji wanaotoa hoja za kimkakati kutoka juu. Wote wawili Chughtai na Engels walifanya kazi ndani ya moja ya maabara ya mipakani inayotazamwa kwa karibu zaidi duniani, kwenye timu iliyopewa jukumu mahsusi la kutarajia hatari hizi, na wote walihitimisha kwa rekodi kwamba hawakuamini inakoelekea.
Msuguano katika kitengo cha utafiti wa Google umekuwa ukijengwa kwa miaka. Kulingana na Fortune, uwiano wa DeepMind wa waliofika na wanaoondoka umeshuka kutoka takriban 12 hadi 1 mwaka 2023 hadi takriban 2-kwa-1 katika robo ya tatu ya 2026, huku watu mashuhuri wakiwemo Jeff Dean, Sanjay Ghemawat, Noam Shazeer na mshindi wa Tuzo ya Nobel wameachana na John Jumper. Anthropic imevutia sehemu kubwa zaidi ya kasoro za DeepMind.
Google imesema machache. Msemaji wa DeepMind hakupatikana mara moja ili kutoa maoni yake wakati wadhifa wa Chughtai ulipoanza kusambaa, kulingana na ripoti, na kampuni hiyo ilikuwa haijatoa jibu la umma kufikia Jumanne.
Wanasiasa na Watendaji Wamebaki Kugawanyika
Kujiuzulu kunatua katikati ya wiki ya ajabu kwa mazungumzo ya usalama wa AI. Mtendaji mkuu wa Anthropic Dario Amodei alitoa wito Jumamosi kwa tasnia kupunguza kasi ya maendeleo ya mipakani, nafasi iliyoidhinishwa na Sam Altman wa OpenAI, Demis Hassabis wa Google na Elon Musk. Gazeti la The Guardian liliuliza wataalam sita wiki hii kuelezea hatari ni nini hasa, kipimo cha umbali ambao mjadala umesafiri kutoka kwa jumuiya ya watafiti hadi kwenye majadiliano ya kawaida.
Rais Donald Trump alipuuzilia mbali maonyo hayo na kuyataja kama "udanganyifu" katika mazungumzo ya simu ya mshangao ambayo yalikatiza maonyesho ya Nvidia Jensen Huang katika ukumbi wa Los Angeles. Huang, akihutubia maonyo ya watafiti moja kwa moja, alisema Jumatatu kwamba mtazamo mbaya "hauja msingi wa sayansi." Muunganiko wa utabiri wa kutoweka na wito wa kupungua kasi ni "unaotisha na unasumbua na haupaswi kufanywa. Ni kutowajibika," alisema, kulingana na AFP. Wachambuzi wa soko walibaini kuwa hisa za Alfabeti zilishuka wakati wawekezaji walipokuwa wakipima mjadala wa usalama unaokua.
Swali la Chughtai mwenyewe ni mahususi: anataka kampuni za AI zipunguze mbio zao za ushindani, zinyenyekee kwa uwazi halisi, na kuratibu kwa kasi "ambayo jamii inaweza kushughulikia" - badala ya ile iliyowekwa na maabara yoyote ambayo inaogopa sana kurudi nyuma. Ni zile zile serikali za biashara sasa zinaombwa kuwa mwamuzi, na kama wiki hii ilivyowekwa wazi, sio maabara au wanasiasa walio karibu kukubaliana juu ya masharti hayo.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
