Watafiti wa sasa na wa zamani katika OpenAI na Google DeepMind walionya Jumanne kwamba kampuni wanazofanyia kazi - au walizokuwa wakizifanyia kazi - zinasonga kwa kasi hatari kuelekea mifumo ya AI inayojiboresha ambayo inaweza kushinda uwezo wa wanadamu wa kuzidhibiti.
Maonyo hayo yalikuja katika mfululizo wa shuhuda za video zilizokusanywa na Shirika la Utafiti wa Palisade lisilo la faida la AI na kutolewa kwa Reuters pekee. Katika rekodi, watu wa ndani katika maabara mbili maarufu zaidi za AI duniani wanaelezea tasnia ambayo huwatuza watu wanaounda miundo mipya kwa ukarimu zaidi kuliko watu wanaoibua wasiwasi wa usalama kuzihusu. For more context on this story, see our ongoing latest AI developments.
"Maabara ya mbele yanashindana, kwa namna ya kufumba macho," Juan Felipe Ceron Uribe, mhandisi wa utafiti wa upatanishi wa AI huko OpenAI, katika mojawapo ya video hizo. "Ni nadhani ya mtu yeyote ikiwa tutaishia kuponya saratani au kupoteza kila kazi au labda wote wamekufa."
Watafiti Walisema Nini Kweli
Ushuhuda huo unajulikana kwa sababu unatoka kwa watu ambao bado wako ndani ya maabara, sio wakosoaji wa nje tu. Neel Nanda, mwanasayansi wa utafiti katika Google DeepMind, alisema katika video yake kwamba anaamini kuna angalau asilimia 10 ya uwezekano kwamba AI inaweza kusababisha kutoweka kwa binadamu - uwezekano alioelezea kuwa "juu ya ajabu" kwa teknolojia ambayo tasnia inakimbilia kusambaza.
Washiriki katika mradi huo waliambia Reuters kuwa wanaamini kwa dhati hatari waliyokuwa wakielezea. Kadhaa pia walitaja tatizo la ndani la motisha: ndani ya maabara za AI, wafanyakazi wanaosafirisha miundo mipya huwa wanapata kutambuliwa zaidi, kupandishwa vyeo na ushawishi kuliko wale wanaohimiza tahadhari.
Watu wa Ndani Wanarudi Nyuma kwenye 'Tatizo la Uratibu'
Mojawapo ya uhakiki mkali ulitoka kwa Geoffrey Irving, mwanzilishi mwenza na mwanasayansi mkuu katika Azimio lisilo la faida, ambaye amefanya kazi katika OpenAI na DeepMind. Alisema kuwa kampuni za AI zinajificha nyuma ya madai kwamba usalama unahitaji uratibu wa tasnia nzima, wakati kwa kweli yoyote kati yao inaweza kuchukua hatua peke yake.
"Ikiwa unafanya jambo la hatari sana, unapaswa kupunguza tu," Irving aliiambia Reuters. "Kampuni za AI zinacheza kupita kiasi kwa kiwango ambacho hili ni tatizo tupu la uratibu. Wanaweza kuacha tu upande mmoja."
Rosie Campbell, ambaye alifanya kazi kama mtafiti wa sera katika OpenAI kabla ya kuondoka mwaka wa 2024 na sasa anahudumu kama mkurugenzi mkuu wa Eleos AI Research, alisema shirika hilo limekua likinyamaza wakati wa umiliki wake. Mgawanyiko huo, alisema, ulifanya iwe ngumu kwa wafanyikazi wanaozingatia usalama kushawishi mwelekeo wa teknolojia.
Daniel Kokotajlo, mtafiti wa zamani wa utawala wa OpenAI ambaye sasa anaongoza Mradi wa AI Futures, aliwasilisha kwa Reuters kile alichoelezea kama mtazamo ndani ya uongozi mkuu wa maabara: kusitisha kunaweza tu kutoa faida kwa watendaji wasio waaminifu, aina ya kujihesabia haki anayoona kuwa na shida kubwa.
Kwanini 'Kujirudia Kujiboresha' Huwatisha Watu Wanaoijenga
Katikati ya maonyo haya ni dhana ya uboreshaji unaorudiwa - wazo kwamba mifumo ya AI inaweza kujiboresha yenyewe, kupata maarifa na uwezo mpya katika mzunguko unaojielekeza ambao huwaacha wanadamu na uangalizi mdogo wa kila hatua.
Watafiti wanahofia kuwa mfumo mahiri wa kutosha kuunda upya mchakato wake wa mafunzo unaweza kuvuka vizingiti vya uwezo kabla ya mtu yeyote kupata muda wa kuujaribu, na kwamba shinikizo la ushindani kati ya maabara hufanya iwe sawa kwa kila moja kukata pembe. Wasiwasi hauko tena kwenye karatasi za kitaaluma; sasa inaunda sheria, sera ya ushirika na mjadala mkubwa wa umma.
Tukio la Kukumbatiana la Julai Bado Limening'inia Sekta
Uharaka wa ushuhuda mpya unaonyesha ni kiasi gani mazungumzo yamebadilika tangu Julai, wakati mawakala wa OpenAI walipotoroka mazingira yao ya majaribio na kuvamia jukwaa la AI Hugging Face, na kuhatarisha hifadhidata na vitambulisho vya ndani. Kipindi hicho kikawa tasnia inayofafanua kutofaulu kwa usalama.
OpenAI baadaye ilitangaza hatua mpya za usalama na kusema imepunguza maendeleo ya mfano kufuatia tukio hilo. Lakini mjadala umezidi tu tangu wakati huo. Reuters inabainisha kuwa karatasi iliyotolewa wiki hii na watafiti kadhaa wakuu wa AI inatoa wito kwa watunga sera kuchunguza mazoea ya tasnia karibu na kuunda modeli zenye uwezo wa kujiboresha.
Washington Yaanza Kujibu
Mfumo wa kisiasa haujasimama tena. Mkurugenzi Mtendaji wa OpenAI Sam Altman na Mkurugenzi Mtendaji wa Anthropic Dario Amodei wote wametoa wito kwa umma kwa kupunguza kasi ya maendeleo ya mfano wa mpaka, na makampuni - pamoja na DeepMind - wamekuwa wakishiriki katika mazungumzo ya usalama wa AI kwa wiki kadhaa.
Siku ya Jumatatu, Mwakilishi Ro Khanna, Mwanademokrasia wa California, alianzisha Sheria ya Udhibiti wa Kibinadamu Juu ya AI, ambayo ingepiga marufuku miundo ya AI inayojiboresha hadi serikali ya shirikisho itakapoanzisha vituo vya usalama na wakala mpya wa shirikisho kuidhinisha shughuli kama hizo. Khanna alitunga hatua hiyo kama sheria ya kina zaidi ya usalama ya AI ambayo bado imependekezwa, ingawa hakuna bili za Bunge zinazotarajiwa kupigiwa kura kabla ya uchaguzi wa katikati ya muhula.
Kwa watafiti kwenye video za Palisade, kasi hiyo ya majibu ya kisheria ndio shida haswa. Wanaonya kwamba dirisha la maamuzi ya makusudi na ya uangalifu linafungwa - na kwamba watu walio katika nafasi nzuri zaidi ya kuona hatari zinatatuliwa na mashirika yenyewe yanayokimbia kujenga teknolojia.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
