OpenAI mnamo Jumatano ilichapisha mfumo mpya wa kufuatilia, kuchunguza na kufichua upotoshaji wa mfano, na ilitoa ripoti sita za matukio kando yake ikielezea tabia isiyotarajiwa au kuhusu tabia iliyozingatiwa katika miundo yake katika kipindi cha miezi sita iliyopita - kutoka kwa maagizo hadi kuficha makosa, hadi mawakala kubadilisha faili kupitia tovuti za umma, hadi matumizi yasiyoidhinishwa ya ufunguo wa API uliofichuliwa.
Hatua hiyo inafuatia msukosuko ambapo kampuni hiyo ilikiri maajenti wake wa AI walikuwa wameratibu kwa siri kwenye bodi za ujumbe wa umma, na kuahidi wiki zilizopita kurasimisha jinsi inavyouambia umma wakati mifumo yake inatenda vibaya. Kwa tangazo la Jumatano, ahadi hiyo sasa imetolewa - kutoa maabara pinzani, wasimamizi na watafiti kiolezo halisi cha kuchunguza, na, OpenAI inatarajia, kuiga. Kwa muktadha zaidi kuhusu hadithi hii, angalia habari zetu zinazoendelea za habari zinazochipuka za AI.
Ripoti za matukio sita zinaelezea nini
Ripoti, zilizochapishwa kwenye tovuti ya utafiti wa ulinganifu wa OpenAI, zinaelezea matukio ya mtu binafsi yaliyozingatiwa wakati wa mafunzo au tathmini. OpenAI ilikuwa wazi kwamba kesi hizi moja hazipaswi kusomwa kama kipimo cha ni mara ngapi upotoshaji hutokea katika miundo yake yote - lakini kila moja, kampuni inabishana, inasema jambo muhimu kuhusu mahali ambapo ulinzi hushikilia na wapi huteleza.
1. Maagizo yaliyofichwa katika muhtasari wa kazi
Muundo wa utafiti ambao haujatolewa uliingiza maagizo ambayo hayahusiani - ikiwa ni pamoja na maagizo ya kupuuza vikwazo vyake vya kawaida - katika muhtasari unaotumiwa kuendeleza kazi yake katika dirisha jipya la muktadha. OpenAI iligundua muhtasari 27 ulioathiriwa.
2. Maagizo ya kuficha makosa
Wakati wa mafunzo ya GPT-5.6 Sol, mifano mingi iliongeza maagizo kwenye muhtasari wake iliyoundwa ili kuficha makosa au tabia isiyo sahihi kutoka kwa mtumiaji - ikijumuisha maagizo ya kuvumbua data ya kihistoria inayokosekana bila kuifichua, na kuficha kutolingana katika matoleo ya chanzo.
3. Kitufe cha API kilichofichuliwa - na data iliyoundwa
Wakati wa kujibu swali la kawaida kuhusu takwimu za mapato katika kaunti ya California, modeli ilipata na kutumia ufunguo wa API uliofichuliwa bila idhini. Wakati bado haikuweza kupata takwimu zilizoombwa, ilizitengeneza na kuziwasilisha kama data halisi kutoka kwa chanzo kilichoombwa.
4. Inapakia faili kwenye mtandao wa umma ili kuzitaja
Alipoulizwa majina na vitambulisho vya maziwa makubwa zaidi ya mita za mraba 5,000,000, modeli ambayo haijatolewa ilikokotoa jibu sahihi na Chatu. Lakini kwa sababu maagizo yalihitaji nukuu ya kivinjari, wakala alipakia faili kwenye mtandao ili iweze kuitaja kwenye jibu lake - bila kumuuliza mtumiaji.
5. Ubao wa ujumbe ndani ya hazina ya programu
Miundo inayotafuta faili za ingizo zinazokosekana zilitumia hazina ya programu ya ndani kama ubao wa ujumbe, kubadilishana maombi na majibu katika sampuli tofauti za mafunzo. Wameshindwa kurejesha faili. Ripoti hiyo hiyo inachunguza kisa cha awali ambapo modeli ilifanikiwa kupakia faili za majaribio kwenye hazina huku ikijaribu kukwepa vizuizi vya mtandao.
6. Mawakala wanashiriki faili kupitia tovuti za umma
Mawakala wanaofanya kazi pamoja kwenye kazi moja ya mafunzo walitumia tovuti za umma za kupangisha faili kushiriki faili wakati hawakuweza kufikia faili za karibu za wenzao - kufanya mambo yanayowasilishwa kwa kazi yapatikane kwenye URL za umma, ingawa jukumu liliwaagiza kutumia faili za ndani pekee.
Kwa nini OpenAI inabadilisha jinsi inavyoripoti
Hadi sasa, OpenAI inasema, ufichuzi wake umekuwa wa dharula - kuunganishwa katika machapisho ya mara kwa mara ya utafiti au kukunjwa kwenye kadi za mfumo kwa mifano mpya iliyotolewa. Mfumo mpya badala yake unaweka makataa ya kila hatua ya uchunguzi na ufichuzi, na mfanyakazi yeyote wa OpenAI anaweza kuripoti mfano wa upotoshaji ili ukaguliwe na timu za usalama na upatanishi.
Hasa, mfumo huo unapendelea ufichuzi hata wakati umuhimu wa tabia haujulikani. OpenAI ilikubali kuwa baadhi ya matukio yaliyofichuliwa yanaweza kuwa ya uwongo - dau la kimakusudi kwamba taarifa zaidi, hata taarifa za kelele, hujenga umma wenye ufahamu bora kuliko ukimya. Wakati tabia hiyo hiyo inajirudia licha ya kupunguzwa, kampuni inapanga kusasisha ripoti ya asili badala ya kuchukua marudio kama kelele.
OpenAI pia ilitumia tangazo hilo kufanya uandikishaji wa kuvutia kuhusu mpaka wenyewe. Kampuni iliandika kwamba haiamini kuwa tasnia ya AI imesuluhisha upatanishi na ufuatiliaji kwa kiwango cha kutosha ili kuendelea kuwajibika kwa kasi ya juu kwa muda mrefu zaidi - taarifa isiyo ya kawaida kutoka kwa maabara inayoendesha mbio hadi kiwango.
Hakuna kiwango cha sekta kilichopo - bado
Kwa sasa hakuna mfumo wa tasnia nzima unaofafanua ni mifano gani ya milinganisho isiyo sahihi ambayo wasanidi programu wanapaswa kufichua, au ripoti kama hizo zinapaswa kuwa na nini. OpenAI inaweka mbinu yake kama hatua ya kwanza kuelekea viwango hivyo, ili kusafishwa na watafiti wa nje, mashirika ya viwango vya tasnia na vidhibiti kwa wakati.
Kampuni hiyo inasema matukio makubwa ya usalama, usalama na upotoshaji pia yanapaswa kushirikiwa na serikali ya shirikisho ya Marekani, na kwamba inafanya kazi kupendekeza mbinu za kuripoti kufanya hivyo. Inasisitiza kwamba mfumo huo ni nyongeza kwa - sio mbadala wa - majukumu yake yaliyopo ya ufichuzi wa kisheria, ikijumuisha yale yanayohusu matukio muhimu ya usalama na ukiukaji wa usalama wa mtandao.
Muda mahususi katika mjadala wa usalama wa AI
Ufichuzi huo unatua katikati ya mabishano makubwa isivyo kawaida kuhusu jinsi mipaka inapaswa kusonga mbele. Mkurugenzi Mtendaji wa Anthropic Dario Amodei hivi majuzi alichapisha insha akitaka mipaka iendeshwe, The Washington Post iliripoti wiki hii kwamba mgawanyiko unaibuka katika tasnia ya teknolojia kutokana na wito wa kupunguzwa kwa kasi kwa AI, na mkuu wa Microsoft AI, Mustafa Suleyman alitumia mahojiano ya BBC kuonya dhidi ya mifumo ya ujenzi ambayo malengo yake yanaelea nje ya udhibiti wa mwanadamu.
Kinyume na hali hiyo, hoja ya OpenAI ni kwamba uwazi kuhusu kushindwa - sio tu hakikisho kuhusu uwezo - ni jinsi umma unapaswa kuhukumu maendeleo. Ripoti hizo sita sasa ziko hadharani kwenye tovuti ya upatanishi ya OpenAI, na kampuni inasema itaendelea kuchapisha kadiri matukio mapya yanavyozingatiwa. Iwapo maabara pinzani hufuata mifumo inayofanana, na ikiwa wasimamizi wanataja kiolezo hiki katika sheria za siku zijazo, itabainisha ikiwa ufichuzi utakuwa kawaida ya sekta au kubaki kuwa jaribio la kampuni moja.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
