OpenAI ilitangaza mnamo Oktoba 5 kwamba itaanza kuongeza alama za maji zisizoonekana kwa maandishi yanayotolewa na ChatGPT na Codex kwa watumiaji katika Umoja wa Ulaya, jibu lake halisi kwa sheria za utumiaji maandishi za Sheria ya EU AI. Katika chapisho la blogi lenye kichwa "Mtazamo wetu wa sheria za asili za maandishi za EU," kampuni hiyo ilisema uwekaji alama huo utaanza "katika wiki zijazo" kwa matokeo yanayostahiki katika kambi hiyo, mpango ulioripotiwa siku hiyo hiyo na TechCrunch, The Verge, BleepingComputer, Engadget na maduka mengine.
Teknolojia nyuma ya mabadiliko inaitwa textGrain. Badala ya kupachika alama inayoonekana, textGrain hufanya kazi kwa kudhibiti chaguo za maneno za modeli kwa hila ili maandishi yanayotokana yawe na muundo wa takwimu ambao unaweza kutambuliwa baadaye. Wasomaji hawatagundua chochote wakati wa kutumia au kunakili maandishi yanayotokana na AI; kugundua kunahitaji ufikiaji wa kigunduzi cha OpenAI, ambacho hakipatikani kwa umma kwa ujumla. Kwa mtazamo mpana wa jinsi vidhibiti na maabara zinavyogongana juu ya sheria za AI, fuata chanjo yetu inayoendelea ya sera ya AI.
Jinsi NakalaGrain Watermarking Hufanya Kazi
Mbinu ya OpenAI inarekebisha mchakato wa kuchagua tokeni wakati wa uzalishaji. Kampuni hiyo inasema textGrain "inabadilisha kidogo chaguo za maneno ya modeli ili kuunda muundo wa takwimu ambao unaweza kutambuliwa baadaye," kulingana na ripoti ya BleepingComputer. Alama ya maji haionekani wakati maandishi yanaposomwa au kunakiliwa, na OpenAI inadai haishushi ubora wa matokeo.
Upande wa ugunduzi umezuiwa kwa makusudi. Kando ya uzinduzi wa watermark, OpenAI inafungua maombi ya kigunduzi chake cha watermark, lakini ufikiaji utawekwa tu kwa watafiti walioidhinishwa na mashirika ya wataalam. Muundo huo huzuia uwezo wa ugunduzi kutoka kwa mikono ya mtu yeyote anayetarajia kuutumia silaha, lakini pia inamaanisha wachapishaji, walimu na waajiri hawawezi kuthibitisha kwa kujitegemea ikiwa kipande cha maandishi kimetiwa alama.
Ufikiaji wa API Ni Chaguo Kuingia Ulimwenguni Pote
Mamlaka ya Umoja wa Ulaya yanatumika kwa ChatGPT na matokeo ya Codex katika kambi hiyo, lakini OpenAI inawapa wasanidi programu kila mahali chaguo kwa wakati mmoja. Kuanzia Oktoba 5, wasanidi programu wa API kote ulimwenguni wanaweza kuchagua kuingia katika uwekaji alama za maandishi kwa miundo inayotumika. Kipengele hiki kinasalia kuzimwa kwa chaguo-msingi kwenye API, uamuzi wa The New Stack ulioangaziwa kama tofauti na mbinu ya Anthropic, ambayo iliwasha utangulizi wa trafiki wa Umoja wa Ulaya mapema mwaka huu katika jibu lake lenyewe kwa sheria sawa.
Mkao huo wa kuchagua kuingia utawahakikishia watengenezaji wasiwasi kuhusu athari zisizotarajiwa. Uwekaji alama za kitakwimu hubadilisha jinsi tokeni huchukuliwa sampuli, na urekebishaji wowote wa uzalishaji hubeba angalau hatari ya kinadharia ya kuhama tabia kwenye visa vya ukingo. Kwa kuweka alama kwenye bendera badala ya chaguo-msingi, OpenAI huhamisha uamuzi wa kufuata kwa kampuni zinazounda miundo yake.
Kwa nini Sheria ya EU AI Ililazimisha Hili
Masharti ya uwazi ya Sheria ya AI ya Umoja wa Ulaya yanahitaji kwamba maandishi yanayotokana na AI yatambulike kuwa yanatolewa na mashine, wajibu ambao ulisukuma OpenAI na Anthropic kuelekea miradi ya takwimu ya kuweka alama. Chapisho la blogu ya OpenAI linaangazia textGrain kama utekelezaji wake wa mahitaji hayo ya asili, na PYMNTS iliripoti uchapishaji kama mkutano wa OpenAI "mamlaka ya Sheria ya EU AI" moja kwa moja.
Muda unajulikana. Tangazo la watermark linatua katikati ya msukosuko usio wa kawaida wa mkao wa umma wa OpenAI: mzunguko huo wa habari ulileta kuondoka kwa kiongozi wa usalama David Robinson, uchunguzi wa FTC kuhusu hatari za watumiaji katika maabara kuu za AI, na mazingira ya kesi ya wanahisa ambayo yameifanya kampuni hiyo kuchunguzwa. Uwekaji alama ni mojawapo ya mahitaji machache ya udhibiti ambayo OpenAI inaweza kukidhi kikamilifu na miundombinu badala ya mabadiliko ya bidhaa, ambayo inaweza kueleza kwa nini ilisafirishwa kwanza.
Kukamata: Alama za Maji Huvunjika Chini ya Kuhariri
OpenAI yenyewe inakubali kizuizi cha kimsingi. Kampuni inakubali watermark yake inaweza kutoweka wakati maandishi yanapohaririwa, na miongo kadhaa ya utafiti juu ya lugha ya steganografia inarudisha wasiwasi huo: kufafanua, kutafsiri au hata kuandika upya kwa kiasi kunaweza kuharibu alama za takwimu. Yeyote aliyeazimia kuchafua maandishi ya AI kupitia zana ya "humanizer" atafanikiwa.
Udhaifu huo haujazuia wasimamizi kuhitaji watermarking, na haujazuia maabara kusafirisha. Lengo la kweli si uthibitisho wa kuchezewa bali ni kupandisha gharama ya udanganyifu wa kawaida kwa kiwango, mantiki ile ile inayodhibiti alama za sarafu. Wakosoaji, ikiwa ni pamoja na baadhi ya vikundi vya usalama vya AI ambavyo vimekuwa na mashaka na hatua za hiari za tasnia, wanasema kwamba vigunduzi vinavyofikiwa tu na mashirika yaliyoidhinishwa havifanyi kazi kwa walimu, wahariri au majukwaa yanayojaribu kutekeleza sera zao za maudhui ya AI.
Inamaanisha Nini kwa Watumiaji na Wasanidi
Kwa watumiaji wa ChatGPT na Codex ndani ya Umoja wa Ulaya, hakuna kitakachobadilika. Maandishi yataonekana na kuhisi sawa, na hakuna lebo itaonekana kwenye matokeo. Alama ya maji itakuwepo tu, inaweza kutambuliwa kimsingi na washirika walioidhinishwa na OpenAI.
Kwa wasanidi programu, bendera ya API hufika mara moja na inafaa kutathminiwa kwa uangalifu: kuiwasha inamaanisha kukubali mabadiliko mahiri kwenye sampuli za tokeni katika kila ukamilishaji, hata kwa watumiaji wasio wanachama wa Umoja wa Ulaya, kwa kuwa mpangilio wa API ni wa kimataifa. Timu zilizo na muda madhubuti wa kusubiri au bajeti za ubora zinaweza kutaka kuainisha kizazi chenye alama maalum dhidi ya usanidi wao wa sasa kabla ya kugeuza swichi.
OpenAI inasema maelezo zaidi juu ya mifano inayostahiki na mchakato wa maombi ya kigunduzi utafika katika wiki zijazo. Kwa vile maabara nyingine zinakabiliwa na majukumu sawa ya Umoja wa Ulaya, textGrain haiwezekani kuwa mpango wa mwisho wa kuweka alama kwenye sekta hiyo mwaka huu.
Kaa Mbele ya AI
Udhibiti ni kuunda upya jinsi bidhaa za AI zinavyofanya kazi chini ya kofia. Pata maendeleo mapya ya AI kwenye AI Buzz Wire, huku uchanganuzi wa sera na habari za muundo zikisasishwa siku nzima.
Soma habari zaidi za AI hapa.
