Vyombo vya habari vinavyozalishwa na AI vinapofurika mtandaoni, teknolojia ya Google ya SynthID ya kuweka alama kwenye mtandao imeibuka kama mojawapo ya zana maarufu za kutofautisha maudhui halisi na taswira ya sintetiki. Jaribio jipya la dhiki kali linathibitisha kuwa alama ya maji isiyoonekana ni ya kudumu, inadumu kwa mamia ya duru za kubana, kubadilisha ukubwa, na hata picha za skrini, lakini matokeo pia yanasisitiza ukweli mgumu zaidi: lebo za kiufundi pekee haziwezi kutatua shida inayokua ya upotoshaji wa AI. Kwa ripoti inayoendelea kuhusu maendeleo ya hivi punde ya AI, matokeo yanaashiria sehemu muhimu ya ukaguzi katika mjadala wa ubora wa maudhui.
ukubwa wa tatizo ni vigumu overstate. Starling Lab, ushirikiano wa utafiti kati ya Chuo Kikuu cha Stanford na Chuo Kikuu cha Kusini mwa California, inakadiria kwamba ilichukua hadi 1975, miaka 149 baada ya uvumbuzi wa kamera, kwa ubinadamu kutoa picha bilioni 1.5. Generative AI ililingana na matokeo hayo katika miezi 18 tu. Katika mkutano wake wa I/O mwaka huu, Google ilitangaza kuwa zana zake pekee zimetumika kuunda zaidi ya picha na video za AI bilioni 100 katika miaka kadhaa.
Jinsi SynthID Inafanya kazi
Kwa sasa kuna mbinu mbili kuu za kuweka lebo kwenye maudhui yanayozalishwa na AI: alama za maji zisizoonekana kama SynthID na miundo ya metadata kama vile kiwango cha Muungano wa Uthibitisho wa Maudhui na Usahihi (C2PA). Google hutumia zote mbili. C2PA ni salama kwa njia fiche na haiwezi kughushiwa, lakini ni rahisi kuivua. Kuhariri na kuhifadhi tu picha, au kupiga picha ya skrini, kunaweza kuondoa metadata ya C2PA kabisa.
SynthID inachukua mbinu tofauti. Badala ya kutegemea metadata ambayo iko kando ya faili, alama ya maji inasimbwa moja kwa moja kwenye pikseli za picha au video, au katika muundo wa wimbi wa klipu ya sauti. Kwa sababu mawimbi yameunganishwa katika maudhui yenyewe, Google imesema inapaswa kustahimili mabadiliko, mbano, upunguzaji, na usimbaji upya ambao hutokea kawaida kama midia inapopitishwa kwenye mtandao.
Jaribio la Stress kwa Mawimbi ya Kiwango cha Pixel
Ars Technica ilijaribu madai hayo kwa kutumia hati ya Python iliyojengwa kwenye maktaba ya picha ya Pillow. Hati hii iliiga upotezaji wa data kutokana na kushiriki na kupakua mara kwa mara kwa kasi iliyoharakishwa sana, ikitumia mgandamizo wa nasibu na kubadilisha ukubwa wa thamani kwenye picha ya jaribio na kurudisha kila matokeo kama msingi wa marudio yanayofuata. Picha mbili zinazozalishwa na AI kutoka kwa muundo wa Google wa Nano Banana Pro, moja iliyoundwa kuanzia mwanzo na picha moja halisi iliyohaririwa na AI, ilitumika kama masomo.
Baada ya vizazi 300 vya kushiriki kwa kuigiza, ambapo nakala halisi ziliharibiwa na kuwa matone yasiyotambulika, alama ya SynthID bado imesajiliwa kwenye picha zote mbili. Alama hiyo ilinusurika hata katika picha za skrini nzima, kwa sababu saizi maalum za alama huhamishiwa kwenye faili mpya. Kila vizazi 50 kijaribu pia kilitoa matoleo yaliyopunguzwa ili kudhoofisha ugunduzi zaidi.
Ambapo SynthID Hatimaye Inavunjika
Mipaka ya teknolojia ilijitokeza tu chini ya hali mbaya. Baada ya mizunguko 300 ya mbano, kuondoa pikseli chache kutoka kwenye mpaka wa picha zilizoharibika za jaribio hatimaye zilivunja SynthID kwenye picha zilizozalishwa kikamilifu na zilizohaririwa na AI. Kwa sababu ishara ya watermark inasambazwa katika pikseli zote, inapinga upunguzaji wa kawaida, lakini mara uharibifu wa kutosha unapokusanyika, kigunduzi kinaweza kushindwa.
Mwanasayansi wa Google DeepMind, Pushmeet Kohli aliiambia Ars kwamba timu ilibuni mfumo huo ikitarajia ungeshambuliwa. "Kupitia mchakato mzima wa maendeleo, tulidhani kwamba teknolojia kama hii itashambuliwa," Kohli alisema. "Kwa hivyo tulifanya utafiti mwingi katika kuifanya SynthID kuwa thabiti kwa aina tofauti za mabadiliko. Iwe watu wanaongeza aina fulani ya kichujio au kupunguza picha, tulitumia mabadiliko haya na kuhakikisha kuwa kigunduzi kilikuwa thabiti dhidi yao."
Alama za Maji Hupanuka kote kwenye Sekta
Jaribio linakuja huku upitishaji wa SynthID unapoongezeka zaidi ya bidhaa za Google yenyewe. Kampuni imeanzisha ushirikiano wa kupanua matumizi ya watermark, na OpenAI, Runway, na Nvidia kati ya wale wanaoanza kuunganisha teknolojia katika zana zao za kuzalisha. Google imekuwa ikisita kutoa maelezo mengi ya kiufundi zaidi ya karatasi asili ya utafiti, ndiyo maana majaribio huru ya aina ya Ars iliyofanywa ni muhimu huku alama ya maji ikiongezeka katika mazingira ya AI.
Lebo Pekee Hazitoshi
Mvutano mkuu ambao majaribio hufichua ni kwamba hata alama ya maji yenye nguvu ni muhimu tu kama utayari wa mifumo na watu kuiangalia. Ugunduzi wa SynthID bado haujajumuishwa kwa mapana katika mitandao ya kijamii na programu za kutuma ujumbe ambapo maudhui mengi yaliyodanganywa huenea. Alama ya maji inayosalia na mizunguko 300 ya mbano hutoa ulinzi mdogo ikiwa hakuna mtu kwenye upande wa kupokea anayeichanganua.
Matokeo ya kudumu yanatia moyo kwa kweli kwa uga wa uhalisi wa maudhui. Wanapendekeza kuwa uwekaji alama wa maji usioonekana, wa kiwango cha pikseli unaweza kutumika kama uti wa mgongo wa kiufundi wa kutegemewa kwa asili. Lakini swali pana zaidi, kama jamii inaweza kujenga kanuni, miundombinu, na motisha ya kuchukua hatua kwa ishara hizo, bado haijatatuliwa. Huku wingi wa vyombo vya habari vya usanifu unavyoendelea kupanda kupita kiwango cha picha cha mabilioni 100, pengo kati ya kile ambacho teknolojia inaweza kuashiria na mifumo gani itasimamia linakuwa changamoto kuu.
Kaa Mbele ya AI
Fuatilia habari muhimu zaidi za AI sera ya uundaji, utafiti na mifumo inayounda upya mtandao.
Soma habari zaidi za AI
