OpenAI mnamo Alhamisi ilichapisha akaunti yake ya kina zaidi kuhusu jinsi inavyogundua na kuvuruga "kunyunyizia maji" - matumizi yasiyoidhinishwa ya matokeo ya mfano wa mpaka kutoa mafunzo kwa mfumo shindani - na, kulingana na ripoti nyingi, imeanza kuhitaji lango la watu wengine na wauzaji kupata idhini yake kabla ya kutoa ufikiaji wa moja kwa moja kwa mifano yake.

Hatua hizo, zilizofafanuliwa katika chapisho la blogu ya OpenAI lenye jina la "Kupambana na kunereka kwa adui" na katika habari na Semafor na eWeek, zinaonyesha mkazo mkubwa wa jinsi kampuni inavyodhibiti ni nani anayeweza kusambaza tena uwezo wa modeli zake - mabadiliko yenye matokeo halisi kwa watengenezaji, waanzishaji na biashara zinazofikia mifumo ya OpenAI kupitia waamuzi.

Kwa Nini OpenAI Inachukulia Utoaji kunereka kama Tatizo la Usalama

Kunereka ni mbinu ya kawaida ya kujifunza kwa mashine ambayo mtindo mmoja hujifunza kutokana na matokeo ya mwingine. Kwa yenyewe, OpenAI inabainisha, sio haramu au isiyo ya kawaida. Wasiwasi wa kampuni ni kile inachoita kunereka kwa uhasama: mwigizaji anayetumia matokeo ya modeli ya mipaka bila idhini ya kufunza muundo mwingine wenye uwezo sawa, kisha kuutumia bila ulinzi linganifu.

Katika chapisho lake la blogi, OpenAI inadai kuwa hatari iko wazi zaidi katika vikoa vya matumizi mawili kama vile usalama wa mtandao na biolojia. Muundo unaowasaidia watetezi kupata udhaifu wa programu unaweza, punde ujuzi wake unapohamishiwa kwenye mfumo ulio na ulinzi dhaifu, kumsaidia mshambulizi kuutumia vibaya. "Adui anaweza kuharibu uwezo wa kimtandao wa mwanamitindo na kutumia modeli inayotokana kusaidia kutekeleza mashambulizi ya mtandaoni ambayo mtindo wa awali ungekataa kusaidia," kampuni hiyo iliandika.

Kulinda Mlolongo-wa-Fikra

Katikati ya utetezi wa OpenAI ni kile inachokiita hoja zilizolindwa: hatua za kati - mlolongo wa mawazo - mtindo huzalisha ndani wakati unafanya kazi kuelekea jibu. Athari hizo, kampuni inaelezea, zinaweza kuwa na habari jibu la mwisho huacha, na kuzifanya kuwa muhimu sana kama data ya mafunzo ya mfano wa maabara nyingine.

OpenAI inasema imeimarisha ulinzi wake dhidi ya uchimbaji wa hoja katika GPT-6.2 Astra na GPT-6.2 Sol. Katika tathmini ya ndani inayobadilika kwa kutumia upangaji wa timu nyekundu otomatiki, kampuni iliripoti kuwa wastani wa kiwango cha mafanikio ya uvamizi kwa kurejesha hoja zilizolindwa kilishuka kutoka 54.0% dhidi ya GPT-6 Astra yenye ulinzi wake asili hadi 0.2% dhidi ya GPT-6.2 Astra iliyo na ulinzi uliosasishwa.

Utafiti Wake wa Ndani wa Mtandao Umepatikana

Kampuni pia ilishiriki matokeo kutoka kwa uchunguzi wa ndani wa jinsi uwezo wa mtandao uhamishaji wakati wa kunereka. Miundo ya wanafunzi ilirekebishwa vyema kwenye trajectories zinazozalishwa na miundo ya walimu wanaofanya kazi za usimbaji na kazi za ulinzi wa usalama wa mtandao. Wanafunzi waliofunzwa juu ya ufuatiliaji kamili wa hoja kwa ujumla walifanya vizuri zaidi wanafunzi waliofunzwa kwa muhtasari wa hoja tu, baada ya urekebishaji mzuri unaosimamiwa na - katika bajeti kubwa zaidi za makisio zilizojaribiwa - baada ya awamu zaidi ya mafunzo ya kuimarisha, kulingana na vigezo vya OpenAI vilivyoonyeshwa kando ya chapisho.

Maana yake ni ya kutia maanani kwa mtu yeyote anayetarajia kuwa uhamishaji wa uwezo unaweza kudhibitiwa kwa kuchapisha matokeo yaliyosafishwa: hata mwingiliano unaoruhusiwa chini ya sera za matumizi unaweza, kwa jumla, kufundisha ujuzi wa kielelezo wa mwanafunzi unaojumlisha zaidi ya majukumu ambayo mwalimu alitekeleza hapo awali.

Lango na Wauzaji Sasa Wanahitaji Kuidhinishwa

Hatua za kiufundi zinakuja pamoja na mabadiliko ya sera. Kuanzia Alhamisi, OpenAI itahitaji vipanga njia vya modeli za AI na lango ambalo huwapa wahusika wengine ufikiaji wa moja kwa moja kwa miundo yake ili kupata idhini ya mapema, iliripoti eWeek. Masharti hayo yanatokana na tangazo ambalo kampuni ilitoa mnamo Oktoba likieleza jinsi ulinzi wa usalama unapaswa kutumika wakati wateja wanafikia miundo yake moja kwa moja au kupitia washirika na wauzaji waandaji.

Kulingana na muhtasari wa eWeek wa mfumo huo, huduma zinazoshiriki zinatarajiwa kudumisha viwango vinavyolinganishwa ili watumiaji wasiweze kubadilisha watoa huduma ili kukwepa vikwazo. Hatua hizi zina hatua tatu: tathmini ya hatari na majaribio dhidi ya majaribio ya kulinda-bypass kabla ya kupelekwa; ufuatiliaji wakati wa matumizi, na washirika wanaotarajiwa kuchunguza shughuli za kutiliwa shaka; na hatua za utekelezaji baada ya ukiukwaji kutokea. Semafor ilibainisha mabadiliko hayo kama OpenAI inaimarisha udhibiti wake kwenye mfumo wa ikolojia wa wauzaji ambao umekua kwa kasi karibu na API yake.

Inamaanisha Nini kwa Watengenezaji

Kwa wasanidi programu, athari ya kiutendaji ni swali jipya la utiifu la kuongeza kwa umakini wa muuzaji: ikiwa mpatanishi anayetoa miundo ya OpenAI ameidhinishwa kufanya hivyo. Biashara zinazoelekeza trafiki kupitia wajumlishi zinapaswa kuthibitisha hali ya uidhinishaji wa mtoaji wao na jinsi inavyoshughulikia vitambulisho na data, ilipendekeza eWeek.

Kwa tasnia pana, tangazo ni ishara kwamba watoa huduma za modeli wanazidi kuona udhibiti wa uwezo unaotokana - sio tu miundo yenyewe - kama eneo ambalo ni muhimu. Mizozo ya kunereka imepamba moto kote katika miaka ya hivi majuzi, na OpenAI sasa inatunga majibu yake si kama mzozo wa leseni bali kama hitaji la usalama, ikilinganisha ulinzi wa kunereka na udhibiti unaotumika kwa hatari za baiolojia na usalama wa mtandao.

Barabara ya Mbele

OpenAI inasema itaendelea kusoma ni kiasi gani cha uhamishaji wa uwezo katika modeli tofauti za wanafunzi na mapishi ya kunereka, na inakaribisha maabara zingine kujenga juu ya kazi yake ya kugundua na kutekeleza. Iwapo wapinzani wanakubali taratibu zinazolinganishwa za uidhinishaji lango - na ikiwa watumiaji wanakubali msuguano ulioongezwa - itasaidia kubainisha jinsi kizazi kijacho cha mifumo ya AI kinaundwa, na ni nani anayeruhusiwa kuijenga.

Kaa Mbele ya Curve

Je, ungependa kupata habari za hivi punde kuhusu miundo ya AI, usalama na sera inapotokea? Fuata habari zinazochipuka za AI kwenye AI Buzz Wire.

Soma habari zaidi za AI →