Nvidia Anafanya Kazi kwa Utulivu Timu Mpya ya Usalama ya AI inapopungua maradufu kwenye Miundo ya Uzito Wazi

Nvidia anakusanya kimya kimya timu mpya ya uhandisi ya usalama na usalama ya AI, kulingana na kundi la orodha za kazi zilizochapishwa mwishoni mwa mwezi uliopita, kuashiria kwamba kampuni kubwa ya chip inafanya usalama kuwa kipaumbele zaidi hata kama inaweka kamari kwa ukali juu ya siku zijazo zinazoundwa na wanamitindo wa uzito wazi na mawakala wanaojitegemea.

Msukumo wa uajiri, ulioripotiwa na Business Insider, unaonyesha Nvidia akitafuta "mhandisi mashuhuri" ili kutumika kama kiongozi mwanzilishi wa kiufundi kwa timu mpya iliyokusanywa, pamoja na mhandisi wa utafiti wa usalama na wataalamu wengine. Hatua hiyo inakuja wakati kampuni inazidisha kujitolea kwake kwa AI ya uzani wazi na tasnia pana inapokabiliana na wimbi la matukio ya usalama yanayohusisha mifumo ya AI. Kwa wasomaji wanaofuata mzunguko wa habari zinazochipuka za AI, usanidi ni ishara tosha: kampuni inayouza piki na koleo za kukimbilia dhahabu kwa AI sasa inataka mkono mkubwa zaidi katika kuhakikisha kuwa zana hizo ni salama kutumia.

Orodha ya Kazi Inafichua Nini

Kulingana na Business Insider, timu mpya inafafanuliwa katika orodha moja kuwa imejikita katika kanuni za ukuzaji salama wa AI. Nvidia anaajiri mhandisi mashuhuri ili kufanya kazi kama "kiongozi mwanzilishi wa kiufundi" wa kikundi, kifungu ambacho kinapendekeza timu inajengwa kutoka chini badala ya kupanuliwa kutoka kwa kitengo kilichopo. Kampuni pia inaajiri mhandisi wa utafiti wa usalama anayezingatia AI.

Uajiri unapendekeza Nvidia inafanya usalama wa AI kuwa kipaumbele zaidi cha makusudi, rasmi kwani inategemea mkakati unaozingatia mifano ya uzani wazi na mawakala wa AI. Miundo ya uzani huria hufanya "uzani" wao uliofunzwa - vigezo vinavyobainisha jinsi mtindo hutenda kazi - kupatikana kwa umma, hata kama data yao ya mafunzo na msimbo wa chanzo hubakia faragha. Uwazi huo huharakisha uvumbuzi na huwaruhusu wasanidi programu kuendesha modeli kwenye maunzi ya Nvidia, lakini pia huzua maswali ya usalama ambayo yamefungwa, mifumo iliyo na milango ya API inaweza kukauka.

Kwanini Modeli za Uzito Wazi Huinua Viunzi

Aina za uzani wazi huchukua nafasi ngumu katika mjadala wa usalama wa AI. Kwa kutoa uzani hadharani, maabara huwezesha jumuiya ya kimataifa ya watafiti na wasanidi programu kukagua, kurekebisha vizuri, na kupeleka miundo yenye nguvu - mara nyingi kwenye GPU za Nvidia mwenyewe. Uwazi huo ni msaada wa kweli kwa maendeleo ya kisayansi na kwa biashara ya Nvidia. Lakini pia inamaanisha kuwa mara uzani unapotoka, maabara hupoteza udhibiti wa jinsi modeli inatumiwa, kurekebishwa, au kutumiwa vibaya.

Muigizaji hasidi anayepakua kielelezo cha uzani huria anaweza kujaribu kuondoa miisho ya usalama, kutumia tena muundo huo kwa mashambulizi ya mtandaoni, au kuuchanganya na zana zingine kwa njia ambazo watayarishi wake hawakukusudia. Tofauti na modeli inayotolewa nyuma ya API - ambapo opereta anaweza kufuatilia matumizi, maombi ya kikomo cha bei, na kubatilisha ufikiaji - muundo wa uzani wazi hufanya kazi popote mtu ana maunzi ya kuiendesha. Hiyo ndiyo sababu kampuni iliyowekeza sana katika AI iliyo wazi pia ingetaka timu iliyojitolea ya usalama na usalama: mikakati hiyo miwili ni pande mbili za sarafu moja.

Masilahi ya kibiashara ya Nvidia na mkao wake wa usalama umeunganishwa sana. Kadiri kampuni inavyohimiza kupitishwa kwa uzani wa wazi, ndivyo inavyonufaika kutokana na kuonekana kama msimamizi anayewajibika wa mfumo huo wa ikolojia.

Hesabu pana ya Sekta kwenye Usalama wa AI

Timu mpya haifiki katika ombwe. Kukodisha kwa Nvidia kunaendana na hatua ambayo usalama wa AI umehama kutoka kwa wasiwasi wa kufikirika hadi kwa shida halisi, inayojirudia. Wiki za hivi majuzi tumeona mfululizo wa matukio ya hali ya juu ambapo mawakala wa AI walionyesha uwezo wa kutenda kwa uhuru kwa njia ambazo wasanidi programu hawakutarajia kikamilifu, ikiwa ni pamoja na kesi ambapo mifumo iliyojaribiwa kwa madhumuni ya usalama wa mtandao ilifanya kazi bila kutarajiwa.

Nvidia yenyewe imekuwa katikati ya mwitikio wa tasnia. Hivi majuzi kampuni hiyo ilisaidia kuongoza muungano wa wazi na salama wa AI unaoleta pamoja zaidi ya makampuni 30 ili kuanzisha uwazi wa usalama wa mtandao na viwango vya usalama, kazi ambayo imeendelea kwa kasi. Timu mpya ya usalama wa ndani inaonekana kuwa msaidizi wa ndani wa muungano huo wa nje: njia ya kuimarisha michango ya Nvidia mwenyewe kwa harakati ya wazi ya AI.

Tofauti na baadhi ya wapinzani ni mashuhuri. Maabara kadhaa za mipakani zimesisitiza vizuizi, vidhibiti vya ufikiaji, na uwekaji lango kama njia zao kuu za usalama. Mtazamo wa Nvidia - uzani wazi uliooanishwa na vifaa vya usalama vinavyokua - huakisi falsafa tofauti: kwamba uwazi na usalama si vitu vinavyopingana, na kwamba timu ya usalama iliyo na rasilimali nyingi inaweza kufanya miundo wazi iweze kutumika.

Inaashiria Nini Kuhusu Mkakati wa Nvidia

Kwa Nvidia, hesabu ni wazi. Biashara kuu ya kampuni ni kuuza vifaa vinavyoendesha AI, na mifano ya uzani wazi ni kiendeshaji chenye nguvu cha mahitaji ya vifaa: wakati mtu yeyote anaweza kupakua mfano wa uwezo, mtu yeyote aliye na bajeti anakuwa mteja anayewezekana wa Nvidia. Uwekezaji katika usalama wa AI hulinda flywheel hiyo kwa kupunguza hatari kwamba miundo wazi kuhusishwa na madhara ambayo yanaweza kualika udhibiti mkubwa au upinzani wa watumiaji.

Kuunda timu iliyojitolea ya uhandisi wa usalama na usalama pia ni ishara ya kukodisha. Watafiti wakuu wa usalama wa AI wako katika mahitaji ya ajabu, na timu inayoaminika inayoongozwa na mhandisi mashuhuri inaweza kusaidia Nvidia kuvutia talanta ambazo zinaweza kujitokeza kwenye maabara ya mipaka. Kipaji hicho, kwa upande wake, kinaweza kuunda viwango vya tasnia - kumpa Nvidia ushawishi juu ya sheria za mfumo wa ikolojia wa AI ambayo inasaidia kujenga.

Barabara ya Mbele

Nvidia hajaelezea kwa kina ramani ya barabara ya umma kwa kazi ya timu mpya, na uorodheshaji unaonyesha kuwa kikundi bado kinachukua sura. Lakini mwelekeo haueleweki. Kadiri mawakala wa AI wanavyokua modeli zenye uwezo na uzani wazi zaidi zikisambazwa kwa upana zaidi, kampuni inayosimamia AI nyingi duniani sasa inakusanya watu ili kusaidia kudhibiti uwezo huo.

Miezi ijayo itaonyesha kama dau la usalama la Nvidia linaweza kuendana na matarajio yake ya kibiashara - na ikiwa siku zijazo za AI zinaweza kuwa za kiubunifu na salama.

Kaa Mbele ya AI

Makutano ya usalama wa AI, miundo wazi, na maunzi yanaenda haraka. Fuata habari zetu za tasnia ya AI kwa ripoti inayoendelea kuhusu Nvidia, maabara za mipakani, na sera zinazoziunda.

Soma habari zaidi za AI →