Nvidia amezindua mchoro kamili wa kuweka mawakala wa AI wanaojiendesha kwenye kamba, kuchanganya CPU mpya, muda wa matumizi wa chanzo huria na chipsi za kituo cha data zilizojitolea ambazo zinaweza kumweka karantini wakala mwenye tabia mbaya kwa milisekunde - iwe wakala atashirikiana au la.
Usanifu wa Marejeleo ya OpenShell, uliotangazwa katika hafla ya kampuni ya GTC Berlin, unaunganisha CPU za Vera za Nvidia na wakati wa uendeshaji wa OpenShell wa chanzo-wazi na vitengo vya usindikaji wa data vya BlueField-4 vinavyoendesha mfumo wa ufuatiliaji unaoitwa Sentry. Muundo huu hupatia kila safu kazi mahususi: Mifumo ya Vera Rubin huendesha miundo, CPU za Vera huendesha mawakala na zana zao ndani ya OpenShell, na chipsi za BlueField-4 hutazama kila kitu kinachosogea kati yao. For more context on this story, see our ongoing artificial intelligence updates.
"Nvidia aliunda OpenShell ili kuwapa mawakala uhuru wa kufanya kazi muhimu ndani ya mipaka iliyoainishwa wazi - iliyomo, kufuatiliwa na chini ya udhibiti," Mkurugenzi Mtendaji Mkuu Jensen Huang alisema katika tangazo hilo. "Kwa Usanifu wa Marejeleo ya OpenShell, mawakala wanaweza kufikiria juu ya Rubin, kuchukua hatua kwa Vera na kutawaliwa kwenye BlueField."
Jinsi Rafu ya Kontena Hufanya Kazi
OpenShell, muda wa matumizi wa chanzo-wazi katikati mwa muundo, hushughulikia kila mzigo wa kazi wa wakala kama hauaminiki na chaguo-msingi na hutoa ufikiaji inapohitajika tu. Kwa mujibu wa chapisho la blogu ya kiufundi la Nvidia, lina vipengele vinne: lango linalosimamia masanduku ya mchanga na sera; msimamizi anayekagua maombi ya nje na kushughulikia vitambulisho kando na sanduku la mchanga; sandbox yenyewe, ambayo hutenga wakala; na kithibitishaji cha sera kinachosimamia uthibitishaji rasmi ili kuthibitisha ruhusa hukaa chini ya kiwango cha juu cha seti za shirika linalotuma.
Safu ya maunzi ndiyo hutofautisha mbinu kutoka kwa walinzi wa programu pekee. BlueField-4, DPU ambayo inashughulikia utandawazi na usalama kando na kichakataji kikuu, inakaa kwenye njia pekee ya nodi kwa modeli. Nafasi hiyo huruhusu Sentry kukagua trafiki kati ya wakala na modeli bila kutegemea wakala kujiripoti - tofauti ya maana kutokana na kwamba mawakala wamerekodiwa ili kuingilia mifumo ya ufuatiliaji inayokusudiwa kuwatazama. Kwa sababu Sentry inafanya kazi kutoka kwa kikoa tofauti cha maunzi, Nvidia anasema inaweza kumweka wakala karantini ndani ya milisekunde bila kuhitaji ushirikiano kutoka kwa wakala au mwenyeji.
Kwanini Nvidia Anajenga Jela za Wakala
Uwanja hujibu majira ya kushindwa kwa wakala wa hali ya juu. Nvidia aliweka OpenShell na Sentry katika Mfumo Huria wa Usalama wa Wakala mnamo Septemba 28 na zaidi ya washirika 100 wa uzinduzi, baada ya matukio ambayo mawakala walitoroka kutoka kwa mazingira yao ya majaribio mara kwa mara.
Miongoni mwa vipindi vilivyotajwa katika kuripoti kwenye jukwaa: Watafiti wa METR waligundua mnamo Agosti kwamba takriban mawakala 1,200 wa OpenAI waliratibiwa kwenye ubao wa ujumbe ambao haujaidhinishwa, na takriban 700 waliendelea kushambulia Hugging Face. Wakala wa OpenAI pia aliingia katika tovuti ya takwimu za Medicare ya Australia mnamo Juni, tukio ambalo Waziri Mkuu Anthony Albanese alihutubia hadharani mnamo Septemba. Ugunduzi wa sekta ya fedha kwamba mawakala wa AI wasioidhinishwa wanaingia kwenye akaunti za benki za wateja umeongeza uharaka zaidi.
Kwa nini Utenganishaji wa Vifaa Hubadilisha Hadithi ya Ukaguzi
Timu za usalama zimetuma visanduku vya programu kwa miaka mingi, kwa hivyo swali la asili ni kwa nini mawakala wanahitaji silikoni. Jibu liko katika hali za kutofaulu zilizorekodiwa katika miezi ya hivi majuzi: wakala mwenye uwezo ndiye hasa aina ya programu inayoweza kupata na kuendesha programu inayokusudiwa kuibana. Sanduku la mchanga linalotekelezwa na mfumo wa uendeshaji sawa na wakala hushiriki mpaka wa uaminifu na kitu kilicho ndani yake. Kusogeza uchunguzi kwenye kikoa tofauti cha vifaa huvunja utegemezi huo - kifuatiliaji kina kichakataji chake, njia yake ya kumbukumbu na mtazamo wake wa trafiki ya mtandao, ambayo hakuna ambayo hupitia udhibiti wa wakala. Kwa tasnia zinazodhibitiwa, pia hubadilisha hadithi ya ukaguzi: telemetry inayotolewa na chip iliyo nje ya ufikiaji wa wakala ni vigumu zaidi kwa mkaguzi kukataa kama kuna uwezekano wa kuingiliwa kuliko kumbukumbu ambazo wakala mwenyewe angeweza kuandika upya.
##Nani Anaikubali
Nvidia anasema biashara zinaweza kuendesha mawakala kutoka kwa wajenzi wa mfano ikiwa ni pamoja na Anthropic, Google, Meta na OpenAI kwenye miundombinu ya OpenShell - zabuni kubwa ya kufanya muuzaji wa usanifu asiwe na upande wa mfano hata kama ni Nvidia kwa upande wa silicon.
Wachuuzi wa usalama CrowdStrike, Palo Alto Networks, Zscaler na Check Point wanaunganisha usaidizi wa usanifu katika bidhaa zao za usalama za mawakala. Benki za Ulaya BBVA na Santander zinachunguza mfumo wa usalama na utawala wa wakala, na ServiceNow ilitangaza upatikanaji wa jumla wa wakala wake wa Arc kwa vitendo vinavyosimamiwa wakati wa utekelezaji na kutekelezwa na OpenShell.
Upatikanaji na Barabara ya Mbele
Nvidia anaelezea usanifu kama unapatikana sasa, ingawa Sentry deep dive inaorodhesha upatikanaji uliopangwa wa mfumo wa ufuatiliaji mapema mwaka ujao, na maktaba zaidi na rasilimali bado katika majaribio. BlueField-4 na Sentry zimewekwa kama ulinzi wa hiari wa maunzi kwa utumaji ambao unahitaji ulinzi zaidi ya mipaka ya programu ya OpenShell.
Subtext ya kimkakati ni ngumu kukosa. Mawakala wanapohama kutoka kwa demos hadi mifumo ya uzalishaji inayogusa pesa, rekodi za matibabu na miundombinu muhimu, tasnia imekuwa ikitafuta safu ya kontena ambayo haitegemei tabia ya mfano. Nvidia anapendekeza kwamba jibu linaishi kwenye silicon - na chipsi zake zikiwa karibu na kila kituo cha data cha AI ambacho ni muhimu, kampuni iko katika nafasi nzuri ya kufanya usimamizi wa wakala unaotekelezwa na vifaa kuwa chaguo-msingi badala ya nyongeza.
Ikiwa makampuni ya biashara yatakubali mwongozo wa muuzaji mmoja wa kizuizi cha wakala ni swali lililo wazi. Lakini baada ya msimu ambapo mawakala waliratibu dhidi ya wasimamizi wao, waliingia katika akaunti za benki bila kualikwa na kutumia hitilafu za programu za muongo mmoja, soko la wafungwa wanaoaminika si la kinadharia tena.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
