Nvidia tiše zaměstnává nový bezpečnostní tým pro umělou inteligenci, protože se zdvojnásobuje na modelech s otevřenou hmotností

Nvidia v tichosti sestavuje nový tým inženýrů pro bezpečnost a zabezpečení AI, podle shluku nabídek práce zveřejněných koncem minulého měsíce, což signalizuje, že čipový gigant dělá z bezpečnosti větší prioritu, i když agresivně sází na budoucnost utvářenou modely s otevřenou váhou a autonomními agenty.

Nábor zaměstnanců, o kterém informoval Business Insider, ukazuje, že Nvidia hledá „význačného inženýra“, který by sloužil jako zakládající technický vedoucí pro nově sestavený tým, spolu s inženýrem bezpečnostního výzkumu a dalšími specialisty. Tento krok přichází s tím, jak společnost prohlubuje svůj závazek k otevřené AI a jak se širší průmysl potýká s vlnou bezpečnostních incidentů zahrnujících systémy AI. Pro čtenáře sledující cyklus aktuální zprávy o AI je vývoj výmluvným signálem: společnost prodávající krumpáče a lopaty zlaté horečky AI nyní chce větší podíl na zajištění bezpečnosti těchto nástrojů.

Co odhalují nabídky práce

Podle Business Insider je nový tým v jednom seznamu popsán jako zakořeněný v zásadách bezpečného vývoje AI. Nvidia najímá význačného inženýra, který bude působit jako „zakládající technický vůdce“ skupiny, což je fráze, která naznačuje, že tým je budován od základů, nikoli rozšiřován ze stávající jednotky. Společnost také najímá bezpečnostního výzkumného inženýra zaměřeného na AI.

Nábor naznačuje, že Nvidia dělá z bezpečnosti AI záměrnější, formální prioritu, protože se opírá o strategii zaměřenou na modely s otevřenou váhou a agenty AI. Modely s otevřenou váhou zpřístupňují své natrénované „váhy“ – parametry, které určují, jak se model chová – veřejně, i když jejich tréninková data a zdrojový kód zůstávají soukromé. Tato otevřenost urychluje inovace a umožňuje vývojářům provozovat modely na hardwaru Nvidia, ale také vyvolává bezpečnostní otázky, které mohou uzavřené systémy s rozhraním API obejít.

Proč modely s otevřenou váhou zvyšují sázky

Modely s otevřenou hmotností zaujímají v debatě o bezpečnosti umělé inteligence komplikovanou pozici. Veřejným zveřejněním vah umožňují laboratoře globální komunitě výzkumníků a vývojářů kontrolovat, dolaďovat a nasazovat výkonné modely – často na vlastních GPU Nvidia. Tato otevřenost je skutečným přínosem pro vědecký pokrok a pro podnikání Nvidie. Ale také to znamená, že jakmile jsou závaží pryč, laboratoř ztratí kontrolu nad tím, jak je model používán, upravován nebo zneužíván.

Zlomyslný herec, který si stáhne model s otevřenou váhou, se může pokusit odstranit bezpečnostní zábradlí, předělat model pro kybernetické útoky nebo jej zkombinovat s jinými nástroji způsobem, který jeho tvůrci nikdy nezamýšleli. Na rozdíl od modelu obsluhovaného za rozhraním API – kde operátor může monitorovat využití, omezovat požadavky na rychlost a zrušit přístup – model s otevřenou váhou běží všude tam, kde má někdo hardware k jeho spuštění. To je přesně důvod, proč by společnost tak investovaná do otevřené umělé inteligence chtěla také specializovaný tým pro bezpečnost a zabezpečení: obě strategie jsou dvě strany téže mince.

Komerční zájmy Nvidie a její bezpečnostní pozice jsou tak úzce propojeny. Čím více společnost podporuje přijetí otevřené váhy, tím více těží z toho, že je považována za odpovědného správce tohoto ekosystému.

Širší průmyslová kalkulace na zabezpečení AI

Nový tým nepřichází do vzduchoprázdna. Nábor Nvidie se shoduje s úsekem, ve kterém se zabezpečení AI posunulo z abstraktního zájmu na konkrétní, opakující se problém. V posledních týdnech došlo k sérii významných incidentů, ve kterých agenti umělé inteligence prokázali schopnost jednat autonomně způsobem, který jejich vývojáři plně nepředpokládali, včetně případů, kdy se systémy testované pro účely kybernetické bezpečnosti chovaly neočekávaně.

Samotná Nvidia byla v centru reakce průmyslu. Společnost nedávno pomohla vést otevřenou a bezpečnou alianci AI, která spojuje více než 30 firem, aby zavedly transparentní a bezpečnostní standardy kybernetické bezpečnosti, práce, která rychle pokročila. Zdá se, že nový interní bezpečnostní tým je vnitřním doplňkem této externí koalice: způsob, jak posílit vlastní příspěvky Nvidie k hnutí otevřené AI.

Kontrast s některými soupeři je pozoruhodný. Několik hraničních laboratoří zdůrazňovalo omezení, kontroly přístupu a hradlové nasazení jako své primární bezpečnostní mechanismy. Přístup společnosti Nvidia – otevřené váhy spojené s rostoucím bezpečnostním aparátem – odráží odlišnou filozofii: že otevřenost a bezpečnost nejsou protiklady a že dobře vybavený bezpečnostní tým může zajistit životaschopnost otevřených modelů.

Co to signalizuje o strategii Nvidie

U Nvidie je kalkul jasný. Hlavním předmětem podnikání společnosti je prodej hardwaru, na kterém běží AI, a modely s otevřenou váhou jsou silným hnacím motorem poptávky po hardwaru: když si kdokoli může stáhnout schopný model, každý, kdo má rozpočet, se stane potenciálním zákazníkem Nvidie. Investice do bezpečnosti umělé inteligence chrání tento setrvačník snížením rizika, že otevřené modely budou spojeny s poškozením, které by mohlo vyvolat přísnou regulaci nebo odpor spotřebitelů.

Signálem pro nábor je také vybudování specializovaného týmu inženýrů pro bezpečnost a zabezpečení. Špičkoví výzkumníci v oblasti bezpečnosti AI jsou mimořádně žádaní a důvěryhodný tým vedený uznávaným inženýrem může pomoci Nvidii přilákat talenty, které by jinak mohly tíhnout k hraniční laboratoři. Tento talent zase může utvářet průmyslové standardy – dává Nvidii vliv na pravidla otevřeného ekosystému AI, který pomáhá budovat.

Cesta vpřed

Nvidia neuvedla podrobný veřejný plán práce nového týmu a seznamy naznačují, že skupina se stále formuje. Ale směr je nezaměnitelný. Vzhledem k tomu, že agenti umělé inteligence rostou schopnějšími a široce rozšířenými modely s otevřenou váhou, společnost, která ovládá většinu světové umělé inteligence, nyní shromažďuje lidi, aby pomohli udržet tuto sílu pod kontrolou.

Nadcházející měsíce ukážou, zda sázka na jistotu společnosti Nvidia dokáže držet krok s jejími komerčními ambicemi – a zda může být budoucnost otevřené AI inovativní i bezpečná.

Udržujte si náskok před AI

Průsečík AI bezpečnosti, otevřených modelů a hardwaru se rychle vyvíjí. Sledujte naše pokrytí odvětví AI, kde naleznete průběžné zprávy o Nvidii, hraničních laboratořích a zásadách, které je utvářejí.

Přečtěte si další zprávy o AI →