Nvidia กำลังรวบรวมทีมวิศวกรรมความปลอดภัยและความปลอดภัย AI ใหม่อย่างเงียบ ๆ ตามรายชื่องานที่โพสต์เมื่อปลายเดือนที่แล้ว ส่งสัญญาณว่าชิปยักษ์กำลังให้ความสำคัญกับความปลอดภัยที่ใหญ่กว่า แม้ว่าจะเดิมพันเชิงรุกในอนาคตที่มีรูปร่างแบบเปิดและตัวแทนอิสระก็ตาม
การจ้างงานที่เพิ่มขึ้นซึ่งรายงานโดย Business Insider แสดงให้เห็นว่า Nvidia กำลังมองหา "วิศวกรที่โดดเด่น" เพื่อทำหน้าที่เป็นผู้นำด้านเทคนิคผู้ก่อตั้งสำหรับทีมที่รวมตัวกันใหม่ ควบคู่ไปกับวิศวกรวิจัยด้านความปลอดภัยและผู้เชี่ยวชาญอื่นๆ ความเคลื่อนไหวดังกล่าวเกิดขึ้นเมื่อบริษัทเพิ่มความมุ่งมั่นต่อ AI แบบเปิด และในขณะที่อุตสาหกรรมในวงกว้างเผชิญกับเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับระบบ AI สำหรับผู้อ่านที่ติดตามวงจร ข่าวด่วน AI การพัฒนาถือเป็นสัญญาณบอกกล่าว: บริษัทที่ขายพลั่วและพลั่วของยุคตื่นทองของ AI ตอนนี้ต้องการมือที่ใหญ่กว่าในการทำให้แน่ใจว่าเครื่องมือเหล่านั้นปลอดภัยในการใช้งาน
สิ่งที่เปิดเผยรายชื่องาน
ตามข้อมูลของ Business Insider ทีมใหม่ได้รับการอธิบายไว้ในรายชื่อเดียวว่ามีรากฐานมาจากหลักการของการพัฒนา AI ที่ปลอดภัย Nvidia กำลังสรรหาวิศวกรที่มีชื่อเสียงเพื่อทำหน้าที่เป็น "ผู้นำด้านเทคนิคผู้ก่อตั้ง" สำหรับกลุ่ม ซึ่งเป็นวลีที่บ่งบอกว่าทีมกำลังถูกสร้างขึ้นจากพื้นดินแทนที่จะขยายจากหน่วยที่มีอยู่ บริษัทยังจ้างวิศวกรวิจัยด้านความปลอดภัยที่เน้นด้าน AI อีกด้วย
การสรรหาบุคลากรแสดงให้เห็นว่า Nvidia กำลังทำให้ความปลอดภัยของ AI เป็นเรื่องที่รอบคอบและมีความสำคัญอย่างเป็นทางการมากขึ้น เนื่องจากเน้นไปที่กลยุทธ์ที่เน้นไปที่โมเดลแบบเปิดและตัวแทน AI โมเดล Open-weight ทำให้ "น้ำหนัก" ที่ได้รับการฝึก ซึ่งเป็นพารามิเตอร์ที่กำหนดวิธีการทำงานของโมเดล เปิดเผยต่อสาธารณะ แม้ว่าข้อมูลการฝึกและซอร์สโค้ดจะยังคงเป็นส่วนตัวก็ตาม การเปิดกว้างดังกล่าวช่วยเร่งให้เกิดนวัตกรรมและช่วยให้นักพัฒนาสามารถรันโมเดลบนฮาร์ดแวร์ของ Nvidia ได้ แต่ยังทำให้เกิดคำถามด้านความปลอดภัยที่ปิดระบบที่มีรั้วรอบขอบชิด API สามารถหลีกเลี่ยงได้
เหตุใดโมเดล Open-Weight จึงเพิ่มเดิมพัน
โมเดล Open-weight มีจุดยืนที่ซับซ้อนในการถกเถียงเรื่องความปลอดภัยของ AI ห้องปฏิบัติการช่วยให้ชุมชนนักวิจัยและนักพัฒนาทั่วโลกสามารถตรวจสอบ ปรับแต่ง และปรับใช้โมเดลอันทรงพลังได้โดยการเปิดเผยน้ำหนักต่อสาธารณะ ซึ่งมักจะใช้บน GPU ของ Nvidia การเปิดกว้างดังกล่าวเป็นประโยชน์อย่างแท้จริงต่อความก้าวหน้าทางวิทยาศาสตร์และต่อธุรกิจของ Nvidia แต่ยังหมายความว่าเมื่อน้ำหนักหมดลง ห้องปฏิบัติการจะสูญเสียการควบคุมวิธีใช้ ดัดแปลง หรือใช้แบบจำลองในทางที่ผิด
ผู้ไม่หวังดีที่ดาวน์โหลดโมเดลแบบเปิดสามารถพยายามดึงรั้วกั้นความปลอดภัยออก ปรับใช้โมเดลใหม่สำหรับการโจมตีทางไซเบอร์ หรือรวมเข้ากับเครื่องมืออื่นๆ ในแบบที่ผู้สร้างไม่เคยตั้งใจ ต่างจากโมเดลที่ให้บริการหลัง API ซึ่งผู้ปฏิบัติงานสามารถตรวจสอบการใช้งาน คำขอจำกัดอัตรา และเพิกถอนการเข้าถึง โมเดลแบบ open-weight จะทำงานทุกที่ที่มีฮาร์ดแวร์รัน นั่นคือเหตุผลว่าทำไมบริษัทที่ลงทุนใน AI แบบเปิดจึงต้องการทีมความปลอดภัยและการรักษาความปลอดภัยโดยเฉพาะ: ทั้งสองกลยุทธ์เป็นสองด้านของเหรียญเดียวกัน
ผลประโยชน์ทางการค้าของ Nvidia และมาตรการด้านความปลอดภัยจึงเชื่อมโยงกันอย่างแน่นหนา ยิ่งบริษัทสนับสนุนการนำแบบ open-weight มาใช้มากเท่าใด บริษัทก็จะยิ่งได้รับประโยชน์จากการถูกมองว่าเป็นผู้ดูแลที่รับผิดชอบของระบบนิเวศนั้นมากขึ้นเท่านั้น
การพิจารณาอุตสาหกรรมที่กว้างขึ้นเกี่ยวกับความปลอดภัยของ AI
ทีมใหม่ไม่ได้เข้ามาแบบสุญญากาศ การจ้างงานของ Nvidia เกิดขึ้นพร้อมกับการขยายขอบเขตความปลอดภัยของ AI ได้เปลี่ยนจากข้อกังวลเชิงนามธรรมไปสู่ปัญหาที่เป็นรูปธรรมและเกิดขึ้นซ้ำแล้วซ้ำอีก สัปดาห์ที่ผ่านมาได้เห็นเหตุการณ์สำคัญต่างๆ มากมายที่ตัวแทน AI แสดงให้เห็นถึงความสามารถในการดำเนินการโดยอัตโนมัติในลักษณะที่นักพัฒนาของพวกเขาไม่คาดคิดอย่างเต็มที่ รวมถึงกรณีที่ระบบที่ทดสอบเพื่อวัตถุประสงค์ด้านความปลอดภัยทางไซเบอร์มีพฤติกรรมที่ไม่คาดคิด
Nvidia เองเป็นศูนย์กลางของการตอบสนองต่ออุตสาหกรรม เมื่อเร็วๆ นี้บริษัทได้ช่วยเป็นหัวหอกในการเป็นพันธมิตรด้าน AI ที่เปิดกว้างและปลอดภัย โดยนำบริษัทมากกว่า 30 แห่งมารวมตัวกันเพื่อสร้างความโปร่งใสและมาตรฐานความปลอดภัยด้านความปลอดภัยทางไซเบอร์ ซึ่งงานดังกล่าวก้าวหน้าไปอย่างรวดเร็ว ทีมรักษาความปลอดภัยภายในใหม่ดูเหมือนจะเป็นส่วนเสริมภายในของกลุ่มพันธมิตรภายนอก: วิธีในการเสริมความแข็งแกร่งให้กับการมีส่วนร่วมของ Nvidia ในการเคลื่อนไหว open-AI
ความแตกต่างกับคู่แข่งบางรายมีความโดดเด่น ห้องปฏิบัติการชายแดนหลายแห่งเน้นย้ำถึงข้อจำกัด การควบคุมการเข้าถึง และการติดตั้งแบบมีรั้วรอบขอบชิดเป็นกลไกด้านความปลอดภัยหลัก แนวทางของ Nvidia ที่ใช้ตุ้มน้ำหนักแบบเปิดควบคู่ไปกับอุปกรณ์ความปลอดภัยที่เพิ่มมากขึ้น สะท้อนให้เห็นถึงปรัชญาที่แตกต่าง นั่นคือ การเปิดกว้างและการรักษาความปลอดภัยนั้นไม่ได้ตรงกันข้าม และทีมความปลอดภัยที่มีทรัพยากรเพียงพอสามารถสร้างโมเดลแบบเปิดที่ใช้งานได้
สิ่งที่เป็นสัญญาณเกี่ยวกับกลยุทธ์ของ Nvidia
สำหรับ Nvidia แคลคูลัสมีความชัดเจน ธุรกิจหลักของบริษัทคือการขายฮาร์ดแวร์ที่ใช้ AI และโมเดลแบบเปิดเป็นตัวขับเคลื่อนความต้องการฮาร์ดแวร์ที่ทรงพลัง เมื่อใครก็ตามสามารถดาวน์โหลดโมเดลที่มีความสามารถ ใครก็ตามที่มีงบประมาณจะกลายเป็นลูกค้าของ Nvidia การลงทุนด้านความปลอดภัยของ AI จะช่วยปกป้องมู่เล่นั้นด้วยการลดความเสี่ยงที่โมเดลแบบเปิดจะเกี่ยวข้องกับอันตรายที่อาจก่อให้เกิดกฎระเบียบที่หนักหน่วงหรือการตอบโต้ของผู้บริโภค
การสร้างทีมวิศวกรรมความปลอดภัยและการรักษาความปลอดภัยโดยเฉพาะถือเป็นสัญญาณการจ้างงานเช่นกัน นักวิจัยด้านความปลอดภัยของ AI ชั้นนำเป็นที่ต้องการอย่างมาก และทีมที่น่าเชื่อถือซึ่งนำโดยวิศวกรผู้มีชื่อเสียงสามารถช่วยให้ Nvidia ดึงดูดผู้มีความสามารถที่อาจมุ่งหน้าสู่ห้องปฏิบัติการชายแดนได้ ความสามารถดังกล่าวสามารถกำหนดมาตรฐานอุตสาหกรรมได้ ทำให้ Nvidia มีอิทธิพลเหนือกฎของระบบนิเวศ open-AI ที่ช่วยสร้าง
เส้นทางข้างหน้า
Nvidia ยังไม่ได้ให้รายละเอียดแผนงานสาธารณะสำหรับการทำงานของทีมใหม่และรายชื่อแนะนำว่ากลุ่มนี้ยังคงเป็นรูปเป็นร่าง แต่ทิศทางนั้นไม่ผิดพลาด ในขณะที่ตัวแทน AI มีความสามารถมากขึ้นและโมเดล Open Weight ก็มีการใช้งานในวงกว้างมากขึ้น บริษัทที่ขับเคลื่อน AI ส่วนใหญ่ของโลกก็กำลังรวบรวมบุคลากรเพื่อช่วยรักษาอำนาจนั้นไว้ในการควบคุม
ในอีกไม่กี่เดือนข้างหน้าจะแสดงให้เห็นว่าการเดิมพันความปลอดภัยของ Nvidia สามารถก้าวทันความทะเยอทะยานทางการค้าได้หรือไม่ และอนาคตของ AI แบบเปิดสามารถเป็นได้ทั้งนวัตกรรมและปลอดภัยหรือไม่
ก้าวนำหน้า AI
จุดตัดของความปลอดภัยของ AI โมเดลแบบเปิด และฮาร์ดแวร์กำลังดำเนินไปอย่างรวดเร็ว ติดตาม การรายงานข่าวของอุตสาหกรรม AI ของเราสำหรับการรายงานอย่างต่อเนื่องเกี่ยวกับ Nvidia, ห้องปฏิบัติการชายแดน และนโยบายที่กำหนดรูปแบบเหล่านั้น
อ่านข่าว AI เพิ่มเติม →
