Dario Amodei ผู้บริหารระดับสูงด้านมานุษยวิทยาได้เตือนฝ่ายนิติบัญญัติว่าแนวโน้มที่เพิ่มขึ้นอย่างรวดเร็วต่อปัญญาประดิษฐ์แบบโอเพ่นซอร์สอาจทำให้สังคมตกอยู่ในเส้นทางที่เป็นอันตรายหากโมเดลที่ทรงพลังถูกเผยแพร่โดยไม่มีการป้องกันอย่างระมัดระวัง ทำให้เกิดการอภิปรายถกเถียงกันมากที่สุดครั้งหนึ่งในนโยบาย AI

Amodei ผู้ก่อตั้งและเป็นผู้นำบริษัทที่อยู่เบื้องหลังโมเดลตระกูล Claude แย้งว่าลักษณะเฉพาะของ AI แบบโอเพ่นซอร์ส ซึ่งทำให้ระบบขั้นสูงพร้อมให้ใครก็ตามดาวน์โหลด ปรับเปลี่ยน และปรับใช้ได้อย่างอิสระ ก่อให้เกิดความเสี่ยงที่ซอฟต์แวร์โอเพ่นซอร์สแบบเดิมๆ ไม่เคยมีมาก่อน คำพูดของเขาซึ่งรายงานโดย Tekedia มุ่งเน้นไปที่ความยากลำบากในการควบคุม AI ที่มีความสามารถเมื่อมีการเผยแพร่สู่สาธารณะ หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู เรื่องราว AI เพิ่มเติม ที่กำลังดำเนินอยู่

ต่างจากซอฟต์แวร์ทั่วไป ระบบ AI ที่ล้ำสมัยสามารถสร้างข้อความที่น่าเชื่อถือ สร้างภาพที่สมจริง เขียนโค้ดคอมพิวเตอร์ และช่วยเหลืองานด้านความปลอดภัยทางไซเบอร์ Amodei โต้แย้งว่าความสามารถเหล่านั้นอาจนำไปใช้ประโยชน์ในการโจมตีทางไซเบอร์โดยอัตโนมัติ ติดตั้งแคมเปญข้อมูลที่บิดเบือนที่ซับซ้อน หรือพัฒนาการวิจัยทางชีววิทยาที่เป็นอันตรายหากอยู่ในมือของคนผิด

ปัญหาแห่งความคงทน

ความเสี่ยงหลักประการหนึ่งที่ Amodei เน้นย้ำก็คือ เมื่อแบบจำลองอันทรงพลังถูกเผยแพร่อย่างเปิดเผย มันจะเป็นไปไม่ได้ที่จะเรียกคืนได้อย่างมีประสิทธิภาพ ระบบปิดที่ดำเนินการโดยบริษัทต่างๆ สามารถตรวจสอบ แพตช์ และจำกัดได้เมื่อมีช่องโหว่ใหม่ๆ เกิดขึ้น ในทางตรงกันข้าม โมเดลโอเพ่นซอร์สสามารถคัดลอกได้อย่างไม่มีกำหนดและแจกจ่ายซ้ำผ่านอินเทอร์เน็ต ทำให้นักพัฒนาไม่มีกลไกในการจำกัดการใช้งานหลังการเปิดตัว

Amodei เตือนว่าความคงอยู่นั้นเป็นปัญหาอย่างยิ่งเมื่อแบบจำลองเข้าใกล้ประสิทธิภาพระดับมนุษย์ในงานที่ซับซ้อนมากขึ้น เขาแย้งว่า AI ขั้นสูงควรได้รับการทดสอบความปลอดภัยที่แข็งแกร่ง การปรับใช้งานที่มีการควบคุม และการกำกับดูแลด้านกฎระเบียบที่เหมาะสม ก่อนที่จะเข้าถึงได้อย่างกว้างขวาง แทนที่จะได้รับการปฏิบัติเหมือนซอฟต์แวร์ธรรมดาที่สามารถปรับปรุงร่วมกันได้ในที่สาธารณะ

ตำแหน่งของเขาสะท้อนให้เห็นถึงรอยเลื่อนที่เพิ่มขึ้นในอุตสาหกรรม ผู้เสนอ AI แบบโอเพ่นซอร์สยืนยันว่าการเข้าถึงสาธารณะกระตุ้นให้เกิดการแข่งขัน ทำให้ความก้าวหน้าทางเทคโนโลยีเป็นประชาธิปไตย และป้องกันไม่ให้บริษัทจำนวนหนึ่งผูกขาดปัญญาประดิษฐ์ นักพัฒนาทั่วโลกสามารถตรวจสอบโมเดลสถาปัตยกรรม ข้อบกพร่องด้านความปลอดภัย และปรับปรุงระบบร่วมกัน ในขณะที่สตาร์ทอัพ นักวิจัย และสถาบันการศึกษาสามารถสร้างได้โดยไม่ต้องพึ่งแพลตฟอร์มราคาแพงที่เป็นกรรมสิทธิ์

ความเสี่ยงเฉพาะบนโต๊ะ

ความกังวลของ Amodei ไม่ใช่เรื่องนามธรรม แบบจำลองที่เปิดตัวอย่างเปิดเผยได้ถูกปลดออกจากราวกั้นความปลอดภัยแล้วโดยนักวิจัยโดยใช้เทคนิคการปรับแต่งที่ตรงไปตรงมา ซึ่งเป็นแนวทางปฏิบัติที่แสดงให้เห็นว่ามาตรการป้องกันสามารถลบออกได้เร็วเพียงใดเมื่อน้ำหนักที่ซ่อนอยู่ถูกเปิดเผยสู่สาธารณะ เมื่อโมเดลมีความสามารถมากขึ้นในงานต่างๆ เช่น เคมี ชีววิทยา และการใช้ประโยชน์จากซอฟต์แวร์ ความกังวลก็คือการเปิดตัวแบบเปิดอาจมอบความสามารถอันทรงพลังให้กับนักแสดงที่ไม่ผ่านการคัดกรองที่ห้องปฏิบัติการที่รับผิดชอบกำหนดไว้กับลูกค้าของตน

มิติข้อมูลที่บิดเบือนยังได้รับการตรวจสอบอย่างละเอียดอีกด้วย แบบจำลองที่สามารถสร้างข้อความ รูปภาพ และเสียงที่สมจริงในวงกว้างอาจหันไปสู่การแทรกแซงการเลือกตั้ง การฉ้อโกงทางการเงิน หรือการผลิตโฆษณาชวนเชื่อจำนวนมาก เนื่องจากโมเดลแบบเปิดทำงานทั้งหมดบนฮาร์ดแวร์ของผู้โจมตีเอง Amodei ตั้งข้อสังเกตว่า ไม่มี API ที่จะควบคุม ไม่มีบัญชีที่จะระงับ และไม่มีผู้ให้บริการรายใดที่ต้องรับผิดชอบเมื่อความเสียหายเสร็จสิ้น

ฉากหลังการแข่งขัน

คำเตือนของ Amodei เกิดขึ้นท่ามกลางโมเดลเปิดที่มีความสามารถมากมายจากนักพัฒนาชาวจีน GLM-5.2 ของ Zhipu พร้อมด้วยระบบจีนราคาประหยัดอื่นๆ ได้ดึงความสนใจครั้งใหม่ว่าโมเดลที่เปิดกว้างและพร้อมใช้งานแบบเปิดได้รวดเร็วเพียงใด กำลังปิดช่องว่างด้วยระบบที่เป็นกรรมสิทธิ์ระดับแนวหน้าจาก Anthropic และ OpenAI แรงกดดันด้านการแข่งขันดังกล่าวทำให้การถกเถียงทางนโยบายรุนแรงขึ้นว่าข้อจำกัดในการเผยแพร่แบบเปิดจะเป็นประโยชน์ต่อบริษัทที่มีอำนาจเหนือกว่า หรือปล่อยให้สังคมถูกนำไปใช้ในทางที่ผิด

นักวิจารณ์จุดยืนของ Amodei โต้แย้งว่าการจำกัด AI แบบโอเพ่นซอร์สอาจสร้างความมั่นคงให้กับบริษัทเทคโนโลยีขนาดใหญ่โดยไม่ได้ตั้งใจโดยการจำกัดนวัตกรรมที่เป็นอิสระ พวกเขายังทราบด้วยว่าความโปร่งใสมักช่วยให้นักวิจัยระบุช่องโหว่ได้เร็วกว่าการพัฒนาแบบปิด แม้แต่ผู้สนับสนุนการพัฒนาแบบเปิดจำนวนมากก็ยอมรับว่าระบบที่มีประสิทธิภาพมากขึ้นอาจต้องใช้กรอบการกำกับดูแลที่แข็งแกร่งกว่าซอฟต์แวร์รุ่นก่อนๆ

กฎข้อบังคับที่เข้มงวด

การอภิปรายได้รับความเร่งด่วนในขณะที่รัฐบาลทั่วโลกชั่งน้ำหนักกฎระเบียบ AI ใหม่ ผู้กำหนดนโยบายเผชิญกับความสมดุลที่ยากลำบาก: ข้อจำกัดที่มากเกินไปอาจชะลอการเติบโตทางเศรษฐกิจและการค้นพบทางวิทยาศาสตร์ ในขณะที่การกำกับดูแลที่ไม่เพียงพออาจทำให้สังคมมีความเสี่ยงที่ยากต่อการคาดเดา Amodei เสนอว่า การสร้างความสมดุลนั้นต้องอาศัยความร่วมมือระหว่างรัฐบาล บริษัทเทคโนโลยี นักวิจัยเชิงวิชาการ และภาคประชาสังคม

คำให้การของเขาเน้นย้ำถึงการถกเถียงนโยบายเทคโนโลยีที่เป็นตัวกำหนดประเด็นหนึ่งของทศวรรษ เมื่อปัญญาประดิษฐ์มีความสามารถมากขึ้น สังคมจึงต้องตัดสินใจว่าจะส่งเสริมนวัตกรรมอย่างไรในขณะเดียวกันก็ลดอันตรายที่เกี่ยวข้องกับการเข้าถึงระบบการเปลี่ยนแปลงในวงกว้างให้เหลือน้อยที่สุด ไม่ว่าจะผ่านกฎระเบียบ มาตรฐานอุตสาหกรรม หรือความร่วมมือระหว่างประเทศ ทางเลือกต่างๆ ที่เกิดขึ้นในอีกไม่กี่เดือนข้างหน้าเกี่ยวกับ AI แบบโอเพ่นซอร์สสามารถกำหนดได้ว่าใครเป็นผู้ควบคุมเทคโนโลยี และความปลอดภัยในการนำไปใช้งานในปีต่อๆ ไป

สำหรับ Anthropic จุดยืนนั้นสอดคล้องกับการให้ความสำคัญกับความปลอดภัยของ AI และการเผยแพร่ที่มีการควบคุมมายาวนานของบริษัท แต่ด้วยรูปแบบเปิดที่ก้าวหน้าอย่างรวดเร็วและหน่วยงานกำกับดูแลยังคงพยายามตามให้ทัน ช่องว่างระหว่างคำเตือนของ Amodei และจังหวะของการเคลื่อนไหวของโอเพ่นซอร์สอาจแคบลงเร็วกว่าที่ผู้กำหนดนโยบายจะปิดได้

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →