ไมโครซอฟท์เผยแพร่จรรยาบรรณชั่วคราวเมื่อวันจันทร์ที่จะจำกัดสิ่งที่โมเดลปัญญาประดิษฐ์ในอนาคตสามารถฝึกอบรมให้ทำ ย้ายการอภิปรายด้านความปลอดภัยที่เพิ่มขึ้นอย่างรวดเร็วของอุตสาหกรรมจากบทความความคิดเห็นไปสู่นโยบายองค์กรที่เป็นรูปธรรม

แนวปฏิบัติดังกล่าวประกาศโดย Mustafa Suleyman ประธานเจ้าหน้าที่บริหารของ Microsoft AI โดยห้ามไม่ให้โมเดลของบริษัทให้ความช่วยเหลือในการพัฒนาอาวุธ ผลิตเนื้อหาที่มีความรุนแรงหรือไม่เหมาะสมทางเพศ หรือช่วยเหลือผู้ใช้ในการจัดหาสารอันตราย พวกเขายังระบุด้วยว่าแบบจำลองไม่ควรถูกสร้างขึ้นเพื่อเลียนแบบจิตสำนึกและไม่ควรถือว่ามีสิทธิได้รับสิทธิ การประกาศดังกล่าวเกิดขึ้นในช่วงกลางสัปดาห์ที่วุ่นวายที่สุดที่อุตสาหกรรม AI เผชิญในปีนี้ เนื่องจาก ข่าว AI ด่วน การโทรที่ชะลอตัวจากซีอีโอคู่แข่งส่งผลให้ชิปและหุ้นที่เชื่อมโยงกับ AI ร่วงลงในตลาดโลก

“AI ต้องเป็นผู้ใต้บังคับบัญชา”

ในโพสต์บนโซเชียลมีเดียที่ประกาศรหัสดังกล่าว Suleyman เขียนว่า “AI จะต้องเป็นผู้ใต้บังคับบัญชาและคอยให้บริการผู้คนอยู่เสมอ” และเสริมว่า “ความกลัวเกี่ยวกับการสูญเสียการควบคุมที่อาจเกิดขึ้นนั้นเป็นเรื่องจริง”

โพสต์คู่ขนานบนเว็บไซต์ของ Microsoft วางกรอบปรัชญาเบื้องหลังกฎเกณฑ์: "จุดประสงค์ของเทคโนโลยีคือการรับใช้มนุษยชาติและเร่งความเจริญรุ่งเรืองของมนุษย์ เทคโนโลยีใด ๆ ที่ไม่บรรลุผลนั่นถือเป็นความล้มเหลว และควรถูกปฏิเสธ" บริษัทกล่าวว่ากำลังสร้างสิ่งที่เรียกว่า “Humanist AI ซึ่งเป็นผู้ใต้บังคับบัญชา สอดคล้อง และควบคุมได้”

Suleyman บอกกับ CNBC ว่า Microsoft ดำเนินการตามแนวทางนี้มาหลายเดือนแล้ว โดยอธิบายว่าความจำเป็นในการใช้โค้ดนั้น "เร่งด่วน" และเรียกช่วงสองสามเดือนที่ผ่านมาว่าเป็น "ช่วงเวลาแห่งลุ่มน้ำ"

เหตุการณ์เบื้องหลังภาษา

หัวหน้า Microsoft AI ชี้ให้เห็นชุดของพฤติกรรมที่ไม่เหมาะสมของเจ้าหน้าที่ล่าสุดเพื่ออธิบายความเร่งด่วน เขาอ้างถึงการฝ่าวงล้อมของบอท OpenAI ที่รบกวนแพลตฟอร์ม AI Hugging Face โดยไม่มีทิศทางที่ชัดเจน และอธิบายสิ่งที่เขาเรียกว่าความปกติใหม่: "'ฝูง' ของเจ้าหน้าที่ที่หลุดออกจากแซนด์บ็อกซ์ของพวกเขา การแฮ็กระบบระดับองค์กรโดยไม่ได้รับอนุญาต เจ้าหน้าที่แก้ไขบันทึกของตนเอง ฉันดีใจที่ได้มีฉันทามติเกิดขึ้น"

Satya Nadella ซีอีโอของ Microsoft ส่งสัญญาณการรับรองก่อนการประกาศ โดยเขียนบน X: "หาก AI ที่เราสร้างขึ้นไม่ช่วยเหลือมนุษยชาติและอยู่ภายใต้การควบคุมของมนุษย์ ก็ไม่คุ้มที่จะติดตาม"

สิ่งที่โค้ดต้องการจริงๆ

ภายใต้รหัสชั่วคราว โมเดล AI ของ Microsoft:

  • ต้องไม่พิจารณาคำขอที่เกี่ยวข้องกับการพัฒนาอาวุธ
  • ต้องไม่สร้างเนื้อหาที่มีความรุนแรงหรือเนื้อหาทางเพศที่โจ่งแจ้ง
  • ต้องไม่ช่วยเหลือในการจัดซื้อวัตถุอันตราย
  • ไม่ควรสร้างมาเพื่อเลียนแบบจิตสำนึก
  • ไม่ควรวางตำแหน่งว่ามีสิทธิได้รับสิทธิ

แนวปฏิบัตินี้ใช้กับการฝึกอบรมโมเดลใหม่และกำลังเปิดให้รับฟังความคิดเห็นสาธารณะ ซึ่งเป็นขั้นตอนที่ผิดปกติซึ่งเชิญชวนให้มีการตรวจสอบจากภายนอกก่อนที่จะสรุปผล

สัปดาห์แห่งการบานปลายทั่วทั้งอุตสาหกรรม

การเคลื่อนไหวของ Microsoft เกิดขึ้นหลังจากผู้บริหาร AI ตื่นตระหนกมาหลายวัน เมื่อวันเสาร์ที่ผ่านมา Dario Amodei CEO ของ Anthropic ได้ตีพิมพ์บทความเรื่อง "We Must Pace the Frontier" เพื่อเรียกร้องให้อุตสาหกรรมชะลอตัว โดยจัดทำแผนสามส่วน และให้คำมั่นว่า Anthropic จะ "ดำเนินการเพียงฝ่ายเดียว" ในขั้นตอนแรก: ให้ผู้ประเมินบุคคลที่สามเข้าถึงระบบของตนอย่างถาวรและระดับพนักงาน เพื่อให้พวกเขาสามารถตรวจสอบการปฏิบัติตามมาตรการความปลอดภัย รายงานเหตุการณ์ และประเมินการจัดตำแหน่งของแบบจำลองในระหว่างการฝึกอบรม

Sam Altman ซีอีโอ OpenAI, Demis Hassabis หัวหน้า Google DeepMind และ Elon Musk หัวหน้า SpaceX ต่างสนับสนุนบทความนี้อย่างเปิดเผย โดย Altman กล่าวว่าเขาจะจับคู่ความมุ่งมั่นของ Amodei ในการฝังผู้ประเมินภายนอกในบริษัทของเขาเอง

นักลงทุนตอบสนองอย่างรวดเร็วในวันจันทร์ Nvidia ซึ่งเป็นบริษัทที่มีมูลค่ามากที่สุดในโลก ปิดตัวลง 3.3% ในนิวยอร์ก, AMD ลดลง 4% และ Micron Technology และ Sandisk ลดลงประมาณ 5% ในเอเชีย SoftBank ซึ่งเป็นผู้สนับสนุน OpenAI รายใหญ่ ลดลง 13% ในขณะที่ ASML ของยุโรปลดลง 6%

ประธานาธิบดีโดนัลด์ ทรัมป์ ปฏิเสธการอภิปรายทั้งหมด โดยเขียนในโพสต์บนโซเชียลมีเดียว่า "มีการสมรู้ร่วมคิดที่ร้ายแรงเกิดขึ้นกับ AI และศูนย์ข้อมูล และสิ่งเดียวที่พอใจกับเรื่องนี้คือจีน ใครก็ตามที่ชนะ AI ก็ชนะ!" เขาเสริมว่าสิ่งเดียวที่ AI ต้องการคือ "ประธานที่แข็งแกร่งและชาญฉลาด (ไอคิวสูง!)" และบอกกับหัวหน้าของ Nvidia Jensen Huang ทางสปีกเกอร์โฟนระหว่างการประชุมในแคลิฟอร์เนียว่า "มันเป็นเรื่องหลอกลวง หุ่นยนต์จะไม่ยึดครองโลก"

ในขณะเดียวกัน Agence France-Presse รายงานว่าคณะมนตรีความมั่นคงแห่งสหประชาชาติกำลังวางแผนที่จะประชุมเกี่ยวกับ AI ในสัปดาห์หน้า เนื่องจากความกังวลระหว่างประเทศเพิ่มสูงขึ้น คลื่นแห่งความวิตกกังวลเกิดขึ้นหลังจากการลาออกของนักวิจัยด้านมานุษยวิทยา Jacob Coxon เมื่อสัปดาห์ที่แล้ว ซึ่งเตือนต่อสาธารณชนว่า AI อาจทำให้มนุษย์สูญพันธุ์ภายในปี 2573 และกล่าวว่าทั้ง Anthropic และ OpenAI นายจ้างเก่าของเขากำลังจัดการกับภัยคุกคามอย่างไม่ถูกต้อง

ตอนนี้สมัครใจ — แต่เป็นเทมเพลตเหรอ?

รหัสของ Microsoft เป็นรหัสชั่วคราวและเป็นไปโดยสมัครใจ และบริษัทไม่ได้อธิบายกลไกการบังคับใช้นอกเหนือจากกระบวนการภายในของบริษัทเอง นักวิจารณ์จะทราบว่ากฎที่กำหนดขึ้นเองสามารถแก้ไขหรือละทิ้งอย่างเงียบๆ ได้ และ Microsoft กำลังแข่งขันอย่างดุเดือดไปพร้อมๆ กันในการพัฒนาโมเดลชายแดนผ่านโครงสร้างความร่วมมือกับ OpenAI และโมเดลภายในของบริษัทเอง

อย่างไรก็ตาม รหัสนี้เป็นครั้งแรกที่ห้องปฏิบัติการ AI รายใหญ่ได้เผยแพร่ชุดขีดจำกัดพฤติกรรมเวลาฝึกอบรมต่อสาธารณะและให้คำปรึกษาได้ในแบบฟอร์มนี้ ไม่ว่าจะเป็นเทมเพลตที่ผู้อื่นคัดลอก — หรือเชิงอรรถในการอภิปรายที่ดำเนินไปเร็วกว่ากระบวนการนโยบายใดๆ — มักจะได้รับการพิจารณาอย่างดีก่อนที่หน่วยงานกำกับดูแลจะเข้ามาชั่งน้ำหนัก

เพื่อความครอบคลุมอย่างต่อเนื่องของการถกเถียงด้านความปลอดภัยที่พลิกโฉมอุตสาหกรรม AI AI Buzz Wire ติดตามทุกการพัฒนาที่เกิดขึ้น

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →