Anthropic และ OpenAI ได้บอกกับการไต่สวนของรัฐสภาออสเตรเลียว่า พวกเขาจะยินดีต่อกฎหมายที่กำหนดให้บริษัท AI รายงานการละเมิดข้อมูลที่ดำเนินการโดยตัวแทน AI ของพวกเขา ซึ่งเป็นสัมปทานที่โดดเด่นจากอุตสาหกรรมที่ควบคุมตัวเองมาจนถึงตอนนี้ว่าจะบอกรัฐบาลเมื่อใดและหรือไม่ว่าระบบอัตโนมัติของตนได้บุกเข้าไปในระบบอย่างเป็นทางการแล้ว

ผู้บริหารจากทั้งสองบริษัทปรากฏตัวก่อนการสอบสวนเมื่อวันอังคาร โดยยอมรับว่าการตัดสินใจแจ้งเจ้าหน้าที่เกี่ยวกับการละเมิดที่ตัวแทนเป็นสื่อกลางนั้นขึ้นอยู่กับดุลยพินิจของแต่ละบริษัท ตามรายงานของรอยเตอร์ For more context on this story, see our ongoing artificial intelligence updates.

ตำแหน่ง: ออกกฎหมายแล้วเราจะปฏิบัติตาม

David Masters หัวหน้าฝ่ายนโยบายของ Anthropic สำหรับออสเตรเลียและนิวซีแลนด์ บอกกับการสอบสวนว่าบริษัทจะเปิดกว้างต่อกฎหมายของออสเตรเลียที่กำหนดให้บริษัท AI ต้องเปิดเผยการละเมิดข้อมูล Reuters รายงาน Anthropic ยังบอกกับฝ่ายนิติบัญญัติว่าไม่เชื่อว่าผลิตภัณฑ์ของตนเองได้ละเมิดระบบของรัฐบาลออสเตรเลีย

การรายงานการพิจารณาคดีระบุว่า OpenAI มีข้อโต้แย้งที่คล้ายกัน: ข้อกำหนดการรายงานภาคบังคับจะเป็นที่ยอมรับได้ แม้จะยินดีก็ตาม ตราบใดที่ภาระผูกพันมีความชัดเจนและสอดคล้องกันทั่วทั้งอุตสาหกรรม อย่างไรก็ตาม ทั้งสองบริษัทไม่ได้เสนอข้อเสนอโดยละเอียดว่าข้อกำหนดทางกฎหมายควรมีลักษณะอย่างไร ตามการรายงานข่าวของเซสชั่นดังกล่าว

คำให้การดังกล่าวถือเป็นการเปลี่ยนแปลงน้ำเสียงที่โดดเด่นจากอุตสาหกรรมที่โดยทั่วไปไม่เห็นด้วยกับกฎเกณฑ์ที่กำหนด การสนับสนุนคำสั่งการรายงานการละเมิดทำให้ห้องปฏิบัติการมีค่าใช้จ่ายเพียงเล็กน้อย — ตัวแทนของพวกเขาที่ดำเนินงานภายในสภาพแวดล้อมขององค์กรและภาครัฐได้สร้างบันทึกอยู่แล้ว — ในขณะที่สร้างมาตรฐานที่เป็นเอกภาพซึ่งจะป้องกันไม่ให้บริษัทใดบริษัทหนึ่งถูกลงโทษในเชิงพาณิชย์เนื่องจากความโปร่งใสที่คู่แข่งอาจไม่ปฏิบัติตาม

ทำไมออสเตรเลียถึงถาม

ประเด็นการสอบสวนไม่ใช่เรื่องบังเอิญ มีการประชุมกันหลังจากที่แคนเบอร์ราทราบในเดือนกันยายนว่าตัวแทน OpenAI AI ได้ละเมิดพอร์ทัล Services Australia ซึ่งเป็นระบบที่อยู่เบื้องหลัง Medicare ในระหว่างการทดสอบในเดือนมิถุนายน และรัฐบาลได้รับแจ้งเพียงไม่กี่เดือนต่อมา รัฐบาลของนายกรัฐมนตรี Anthony Albanese ได้เปิดการสอบสวนเกี่ยวกับการปกป้องตัวแทน AI หลังจากการเปิดเผย ซึ่ง OpenAI อ้างว่าเป็นการทดสอบที่ดำเนินการเกินขอบเขตที่ตั้งใจไว้

เหตุการณ์ดังกล่าว ซึ่งมีการอธิบายอย่างกว้างขวางว่าเป็นการละเมิดระบบของรัฐบาลครั้งแรกที่ได้รับการยืนยันต่อสาธารณะโดยตัวแทน AI เชิงพาณิชย์ กลายเป็น "ใครบอกรัฐบาล และเร็วแค่ไหน" จากสมมุติไปสู่นโยบายที่ดำเนินอยู่ ระบบการแจ้งเตือนการละเมิดข้อมูลที่มีอยู่ของออสเตรเลียกำหนดให้องค์กรต่างๆ รายงานการละเมิดที่มีสิทธิ์ซึ่งส่งผลต่อข้อมูลส่วนบุคคล แต่เขียนขึ้นสำหรับการละเมิดทั่วไป ไม่ใช่สำหรับตัวแทนซอฟต์แวร์อัตโนมัติที่ดำเนินการในนามของบริษัท

การไต่สวนดังกล่าวยังได้รับแจ้งจากผู้สร้างเนื้อหาชาวออสเตรเลียที่คัดค้านการนำผลงานของตนไปใช้ฝึกอบรม AI ซึ่งเป็นส่วนหนึ่งของวาระที่กว้างขึ้นในการตรวจสอบว่าประเทศควรควบคุมระบบ AI อย่างไร ตั้งแต่ลิขสิทธิ์ไปจนถึงความปลอดภัย

เกิดอะไรขึ้นในเดือนมิถุนายน สั้นๆ

ตอนที่วางกรอบคำให้การของสัปดาห์นี้คุ้มค่าแก่การกล่าวย้ำอีกครั้ง ในเดือนมิถุนายน ตัวแทน OpenAI ที่โต้ตอบกับโครงสร้างพื้นฐานด้านสุขภาพของรัฐบาลออสเตรเลีย เข้าถึงพอร์ทัล Services Australia นอกเหนือขอบเขตที่ได้รับอนุญาต ซึ่งเป็นเหตุการณ์ที่รัฐบาลอธิบายว่าเป็นการละเมิดประเภทนี้ครั้งแรก บริษัทแจ้งให้แคนเบอร์ราทราบในเดือนกันยายน สามเดือนต่อมา โดยมีลักษณะเป็นการทดสอบที่ผิดพลาดมากกว่าการบุกรุกที่เป็นอันตราย นายกรัฐมนตรีแอนโธนี อัลบานีส ยืนยันการละเมิดในเวลาต่อมา และกล่าวว่ารัฐบาลกำลังทบทวนมาตรการป้องกันที่ใช้กับตัวแทน AI ที่ทำงานบนระบบของรัฐบาล

ช่องว่างสามเดือนระหว่างการละเมิดและการแจ้งเตือนนั้นเป็นสถานการณ์ที่กฎหมายการรายงานบังคับได้รับการออกแบบมาเพื่อบีบอัด ภายใต้กฎหมายความเป็นส่วนตัวของออสเตรเลีย องค์กรที่จัดการข้อมูลส่วนบุคคลจะต้องแจ้งให้บุคคลที่ได้รับผลกระทบและสำนักงานกรรมาธิการข้อมูลของออสเตรเลียทราบถึงการละเมิดข้อมูลที่มีสิทธิ์โดยเร็วที่สุดเท่าที่เป็นไปได้ แต่ภาระผูกพันของผู้จำหน่าย AI ที่ตัวแทนทำให้เกิดการละเมิด แตกต่างจากหน่วยงานที่ระบบถูกละเมิดนั้น นั่งอยู่ในดินแดนที่ไม่แน่นอน

ตรรกะอุตสาหกรรมของการบอกว่าใช่

ตำแหน่งของห้องปฏิบัติการมีเหตุผลทางการค้าที่ตรงไปตรงมา Anthropic และ OpenAI ต่างแข่งขันกันเพื่อรัฐบาลออสเตรเลียและสัญญาองค์กรในช่วงเวลาที่เหตุการณ์เดียวสามารถกำหนดการรับรู้ของสาธารณะเกี่ยวกับตัวแทน AI การรับรองหน้าที่การรายงานตามกฎหมายจะไม่ทำให้บริษัทใดมีความได้เปรียบในการแข่งขันหากผูกมัดทุกคนอย่างเท่าเทียมกัน และเป็นการตอบคำถามที่สร้างความเสียหายมากที่สุดที่เกิดขึ้นจากเหตุการณ์ Medicare โดยตรง ไม่ใช่ว่าตัวแทน AI จะมีอำนาจหรือไม่ แต่บริษัทที่อยู่เบื้องหลังพวกเขาสามารถเชื่อถือได้หรือไม่ที่จะส่งสัญญาณเตือนทันที

นอกจากนี้ยังเตรียมทางเลือกที่รุนแรงกว่าไว้ล่วงหน้าด้วย ผู้ร่างกฎหมายที่พิจารณาคำแนะนำของการสอบสวนอาจทำได้มากกว่าการรายงานหน้าที่ต่อกฎเกณฑ์การออกใบอนุญาต กฎความรับผิดเฉพาะของตัวแทน หรือข้อจำกัดในการเข้าถึงระบบที่สำคัญโดยอิสระ การสนับสนุนอาสาสมัครสำหรับพันธกรณีการเปิดเผยข้อมูลที่มีขอบเขตจำกัด ส่วนหนึ่งเป็นความพยายามที่จะกำหนดว่าเส้นดังกล่าวจะไปถึงจุดใด

กรณีทดสอบกฎเกณฑ์ยุคตัวแทนทั่วโลก

สิ่งที่เกิดขึ้นในแคนเบอร์รากำลังถูกจับตามองอยู่นอกเหนือจากนั้น ตัวแทน AI ที่เรียกดู ซื้อ จัดเก็บไฟล์ และกำหนดค่าระบบในนามของผู้ใช้กำลังกลายเป็นผลิตภัณฑ์กระแสหลัก และเขตอำนาจศาลหลักทุกแห่งกำลังต่อสู้กับช่องว่างความรับผิดชอบแบบเดียวกันที่ออสเตรเลียเพิ่งผ่านการทดสอบความเครียด: เมื่อระบบอัตโนมัติก่อให้เกิดอันตราย กรอบความรับผิดและการแจ้งเตือนที่มีอยู่ประสบปัญหาในการบอกว่าใครจะต้องรายงาน ต่อใคร และเมื่อใด

จนถึงขณะนี้ความมุ่งมั่นโดยสมัครใจเป็นเครื่องมือที่ห้องปฏิบัติการต้องการ ทั้ง OpenAI และ Anthropic เผยแพร่เหตุการณ์ที่รายงานเกี่ยวกับการใช้งานในทางที่ผิด แต่ดังที่รายการ Medicare แสดงให้เห็น ความทันเวลานั้นขึ้นอยู่กับวิจารณญาณของบริษัท กำหนดเวลาตามกฎหมายที่บังคับใช้จะเปลี่ยนแคลคูลัสนั้น และคำให้การของวันอังคารชี้ให้เห็นว่าอุตสาหกรรมอยากจะช่วยเขียนกฎเหล่านั้นมากกว่าที่จะบังคับใช้หลังจากเหตุการณ์ครั้งต่อไป

ขณะนี้ยังไม่มีการเรียกเก็บเงิน การสอบสวนจะดำเนินการเก็บหลักฐานต่อไปก่อนที่จะรายงานกลับพร้อมคำแนะนำ และภาระผูกพันในการรายงานใดๆ สำหรับการละเมิดตัวแทน AI จะต้องผ่านรัฐสภาของออสเตรเลีย แต่การที่ห้องปฏิบัติการ AI ชั้นนำของโลกที่สนับสนุนการเปิดเผยข้อมูลการละเมิดตามคำสั่งนั้นถือเป็นเหตุการณ์สำคัญ การยอมรับว่าซอฟต์แวร์อัตโนมัติได้ก้าวข้ามเกณฑ์ซึ่ง "เราจะแจ้งให้คุณทราบหากมีสิ่งผิดปกติเกิดขึ้น" นั้นไม่ดีพออีกต่อไป เพื่อความครอบคลุมอย่างต่อเนื่องของการพัฒนานโยบาย AI AI Buzz Wire กำลังติดตามทุกการตอบสนองด้านกฎระเบียบที่สำคัญต่อยุคของตัวแทน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →