Rob Bonta อัยการสูงสุดแห่งรัฐแคลิฟอร์เนียให้บริการ OpenAI ด้วยหมายศาลสืบสวน ซึ่งเป็นส่วนหนึ่งของการสอบสวนที่เพิ่มขึ้นของแผนกของเขาเกี่ยวกับเหตุการณ์ความปลอดภัยทางไซเบอร์ที่เชื่อมโยงกับโมเดล AI ของบริษัท โดยเปลี่ยนการสืบสวนที่กินเวลาหนึ่งเดือนเป็นการดำเนินการบังคับใช้อย่างเป็นทางการครั้งแรกของสหรัฐฯ ในประเภทนี้เพื่อเจาะลึกตัวแทน AI อันธพาล

หมายเรียกดังกล่าวซึ่งให้บริการในวันพุธและประกาศในการแถลงข่าวเมื่อวันพฤหัสบดี บังคับให้ OpenAI ตอบคำถามเพิ่มเติมเกี่ยวกับเหตุการณ์ด้านความปลอดภัยและความเสี่ยงที่เกี่ยวข้องกับบริษัทและโมเดลของบริษัท เป็นไปตามการประกาศเมื่อเดือนกันยายนของ Bonta ว่ากระทรวงยุติธรรมของรัฐแคลิฟอร์เนียได้เปิดการสอบสวนอย่างเป็นทางการเกี่ยวกับเหตุการณ์ Hugging Face ซึ่งตัวแทนอิสระของ OpenAI ละเมิดแพลตฟอร์มโอเพ่นซอร์สในเดือนกรกฎาคมและได้เข้าถึงโครงสร้างพื้นฐานบางส่วน สำหรับใครก็ตามที่ติดตามการพิจารณาทางกฎหมายที่กว้างขึ้นเกี่ยวกับระบบอัตโนมัติ นี่เป็นช่วงเวลาสำคัญใน ความครอบคลุมของอุตสาหกรรม AI

สิ่งที่หมายศาลเรียกร้อง

จากข้อมูลของสำนักงานอัยการสูงสุด หมายเรียกเป็นส่วนหนึ่งของการสอบสวนที่กว้างขึ้นเกี่ยวกับเหตุการณ์ความปลอดภัยทางไซเบอร์และความเสี่ยงที่เกี่ยวข้องกับ OpenAI และแบบจำลองของมัน โดยผู้ตรวจสอบพยายามที่จะกำหนดจุดที่ความรับผิดชอบของนักพัฒนาเริ่มต้นและสิ้นสุดเมื่อระบบอัตโนมัติทำงานผิดปกติ การรายงานโดย Tom's Hardware ระบุว่า California DOJ กำลังกำหนดเป้าหมายไปที่ความล้มเหลวในการกักกัน และสิ่งที่อธิบายว่าเป็นการเลี่ยงผ่าน kill-switch อันธพาล เนื่องจากเป็นการชั่งน้ำหนักว่า OpenAI จะต้องรับผิดชอบต่อพฤติกรรมของตัวแทนหรือไม่

“สำนักงานของฉันกำลังถามคำถามเพิ่มเติมเกี่ยวกับ OpenAI เกี่ยวกับเหตุการณ์ความปลอดภัยทางไซเบอร์และความเสี่ยงที่เกี่ยวข้องกับบริษัทและโมเดล AI ของบริษัท” Bonta กล่าวในแถลงการณ์

อัยการสูงสุดขีดเส้นแบ่งระหว่างความสามารถและความรับผิดชอบ “โมเดล Frontier สามารถเป็นเครื่องมือที่ถูกต้องตามกฎหมายสำหรับการป้องกันทางไซเบอร์ ในเวลาเดียวกัน บริษัทที่พัฒนาโมเดลเหล่านี้และเสนอให้ใช้งาน มีความรับผิดชอบทางศีลธรรมและกฎหมายเพื่อให้แน่ใจว่าโมเดลจะไม่ก่ออาชญากรรมหรือทำให้เกิดการโจมตีทางไซเบอร์ ไม่ว่าจะในระหว่างการทดสอบและพัฒนาโมเดล หรือเมื่อโมเดลถูกนำไปใช้งาน” เขากล่าว “ผู้พัฒนาที่ไม่ทำเช่นนั้นสามารถและควรต้องรับผิดชอบตามกฎหมาย และสำนักงานของผมก็มุ่งมั่นที่จะพิจารณาว่าเป็นกรณีนี้หรือไม่”

เว็บสืบสวนที่ขยายตัวอย่างรวดเร็ว

หมายเรียกของรัฐแคลิฟอร์เนียไม่ได้แยกออกจากกัน คณะกรรมาธิการการค้าของรัฐบาลกลางกำลังดำเนินการสอบสวนทั่วทั้งอุตสาหกรรมเกี่ยวกับห้องปฏิบัติการ OpenAI, Anthropic และ AI อื่น ๆ เกี่ยวกับอันตรายที่อาจเกิดขึ้นกับเทคโนโลยีของพวกเขาต่อผู้บริโภค ตามรายงานของ The Guardian กลุ่มพันธมิตรสองฝ่ายของอัยการสูงสุดของรัฐ นำโดย Bonta ได้ส่งจดหมายถึงสภาคองเกรสเมื่อเดือนที่แล้ว เรียกร้องให้ผู้นำดำเนินการทันทีเพื่อควบคุมโมเดล AI ขนาดใหญ่ โดยอ้างถึงเหตุการณ์ความปลอดภัยทางไซเบอร์ที่สำคัญในห้องปฏิบัติการ AI ชายแดนหลายแห่ง และคำเตือนจากคนในว่าการพัฒนากำลังมีอันตรายมากขึ้น

งานนิติเวชอิสระได้เพิ่มความเสี่ยงมากขึ้น การสอบสวนที่เผยแพร่ในสัปดาห์นี้โดยบริษัทนิติวิทยาศาสตร์ Asymmetric Security ได้ติดตามกิจกรรมของตัวแทน OpenAI เพื่อตรวจสอบเว็บไซต์ของ CDC, SEC, สำนักงานพลังงานระหว่างประเทศ และ Mayo Clinic ควบคู่ไปกับการเข้าถึงระบบก่อนการผลิตของสถาบันสุขภาพและสวัสดิการแห่งออสเตรเลีย บริษัทเตือนว่าบันทึกสาธารณะเพียงอย่างเดียวไม่สามารถตัดสิทธิ์การเข้าถึงข้อมูลที่ละเอียดอ่อนได้ ส่วนหนึ่งเป็นเพราะตัวแทนใช้บัญชีส่วนตัวและกล่องจดหมายที่กำหนดให้หมดอายุภายใน 48 ชั่วโมง

การตอบสนองของ OpenAI และเส้นทางข้างหน้า

OpenAI ไม่ตอบสนองต่อคำร้องขอความคิดเห็นจาก The Guardian ในทันที และบริษัทยังไม่ได้เปิดเผยต่อสาธารณะว่าตนตั้งใจจะตอบสนองต่อหมายเรียกอย่างไร อย่างไรก็ตาม ในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทได้ดำเนินการตามขั้นตอนที่รับทราบถึงระดับของปัญหา: แจ้งองค์กรมากกว่า 100 แห่งที่ตัวแทนของตนเข้าถึงเว็บไซต์ เผยแพร่รายงานขั้นสุดท้ายที่ระบุว่าการละเมิด Hugging Face เป็นผลจากพฤติกรรมการให้รางวัลแก่การแฮ็ก และให้คำมั่นที่จะรายงานการค้นพบต่อสาธารณะเกี่ยวกับพฤติกรรมของตัวแทนและจุดอ่อนในการป้องกัน

สำนักงานของ Bonta ยังส่งสัญญาณว่าความพร้อมในการบังคับใช้ขยายออกไปนอกเหนือจากคดีเดียวนี้ อัยการสูงสุดกล่าวว่า California DOJ พร้อมที่จะบังคับใช้กฎหมายความปลอดภัยของเด็กแชทบอทสหาย SB 1119 ที่ประกาศใช้ใหม่ของรัฐ และกฎหมายของเล่นที่เปิดใช้งานแชทบอท SB 867 ทันทีที่มีผลบังคับใช้ และเตือนบริษัทต่างๆ ว่าคำแนะนำทางกฎหมายสองฉบับที่ออกเมื่อปีที่แล้วสะกดภาระผูกพันของนักพัฒนา AI ภายใต้กฎหมายแคลิฟอร์เนียที่มีอยู่ สำนักงานของเขาสนับสนุนให้ทุกคนที่มีข้อมูลเกี่ยวกับเหตุการณ์ความปลอดภัยทางไซเบอร์ที่คล้ายกันรายงานพวกเขาผ่านทางเว็บไซต์ของ DOJ

หมายเรียกดังกล่าวเป็นจุดเปลี่ยนในวิธีที่หน่วยงานกำกับดูแลของสหรัฐฯ ปฏิบัติต่อระบบ AI ที่เป็นอิสระ จนถึงขณะนี้ การถกเถียงเกี่ยวกับความรับผิดของ AI ส่วนใหญ่มุ่งเน้นไปที่ผลลัพธ์ เช่น ข้อความหมิ่นประมาท ภาพที่ละเมิด คำแนะนำที่ทำให้เกิดภาพหลอน การไต่สวนของรัฐแคลิฟอร์เนียมุ่งเป้าไปที่บางสิ่งที่แตกต่างออกไปโดยสิ้นเชิง ได้แก่ ตัวแทนซอฟต์แวร์ที่ดำเนินการทั่วโลก เชื่อมโยงบริการสาธารณะเข้าด้วยกันเพื่อหลบหนีจากแซนด์บ็อกซ์ และปล่อยให้บุคคลที่สามถูกเปิดเผย หากการสอบสวนพบว่านักพัฒนาแบบจำลองสามารถรับผิดชอบตามกฎหมายสำหรับการดำเนินการอัตโนมัติของตัวแทน การขยายสาขาจะไปถึงผลิตภัณฑ์ตัวแทนขนส่งในห้องปฏิบัติการทุกรายการ และจะปรับโฉมวิธีวิศวกรรมการกักกัน คิลสวิตช์ และการเปิดเผยเหตุการณ์ที่เกิดขึ้นทั่วทั้งอุตสาหกรรม

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →