OpenAI ในวันพุธประกาศว่าจะนำเสนอ Zero Data Retention (ZDR) สำหรับโมเดลชายแดน และดูตัวอย่างระบบใหม่ที่เรียกว่า Private Safety Processing ซึ่งออกแบบมาเพื่อตรวจจับการใช้งานในทางที่ผิดในการโต้ตอบหลายครั้งโดยไม่ให้บริษัทเข้าถึงเนื้อหาของลูกค้า การเคลื่อนไหวดังกล่าวขัดแย้งกับคู่แข่งอย่างมาก: Axios รายงานว่าการประกาศดังกล่าวเกิดขึ้นเมื่อตอนนี้ Anthropic กำหนดให้ลูกค้าอนุญาตให้บันทึกข้อมูล และ Firstpost สังเกตเห็นความแตกต่างกับการย้ายของ Anthropic ไปเป็นการเก็บรักษาข้อมูล 30 วัน

จังหวะเวลาไม่ใช่เรื่องละเอียดอ่อน ในการประกาศ OpenAI ตั้งข้อสังเกตว่า "การใช้งานโมเดลชายแดนล่าสุดบางส่วนกำหนดให้ลูกค้าต้องอนุญาตให้ผู้ให้บริการ AI ของตนเก็บเนื้อหาที่ละเอียดอ่อนเพื่อการตรวจสอบความปลอดภัย" ซึ่งเป็นข้อกำหนดที่บริษัทกล่าวว่า "ขัดแย้งกับภาระผูกพันด้านความปลอดภัยหรือข้อผูกพันต่อผู้คนที่พวกเขาให้บริการ" บริษัทกำลังวางตำแหน่งความเป็นส่วนตัวเป็นอาวุธในการแข่งขันในการแข่งขันสำหรับลูกค้าองค์กรที่ได้รับการควบคุม For more context on this story, see our ongoing AI news.

สัญญาการเก็บรักษาข้อมูลเป็นศูนย์คืออะไร

ภายใต้ข้อเสนอ ZDR ลูกค้า API ที่มีสิทธิ์จะได้รับสิ่งที่ OpenAI อธิบายว่าเป็น "คำมั่นสัญญาที่ชัดเจน": OpenAI จะไม่เก็บข้อความแจ้งหรือการตอบสนองของโมเดลหลังจากประมวลผลคำขอแล้ว เนื้อหาของลูกค้าไม่มีให้บุคลากรของ OpenAI สามารถตรวจสอบได้ และข้อมูลลูกค้าองค์กรจะไม่ถูกนำมาใช้ในการฝึกโมเดลของ OpenAI เว้นแต่ลูกค้าจะเลือกอย่างชัดเจน

สำหรับธนาคาร โรงพยาบาล และบริษัทกฎหมายที่ชั่งน้ำหนักการนำ AI มาใช้ พันธสัญญาเหล่านั้นจัดการกับตัวทำลายข้อตกลงที่พบบ่อยที่สุด นั่นคือ ความเสี่ยงที่เนื้อหาที่มีความละเอียดอ่อนไหลผ่านระบบของผู้ให้บริการ AI อาจถูกจัดเก็บ อ่าน หรือดูดซับไปสู่โมเดลในอนาคต OpenAI ตั้งข้อสังเกตว่าองค์กรต่างๆ ที่ร่วมงานด้วยจัดการ "บันทึกทางการเงิน ข้อมูลสุขภาพ แผนธุรกิจที่เป็นความลับ และการวิจัยที่เป็นกรรมสิทธิ์"

ปัญหาด้านความปลอดภัยกำลังได้รับการแก้ไข

การประกาศดังกล่าวยังยอมรับถึงความตึงเครียดทางเทคนิคอย่างแท้จริง ตามที่ OpenAI อธิบายไว้ ความเสี่ยงด้านความปลอดภัยของ AI ที่ร้ายแรงที่สุดไม่ได้มองเห็นได้ในการโต้ตอบเพียงครั้งเดียวเสมอไป เจตนาที่เป็นอันตรายสามารถชัดเจนได้ก็ต่อเมื่อมีการโต้ตอบหลายรายการพร้อมกัน เมื่อผู้ไม่ประสงค์ดีตรวจสอบการป้องกันซ้ำๆ ประสานงานข้ามบัญชี ปลอมแปลงภัยคุกคามเป็นการวิจัยตามปกติ หรือเมื่อตัวแทน AI ยังคงดำเนินการหลังจากได้รับคำสั่งให้หยุด

ระบบความปลอดภัยที่เข้ากันได้กับ ZDR ที่มีอยู่จะประเมินแต่ละปฏิสัมพันธ์แยกกัน ซึ่งหมายความว่าความเสี่ยงตามรูปแบบจะผ่านไปได้ ผู้ให้บริการที่ตอบสนองโดยกำหนดให้มีการเก็บรักษาได้แก้ไขปัญหาหนึ่งด้วยการสร้างอีกปัญหาหนึ่ง บังคับให้ลูกค้าเลือกระหว่างการตรวจสอบความปลอดภัยกับภาระผูกพันด้านความเป็นส่วนตัวของตนเอง

วิธีการทำงานของการประมวลผลความปลอดภัยส่วนตัว

ความละเอียดที่เสนอของ OpenAI นั้นเป็นสถาปัตยกรรม ภายใต้การประมวลผลความปลอดภัยส่วนตัว เนื้อหาของลูกค้ายังคงอยู่ในโครงสร้างพื้นฐานที่ลูกค้าควบคุม หรือในตัวเลือกที่ยังอยู่ระหว่างการพัฒนา จะถูกจัดเก็บไว้ในโครงสร้างพื้นฐาน OpenAI ที่เข้ารหัสด้วยคีย์ที่ควบคุมโดยลูกค้า จากนั้นระบบอัตโนมัติจะวิเคราะห์รูปแบบการโต้ตอบที่เกี่ยวข้องและส่งกลับ "สัญญาณความปลอดภัยที่จำกัด" — แจ้งเกี่ยวกับการใช้งานในทางที่ผิด — โดยไม่เปิดเผยข้อความแจ้งหรือการตอบสนองต่อบุคลากรของ OpenAI

ลูกค้าตรวจสอบการแจ้งเตือนโดยใช้ข้อมูลที่มีอยู่ในระบบของตนเอง หากพวกเขาต้องการอุทธรณ์คำตัดสินในการบังคับใช้ ชี้แจงกิจกรรมที่ชอบด้วยกฎหมาย หรือสนับสนุนการสอบสวนการละเมิดที่ได้รับการตรวจสอบแล้ว พวกเขาสามารถเลือกที่จะแบ่งปันข้อมูลที่เกี่ยวข้องกับ OpenAI กล่าวอีกนัยหนึ่งความเป็นส่วนตัวจะกลายเป็นค่าเริ่มต้นและเปิดเผยตัวเลือกของลูกค้า

ขณะนี้ระบบอยู่ระหว่างการทดสอบกับลูกค้ารายแรกๆ OpenAI กล่าวว่ามีแผนจะเริ่มเปิดตัวการประมวลผลความปลอดภัยส่วนบุคคล และเผยแพร่เอกสารทางเทคนิคในเดือนกันยายน

องค์กรไว้วางใจเป็นตลาด

ประกาศมาพร้อมกับคำรับรองจากลูกค้าที่อ่านเหมือนข้อโต้แย้งในการจัดซื้อจัดจ้าง “การนำ AI ขององค์กรไปใช้นั้นขึ้นอยู่กับการควบคุมข้อมูลของลูกค้าเท่านั้น โดยไม่มีการใช้งานโดยตรงหรืออนุพันธ์นอกเหนือจากบริการที่เลือก” Sunil Agrawal ประธานเจ้าหน้าที่รักษาความปลอดภัยข้อมูลของ Glean ซึ่งคำพูดของ OpenAI เผยแพร่ข้างโพสต์กล่าว “เมื่อโมเดลมีความสามารถมากขึ้น OpenAI ก็แสดงให้เห็นว่าความปลอดภัยสามารถก้าวหน้าได้โดยไม่กระทบต่อความเป็นส่วนตัวและการควบคุมที่รักษาความไว้วางใจขององค์กร”

OpenAI วางกรอบการแสดงตัวอย่างเพื่อตอบสนองความต้องการ โดยกล่าวว่าลูกค้าได้ยินมาว่า "ดังและชัดเจนว่าพวกเขาต้องการความสามารถในการคาดเดาได้ว่าเนื้อหาของพวกเขาจะได้รับการปกป้องอย่างไรเมื่อระบบ AI มีความสามารถมากขึ้น" บริษัทเสริมว่าแนวทางดังกล่าวได้รับการกำหนดโดยลูกค้า "ทั่วทั้งอุตสาหกรรม ภูมิภาค และขนาดของบริษัท" และจะแจ้งให้ลูกค้าทราบโดยมีเวลารอคอยที่เพียงพอในการวางแผนการใช้งานตามการเปลี่ยนแปลง

การอภิปรายนี้จะกระตุ้นให้เกิด

นักวิจัยด้านความปลอดภัยแย้งมานานแล้วว่าการมองเห็นรูปแบบการใช้งานเป็นสิ่งสำคัญในการตรวจพบการใช้งานในทางที่ผิดก่อนที่จะก่อให้เกิดอันตราย และบางคนจะตั้งคำถามว่าการวิเคราะห์แบบเข้ารหัสอัตโนมัติสามารถตรงกับคุณภาพการตรวจจับของการตรวจสอบโดยมนุษย์หรือไม่ ในขณะเดียวกัน ผู้สนับสนุนความเป็นส่วนตัวจะยินดีกับสถาปัตยกรรมที่ถือว่าการเข้าถึงข้อมูลลูกค้าเป็นการตัดสินใจของลูกค้า แทนที่จะเป็นสิทธิพิเศษของผู้ให้บริการ

สิ่งที่ชัดเจนก็คือการกำกับดูแลข้อมูลได้ย้ายจากงานพิมพ์ทางกฎหมายมาสู่ศูนย์กลางของการแข่งขัน AI เนื่องจากโมเดลระดับแนวหน้าใช้เวลานานและเป็นอิสระมากขึ้นในอุตสาหกรรมที่ได้รับการควบคุม คำถามที่ว่าใครบ้างที่จะได้เห็นร่องรอยที่ระบบทิ้งไว้ เช่น ลูกค้า ผู้ให้บริการ หรือไม่มีใครเลย กำลังกลายเป็นแกนหลักที่ข้อตกลง AI ระดับองค์กรได้รับชัยชนะและสูญหาย ขณะนี้ OpenAI ได้ให้คำตอบที่ชัดเจน และทำให้คู่แข่งอยู่ในตำแหน่งที่ปกป้องพวกเขา

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →