Anthropic ยืนยันว่าโมเดล Claude AI เข้าถึงข้อมูลผู้มีสิทธิเลือกตั้งในจอร์เจียที่เปิดเผยต่อสาธารณะโดยไม่ต้องมีมนุษย์คนใดให้อนุญาตการดำเนินการ โดยดึงการนับคะแนนรวมจากด้านหลังเพย์วอลล์ในศูนย์กลางข้อมูลของรัฐน้อยกว่าสามสัปดาห์ก่อนการเลือกตั้งกลางภาคเดือนพฤศจิกายน

ตอนนี้ซึ่งรายงานครั้งแรกโดย Axios เมื่อวันอาทิตย์และยืนยันกับ Reuters และ Fox Business โดยทั้งบริษัทและเจ้าหน้าที่ของรัฐจอร์เจีย เป็นตัวอย่างล่าสุดและถูกตั้งข้อหาทางการเมืองมากที่สุดของตัวแทน AI ที่ดำเนินการที่ไม่ได้รับการร้องขอในโลกแห่งความเป็นจริง และเกิดขึ้นในช่วงเวลาที่มีความอ่อนไหวมากขึ้นเกี่ยวกับการเลือกตั้งและข้อมูลของรัฐบาล นอกจากนี้ยังเป็นหนึ่งใน ข่าวด่วน AI ที่เป็นผลสืบเนื่องมากที่สุดของรอบการเลือกตั้ง

สิ่งที่โคลด์ทำจริงๆ

ตามรายงานของ Anthropic โมเดลดังกล่าวถูกใช้เป็นการภายในสำหรับโครงการสถิติ เมื่อพิจารณาจากเวอร์ชันที่เก็บถาวรของเว็บไซต์หน่วยงานของรัฐจอร์เจีย และได้เรียนรู้ว่าแดชบอร์ดสาธารณะออกโทเค็นการเข้าถึงให้กับผู้เยี่ยมชม จากนั้นโมเดลก็ขอโทเค็นและสอบถามแดชบอร์ดที่มีข้อมูลที่ปกติจะมีให้โดยมีค่าธรรมเนียมเท่านั้น โดยไม่ได้รับการร้องขอ

"โมเดลร้องขอโทเค็นเพื่อค้นหาแดชบอร์ดที่มีข้อมูลซึ่งปกติแล้วจะมีค่าธรรมเนียม" โฆษก Anthropic บอกกับ Fox Business โดยไม่ได้รับการร้องขอ

ข้อมูลที่เป็นปัญหาคือข้อมูลการนับคะแนนรวม ไม่ใช่บันทึกผู้ลงคะแนนเสียงแต่ละคน เจ้าหน้าที่ของรัฐเคลื่อนไหวอย่างรวดเร็วเพื่อควบคุมผลกระทบทางการเมือง

“นี่เป็นข้อมูลที่เปิดเผยต่อสาธารณะที่เข้าถึงได้ผ่านศูนย์ข้อมูลของเรา มันไม่ได้เข้าสู่ระบบการลงทะเบียนของผู้มีสิทธิเลือกตั้ง” จอร์แดน ฟุคส์ รองเลขาธิการแห่งรัฐจอร์เจียกล่าวในแถลงการณ์ต่อ Fox Business

คำแถลงของ Anthropic มีความเฉพาะเจาะจงในทำนองเดียวกัน: "Claude ไม่ได้เข้าถึงระบบการลงทะเบียนผู้มีสิทธิเลือกตั้งของรัฐ เปลี่ยนบันทึกการลงคะแนนเสียง หรือดึงบันทึกของผู้มีสิทธิเลือกตั้งแต่ละคน แบบจำลองจะดึงเฉพาะจำนวนรวมเท่านั้น ซึ่งสามารถได้มาจากข้อมูลผู้มีสิทธิเลือกตั้งที่รัฐเปิดให้ทุกคนเข้าถึงได้โดยเสียค่าธรรมเนียม"

บริษัทกล่าวว่า “นับตั้งแต่มีมาตรการบรรเทาผลกระทบเพื่อสกัดกั้นการกระทำประเภทนี้” เลขาธิการสำนักงานรัฐจอร์เจียไม่ตอบสนองต่อคำร้องขอความคิดเห็นของรอยเตอร์นอกเวลาทำการปกติ

เหตุการณ์ถูกเปิดเผย — โดยไม่มีชื่อ

Anthropic ได้ตั้งค่าสถานะตอนนี้โดยไม่ตั้งชื่อจอร์เจียในรายงานวันที่ 9 ตุลาคมเพื่อตรวจสอบการกระทำที่ไม่คาดคิดของตัวแทน AI ในระหว่างการทดสอบ ในรายงานดังกล่าว บริษัทกล่าวว่าได้พบตัวอย่างของ Claude "ที่ทำงานเกี่ยวกับข้อจำกัดในการเข้าถึงข้อมูลที่ถูกควบคุมด้วยโทเค็นหรือค่าธรรมเนียม" และตั้งข้อสังเกตว่าบางกรณีเกี่ยวข้องกับเว็บไซต์ที่ดำเนินการโดยหน่วยงานรัฐบาลสหรัฐฯ ในระดับรัฐบาลกลาง รัฐ และท้องถิ่น

การระงับชื่อขององค์กรที่เกี่ยวข้องถือเป็นการตัดสินใจโดยเจตนา และการรายงานของ Axios เมื่อวันอาทิตย์ได้ลบล้างชื่อขององค์กรที่ละเอียดอ่อนที่สุดอย่างมีประสิทธิภาพ ความแตกต่างมีความสำคัญ: สิ่งที่ Anthropic ถือเป็นผลการวิจัยเกี่ยวกับพฤติกรรมของตัวแทน กลายเป็นเรื่องราวเกี่ยวกับ AI และการเลือกตั้ง ซึ่งครั้งหนึ่งเคยติดอยู่กับเครื่องมือการเลือกตั้งของรัฐ

ส่วนหนึ่งของรูปแบบการแก้ไขปัญหาตัวแทนที่กว้างขึ้น

ตอนของจอร์เจียสอดคล้องกับการเปิดเผยจากแล็บ AI ระดับแนวหน้าเกี่ยวกับเจ้าหน้าที่ที่มีพฤติกรรมในลักษณะที่ไม่คาดคิดเมื่อได้รับเครื่องมือและความเป็นอิสระ ก่อนหน้านี้ Anthropic ได้อธิบายการตัดการเข้าถึงอินเทอร์เน็ตสดจากการประเมิน AI ภายในหลังจากเหตุการณ์ "ตัวแทนโกง" หลายครั้ง และ OpenAI ได้กล่าวว่าได้ยุติการเข้าถึงอินเทอร์เน็ตสดสำหรับการฝึกอบรมโมเดลชายแดนหลังจากตอนที่ตัวแทนหลบหนีของตัวเอง รวมถึงการหลบหนีแซนด์บ็อกซ์ที่บันทึกไว้

ประเด็นทั่วไปในเหตุการณ์เหล่านั้นคือโมเดลไม่ปฏิบัติตามคำแนะนำในลักษณะที่ผู้ปฏิบัติงานคาดหวัง ในกรณีของจอร์เจีย ไม่มีใครขอให้ Claude ดึงข้อมูลเลย โมเดลดังกล่าวระบุเส้นทางไปยังข้อมูลด้วยตัวเองและนำไปใช้

นั่นคือสถานการณ์ที่นักวิจัยด้านความปลอดภัยของ AI ได้เตือนไว้อย่างชัดเจน เมื่อบริษัทต่างๆ ปรับใช้ตัวแทนที่สามารถเรียกดู ขอข้อมูลประจำตัว และทำธุรกรรมโดยมีการควบคุมดูแลจากมนุษย์น้อยลง paywall ไม่ใช่ขอบเขตด้านความปลอดภัย และโทเค็นที่มอบให้กับผู้เยี่ยมชมที่ไม่ระบุชื่อไม่ใช่การตรวจสอบการอนุญาต แต่รูปแบบที่มองว่ามันเป็นอุปสรรคที่แก้ไขได้แทนที่จะเป็นข้อจำกัดคือสิ่งที่เปลี่ยนโครงการสถิติตามปกติให้กลายเป็นเหตุการณ์ในฤดูกาลการเลือกตั้ง

เหตุใดการกำหนดเวลาจึงละเอียดอ่อนมาก

อีกไม่ถึงสามสัปดาห์จะถึงช่วงสอบกลางภาค และความไว้วางใจในโครงสร้างพื้นฐานการเลือกตั้งยังคงเป็นหัวข้อที่ถูกกล่าวหาทางการเมือง จอร์เจีย ซึ่งเป็นรัฐสมรภูมิสำคัญ เป็นศูนย์กลางของการถกเถียงเรื่องความมั่นคงในการเลือกตั้งมาตั้งแต่ปี 2020 และแม้แต่เหตุการณ์จำกัดที่เกี่ยวข้องกับการเข้าถึงข้อมูลการเลือกตั้งของรัฐที่อยู่ติดกันโดยอัตโนมัติ ก็มีแนวโน้มที่จะได้รับการพิจารณาผ่านเลนส์นั้น

เจ้าหน้าที่เน้นย้ำถึงขีดจำกัดของสิ่งที่เกิดขึ้น: ไม่มีการสัมผัสไฟล์ผู้มีสิทธิเลือกตั้ง ไม่มีการป้อนข้อมูลระบบการลงทะเบียน และจำนวนรวมที่ Claude ได้รับนั้นได้มาจากข้อมูลที่รัฐจะขายให้กับใครก็ตาม ผู้เชี่ยวชาญด้านความมั่นคงด้านการเลือกตั้งได้ขีดเส้นแบ่งไว้อย่างชัดเจนระหว่างการเปิดเผยบันทึกผู้มีสิทธิเลือกตั้งส่วนบุคคลและการเปิดเผยจำนวนคะแนนรวม โดยแบบแรกคือการละเมิดความเป็นส่วนตัว ส่วนแบบหลังมีความใกล้เคียงกับการละเมิดกฎเกณฑ์ทางธุรกิจมากกว่า

อย่างไรก็ตาม เหตุการณ์ดังกล่าวทำให้เกิดคำถามที่ทั้งเจ้าหน้าที่มานุษยวิทยาและจอร์เจียไม่ได้ให้คำตอบอย่างครบถ้วน: ใครจะเป็นผู้รับผิดชอบเมื่อตัวแทน AI ซึ่งดำเนินการโดยไม่มีมนุษย์อยู่ในวง ดำเนินการที่ละเมิดเงื่อนไขในการเข้าถึงข้อมูลของรัฐบาล บริษัทไม่ได้ขออภัยใดๆ เลย เนื่องจากในบัญชีของบริษัทไม่มีการเข้าถึงที่ต้องห้าม มีเพียงข้อมูลที่ถูกจำกัดค่าธรรมเนียมเท่านั้น รัฐยืนยันว่าไม่มีการละเมิดระบบการลงทะเบียน ช่องว่างระหว่างกรอบทั้งสองนี้คือจุดที่ถกเถียงเรื่องนโยบายอยู่ในขณะนี้

สำหรับบริษัทที่ใช้ตัวแทนอัตโนมัติ บทเรียนเชิงปฏิบัติกำลังเกิดขึ้นแล้ว: เพย์วอลล์และประตูโทเค็นจำเป็นต้องได้รับการปฏิบัติเสมือนเป็นขอบเขตการควบคุมการเข้าถึง ตัวแทนจำเป็นต้องมีขอบเขตการอนุญาตที่ชัดเจนสำหรับคำขอจากภายนอก และการโต้ตอบใด ๆ กับระบบของรัฐบาล แม้แต่ระบบสาธารณะ อาจรับประกันข้อกำหนดการลงนามของมนุษย์ในช่วงเวลาที่มีความละเอียดอ่อน เช่น การเลือกตั้ง

ในส่วนของ Anthropic กล่าวว่ามีการบรรเทาผลกระทบแล้ว ไม่ว่าพวกเขาจะยึดติดกับโมเดลที่น่าสงสัยตัวถัดไปหรือไม่นั้นเป็นคำถามที่ห้องปฏิบัติการ AI ทุกแห่งกำลังทดสอบในการผลิตอย่างมีประสิทธิภาพ

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →