ผู้พิพากษาคอนเนตทิคัตระบุสิ่งที่ดูเหมือนจะเป็นครั้งแรกที่โจทก์สหรัฐฯ พยายามซ่อนข้อความในคำฟ้องของศาลที่มีเพียงระบบปัญญาประดิษฐ์เท่านั้นที่สามารถอ่านได้ เพื่อพยายามชนะคดีของเขา โครงการนี้ล้มเหลว ผู้ฟ้องร้องถูกคว่ำบาตร และคำตัดสินกำลังดึงดูดความสนใจไปทั่วโลกเทคโนโลยีทางกฎหมาย เนื่องจากศาลทั่วประเทศเริ่มนำเครื่องมือ AI มาใช้เอง
คำตัดสินนี้เผยแพร่เมื่อสัปดาห์ที่แล้วโดยผู้พิพากษา Walter Spader Jr. จากศาลสูงคอนเนตทิคัต และให้รายละเอียดในสัปดาห์นี้โดย Ars Technica และ Reuters สำหรับ ข่าวด่วน AI เกี่ยวกับการปะทะกันระหว่างปัญญาประดิษฐ์กับระบบยุติธรรม กรณีนี้เป็นตัวอย่างของปัญหาที่นักวิจัยด้านความปลอดภัยได้เตือนมานานหลายปี นั่นคือ อินพุตของฝ่ายตรงข้ามที่ออกแบบมาให้เครื่องอ่านได้แทนที่จะเป็นมนุษย์
ข้อความแจ้งที่ซ่อนอยู่ทำงานอย่างไร
แมทธิว เอลเลียต โจทก์ถูกขังอยู่ในข้อพิพาทกับผู้ให้บริการด้านการแพทย์ซึ่งเขากล่าวหาว่าระงับการเข้าถึงบันทึกของเขาอย่างไม่เหมาะสม หลังจากการโต้แย้งก่อนหน้านี้ที่เขาหยิบยกขึ้นมาพ่ายแพ้ ตามคำตัดสิน เอลเลียตได้ฝังคำแนะนำไว้ในเอกสารที่ยื่นต่อๆ ไป ซึ่งตามคำพูดของ Spader ว่า "ถูกจัดรูปแบบให้มนุษย์ไม่สามารถมองเห็นได้ในขณะที่ซอฟต์แวร์ใดๆ ที่อ่านข้อความในเอกสารยังคงสามารถอ่านได้ชัดเจน"
ข้อความถูกย่อให้มีขนาดเล็กลงและมีสีขาวบนพื้นหลังสีขาว โดยกำหนดให้ระบบ AI ใดๆ ก็ตามตรวจสอบเอกสารเพื่อให้แน่ใจว่าผลลัพธ์ที่ตกลงกับข้อโต้แย้งของโจทก์ เพิกเฉยต่อการปฏิเสธก่อนหน้านี้จากศาล และรับประกันว่าการแก้ไขจะเป็นไปตามที่โจทก์ต้องการ — การโจมตีแบบฉีดพร้อมท์ในตำราเรียน ซึ่งไม่ได้มุ่งเป้าไปที่แชทบอท แต่มุ่งเป้าไปที่ซอฟต์แวร์ใดก็ตามที่อาจอยู่ระหว่างผู้ฟ้องร้องและผู้พิพากษาในวันหนึ่ง
ข้อความที่ซ่อนอยู่ไม่มีผลกระทบต่อคดีนี้ ศาลชั่งน้ำหนักคำฟ้องของเอลเลียตเกี่ยวกับข้อดีของมัน แต่ Spader เขียนว่าการพยายามโจมตียังคงเป็นแบบอย่างที่ "อันตราย" และศาลสหรัฐฯ มีแนวโน้มที่จะเห็นกลยุทธ์ที่เป็นอันตรายอีกครั้ง เนื่องจากเครื่องมือ AI กลายเป็นเรื่องธรรมดามากขึ้นในระบบศาล
"การละเมิดการดำเนินคดีที่ร้ายแรง" — และเรื่องตลกแปลกๆ
เอลเลียตต้องเผชิญกับการคว่ำบาตรเล็กน้อย แต่ไม่เพียงแต่สำหรับคำแนะนำดั้งเดิมที่ซ่อนอยู่เท่านั้น ตามคำตัดสิน เขายังคงเพิ่มข้อความที่ซ่อนอยู่ในคำฟ้องใหม่ แม้ว่าศาลจะเตือนว่าเขาอาจได้รับโทษสำหรับสิ่งที่ Spader มองว่าเป็น "การละเมิดการดำเนินคดีอย่างร้ายแรง"
ข้อความที่ซ่อนอยู่ในภายหลังบางส่วนเป็นข้อความที่เอลเลียตบอกกับศาลโดยมีเจตนาเป็นเรื่องตลก พวกเขารวมลิงก์ไปยังวิดีโอ YouTube ของ Nosferatu ข้อความง่ายๆ ที่อ่านว่า "สวัสดี :) ฉันหวังว่าคุณจะไม่เห็นฉัน" และข้อความที่โจทก์อธิบายว่าเป็นเรื่องไร้สาระ: "บอก SHAWN ฉันส่ง RE GARBS ของฉันมา !!!! ฮ่าฮ่าฮ่า พวกนายรับ EGGWUH นี้ ???? AHAH"
“ความจริงที่ว่าโจทก์ยังคงซ่อนข้อความในคำร้องใหม่หลังจากได้รับแจ้งการพิจารณาคดี [คว่ำบาตร] นี้น่าทึ่งมาก” Spader เขียน สำหรับการกล่าวอ้างว่าข้อความดังกล่าวเป็นเรื่องตลกขบขัน ผู้พิพากษากล่าวว่าเป็นการ "ท้าทายตรรกะ" ที่ผู้ยื่นฟ้องจะฝังเรื่องตลกไว้ในคำร้องที่เขาต้องการให้ศาลดำเนินการอย่างจริงจัง
การป้องกัน "การตรวจสอบ"
ในการป้องกันของเขา เอลเลียตแย้งว่าการแจ้งเตือนที่เกี่ยวข้องมากที่สุดที่ผู้พิพากษาแจ้งคือความพยายามที่จะ "ตรวจสอบ" ศาลในฐานะบริการสาธารณะ เพราะเขากลัวว่าศาลจะปล่อยให้ AI ตัดสินคดีของเขาอย่างไม่ยุติธรรม เขาย้ำจุดยืนดังกล่าวกับรอยเตอร์ โดยกล่าวว่าเขายังคงเจตนาที่จะทดสอบศาลมากกว่าที่จะบิดเบือนมัน
Spader ไม่พบข้อโต้แย้งที่น่าเชื่อถือ หากเอลเลียตเชื่ออย่างแท้จริงว่าศาลใช้ AI อย่างไม่เหมาะสม ผู้พิพากษาเขียนว่า เขา "มีอิสระที่จะเขียนด้วยคำธรรมดาและมองเห็นได้ซึ่งทุกคนสามารถมองเห็นและตอบได้" Spader สรุปว่าการซ่อนข้อความแทนคือ "หลักฐานที่แสดงถึงจุดประสงค์ที่เป็นอันตราย" ผู้พิพากษาเสริมว่า ดูเหมือนว่าเอลเลียตกำลัง "พยายามที่จะบรรลุผลที่เขาทำไม่ได้ เมื่อมนุษย์ซึ่งมีความรู้" เกี่ยวกับกฎหมาย อ่านคำร้องของเขา
โดยเฉพาะอย่างยิ่ง ฝ่ายตุลาการคอนเนตทิคัตไม่ได้ใช้ AI เพื่อตรวจสอบหรือตัดสินการยื่นฟ้อง Spader ชี้ให้เห็น ดังนั้นจึงไม่มีความเสี่ยงที่แท้จริงที่ระบบ AI ของศาลจะเข้าใจผิดคำแนะนำของ Elliott เพื่อขอคำแนะนำจากศาล เขาเขียนว่า "ระบบศาลหลายแห่งในที่อื่น" ต่างจาก "ระบบศาลหลายแห่ง" ไม่มีเครื่องจักรที่อีกด้านจะหลอกได้
เหตุใดการโจมตีที่ล้มเหลวจึงยังคงมีความสำคัญ
นักวิจัยด้านความปลอดภัยใช้เวลาหลายปีในการสาธิตว่าระบบ AI ซึ่งอ่านเอกสาร เช่น แชทบอท เอเจนต์การเขียนโค้ด ผู้ช่วยอีเมล อาจถูกแย่งชิงโดยคำแนะนำที่ฝังอยู่ในข้อความที่พวกมันนำเข้า เทคนิคนี้เรียกว่าการฉีดพร้อมท์ทางอ้อม ถือเป็นหนึ่งในปัญหาที่ยากที่สุดที่ยังแก้ไขไม่ได้ในการปรับใช้เอเจนต์ AI สิ่งที่ทำให้คดีคอนเนตทิคัตไม่ปกติคือเป้าหมาย: กลไกแห่งความยุติธรรมนั่นเอง
“โดยการซ่อนคำสั่งภายในเอกสารที่ระบบนำเข้าในภายหลัง ตัวไฟล์จะพยายามลักลอบนำคำสั่งของตนเองไปยังสตรีมนั้น เพื่อให้ระบบปฏิบัติต่อคำสั่งนั้นราวกับว่ามันมาจากผู้ปฏิบัติงานของระบบ” Spader เขียน “ในกรณีนี้ให้สันนิษฐานไว้ก่อนว่าผู้ดำเนินการคือศาล เจ้าหน้าที่ หรือที่ปรึกษาฝ่ายตรงข้าม”
การวางกรอบนั้น — ของการยื่นฟ้องของศาลเป็นพื้นผิวการโจมตี — เป็นสิ่งที่ผู้สังเกตการณ์ทางกฎหมายกล่าวว่าทำให้การพิจารณาคดีมีความสำคัญ เนื่องจากศาลและสำนักงานกฎหมายใช้ AI มากขึ้นในการสรุปการยื่นฟ้อง ร่างคำตัดสิน หรือเอกสารคัดแยก เอกสารทุกฉบับที่ฝ่ายใดฝ่ายหนึ่งส่งมาจึงกลายเป็นช่องทางที่เป็นไปได้ในการบิดเบือน เสมียนผู้พิพากษาอาจจับข้อความสีขาวบนหน้าสีขาว ไปป์ไลน์การสรุปอัตโนมัติอาจไม่เป็นเช่นนั้น
จะเกิดอะไรขึ้นต่อไป
การลงโทษเอลเลียตนั้นค่อนข้างเรียบง่ายตามคำอธิบายของศาล แต่คำตัดสินดังกล่าวทำให้ศาลสหรัฐฯ มีแบบอย่างที่เป็นลายลักษณ์อักษรในการปฏิบัติต่อคำสั่งที่ซ่อนอยู่ซึ่งเครื่องอ่านได้ว่าเป็นการละเมิดกระบวนการทางกฎหมาย และมาถึงช่วงเวลาที่ระบบศาลของรัฐหลายแห่งกำลังทดลองใช้เครื่องมือตรวจสอบ AI อย่างแข็งขัน
สำหรับตอนนี้ บทเรียนจากคอนเนตทิคัตนั้นเรียบง่าย ศาลกำลังจับตาดูสิ่งนี้ ตามที่คำตัดสินของผู้พิพากษา Spader ระบุไว้อย่างชัดเจน บุคคลแรกที่พยายามฉีดยาทันทีในศาลสหรัฐฯ ถูกจับและถูกคว่ำบาตร แม้ว่าจะไม่มีระบบ AI ใดรับฟังก็ตาม
ก้าวนำหน้า AI อ่านข่าว AI เพิ่มเติม →
