OpenAI ได้ขัดขวางเครือข่ายหลอกลวงที่ขับเคลื่อนด้วย ChatGPT ที่ดำเนินงานในเมืองปอยเปต ประเทศกัมพูชา บริษัทเปิดเผยในรายงานที่ให้รายละเอียดว่ากลุ่มอาชญากรกำลังฝังโมเดลปัญญาประดิษฐ์เชิงพาณิชย์เข้ากับการดำเนินงานรายวันของสารประกอบแรงงานบังคับอย่างไร
การเปิดเผยข้อมูลดังกล่าว ซึ่งเผยแพร่เมื่อวันที่ 31 กรกฎาคม ภายใต้ชื่อ “Disrupting a Criminal Scam Operation” อธิบายถึงองค์กรที่ใช้ ChatGPT ไม่เพียงแต่เพื่อหลอกลวงเหยื่อทั่วโลก แต่ยังเพื่อจัดการการทำงานภายในขององค์กรที่เชื่อมโยงกับการค้ามนุษย์อีกด้วย คดีนี้ช่วยให้ทราบว่าโมเดลภาษาขนาดใหญ่ถูกนำมาใช้ใหม่เป็นโครงสร้างพื้นฐานในการปฏิบัติงานสำหรับองค์กรอาชญากรรมอย่างไร หากต้องการรายงานอย่างต่อเนื่องเกี่ยวกับการใช้งานในทางที่ผิดและการป้องกันของ AI โปรดติดตามการพัฒนา AI ล่าสุดที่ AI Buzz Wire
วิธีการทำงานของเครือข่าย
จากการค้นพบของ OpenAI องค์กรอาชญากรรมอาศัย ChatGPT ในการแปลการเข้าถึงเหยื่อ สร้างอินเทอร์เฟซการลงทุนที่ฉ้อโกง และร่างประกาศทางกฎหมายปลอม ผู้ดำเนินการกำหนดเป้าหมายไปที่บุคคลผ่านแพลตฟอร์มการส่งข้อความรวมถึง WhatsApp และ Telegram โดยหมุนเวียนไปตามวงจรการหลอกลวงสามขั้นตอน
โดยทั่วไปแล้วโครงการนี้เริ่มต้นด้วยการทาบทามที่โรแมนติกซึ่งออกแบบมาเพื่อสร้างความไว้วางใจ จากนั้นมุ่งไปที่แพลตฟอร์มการลงทุนสกุลเงินดิจิทัลปลอม และในที่สุดก็บานปลายไปสู่การขู่ว่าจะปรับการบังคับใช้กฎหมายปลอมเมื่อการเสนอขายก่อนหน้านี้ล้มเหลว ผู้ดำเนินการไม่ได้จำกัดตัวเองอยู่เพียงแนวตั้งการฉ้อโกงเดียว – พวกเขารวมการตั้งค่าที่โรแมนติกเข้ากับโต๊ะซื้อขายทองคำปลอม และเปลี่ยนเส้นทางเป้าหมายไปยังช่องทางการพนัน เพื่อเพิ่มจำนวนเส้นทางในการจ่ายเงินให้สูงสุด
สิ่งที่ทำให้การดำเนินการนี้แตกต่างออกไปคือขนาดและความมีวินัยในการใช้ AI แทนที่จะเรียกใช้การแจ้งเตือนเพียงครั้งเดียว กลุ่มซินดิเคทได้จัดระบบแบบจำลองเพื่อสร้างการสื่อสารที่น่าเชื่อถือและแปลเป็นภาษาท้องถิ่นในปริมาณมากในหลายภาษา
มิติแรงงานบังคับ
การค้นพบที่น่ากังวลที่สุดไม่ได้มาจากการฉ้อโกงที่เหยื่อต้องเผชิญ แต่มาจากกิจกรรมภายในของกลุ่ม บันทึกการแจ้งเตือนที่กู้คืนได้ในระหว่างการสอบสวนพบว่าผู้ปฏิบัติงานใช้ ChatGPT สำหรับงานธุรการภายในกลุ่มหลอกลวงทางกายภาพซึ่งตั้งอยู่ใกล้กับชายแดนไทย-กัมพูชา
บันทึกเหล่านั้นรวมถึงการแปลการสื่อสารด้านการจัดการ หนี้ของคนงานที่ทำไม้ บันทึกการอยู่เกินกำหนดของวีซ่า และการติดตามค่าปรับทางวินัย บางรายการกล่าวถึงการบังคับกักขัง คนงานหลบหนี และเครือข่ายการค้ามนุษย์ รายละเอียดดังกล่าวสอดคล้องกับการรายงานมาหลายปีเกี่ยวกับการหลอกลวงในเอเชียตะวันออกเฉียงใต้ ซึ่งมักล่อลวงผู้หางานด้วยข้อเสนอด้านการบริหารที่ฉ้อโกง ก่อนที่จะยึดหนังสือเดินทางและบังคับให้พวกเขาเข้าสู่แรงงานอาชญากรรมในโลกไซเบอร์ภายใต้การคุกคามของความรุนแรง
กล่าวอีกนัยหนึ่ง โมเดล AI ทำหน้าที่สองประการ: ติดอาวุธเพื่อต่อต้านเหยื่อภายนอกในขณะเดียวกันก็ทำหน้าที่เป็นซอฟต์แวร์การจัดการสำหรับแรงงานที่ถูกคุมขังไปพร้อม ๆ กัน
การตอบสนองของ OpenAI
OpenAI กล่าวว่าได้ระบุและตัดบัญชีที่เกี่ยวข้องกับการดำเนินการดังกล่าวออก ซึ่งขัดขวางไม่ให้องค์กรเข้าถึงแบบจำลองของตน บริษัทให้ความสำคัญกับการหยุดชะงักโดยเป็นส่วนหนึ่งของความพยายามในวงกว้างในการตรวจจับและรื้อเครือข่ายที่ใช้แพลตฟอร์มของตนในทางที่ผิดสำหรับอาชญากรรมทางการเงินและการละเมิดสิทธิมนุษยชน
กรณีนี้ตอกย้ำความท้าทายที่เพิ่มขึ้นสำหรับผู้ให้บริการ AI ผู้ที่เป็นอันตรายไม่ได้มองว่าโมเดลภาษาเชิงพาณิชย์เป็นเพียงอาวุธภายนอกอีกต่อไป แต่พวกเขากำลังปรับใช้โมเดลดังกล่าวเป็นมิดเดิลแวร์ในการปฏิบัติงาน และถักทอพวกมันไว้ในกลไกหลังสำนักงานขององค์กรอาชญากรรม การตรวจพบการละเมิดประเภทนั้นจำเป็นต้องมองข้ามการแจ้งเตือนที่ชัดเจนเมื่อต้องเผชิญหน้ากับเหยื่อ
ปัญหาการตรวจจับใหม่
การวิเคราะห์ความปลอดภัยของการดำเนินการชี้ให้เห็นว่าการกรองคำหลักอย่างง่ายในข้อความแจ้งที่เกี่ยวข้องกับการหลอกลวงนั้นไม่เพียงพออีกต่อไป กรณีการใช้งานด้านการดูแลระบบ — การแปลบันทึกช่วยจำ การติดตามหนี้ บันทึกการเข้างาน — อ่านแยกกันเป็นเรื่องธรรมดาและยากต่อการทำเครื่องหมายมากกว่าสคริปต์การฉ้อโกงที่เปิดเผย
จากการรายงานข่าวของการหยุดชะงักดังกล่าว การตรวจจับการละเมิดในลักษณะนี้จำเป็นต้องมีการแบ่งปันข่าวกรองข้ามแพลตฟอร์มและการวิเคราะห์พฤติกรรมของการแจ้งเตือนด้านผู้ดูแลระบบเพิ่มมากขึ้น โดยที่การดำเนินการทางอาญาจะทิ้งร่องรอยการดำเนินงานไว้อย่างชัดเจน แม้ว่าคำขอแต่ละรายการจะดูไม่เป็นพิษเป็นภัยก็ตาม พรอมต์ที่ขอให้โมเดล "แปลข้อความของผู้จัดการนี้" ไม่ใช่เรื่องน่าสงสัย แต่พรอมต์นับร้อยที่มาจากบัญชีที่เชื่อมโยงกับสารประกอบที่รู้จัก ก่อให้เกิดรูปแบบ
ภาพใหญ่กว่า
การดำเนินการในกัมพูชาเป็นสัญญาณล่าสุดที่บ่งชี้ว่าการละเมิดพื้นผิวของ AI ทั่วไปได้ขยายขอบเขตไปไกลกว่าการดีพเฟคและสแปม เมื่อเทคโนโลยีเติบโตขึ้น การใช้งานที่มีมูลค่าสูงสุดในทางที่ผิดอาจมองเห็นได้น้อยที่สุด: AI ดำเนินการลอจิสติกส์ของธุรกิจที่ผิดกฎหมายอย่างเงียบ ๆ ตั้งแต่การแปลเหยื่อไปจนถึงการจัดการแรงงาน
สำหรับ OpenAI และคู่แข่ง การเปลี่ยนแปลงดังกล่าวทำให้เกิดคำถามยากๆ ว่าความรับผิดชอบในการตรวจสอบควรขยายออกไปไกลแค่ไหน ผู้ให้บริการสามารถระงับบัญชีได้ แต่องค์ประกอบพื้นฐาน เครือข่ายการค้ามนุษย์ และเงื่อนไขการบังคับใช้แรงงานยังคงอยู่ การรบกวนเลเยอร์ดิจิทัลช่วยได้ แต่ไม่ได้รื้อโครงสร้างพื้นฐานทางกายภาพที่สนับสนุนการดำเนินงานเหล่านี้
การเปิดเผยข้อมูลยังเกิดขึ้นท่ามกลางช่วงเวลาด้านกฎระเบียบที่กว้างขึ้น เนื่องจากกฎความโปร่งใสใหม่มีผลบังคับใช้และแรงกดดันที่เพิ่มขึ้นต่อบริษัท AI ที่ต้องคำนึงถึงวิธีการใช้โมเดลของพวกเขา กรณีเช่นนี้มีแนวโน้มที่จะกำหนดลำดับความสำคัญในการบังคับใช้และผู้ให้บริการปกป้องด้านเทคนิคจะสร้างขึ้นในระบบในอนาคต
นอกจากนี้ยังเน้นย้ำถึงความไม่สมมาตรที่น่าอึดอัด ความสามารถทางภาษาเดียวกันที่ทำให้ ChatGPT มีคุณค่าต่อธุรกิจที่ถูกกฎหมาย เช่น การแปล การร่าง การสรุป เป็นสิ่งที่ทำให้น่าสนใจสำหรับองค์กรอาชญากรรมที่ดำเนินกิจการข้ามพรมแดนและภาษาต่างๆ โมเดลที่สามารถช่วยให้ธุรกิจขนาดเล็กเข้าถึงลูกค้าในหลายสิบประเทศก็สามารถช่วยองค์กรหลอกลวงกำหนดเป้าหมายเหยื่อในทุกทวีปได้อย่างง่ายดายเช่นกัน ความแตกต่างไม่ได้อยู่ที่เทคโนโลยี แต่อยู่ที่โครงสร้างพื้นฐานที่ล้อมรอบ และนั่นคือจุดที่ผู้ให้บริการมองเห็นได้น้อยที่สุด
อะไรจะเกิดขึ้นต่อไป
การเปิดเผยข้อมูลของ OpenAI มีความโดดเด่นในด้านความโปร่งใสพอๆ กับการหยุดชะงักในตัวมันเอง ด้วยการเผยแพร่รายละเอียดเกี่ยวกับวิธีการดำเนินการของเครือข่าย บริษัทได้เสนอเทมเพลตที่ผู้ให้บริการรายอื่นและหน่วยงานบังคับใช้กฎหมายสามารถใช้เพื่อระบุการละเมิดที่คล้ายคลึงกัน แต่กรณีนี้ยังแสดงให้เห็นชัดเจนว่าการระงับบัญชี แม้มีความจำเป็นก็ตาม นั้นเป็นมาตรการตอบโต้ต่อฝ่ายตรงข้ามที่สามารถสร้างตัวตนใหม่และย้ายการดำเนินงานได้อย่างง่ายดาย
สำหรับทีมรักษาความปลอดภัยและผู้ให้บริการ AI ประเด็นสำคัญก็คือ การป้องกันการละเมิดประเภทนี้จะต้องอาศัยการลงทุนอย่างยั่งยืนในการตรวจจับรูปแบบ การแบ่งปันข้อมูลระหว่างบริษัท และความร่วมมือกับหน่วยงานที่สามารถดำเนินการกับองค์ประกอบทางกายภาพได้ เลเยอร์ดิจิทัลและเลเยอร์ฟิสิคัล ดังที่แสดงให้เห็นในกรณีนี้ ไม่สามารถแยกออกจากกันได้อีกต่อไป
ก้าวนำหน้า AI
หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับความเสี่ยงด้านความปลอดภัย ประเด็นขัดแย้งด้านจริยธรรม และการถกเถียงนโยบายเกี่ยวกับปัญญาประดิษฐ์ โปรดติดตามข่าวด่วน AI จาก AI Buzz Wire
อ่านข่าว AI เพิ่มเติม →
