OpenAI กล่าวเมื่อวันพฤหัสบดีว่าได้สั่งห้ามการดำเนินการที่มีอิทธิพลแอบแฝงสองรายการ – หนึ่งรายการมีต้นกำเนิดในรัสเซียและอีกหนึ่งรายการในอิหร่าน – ซึ่งใช้ ChatGPT เพื่อดำเนินการหน่วยงาน "แนวหน้าเท็จ" ที่ซับซ้อนซึ่งออกแบบมาเพื่อฟอกโฆษณาชวนเชื่อทางภูมิรัฐศาสตร์ในสื่อจริง บริษัทกล่าวว่าการรณรงค์ที่มีต้นกำเนิดจากรัสเซียเป็นปฏิบัติการที่มีอิทธิพลอย่างกว้างขวางที่สุดที่เคยหยุดชะงักนับตั้งแต่เริ่มเผยแพร่รายงานภัยคุกคามเมื่อสองปีครึ่งที่แล้ว

การเปิดเผยข้อมูลดังกล่าวซึ่งเผยแพร่บนเว็บไซต์ของ OpenAI ถือเป็นรายการล่าสุดในรายงานต่างๆ เกี่ยวกับวิธีที่ผู้มีบทบาทของรัฐใช้โมเดล AI เชิงพาณิชย์ในทางที่ผิด ตามที่เราได้ระบุไว้ในบทสรุป ข่าว AI ด่วน ล่าสุดของเรา รูปแบบที่ OpenAI ได้พบเห็นจากปฏิบัติการลับ 30 รายการที่เปิดเผยตั้งแต่ต้นปี 2024: แคมเปญที่ประสบความสำเร็จในการวางเนื้อหาของตนในสื่อสิ่งพิมพ์ของแท้เข้าถึงผู้ชมได้มากกว่าการพึ่งพาบัญชีโซเชียลมีเดียปลอม

หมวด A 5 อันดับแรก: ปฏิบัติการ "ดาร์คคลาร์ก"

ปฏิบัติการของรัสเซีย ซึ่ง OpenAI มีชื่อเล่นว่า "ดาร์คคลาร์ก" มีศูนย์กลางอยู่ที่องค์กรวิจัยที่มีสไตล์เป็นของตัวเองในละตินอเมริกาที่เรียกว่าศูนย์วิจัยสังคม (SRC) จากข้อมูลของ OpenAI ผู้ปฏิบัติงานควบคุมคลังความคิดผ่านตัวละครปลอมชื่อ "Mia Clark" ในขณะที่พนักงานท้องถิ่นในละตินอเมริกาทำการสัมภาษณ์และร่างงานวิจัยโดยไม่รู้ว่าพวกเขากำลังทำงานให้กับกลุ่มรัสเซีย

การใช้ Breakout Scale ซึ่งเป็นการวัด 1 ต่อ 6 ของศักยภาพในการเข้าถึงการดำเนินงานที่มีอิทธิพลซึ่งพัฒนาขึ้นที่ Brookings ทำให้ OpenAI ประเมิน Dark Clark ที่หมวด 5 ซึ่งเป็นคะแนนสูงสุดที่กำหนดให้กับการปฏิบัติงานใดๆ นับตั้งแต่เริ่มการรายงาน การรณรงค์ที่มีต้นกำเนิดจากอิหร่านถึงหมวด 4

การใช้งาน ChatGPT ของผู้ปฏิบัติงานส่วนใหญ่ถูกส่งไปยังรายงานภายในไปยังผู้ดำเนินการที่ไม่รู้จัก OpenAI กล่าว โดยอธิบายถึงการรณรงค์เพื่อลบล้างยูเครน บ่อนทำลายการสรรหาบุคลากรสำหรับกองทัพยูเครน และแทรกแซงการเมืองภายในประเทศในอาร์เจนตินาและโบลิเวีย ผู้ให้บริการส่วนใหญ่ได้รับแจ้งเป็นภาษารัสเซียและใช้ VPN เพื่อเข้าถึงบริการ ซึ่งบล็อกการรับส่งข้อมูลจากรัสเซีย

นักวิจัยของ OpenAI ยืนยันแคมเปญที่อ้างสิทธิ์ของปฏิบัติการหลายรายการผ่านโอเพ่นซอร์ส อีเมลหนึ่งเกี่ยวข้องกับอีเมลปลอมที่อ้างว่ามาจากคณะกรรมการการศึกษาระดับภูมิภาคของลิมา โดยสั่งให้โรงเรียนต่างๆ ในเมืองหลวงของเปรูจัดกิจกรรมเพื่อยกย่องสเตฟาน บันเดรา บุคคลชาตินิยมยูเครนผู้เป็นที่ถกเถียง เนื่องในวันความหลากหลายแห่งชาติ ร้านค้าชาวเปรูและโปแลนด์กล่าวถึงข้อขัดแย้งที่ตามมา และสมาชิกโปแลนด์ของรัฐสภายุโรปก็ถูกอ้างถึงในการรายงานข่าวด้วย ในเอกวาดอร์ เจ้าหน้าที่ใช้ที่อยู่อีเมลปลอมเพื่อหลอกให้โรงเรียนให้คำมั่นว่าจะจงรักภักดีต่อประธานาธิบดี Daniel Noboa และอดีตหัวหน้า Blackwater Erik Prince การแสดงความสามารถดังกล่าวทำให้สื่อมวลชนรายงานข่าวและการโต้แย้งจากรัฐมนตรีกระทรวงศึกษาธิการของเอกวาดอร์

ปฏิบัติการดังกล่าวยังแพร่กระจายไฟล์บันทึกเสียงปลอม ซึ่งรวมถึงไฟล์หนึ่งที่เป็นของคนงานในบริษัทน้ำของรัฐ EPSAS ของโบลิเวีย โดยอ้างว่ารัฐบาลจะตัดอุปทานให้กับลาปาซ และอีกอันเกิดจากกงสุลยูเครนในเอกวาดอร์ ผู้ตรวจสอบข้อเท็จจริงในทั้งสองประเทศได้หักล้างคำกล่าวอ้างดังกล่าว ก่อนหน้านี้นักวิจัยโอเพ่นซอร์สได้เชื่อมโยงกิจกรรมที่คล้ายกันกับหน่วยงาน "การเมือง" หรือ "La Compania" ซึ่งเป็นหน่วยงานที่อธิบายว่าเป็นผู้สืบทอดต่อการดำเนินงานของ Yevgeniy Prigozhin ในช่วงปลาย และรายงานของผู้ดำเนินการเองอ้างว่าแคมเปญที่กำหนดเป้าหมายไปที่ประธานาธิบดี Javier Milei ของอาร์เจนตินาซึ่งตรงกับการรายงานสาธารณะนั้น

เจ็ดนักข่าวปลอม ปฏิบัติการ "ทางสายลับปลอม"

ปฏิบัติการของอิหร่านใช้เส้นทางที่แตกต่างออกไปในระบบนิเวศของสื่อ ผู้ดำเนินการซึ่งแนะนำ ChatGPT เป็นภาษาเปอร์เซีย ได้ใช้แบบจำลองนี้เพื่อปรับแต่งบทความภาษาอังกฤษขนาดยาวเกี่ยวกับความขัดแย้งระหว่างสหรัฐฯ และอิหร่าน จากนั้นเสนอบทความดังกล่าวให้บรรณาธิการของร้านค้าออนไลน์ขนาดเล็กและขนาดกลางโดยใช้นักข่าวปลอม 7 คน ได้แก่ Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams และ Alice Johnson

OpenAI ระบุบทความเกือบ 100 รายการที่ตีพิมพ์หรือเผยแพร่ภายใต้สายย่อยเหล่านั้นจากร้านต่างๆ กว่าสิบแห่งทั่วโลก โดยส่วนใหญ่เน้นไปที่กิจการระหว่างประเทศและตะวันออกกลาง การดำเนินการดังกล่าวยังสร้างความคิดเห็นบนโซเชียลมีเดียจำนวนมาก แม้ว่า OpenAI กล่าวว่าสิ่งเหล่านี้ดึงการมีส่วนร่วมอย่างแท้จริงเพียงเล็กน้อย และตั้งข้อสังเกตว่าผู้ดำเนินการใช้การคำนวณที่หลอกลวงในรายงานภายในเพื่อเพิ่มผลกระทบทางโซเชียลมีเดียที่ชัดเจน บริษัทกล่าวว่ากิจกรรมดังกล่าวดูสอดคล้องกับผู้ดำเนินการเชิงพาณิชย์ที่ดำเนินแคมเปญจูงใจสำหรับการจ้างงาน และได้แบ่งปันข้อมูลกับหน่วยงานที่เกี่ยวข้อง

งานฝีมือเก่าเครื่องมือใหม่

สิ่งที่โจมตีนักวิจัยมากที่สุด OpenAI เขียนคือ การดำเนินการทั้งสองอย่างใกล้ชิดคล้ายคลึงกับแคมเปญที่มีอิทธิพลจากยุคก่อน AI บุคลิกนักข่าวปลอมนี้มีความคล้ายคลึงในครอบครัวกับ "อลิซ โดโนแวน" นักข่าวสมมติที่คอยปกป้องหน่วยข่าวกรองทหารรัสเซีย ซึ่งมีความคิดเห็นวิจารณ์ปรากฏในสื่อตะวันตกในปี 2559 และ 2560 เจ้าหน้าที่ท้องถิ่นโดยไม่รู้ตัวของ SRC สะท้อน "PeaceData" ซึ่งเป็นเว็บไซต์ข่าวปลอมที่ร่วมเลือกนักข่าวจริงในปี 2563

AI ไม่ได้คิดค้นเทคนิคเหล่านี้ — มันทำให้ราคาถูกลง เร็วขึ้น และคล่องแคล่วมากขึ้น ผู้ดำเนินการใช้แบบจำลองในการปรับแต่งของปลอมให้เข้ากับคำศัพท์ท้องถิ่นและสไตล์ของสถาบัน แปลสคริปต์เป็นภาษาสเปนตามภูมิภาค และสร้างอีเมลที่มีการนำเสนอข้อมูลที่สวยงามสำหรับบรรณาธิการ แต่ OpenAI แย้งว่าลักษณะการปกปิดแบบตัวต่อตัวของปฏิบัติการปลอมแปลงยังทำให้พวกเขาเสี่ยงต่อการถูกเปิดเผย ทั้ง Alice Donovan และ PeaceData ปิดตัวลงหลังจากถูกเปิดเผยชื่อต่อสาธารณะ

อ่านหลักฐานด้วยความระมัดระวัง

OpenAI ระมัดระวังที่จะเตือนการค้นพบของตัวเอง ผู้ปฏิบัติงานมักจะอ้างสิทธิ์ในกิจกรรมที่พวกเขาไม่เกี่ยวข้อง และของปลอมบางรายการที่พวกเขารายงานว่ามีการปลูกนั้นไม่พบในโอเพ่นซอร์ส สิ่งที่ OpenAI สามารถตรวจสอบได้ ผ่านการตรวจสอบข้อเท็จจริง การปฏิเสธอย่างเป็นทางการ และบทความที่ตีพิมพ์ซึ่งตรงกับคำอธิบายของผู้ปฏิบัติงาน บ่งชี้ถึงการแทรกซึมของสื่อและวาทกรรมทางการเมืองอย่างแท้จริงในอย่างน้อยสี่ประเทศ

สำหรับอุตสาหกรรม AI รายงานนี้เป็นเครื่องเตือนใจว่าการใช้แบบจำลองที่มีประสิทธิผลสูงสุดในการบิดเบือนข้อมูลมักจะเป็นสิ่งที่มองเห็นได้น้อยที่สุด เช่น การร่างรายงานภายใน การปรับปรุงการนำเสนอ การปรับปรุงการแปล หน่วยงานที่อยู่ในตำแหน่งที่ดีที่สุดในการตรวจจับแคมเปญเหล่านี้ ดังกรณีก่อนหน้านี้ของ OpenAI แสดงให้เห็น มักเป็นแพลตฟอร์มที่มีการใช้เครื่องมือของตัวเองเพื่อดำเนินการ

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →