OpenAI กล่าวเมื่อวันพฤหัสบดีว่าได้ขัดขวางการดำเนินการที่มีอิทธิพลเชื่อมโยงกับอิหร่านซึ่งใช้ ChatGPT เพื่อวางบทความที่สร้างโดย AI เกือบ 100 บทความภายใต้ชื่อนักข่าวตะวันตกปลอมในสื่อสิ่งพิมพ์จริงทั่วโลก รวมถึงร้านในสหรัฐฯ หลายแห่ง

แคมเปญดังกล่าวซึ่ง OpenAI เรียกว่าปฏิบัติการ "แนวหน้าเท็จ" มีรายละเอียดอยู่ในรายงานของบริษัทที่เผยแพร่เมื่อวันที่ 8 ตุลาคม และในรายงานติดตามผลโดย The Washington Post, CNN, NPR และ Radio Free Europe/Radio Liberty นี่เป็นหนึ่งในกรณีที่มีการบันทึกไว้ชัดเจนที่สุดจนถึงปัจจุบันของเครือข่ายอิทธิพลจากต่างประเทศที่ใช้แชทบอทเชิงพาณิชย์กระแสหลัก ไม่ใช่แค่เพื่อร่างโฆษณาชวนเชื่อเท่านั้น แต่ยังเพื่อจัดการเวิร์กโฟลว์ด้านบรรณาธิการเต็มรูปแบบของการลงโฆษณาในสื่อที่ถูกกฎหมาย For more context on this story, see our ongoing AI news.

นักข่าวที่ไม่เคยมีตัวตน

ศูนย์กลางของปฏิบัติการคือบุคคลชื่อ Ervin B. Hoskins ซึ่งนำเสนอเป็นนักข่าวอิสระชาวอเมริกัน ตามรายงานของ RFE/RL บทความที่อ้างถึง Hoskins ระบุว่าสหรัฐฯ เป็นผู้รุกรานในความขัดแย้งที่ดำเนินอยู่กับอิหร่าน แสดงให้เห็นว่าอิสราเอลเป็นพันธมิตรที่ไม่น่าเชื่อถือ และตีกรอบอิหร่านว่าเป็นฝ่ายแพ้ที่ท้าทาย Hoskins ยืนยัน OpenAI แล้วไม่เคยมีอยู่จริง

เขาเป็นหนึ่งในเจ็ดนักข่าวที่ถูกประดิษฐ์ขึ้น ซึ่งทั้งหมดอ้างว่ามาจากประเทศตะวันตก ซึ่งผู้ปฏิบัติงานใช้ในการเสนอและวางบทความ “เราระบุบทความเกือบ 100 รายการที่ตีพิมพ์หรือเผยแพร่ภายใต้สายงานของปฏิบัติการจากร้านค้าออนไลน์ประมาณ 12 แห่งทั่วโลก” OpenAI กล่าวในรายงาน โดยอธิบายถึงเป้าหมายว่าเป็นร้านค้าขนาดเล็กถึงขนาดกลางที่โดยทั่วไปมุ่งเน้นไปที่กิจการระหว่างประเทศ ภูมิศาสตร์การเมือง และตะวันออกกลาง

หนังสือพิมพ์วอชิงตันโพสต์ ซึ่งรายงานการแพร่หลายของสื่อสหรัฐฯ ในการรณรงค์หาเสียงเป็นครั้งแรก พบว่าหนังสือพิมพ์ฟลอริดาฉบับเล็กๆ รายสัปดาห์ตีพิมพ์ความคิดเห็นปลอมฉบับหนึ่ง ตำแหน่งที่ถูกตั้งค่าสถานะอื่นๆ ปรากฏในสื่อต่างๆ รวมถึง Middle East Monitor ซึ่งบอกกับ CNN ว่าได้ลบบทความที่เป็นปัญหาแล้ว และกำลังตรวจสอบกระบวนการส่งบทความ

วิธีการใช้งาน ChatGPT

ตามการเปิดเผยของ OpenAI ผู้ดำเนินการใช้ ChatGPT ทั้งในภาษาฟาร์ซีและภาษาอังกฤษตลอดทั้งการวางตำแหน่ง: การแก้ไขร่างบทความแบบยาว ปรับแต่งการนำเสนอให้ตรงตามความต้องการด้านบรรณาธิการของสิ่งพิมพ์แต่ละฉบับ การเตรียมอีเมลเผยแพร่ไปยังบรรณาธิการ และสร้างชุดความคิดเห็นบนโซเชียลมีเดียที่ออกแบบมาให้ดูเหมือนปฏิกิริยาของผู้อ่านอิสระ

ตัวอย่างหนึ่งที่นักวิจัยสืบค้นได้: บทวิจารณ์ในหัวข้อ "จาเร็ด คุชเนอร์ และการแปรรูปยุทธศาสตร์อิหร่านของอเมริกา" ซึ่งเผยแพร่เมื่อวันที่ 12 มิถุนายนโดย PeaceVoice ซึ่งเป็นบริการเผยแพร่ความคิดเห็นแบบ Op-ed ที่ดำเนินการโดยสถาบัน Oregon Peace Institute ในวันต่อมา บทความเดียวกันนี้ได้รับการตีพิมพ์ซ้ำโดย CounterPunch และ LA Progressive ตามข้อมูลของ RFE/RL

OpenAI กล่าวว่ากิจกรรมการตีพิมพ์เพิ่มขึ้นหลังจากความขัดแย้งระหว่างสหรัฐอเมริกาและอิหร่านเริ่มขึ้นเมื่อต้นปีนี้ บริษัทกล่าวว่าได้สั่งห้ามบัญชี ChatGPT ที่เกี่ยวข้องกับแคมเปญ และจัดอันดับความสามารถในการดำเนินการเพื่อวางเนื้อหาในช่องบรรณาธิการภายนอกเป็นหมวดหมู่ 4 ในระดับการดำเนินงานที่มีอิทธิพลหกจุด ตามรายงานของ CNN

การระบุแหล่งที่มายังคงเปิดอยู่

โดยเฉพาะอย่างยิ่ง OpenAI กล่าวว่าไม่สามารถระบุนักแสดงเฉพาะที่อยู่เบื้องหลังการรณรงค์หรือยืนยันทิศทางจากรัฐบาลอิหร่านได้ การประเมินตามรายงานของ CNN ชี้ไปที่การดำเนินงานที่มีอิทธิพลในเชิงพาณิชย์และให้เช่ามากกว่าการดำเนินการที่ดำเนินการโดยรัฐโดยตรง ซึ่งเป็นโครงสร้างที่ทำให้การระบุแหล่งที่มายากขึ้นและการหยุดชะงักมีข้อสรุปน้อยลง การแบนบัญชีขัดขวางสิ่งที่ OpenAI สามารถสังเกตเห็นได้ มันไม่ได้พิสูจน์ว่าเครือข่ายที่กว้างขึ้นถูกรื้อออก

เจสซิกา แบรนด์ต ซึ่งเป็นผู้นำสำนักงานผู้อำนวยการศูนย์อิทธิพลร้ายในต่างประเทศของหน่วยข่าวกรองแห่งชาติตั้งแต่ปี 2566 ถึง 2568 บอกกับซีเอ็นเอ็นว่าการดำเนินการดังกล่าวแสดงให้เห็นว่า AI ช่วยให้นักแสดงชาวต่างชาติปกปิดการมีส่วนร่วมและกำหนดเส้นทางการส่งข้อความผ่านช่องทางที่แท้จริงได้อย่างไร

แคมเปญของอิหร่านไม่ใช่กิจกรรมเดียวที่ OpenAI ถูกตั้งค่าสถานะ รายงานของบริษัทยังครอบคลุมถึงการหยุดชะงักของการดำเนินงานที่เชื่อมโยงกับรัสเซียซึ่งใช้ ChatGPT ตามที่ The Record จาก Recorded Future News รายงาน RFE/RL แยกต่างหากตั้งข้อสังเกตว่าก่อนหน้านี้ Anthropic ได้ขัดขวางความพยายามของอิหร่านในการใช้แบบจำลอง Claude ของตนในทางที่ผิดเพื่อการโฆษณาชวนเชื่อและการสอดแนมผู้เห็นต่าง

สิ่งพิมพ์ไม่ใช่หลักฐานการประพันธ์อีกต่อไป

สำหรับห้องข่าว คดีนี้ขึ้นอยู่กับความจริงที่น่าอึดอัด เช่น บรรทัดย่อย จังหวะที่สอดคล้อง ชีวประวัติที่น่าเชื่อถือ และการเสนอที่ขัดเกลา ไม่ได้หมายความว่ามีผู้ร่วมให้ข้อมูลอีกต่อไป บรรณาธิการที่ต้องพึ่งพาการส่งผลงานอิสระ โดยเฉพาะ op-ed และโต๊ะวิจารณ์ ซึ่งโดยการออกแบบเผยแพร่มุมมองภายนอก ตอนนี้ประสบปัญหาการตรวจสอบที่ตัวกรองสแปมและการวิเคราะห์พฤติกรรมคุณภาพงานเขียนไม่สามารถแก้ไขได้

คำตอบเชิงปฏิบัติที่ทำเครื่องหมายไว้ในรายงานครอบคลุมถึงการตรวจสอบความถูกต้องของผู้สนับสนุนที่แข็งแกร่งขึ้น ประวัติการเสนอขายที่จัดทำเป็นเอกสาร การพิจารณาบรรทัดย่อยที่ปรากฏในหลายช่องทางในหน้าต่างสั้นๆ และเครื่องมือแหล่งที่มาที่เชื่อมโยงการส่งกับข้อมูลระบุตัวตนที่ตรวจสอบได้

เศรษฐศาสตร์ก็มีความสำคัญเช่นกัน การดำเนินการที่ครั้งหนึ่งเคยต้องใช้พนักงานนักเขียนสามารถดำเนินการโดยทีมเล็กๆ ที่ควบคุมแชทบอทได้ โดยโมเดลจะจัดการทุกอย่างตั้งแต่การแปลไปจนถึงการปรับโทนสีให้เข้ากับสไตล์เฮาส์ของสิ่งพิมพ์เป้าหมาย รายงานของ OpenAI ชี้ให้เห็นว่าอุปสรรคในการใช้งานแคมเปญการจัดวางตำแหน่งที่มีหลายบุคคลและหลายร้านได้ลดลงจนถึงจุดที่ร้านค้าให้เช่าสามารถทำเป็นบริการเชิงพาณิชย์ได้

ไม่มีช่องทางใดที่ระบุชื่อในการรายงานที่เป็นองค์กรข่าวกระแสหลักที่สำคัญ แต่มีหลายแห่งที่มีผู้ชมจริง นักวิจัยกล่าวว่า การวางตำแหน่งในสิ่งพิมพ์ที่น่าเชื่อถือใดๆ จะทำให้ข้อความมีการเผยแพร่ในวงกว้างขึ้น ผ่านการเผยแพร่ การรวมกลุ่ม และการค้นหา ซึ่งเป็นสิ่งที่แคมเปญประสบความสำเร็จก่อนที่จะหยุดชะงัก

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →