OpenAI กล่าวเมื่อวันอังคารว่าได้สั่งห้ามกลุ่มบัญชี ChatGPT ที่มีต้นกำเนิดในรัสเซียซึ่งใช้เพื่อสนับสนุนแคมเปญมีอิทธิพลทางออนไลน์อย่างลับๆ ซึ่งเป็นการดำเนินการที่สร้างขึ้นโดยองค์กรวิจัยสมมติที่เรียกว่า International Burke Institute ซึ่งสร้างความร่วมมือกับนักวิชาการที่มีชื่อเสียงและลอกเลียนแบบเนื้อหาที่ตีพิมพ์ส่วนใหญ่

บริษัทเปิดเผยการลบออกในบล็อกโพสต์ชื่อ "ขัดขวางแคมเปญอิทธิพลแอบแฝงใหม่จากรัสเซีย" และการค้นพบนี้รายงานโดย CNBC และ Quartz ตามข้อมูลของ OpenAI บัญชีดังกล่าวถูกนำมาใช้เพื่อโปรโมตสถาบัน International Burke Institute หรือ IBI ซึ่งเป็น "ชุมชนผู้เชี่ยวชาญ" ที่อธิบายตัวเองได้ ซึ่งมีเว็บไซต์ระบุที่อยู่ในอิสราเอลและจดทะเบียนในเดือนกุมภาพันธ์ 2025 For more context on this story, see our ongoing latest AI developments.

ถังความคิดที่ไม่เคยมีมาก่อน

หัวใจสำคัญของการดำเนินการคือรูปลักษณ์ของความชอบธรรมของสถาบัน เว็บไซต์ IBI อ้างว่ามีนักวิชาการที่มีชื่อเสียงอย่าง Francis Fukuyama และ Noam Chomsky อ้างอย่างผิดๆ OpenAI กล่าว ในการทบทวนบทความ 36 บทความที่เชื่อมโยงกับผู้เชี่ยวชาญที่มีรายชื่ออยู่ในไซต์และเผยแพร่ระหว่างเดือนกันยายน 2568 ถึงพฤษภาคม 2569 บริษัทพบว่า 34 บทความถูกคัดลอกมาจากที่อื่นบนอินเทอร์เน็ต ซึ่งบางครั้งก็มีการระบุแหล่งที่มาที่ไม่ถูกต้อง

ลักษณะสำคัญของการรณรงค์นี้คือ "ดัชนีอธิปไตย" ซึ่งจัดอันดับประเทศต่างๆ ตามตัวชี้วัดที่ออกแบบมาเพื่อให้รัสเซียอยู่ในเกณฑ์ดี ขณะเดียวกันก็วิพากษ์วิจารณ์ประเทศตะวันตก รายงานที่กำหนดเป้าหมายไปที่ฝรั่งเศส เยอรมนี สหรัฐอเมริกา และสหภาพยุโรปกลายเป็นประเด็นถกเถียง OpenAI กล่าว ข้อความหนึ่งในสหรัฐอเมริกาอ่านว่า: "ทรัมป์มาถึง [ในกรุงปักกิ่ง] พร้อมกับดัชนีอธิปไตยอันดับ 1 ของโลก และจากไปหลังจากดำเนินการหลายขั้นตอนที่ [...] สามารถเข้าข่ายเป็นการลดความเป็นอิสระโดยสมัครใจได้"

การดำเนินการทำงานอย่างไร

OpenAI กล่าวว่าได้ประเมินบัญชีเหล่านี้ว่าน่าจะมาจากรัสเซียแม้จะมีการอำพรางก็ตาม เพื่อหลบเลี่ยงข้อห้ามของ OpenAI ในการเข้าถึงโมเดลจากรัสเซีย ผู้ให้บริการจึงกำหนดเส้นทางการเชื่อมต่อผ่าน VPN บริษัทกล่าว พวกเขาใช้ ChatGPT ในภาษารัสเซียเพื่อร่างเนื้อหาโซเชียลมีเดียที่ปรากฏบน Substack, Telegram, X, Facebook และ LinkedIn โดยสั่งให้โมเดลตัดคุณลักษณะใดๆ ของข้อความที่อาจหักล้างต้นกำเนิดที่ AI สร้างขึ้น เนื้อหาที่สร้างขึ้นส่วนใหญ่เขียนเป็นภาษาอังกฤษ ซึ่งเป็นตัวเลือกที่บ่งชี้ว่าการดำเนินการนี้มุ่งเป้าไปที่ผู้ชมชาวตะวันตกมากกว่าผู้อ่านชาวรัสเซียในประเทศ

การดำเนินการขยายออกไปเกินกว่าเนื้อหาภาษาอังกฤษ เจ้าหน้าที่รายหนึ่งสร้างโพสต์ภาษาเยอรมันสำหรับช่อง Telegram ที่เรียกว่า "Lahme Ente" ซึ่งเป็นภาษาเยอรมันสำหรับ "เป็ดง่อย" ซึ่งวิพากษ์วิจารณ์ยูเครน สหภาพยุโรป และรัฐบาลเยอรมัน ในขณะที่สนับสนุนความสัมพันธ์ที่ใกล้ชิดกับรัสเซีย เจ้าหน้าที่คนที่สองสร้างโลโก้สำหรับช่อง Telegram ประมาณสิบช่องที่เน้นไปที่เยอรมนี สหรัฐอเมริกา ฝรั่งเศส โปแลนด์ และตุรกี และขอสรุปกิจกรรมเป็นภาษารัสเซีย

การเข้าถึงที่จำกัด แต่เป็นพิมพ์เขียวที่น่าตกใจ

จากการวัดการมีส่วนร่วมแบบเดิมๆ แคมเปญไม่ประสบความสำเร็จ OpenAI ยอมรับว่าโพสต์บนโซเชียลมีเดียส่วนใหญ่มีจำนวนการดูต่ำ บัญชี IBI อย่างเป็นทางการมีสมาชิกน้อย และช่อง Telegram ที่เกี่ยวข้องดึงดูดผู้ติดตามระหว่าง 10,000 ถึง 20,000 คนต่อช่อง

แต่บริษัทแย้งว่าความสำคัญของปฏิบัติการไม่ได้อยู่ที่การเข้าถึง แต่อยู่ที่อุปกรณ์ที่ผู้ปฏิบัติงานสร้างขึ้น โพสต์ที่สร้างด้วย ChatGPT นำทางผู้อ่านไปยังสิ่งที่ดูเหมือนจะเป็นหน่วยงานวิจัยที่ถูกต้องตามกฎหมาย พร้อมด้วยที่อยู่ทางกายภาพ บัญชีรายชื่อผู้เชี่ยวชาญ และสิ่งพิมพ์จำนวนมาก OpenAI กล่าวว่าโครงสร้างดังกล่าวแสดงให้เห็นว่าเครื่องมือ AI สามารถช่วยให้ผู้ไม่ประสงค์ดีสร้างความน่าเชื่อถือของสถาบัน ปิดบังแหล่งที่มาที่แท้จริงของเรื่องราวที่ต้องการ และวางรากฐานสำหรับการดำเนินงานที่อาจขยายใหญ่ขึ้นได้มาก

การต่อสู้ที่กว้างขึ้นเหนืออิทธิพลที่สร้างโดย AI

การลบออกถือเป็นการหยุดชะงักครั้งล่าสุดที่ OpenAI ได้ประกาศเกี่ยวกับผู้แสดงภัยคุกคามในเครือของรัฐ และเกิดขึ้นท่ามกลางหลักฐานที่เพิ่มขึ้นว่าปฏิบัติการที่มีอิทธิพลกำลังเปลี่ยนความทะเยอทะยานของพวกเขาจากฟีดโซเชียลมีเดียไปสู่ระบบ AI เมื่อต้นเดือนสิงหาคม การสืบสวนแยกต่างหากโดย Responsible Statecraft ได้จัดทำเอกสาร Think Tank ปลอมที่เผยแพร่รายงานมากกว่า 100 ฉบับในหนึ่งสัปดาห์ เพื่อเป็นความพยายามที่ชัดเจนในการบิดเบือนคำตอบที่ Chatbots ของ AI ให้ไว้เกี่ยวกับอิสราเอลและปาเลสไตน์

กรณีต่างๆ ร่วมกันได้ร่าง Playbook ที่เกิดขึ้นใหม่ แทนที่จะส่งข้อความถึงมนุษย์เท่านั้น ผู้ปฏิบัติงานกำลังสร้างสถาบันปลอมที่สามารถอ้างอิง คัดลอก และดูดซับผลลัพธ์ได้ด้วยโมเดล AI ที่เป็นสื่อกลางในการที่ผู้คนเผชิญกับข้อมูลมากขึ้น

สำหรับบริษัท AI ผลกระทบนั้นไม่น่าสบายใจ คุณสมบัติเดียวกันที่ทำให้โมเดลภาษาขนาดใหญ่มีประโยชน์ เช่น การร่างแบบหลายภาษาได้อย่างคล่องแคล่ว ต้นทุนต่ำ ผลผลิตที่ไม่เหน็ดเหนื่อย ทำให้โมเดลเหล่านี้เป็นโครงสร้างพื้นฐานที่น่าสนใจสำหรับการโฆษณาชวนเชื่อที่ถูกฟอก การตอบสนองของ OpenAI ในกรณีนี้คือการลบออกในระดับเนื้อหา: บัญชีที่ถูกแบน ชื่อกลยุทธ์ และการบัญชีสาธารณะเกี่ยวกับวิธีการทำงาน

การเปิดเผยข้อมูลดังกล่าวสามารถให้ทันกับการดำเนินการที่อธิบายไว้ได้หรือไม่ ยังคงเป็นหนึ่งในคำถามด้านความปลอดภัยที่สำคัญของยุค AI ตามที่รายงานเมื่อวันอังคารระบุไว้อย่างชัดเจน ค่าใช้จ่ายในการสร้างสถาบันปลอมที่น่าเชื่อได้ลดลงอย่างมาก และหน่วยงานที่อยู่ในตำแหน่งที่ดีที่สุดในการตรวจจับพวกเขาก็คือบริษัทที่มีการใช้แบบจำลองในการสร้างพวกเขา

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →