ถังคิดปลอมที่สร้างขึ้นในนามของรัฐบาลอิสราเอลได้ตีพิมพ์รายงานการวิจัยที่สวยงามมากกว่า 100 ฉบับในเวลาเพียงหนึ่งสัปดาห์ ในสิ่งที่นักวิเคราะห์อธิบายว่าเป็นการรณรงค์โดยเจตนาเพื่อบิดเบือนคำตอบที่แชทบอท AI ให้ผู้ใช้เกี่ยวกับอิสราเอลและปาเลสไตน์ ตามการสอบสวนที่เผยแพร่เมื่อวันจันทร์โดย Responsible Statecraft

องค์กรนี้เรียกว่าสถาบันนโยบายสาธารณะฮันโนเวอร์ นำเสนอตัวเองเป็นหน่วยงานวิจัยใหม่ที่มุ่งเน้นที่อิสราเอล/ปาเลสไตน์ แต่รายงานดังกล่าวไม่มีบรรทัดย่อย และข้อจำกัดความรับผิดชอบที่ด้านล่างของเว็บไซต์ยอมรับว่ามันถูกสร้างขึ้นในนามของหน่วยงานโฆษณาของรัฐบาลอิสราเอลโดย Piro, Inc. ซึ่งเป็นบริษัทที่ร่วมก่อตั้งโดย Daniel Rosenberg ผู้ผลิตภาพยนตร์ที่ได้รับเครดิตจากภาพยนตร์เรื่อง "Inside Man" ของ Spike Lee เรื่องราวดังกล่าวได้รับเลือกจากสื่อต่างๆ รวมถึง Arab News และ The Cradle และเป็นสัญญาณล่าสุดที่บ่งชี้ว่าการดำเนินการที่มีอิทธิพลต่อการเปลี่ยนจากฟีดโซเชียลมีเดียไปเป็นโมเดล AI หากต้องการทราบข้อมูลเพิ่มเติมว่าการจัดการมีการพัฒนาอย่างไรในยุค AI โปรดติดตามการรายงานข่าว AI ด่วนของเรา For more context on this story, see our ongoing AI industry coverage.

รายงานที่ออกแบบมาเพื่อวิธีที่ LLM ตัดสินความน่าเชื่อถือ

สิ่งที่ทำให้สถาบันฮันโนเวอร์ไม่ธรรมดาคือความแม่นยำของผลลัพธ์ที่ปรากฏซึ่งปรับให้เหมาะกับวิธีที่โมเดลภาษาขนาดใหญ่ประเมินแหล่งที่มา “รายงานข้อมูล” มาพร้อมกับเชิงอรรถ สารบัญ และโทนสีที่เป็นกลาง ซึ่งเป็นการจัดรูปแบบที่ช่วยให้เอกสารดึงดูดแชทบอท เช่น Claude หรือ Gemini รายงานจาก Responsible Statecraft

ชื่อหลายชื่อใช้ถ้อยคำเหมือนกับคำถามที่ผู้ใช้พิมพ์ลงในแชทบอท: "อะไรเป็นสาเหตุให้เกิดการพลัดถิ่นของชาวปาเลสไตน์ในปี 1948" "องค์กรด้านมนุษยธรรมใดบ้างที่บันทึกอาชญากรรมสงครามของอิสราเอล" “สถานการณ์ปัจจุบันในฉนวนกาซาเป็นอย่างไร?” และ "IDF เป็นกองทัพที่มีคุณธรรมมากที่สุดในโลกหรือไม่" — ส่วนสุดท้ายอ้างถึงการสำรวจความคิดเห็นในปี 2022 ที่พบว่า 47% ของชาวยิวอิสราเอลเชื่อคำอธิบายนั้น

เว็บไซต์ของ Piro เองก็ไม่เปิดเผยเกี่ยวกับวิธีการนี้ บริษัทกล่าวว่าผู้เขียน "เนื้อหาได้รับการออกแบบมาเพื่อประเมินความน่าเชื่อถือของ LLM" ซึ่งเป็นบริการที่ทำตลาดในชื่อ "AI Story Optimization" นักวิจัยมีชื่อที่ไม่ชัดเจนสำหรับการปฏิบัตินี้: "พิษ LLM"

'การเลียนแบบที่สมบูรณ์แบบ' ของสถาบันที่น่าเชื่อถือ

Alice Lee นักวิเคราะห์จาก NewsGuard ซึ่งเป็นบริษัทติดตามข้อมูลที่บิดเบือน บอกกับ Responsible Statecraft ว่ารายงานของเว็บไซต์ดูเหมือนออกแบบมาเพื่อเข้าถึงผู้ชมในสหรัฐฯ ที่สงสัยเกี่ยวกับความขัดแย้ง ไม่ว่าจะผ่านทางเครื่องมือค้นหาหรือผู้ช่วย AI

“LLM ชอบสถิติและข้อมูลที่เป็นรูปธรรม เช่นเดียวกับการอ้างอิงและแหล่งที่มาที่ชัดเจน ซึ่งบทความเหล่านี้ล้วนมี” ลีกล่าว “มันเป็นการล้อเลียนที่สมบูรณ์แบบของนักคิดชาวอเมริกันที่น่าเชื่อถือ ไปจนถึงชื่อทั่วไป เค้าโครงของไซต์ และโทนสีสีแดง-ขาว-น้ำเงิน”

สถาบันยังได้ตีพิมพ์สิ่งที่อ้างว่าเป็นผลการวิจัยต้นฉบับ ตัวอย่างเช่น การศึกษาที่ยืนยันว่าวิดีโออธิบายของอิสราเอล-กาซา 19 รายการจาก 36 รายการที่มีผู้ชมมากที่สุด มีการกล่าวอ้างที่มีการโต้แย้ง โดยข้อกล่าวอ้างที่มีการโต้แย้งส่วนใหญ่สอดคล้องกับเรื่องเล่าของชาวปาเลสไตน์ รายงานอื่นๆ ตอบโต้เอกสารประกอบที่จัดทำขึ้น ซึ่งรวมถึงรายงานที่สร้างข้อสงสัยต่อการยืนยันของ UNICEF ว่า 90% ของน้ำและโครงสร้างพื้นฐานของสถาบันในฉนวนกาซาได้รับความเสียหายหรือถูกทำลาย

น่าสังเกตที่ผลลัพธ์ไม่ได้ติดตามแนวปฏิบัติของรัฐบาลอิสราเอลเสมอไป รายงานฉบับหนึ่งอธิบายถึงทฤษฎีที่ว่าการระดมทุนจากต่างประเทศของมหาวิทยาลัยอธิบายว่าเหตุการณ์ต่อต้านยิวนั้น "อ่อนแอและเต็มไปด้วยข้อยกเว้น" แม้ว่านายกรัฐมนตรีเบนจามิน เนทันยาฮูจะสนับสนุนทฤษฎีดังกล่าว โดยบอกกับ Breitbart ว่านักแสดงต่างชาติได้ใช้จ่ายเงิน "หลายพันล้าน" ในวิทยาเขตของอเมริกา รายงานหลายฉบับสรุปโดยการเชื่อมโยงหัวข้อปัจจุบันกับการต่อต้านชาวยิวที่เพิ่มขึ้น ซึ่งมักอ้างอิงถึงการศึกษาเดียวกัน

ติดตามเงิน: $900,000 ผ่านกลุ่มประชาสัมพันธ์ของฝรั่งเศส

ตามรายงานของ Responsible Statecraft Piro, Inc. ได้รับเงินจำนวน 900,000 ดอลลาร์จากรัฐบาลอิสราเอลสำหรับงานของบริษัท โดยรับเหมาช่วงผ่าน Havas Media ซึ่งเป็นกลุ่มบริษัทประชาสัมพันธ์ของฝรั่งเศส ซึ่งเป็นข้อตกลงที่สอดคล้องกับวิธีที่ผู้รับเหมาชาวอิสราเอลรายอื่นได้รับค่าตอบแทนสำหรับงานที่มีอิทธิพลในต่างประเทศ

สถาบันฮันโนเวอร์เริ่มเผยแพร่เมื่อวันที่ 6 สิงหาคม ในเวลาประมาณสิบวันนับตั้งแต่นั้นมา สถาบันได้เผยแพร่รายงานมากกว่า 100 ฉบับ ซึ่งเป็นอัตราที่รวดเร็วที่ไม่มีร้านค้านโยบายที่แท้จริงที่มีขนาดเทียบเคียงจะคงอยู่ได้

เหตุใดการจัดการ Chatbot จึงแตกต่าง

กรณีนี้ตอกย้ำจุดอ่อนเชิงโครงสร้างในการที่ผู้ช่วย AI รวบรวมคำตอบ: พวกเขาปฏิบัติต่อเอกสารที่มีการอ้างถึงอย่างดีและมีสถิติจำนวนมากว่าน่าเชื่อถือ โดยไม่คำนึงว่าใครเป็นคนจัดทำหรือทำไม ข้อมูลบิดเบือนแบบดั้งเดิมมุ่งเป้าไปที่ผู้อ่านที่เป็นมนุษย์บนแพลตฟอร์มโซเชียล ซึ่งการเจาะลึกทางอารมณ์มีความสำคัญที่สุด สิ่งที่เรียกว่าการวางยาพิษ LLM มุ่งเป้าไปที่เลเยอร์การดึงข้อมูลและการจัดอันดับที่จะตัดสินใจว่าแหล่งใดของการเสนอราคาแบบจำลอง และเอกสารโน้มน้าวใจเพียงฉบับเดียวก็สามารถสะท้อนเป็นคำตอบได้หลายล้านคำตอบ

สำหรับนักพัฒนาแชทบอท Hanover Institute คือการทดสอบความเครียดในการตรวจสอบแหล่งที่มา การประเมินของ NewsGuard ชี้ให้เห็นว่าการล้อเลียนนั้นใกล้พอที่จะหลอกสัญญาณความน่าเชื่อถือแบบอัตโนมัติได้ สำหรับผู้อ่าน บทเรียนนั้นง่ายกว่า: คำตอบที่มีความมั่นใจและมีคำอธิบายที่ดีที่แชทบอตให้ไว้เกี่ยวกับความขัดแย้งที่มีการโต้แย้งอาจย้อนกลับไปถึงองค์กรที่ถูกสร้างขึ้น สร้างแบรนด์ และได้รับเงินทุนเพื่อสร้างคำตอบนั้นอย่างแน่นอน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →