ถังความคิดปลอมของสหรัฐฯ ที่เปิดเผยครั้งแรกเมื่อสัปดาห์ที่แล้วขณะนี้ได้รับการวัดปริมาณโดย Guardian แล้ว: รายงาน 124 ฉบับและ 560,000 คำในเก้าวัน สร้างขึ้นบนแพลตฟอร์มเชิงพาณิชย์ที่สัญญาว่าจะเพิ่มประสิทธิภาพเนื้อหา ดังนั้นแชทบอท AI จะอ้างอิงถึงมัน — พร้อมหลักฐานการระดมทุนของรัฐบาลอิสราเอลที่บันทึกไว้ในเอกสารที่ยื่นต่อกระทรวงยุติธรรมสหรัฐฯ นี่เป็นตัวอย่างสาธารณะที่ชัดเจนที่สุดของนักแสดงที่เกี่ยวข้องกับรัฐซึ่งกำหนดเป้าหมายไปที่เลเยอร์คำตอบของ AI ไม่ใช่ผู้อ่าน แต่เป็นโมเดลที่พูดถึงพวกเขามากขึ้น นี่เป็นเรื่องราวประเภทที่ ความครอบคลุมของอุตสาหกรรม AI ของเราติดตามในขณะที่การจัดการแชทบอทกลายเป็นเรื่องอุตสาหกรรม (เรากล่าวถึงการค้นพบครั้งแรกของไซต์ ที่นี่

ถังความคิดที่ไม่มีอยู่จริง

เว็บไซต์นี้เผยแพร่ภายใต้ชื่อสถาบันนโยบายสาธารณะฮันโนเวอร์ เจสัน วิลสัน แห่งเดอะการ์เดียน ระบุ สถาบันดังกล่าวไม่มีสถานะเป็นนิติบุคคลในเขตอำนาจศาลใดๆ ไม่มีที่อยู่จริง และไม่มีการระบุชื่อเจ้าหน้าที่ และไม่มีสายทางในรายงานใดๆ เงื่อนไขการใช้งานอยู่ภายใต้กฎหมายของ "รัฐที่สถาบันก่อตั้งขึ้น" ซึ่งเป็นรัฐที่เอกสารปฏิเสธที่จะเอ่ยชื่อ

ขนาดของผลผลิตเป็นแบบอุตสาหกรรม ระหว่างวันที่ 6 สิงหาคม ถึง 14 สิงหาคม สถาบันฮันโนเวอร์เผยแพร่รายงาน 124 ฉบับ รวมกว่า 560,000 คำ โดยเฉลี่ยประมาณ 4,500 คำต่อฉบับ เฉพาะในวันที่ 12 และ 13 สิงหาคมเท่านั้น มีการจัดทำรายงาน 73 ฉบับ รวมเกือบ 354,000 คำ ไม่มีการเผยแพร่เลยนับตั้งแต่มีรายงานของสื่อชุดแรกเกี่ยวกับเว็บไซต์ดังกล่าว

ออกแบบมาสำหรับเลเยอร์คำตอบแชทบอท

สิ่งที่ทำเครื่องหมายการดำเนินการที่แปลกใหม่คือการกำหนดเป้าหมาย พาดหัวข่าวทั้งหมดยกเว้นหนึ่งใน 124 หัวข้อเปิดขึ้นพร้อมกับคำถามที่คล้ายกับคำถามที่ผู้ใช้พิมพ์ลงในแชทบอท เช่น "ลัทธิต่อต้านชาวยิวต่อต้านไซออนิสต์หรือไม่", "อิสราเอลขับไล่ชาวปาเลสไตน์ออกจากดินแดนของพวกเขาหรือไม่", "อิสราเอลกำลังก่อการฆ่าล้างเผ่าพันธุ์ในฉนวนกาซาหรือไม่" รายงานดังกล่าวนำเสนอจุดยืนของอิสราเอลเกี่ยวกับการทรมานนักโทษชาวปาเลสไตน์ อาชญากรรมสงคราม และความอดอยากในฉนวนกาซา ว่าเป็นการวิจัยที่เป็นกลาง ซึ่งจัดทำขึ้นเพื่อการดึงกลับด้วยเครื่องจักร

ช่างเครื่องได้รับการบันทึกไว้ในเอกสารที่ยื่นอย่างเป็นทางการ บริษัทผลิตสื่อในนิวยอร์ก ไพโร อิงค์ จดทะเบียนสถานที่ดังกล่าวกับกระทรวงยุติธรรมสหรัฐฯ ในเดือนนี้ภายใต้พระราชบัญญัติการจดทะเบียนตัวแทนต่างประเทศ (ฟารา) ซึ่งเป็นกฎหมายปี 1938 ที่กำหนดให้รัฐบาลต่างประเทศต้องเปิดเผยงานในฐานะสื่อที่เผยแพร่ให้กับรัฐบาลอิสราเอล เดอะ การ์เดียน รายงานว่า ความพยายามดังกล่าวได้รับการสนับสนุนจากรัฐบาลอิสราเอลจำนวนหลายสิบล้านดอลลาร์ ซึ่งส่งผ่านบุคคลที่สาม รวมถึงกลุ่มโฆษณา Havas Media ในยุโรป สัญญาระหว่าง Havas และบริษัทอเมริกันอีกแห่งหนึ่งที่ทำงานเกี่ยวกับการรณรงค์นี้ ถือเป็นการ "ปรับใช้เว็บไซต์และเนื้อหาเพื่อส่งมอบผลลัพธ์กรอบ GPT ในการสนทนา GPT"

หลังจากที่มีการรายงานการมีอยู่ของไซต์นี้ครั้งแรกเมื่อวันที่ 14 สิงหาคม สถาบันได้เพิ่มหน้าการให้ทุนอย่างเงียบๆ โดยมีการแก้ไข: "เวอร์ชันก่อนหน้านี้ของหน้านี้กล่าวว่าสถาบันดำเนินการโดยไม่มีเงินทุนภายนอก และนั่นเป็นความจริงตอนที่เขียนขึ้น" เดอะการ์เดียนติดต่อ Piro Inc, Havas Media และ LaPam ซึ่งเป็นเอเจนซี่โฆษณาของรัฐบาลอิสราเอลเพื่อขอความคิดเห็น

ทำไมแชทบอทถึงเป็นสนามรบใหม่

กลยุทธ์นี้มีชื่อในอุตสาหกรรมการตลาด — การเพิ่มประสิทธิภาพกลไกสร้างหรือ GEO — และเป็นวินัยของผู้สืบทอดในการเพิ่มประสิทธิภาพกลไกค้นหา เมื่อแชทบอตตอบคำถาม มันจะใช้คลังข้อมูลการฝึกอบรมและแหล่งที่มาในการดึงข้อมูล เนื้อหาที่มีขนาดใหญ่ จัดรูปแบบคำถาม และจัดรูปแบบเป็นงานวิจัยที่เชื่อถือได้ มีแนวโน้มที่จะถูกแสดง อ้างอิง หรือซึมซับเข้าไปในคำตอบของแบบจำลองมากกว่า ถังความคิดปลอมเกือบจะเป็นสิ่งประดิษฐ์ GEO ในอุดมคติ: ความน่าเชื่อถือของสถาบันโดยไม่มีสถาบัน

ช่วงเวลาสะท้อนถึงความสิ้นหวังพอๆ กับความซับซ้อน เดอะ การ์เดียน ตั้งข้อสังเกตว่าการรณรงค์ครั้งนี้เกิดขึ้นในขณะที่จุดยืนของอิสราเอลต่อความคิดเห็นของสาธารณชนสหรัฐฯ พังทลายลง และในขณะที่เจ้าหน้าที่อิสราเอลสรุปกับสื่อต่างๆ ว่าเงินที่ใช้ไปกับการทูตสาธารณะของ "ฮาสบารา" ในต่างประเทศได้สูญเปล่า

สถาบันฮันโนเวอร์ไม่ใช่คดีเดี่ยว ในวันเดียวกับที่ Guardian เผยแพร่การสอบสวน OpenAI ประกาศว่าได้ขัดขวางแคมเปญลับที่มีอิทธิพลของรัสเซียโดยใช้ AI ซึ่งเป็นการลบเนื้อหาล่าสุดที่บริษัทอ้างว่าเกี่ยวข้องกับนักแสดงที่เชื่อมโยงกับรัฐ สองการดำเนินงานที่แยกจากกัน สองทวีป หนึ่งความเข้าใจร่วมกัน: ขณะนี้โมเดลที่มีอิทธิพลมีราคาถูกและคงทนกว่าการมีอิทธิพลต่อผู้คนโดยตรง

ช่องว่างการกำกับดูแล

สำหรับหน่วยงานกำกับดูแล กรณีดังกล่าวทำให้เกิดช่องโหว่ในกรอบการทำงานที่มีอยู่ การเปิดเผยข้อมูลของ Fara ตรวจพบการดำเนินการดังกล่าวบนกระดาษ แต่หลังจากที่มีการเผยแพร่เนื้อหาและอาจถูกนำเข้าแล้วเท่านั้น ข้อกำหนดด้านความโปร่งใสของพระราชบัญญัติ AI ของสหภาพยุโรปและกรอบการทำงานโดยสมัครใจที่ควบคุมแหล่งที่มาของข้อมูลการฝึกอบรมไม่ได้ออกแบบมาสำหรับโลกที่เส้นทางที่ถูกที่สุดไปสู่ความเชื่อของประชากรวิ่งผ่านแชทบอท

สำหรับห้องปฏิบัติการ AI คำถามในการปฏิบัติงานเกิดขึ้นทันที: ระบบดึงข้อมูลและไปป์ไลน์การฝึกอบรมแยกความแตกต่างระหว่างการวิจัยจากฟาร์มเนื้อหาที่สวมชุดวิจัยอย่างไร ปริมาณ การจัดรูปแบบ และการอ้างอิงที่มั่นใจ ซึ่งเป็นสัญญาณแห่งอำนาจ เป็นสิ่งที่สถาบัน Hanover ผลิตขึ้นเป็นจำนวนมาก จนกว่าแบบจำลองจะดีขึ้นในแหล่งที่มา มีคำกว่าครึ่งล้านคำอยู่แล้ว และไม่มีการเปิดเผยใด ๆ หลังจากเรียกคืนข้อเท็จจริงแล้ว

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →