ในขณะที่ชาวอเมริกันมุ่งหน้าไปยังการเลือกตั้งกลางภาคในวันอังคาร ทั้ง OpenAI และ Anthropic ต่างก็มี "ห้องสงคราม" เพื่อให้แน่ใจว่าแพลตฟอร์ม AI ของพวกเขาจะให้ข้อมูลการเลือกตั้งที่แม่นยำ ซึ่งถือเป็นครั้งแรกสำหรับทั้งสองบริษัท Semafor รายงาน การเคลื่อนไหวดังกล่าวเป็นการรับทราบถึงความเป็นจริงที่น่าอึดอัด: สำหรับผู้มีสิทธิเลือกตั้งที่เพิ่มมากขึ้น แชทบอทและเครื่องมือค้นหาของ AI กลายเป็นวิธีหลักในการถามคำถามพื้นฐานเกี่ยวกับวิธีการ ที่ไหน และเมื่อใดที่จะลงคะแนนเสียง

แนวคิดห้องสงครามยืมมาจากการเมืองแพลตฟอร์มในยุคก่อนหน้า ย้อนกลับไปในปี 2018 เมื่อ Meta ยืนหยัดเป็นทีมแรกท่ามกลางความกังวลเกี่ยวกับการแพร่กระจายของข้อมูลที่ไม่ถูกต้องเกี่ยวกับการเลือกตั้ง สิ่งที่เปลี่ยนแปลงไปตั้งแต่นั้นมาคือรูปแบบภัยคุกคาม: ยุค AI ได้เพิ่มความเสี่ยงเหล่านั้น ซึ่งขณะนี้รวมถึงวิดีโอ Deepfake และผลการค้นหาที่ขับเคลื่อนด้วย AI ซึ่งกระจายข้อมูลที่ไม่ถูกต้องอย่างมั่นใจ เรากำลังติดตามจุดบรรจบกันของ AI และช่วงสอบกลางภาคตลอดทั้งวันใน การรายงานข่าว AI ประจำฤดูกาลการเลือกตั้ง

ครั้งแรกสำหรับ AI Labs ทั้งสองแห่ง

Anthropic ยืนยันการตั้งค่าเป็น Semafor “ทีมงานทั่วทั้งบริษัททำงานตลอดทั้งปีเพื่อเสริมสร้างการปกป้องที่เกี่ยวข้องกับการเลือกตั้งและบังคับใช้นโยบายของเรา” โฆษกกลุ่มมานุษยวิทยากล่าว "ก่อนการเลือกตั้ง เรามีห้องสงครามเฉพาะคอยติดตามแพลตฟอร์มของเราสำหรับการใช้งานในทางที่ผิด และพร้อมที่จะตอบสนองต่อเหตุการณ์ใดๆ อย่างรวดเร็ว"

โครงสร้างนี้ตรงไปตรงมาแต่มีความต้องการ: เจ้าหน้าที่คอยติดตามวิธีที่ Claude และเครื่องมืออื่นๆ ตอบสนองต่อคำถามเกี่ยวกับการเลือกตั้ง เฝ้าระวังรูปแบบการใช้ในทางที่ผิด เช่น การสร้างข้อมูลที่บิดเบือน และรักษากระบวนการตอบสนองที่รวดเร็วสำหรับเหตุการณ์ที่ต้องแก้ไขภายในไม่กี่ชั่วโมง ไม่ใช่ไม่กี่วัน ในขณะเดียวกัน NBC News ได้พาผู้อ่านเข้าไปในห้องสงครามการเลือกตั้งคู่ขนานของ OpenAI เพื่อตรวจสอบว่าบริษัทกำลังเตรียมตัวอย่างไรสำหรับผลกระทบของ AI ในช่วงกลางภาค

การที่ทั้งสองบริษัทรู้สึกว่าจำเป็นต้องสร้างความสามารถนี้ตั้งแต่เริ่มต้น บ่งบอกถึงความแปลกใหม่ของปัญหา ในปี 2018 แพลตฟอร์มต่างๆ กังวลเกี่ยวกับสิ่งที่ผู้ใช้โพสต์เป็นหลัก ในปี 2026 พวกเขายังต้องกังวลกับสิ่งที่นางแบบของตัวเองพูดอีกด้วย

เมื่อ AI ตอบคำถามผิดในเวลาที่เลวร้ายที่สุด

เงินเดิมพันไม่ใช่เรื่องสมมุติ Semafor ชี้ให้เห็นกรณีหนึ่งจากสัปดาห์ที่แล้ว: โหมด AI ของ Google จะไม่ตอบคำถามว่าใครชนะการเลือกตั้งในปี 2020 ซึ่งเป็นหนึ่งในคำถามที่ถูกถามมากที่สุดและได้รับการตัดสินมากที่สุดในประวัติศาสตร์การเมืองอเมริกันล่าสุด Google กล่าวว่ากำลังแก้ไขปัญหานี้อยู่

โหมดความล้มเหลวเป็นคำแนะนำ บางครั้งระบบ AI ปฏิเสธคำถามที่ควรตอบ และบางครั้งก็ตอบคำถามที่ควรปฏิเสธ และข้อผิดพลาดทั้งสองอย่างพุ่งสูงขึ้นอย่างแน่นอนเมื่อความสนใจของสาธารณชน — และปริมาณการค้นหา — สูงที่สุด ผู้ช่วย AI ที่ขัดขวางคำถามที่เป็นข้อเท็จจริงเกี่ยวกับการเลือกตั้งที่ผ่านมา บ่อนทำลายความไว้วางใจในแบบเดียวกับที่พยายามสร้างมันขึ้นมา

ข้อกังวลที่กว้างขึ้นมีมากกว่าคำตอบที่ผิดพลาดเพียงอย่างเดียว การวิเคราะห์ของสภาความสัมพันธ์ระหว่างประเทศที่ตีพิมพ์ในสัปดาห์นี้เตือนว่าแชทบอท AI สามารถสร้างอิทธิพลต่อความน่าเชื่อถือใหม่ ๆ ของแคมเปญได้ เนื่องจากข้อมูลที่ผิดที่ส่งด้วยเสียงที่สงบ มั่นใจ และเหมือนผู้ช่วยสืบทอดกลิ่นอายของความเป็นกลางที่เว็บไซต์พรรคพวกไม่เคยได้รับ

'สร้างขึ้นเพื่อจัดการกับสิ่งที่เราไม่สามารถคาดเดาได้'

เหตุใดจึงต้องมีห้องสงครามสดแทนที่จะพึ่งพาการทดสอบก่อนการเลือกตั้ง Katie Harbath อดีตผู้อำนวยการ Meta ของนโยบายสาธารณะซึ่งปัจจุบันทำงานเกี่ยวกับประเด็นด้านเทคโนโลยีและประชาธิปไตย อธิบายตรรกะให้ Semafor ฟัง War Room ได้รับการ "สร้างขึ้นเพื่อจัดการกับสิ่งที่เราไม่สามารถคาดเดาได้ว่าจะเกิดขึ้นผิดพลาด" เธอกล่าว "และคุณต้องการกระบวนการที่รวดเร็วและเป็นที่ยอมรับในแง่ของการพิจารณาคดี"

Semafor ตั้งข้อสังเกตว่าความคาดเดาไม่ได้นั้นทวีคูณขึ้น โดยธรรมชาติที่ไม่สม่ำเสมอของ AI ปัญหาความปลอดภัยทางไซเบอร์ล่าสุดที่ส่งผลกระทบต่ออุตสาหกรรม และแนวโน้มของเครื่องมือค้นหาของ AI ที่จะสะท้อนคำตอบที่ผู้ใช้ต้องการเห็น ซึ่งเป็นปัญหาความไม่ลงรอยกันที่สามารถบิดเบือนวิธีที่ผู้คนเข้าใจหัวข้อที่โต้แย้งได้อย่างเงียบๆ

วันเลือกตั้งคือการทดสอบความเครียด ปริมาณการค้นหาเกี่ยวกับสถานที่ลงคะแนน ตำแหน่งผู้สมัครรับเลือกตั้ง และผลการเลือกตั้งจะเพิ่มขึ้นถึงระดับที่ไม่มีการจำลองการประเมินก่อนการเลือกตั้งอย่างสมบูรณ์ ห้องสงครามมีอยู่เพราะวิธีเดียวที่จะค้นหาว่าระบบเหล่านี้ทำงานอย่างไรภายใต้ภาระนั้นคือการเฝ้าดูพวกเขาแบบเรียลไทม์ โดยมีอำนาจในการแก้ไขสิ่งต่าง ๆ อย่างรวดเร็ว

สิ่งที่ต้องระวังเมื่อผลลัพธ์เข้ามา

ตลอดคืนการเลือกตั้ง จุดกดดันสามารถคาดเดาได้ในหมวดหมู่แม้ว่าจะไม่ตรงเวลาก็ตาม เช่น คำตอบของ AI เกี่ยวกับผลลัพธ์และระยะขอบก่อนการแข่งขันจะถูกเรียกอย่างเป็นทางการ Deepfakes หมดเวลาให้เกิดความสับสนสูงสุด และภาพหน้าจอของคำตอบแชทบอทที่ไม่ดีจะแพร่กระจายเร็วกว่าการแก้ไข ความรวดเร็วในการปรับตัวของระบบ OpenAI, Anthropic และ Google ไม่เพียงแต่จะกำหนดสภาพแวดล้อมด้านข้อมูลของการเลือกตั้งครั้งนี้เท่านั้น แต่ยังรวมถึงวิธีการจัดการการเลือกตั้งครั้งต่อไปด้วย

สำหรับอุตสาหกรรม AI การทดสอบเชิงลึกนั้นถือเป็นชื่อเสียง ผู้ลงคะแนนหลายล้านคนจะโต้ตอบกับระบบเหล่านี้ในสัปดาห์นี้เป็นครั้งแรกในบริบทของพลเมืองที่มีเดิมพันสูง บริษัทที่ได้รับคำตอบเกี่ยวกับการเลือกตั้งอย่างถูกต้องหรือแก้ไขปัญหาได้อย่างรวดเร็ว จะได้รับความไว้วางใจแบบที่ไม่มีแคมเปญการตลาดใดสามารถซื้อได้

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →