กระทรวงกลาโหมกำลังเปิดตัวโครงการนำร่องที่จะใช้ปัญญาประดิษฐ์เพื่อจัดการวิธีการจำแนกและจัดการข้อมูลทางการทหารที่ละเอียดอ่อน ตามบันทึกที่ออกโดยรองรัฐมนตรีกลาโหม สตีฟ ไฟน์เบิร์ก ซึ่งได้รับการตรวจสอบโดย DefenseScoop คำสั่งดังกล่าวสั่งให้ปรับใช้ความสามารถในการจำแนกความปลอดภัยแบบอัตโนมัติในขนาดเล็กภายในหกเดือนข้างหน้า ซึ่งเป็นการเปิดความพยายามที่จะยกเครื่องกระบวนการที่แผนกอธิบายว่าล้าสมัยอย่างเป็นอันตราย

ภายในบันทึกของ Feinberg For more context on this story, see our ongoing AI news.

บันทึกช่วยจำซึ่งออกเมื่อวันจันทร์ กำหนดกรอบกระบวนการจัดประเภทและยกเลิกการจำแนกประเภทที่มีอยู่ของเพนตากอน ในฐานะแหล่งที่มาของ "ความผิดปกติ" ที่กระทรวงฯ ระบุว่ากำลัง "คุกคาม" ภารกิจของตน โดยให้เหตุผลว่าขั้นตอนที่ล้าสมัยทำให้ "การเปิดเผยข้อมูลสำคัญอย่างทันท่วงที" ช้าลง และกัดกร่อนความไว้วางใจของสาธารณชนในแผนก

“ความผิดปกติที่เกิดจากขั้นตอนเหล่านี้นำไปสู่การจำแนกประเภทที่ไม่ถูกต้องซึ่งเป็นภาระต่อระบบความมั่นคงแห่งชาติของเรา ขัดขวางการทำงานร่วมกัน และทำให้นวัตกรรมช้าลงด้วยการดักข้อมูลสำคัญไว้ในเตาไฟ” บันทึกดังกล่าวระบุไว้ตาม DefenseScoop

ACME: ระบบกองทัพอากาศที่ศูนย์

สำหรับการทดลองนี้ กระทรวงกลาโหมจะใช้ระบบที่ได้รับการสนับสนุนจาก AI ซึ่งกองทัพอากาศเพิ่งพัฒนาขึ้นเมื่อเร็วๆ นี้ที่เรียกว่า Automated Classification Management Environment หรือ ACME บันทึกดังกล่าวระบุว่าเจ้าหน้าที่พลเรือนระดับสูงของกองทัพอากาศเป็นตัวแทนบริหารของนักบิน และโฆษกกองทัพอากาศบอกกับ DefenseScoop ว่าบริการดังกล่าว “จะปฏิบัติตามทิศทางในบันทึก”

ACME ถูกแจ้งต่อสาธารณะในเดือนสิงหาคม เมื่อเจ้าหน้าที่ออกคำร้องขอข้อมูลที่ขอให้ภาคอุตสาหกรรมช่วยสร้างระบบนิเวศการจัดการการจำแนกประเภท เพื่อทดแทนกระบวนการ "ที่ต้องใช้มนุษย์และต้องใช้คนมาก" ที่กองทัพใช้มานานหลายทศวรรษ ประกาศดังกล่าวอธิบายถึงระบบที่อยู่ภายใต้ความตึงเครียด: เจ้าหน้าที่หลายร้อยคนมีอำนาจในการจำแนกข้อมูล หลายคนใช้โปรแกรมโบราณ จัดทำเอกสารที่ล้าสมัย อัตราข้อผิดพลาดสูง มีการจัดประเภทมากเกินไปบ่อยครั้ง และความสมบูรณ์ของข้อมูลลดลง แผนกนี้ยังมีเอกสารในมือที่ค้างอยู่ประมาณ 140 ล้านหน้า

จากโปรแกรมนำร่องไปจนถึงการอ้างอิงที่มีสิทธิ์เดียว

หากโครงการนำร่องประสบความสำเร็จ บันทึกระบุว่าในที่สุดระบบอัตโนมัติจะทำหน้าที่เป็น "ข้อมูลอ้างอิงดิจิทัลฉบับเดียวที่เชื่อถือได้" สำหรับการตัดสินใจจำแนกประเภทดั้งเดิมของแผนกทั้งหมด ความรับผิดชอบดังกล่าวในอดีตเป็นของเจ้าหน้าที่มนุษย์ที่ได้รับมอบหมายเป็นพิเศษ ซึ่งจะเป็นผู้กำหนดประเภทของข้อมูลที่ละเอียดอ่อน ซึ่งหมายความว่าการเปิดตัวที่ประสบความสำเร็จจะถือเป็นการโอนย้ายหน้าที่หลักของรัฐบาลไปยังระบบ AI ที่เป็นผลสืบเนื่องมากที่สุดจนถึงปัจจุบัน

ทำไมเจ้าหน้าที่ถึงบอกว่าจำเป็นต้องมีการเปลี่ยนแปลง

กรณีของระบบอัตโนมัติขึ้นอยู่กับปริมาณและความเร็วที่แท้จริงของข้อมูลทางการทหารสมัยใหม่ เดือนสิงหาคมขอข้อมูลที่เรียกว่ากระบวนการด้วยตนเอง "เข้ากันไม่ได้" กับปริมาณและความเร็วของข้อมูลในยุคดิจิทัล การจัดประเภทที่มากเกินไปจะช่วยล็อคข้อมูลให้ห่างจากหน่วยและพันธมิตรที่ต้องการ ความเสี่ยงที่จัดอยู่ในประเภทต่ำกว่าการเปิดเผยความสามารถและแผนงานต่อฝ่ายตรงข้าม ข้อผิดพลาดในทิศทางใดทิศทางหนึ่งทำให้เกิดต้นทุน และด้วยจำนวนหน้ากระดาษที่ค้างอยู่เจ็ดหลัก แผนกจึงสรุปว่าการแก้ไขเพิ่มเติมยังไม่เพียงพอ

Josh Wallin เพื่อนจากโครงการป้องกันของ Center for a New American Security บอกกับ DefenseScoop ว่าข้อมูลที่จัดประเภทน้อยสามารถเปิดเผยความสามารถหรือแผนงานแก่ฝ่ายตรงข้ามได้ ในขณะที่เนื้อหาที่จัดประเภทมากเกินไปอาจถูกระงับหรือหยุดชะงักได้ด้วยกระบวนการตรวจสอบที่ล่าช้า ซึ่งหมายความว่าข้อมูลดังกล่าวอาจไม่ถึงองค์กรที่ต้องการข้อมูลนั้น "ในสภาพแวดล้อมของแนวร่วมที่การแบ่งปันข้อมูลมีความสำคัญอย่างยิ่งต่อการประสานงาน" เขาเสริมว่าในหลายกรณี "ข้อมูลส่วนใหญ่ไม่จำเป็นต้องละเอียดอ่อนจนคุณกังวลเกี่ยวกับการจัดประเภทที่ไม่ถูกต้อง" ซึ่งเป็นเหตุผลว่าทำไมการจัดการที่รวดเร็วและสม่ำเสมอมากขึ้นจึงสามารถจ่ายเงินปันผลทั่วทั้งแผนกได้

นักวิเคราะห์มองเห็นผลกำไร — และความเสี่ยงที่แท้จริง

Wallin กล่าวว่าระบบอัตโนมัติสามารถช่วยแก้ปัญหาการจำแนกประเภทที่ไม่ถูกต้อง รวมถึงข้อมูลที่ได้รับการคุ้มครองมากเกินไป ไม่ได้รับการคุ้มครอง หรือติดป้ายกำกับผิดโดยมนุษย์ และลดการใช้ระบบอัตโนมัติ โดยเฉพาะอย่างยิ่งเมื่อความขัดแย้งสมัยใหม่แสดงให้เห็นว่ากระแสข้อมูลที่รวดเร็วสามารถเป็นข้อได้เปรียบที่ชัดเจน

แต่ Wallin ก็ส่งสัญญาณความเสี่ยงเช่นกัน การจัดประเภทที่ไม่ถูกต้องอาจเกิดขึ้นได้ในระดับที่เร็วกว่าภายใต้ระบบที่ได้รับการสนับสนุนจาก AI การแบ่งปันที่รวดเร็วยิ่งขึ้นกับพันธมิตรและพันธมิตรทำให้เกิดคำถามเกี่ยวกับโปรโตคอลความปลอดภัยทางไซเบอร์ของเครือข่ายผู้รับ และการเร่งการแยกประเภทออกจะสร้างผลกระทบแบบ "รวมกลุ่ม" ซึ่งฝ่ายตรงข้ามสามารถรวบรวมข้อมูลเชิงลึกที่ละเอียดอ่อนจากการเปิดเผยข้อมูลที่ไม่เป็นอันตรายแต่ละรายการได้

“มีข้อกังวลเรื่องการจำแนกประเภทที่ไม่ถูกต้อง” Wallin กล่าว “มีเพียงข้อกังวลโดยธรรมชาติว่าข้อมูลบางอย่างจะมีความละเอียดอ่อน ข้อมูลนั้นจะถูกจัดประเภทและแบ่งปันอย่างไม่ถูกต้อง โดยไม่ตั้งใจ และจะไม่มีใครจับมันได้หรือไม่”

ยังคงมีคำถามเกี่ยวกับการกำกับดูแลอยู่

Wallin ยังตั้งคำถามถึงความสั้นของนักบิน และการกำกับดูแลโดยมนุษย์จะทำงานอย่างไร เมื่อ AI ทำหน้าที่เป็นข้อมูลอ้างอิงขั้นสุดท้ายสำหรับอำนาจการจำแนกประเภทดั้งเดิม “คุณ [จะ] มีการควบคุมดูแลโดยมนุษย์ได้อย่างไร? นั่นจะต้องคงอยู่ตลอดไป” เขาบอกกับ DefenseScoop โดยตั้งข้อสังเกตว่าระบบจะพัฒนาไปตามกาลเวลา และความไว้วางใจที่สมบูรณ์นั้นไม่มีทางบรรลุผลสำเร็จได้

เพนตากอนไม่ได้ตอบคำถามทันทีว่าโมเดล AI ใดที่จะขับเคลื่อนนักบินได้ หรือหน่วยงานมีความกังวลเกี่ยวกับการใช้เทคโนโลยีเพื่อจุดประสงค์นี้หรือไม่ คำสั่งดังกล่าวเกิดขึ้นท่ามกลางการถกเถียงในวงกว้างในวอชิงตันเกี่ยวกับการกำกับดูแล AI แม้ว่าเจ้าหน้าที่กลาโหมจะแย้งว่า AI เป็นเครื่องมือที่ทรงพลังเกินกว่าจะกีดกันในขณะที่ฝ่ายตรงข้ามปรับใช้มันในกองทัพของพวกเขาเอง วิธีที่แผนกจะรักษาสมดุลระหว่างแรงกระตุ้นทั้งสองนี้ ได้แก่ การยอมรับเชิงรุกและการควบคุมโดยมนุษย์อย่างมีความหมาย จะเป็นคำถามสำคัญสำหรับนักบินระยะเวลา 6 เดือนรายนี้

สำหรับกองทัพอากาศ การมอบหมายงานดังกล่าวถือเป็นการลงมติไว้วางใจด้วย บริการดังกล่าวสร้าง ACME ในขณะที่การสนทนาทั่วทั้งแผนกเกี่ยวกับการปฏิรูปการจำแนกประเภทยังคงเป็นไปในทางทฤษฎี และขณะนี้บันทึกช่วยจำมอบความรับผิดชอบสำหรับความสามารถที่หากได้ผล จะปรับเปลี่ยนวิธีที่หน่วยงานทหารทุกสาขาจัดการกับความลับของตน สำหรับส่วนที่เหลือของรัฐบาลกลาง ซึ่งการจำแนกประเภทที่ค้างอยู่และการร้องเรียนเรื่องการจัดประเภทมากเกินไปเป็นเรื่องที่เรื้อรัง โครงการนำร่องของกระทรวงกลาโหมที่ประสบความสำเร็จจะจัดเตรียมเทมเพลตขนาดใหญ่ชุดแรกสำหรับการจัดการข้อมูลที่ได้รับความช่วยเหลือจาก AI และเทมเพลตที่ถูกจับตามองอย่างใกล้ชิดในตอนนั้น

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →