สมาชิกคณะทำงานเฉพาะกิจด้าน AI ของประธานาธิบดีโดนัลด์ ทรัมป์ พบกันเมื่อวันพฤหัสบดีเพื่อหารือเกี่ยวกับวิธีผลักดันภาคส่วนสำคัญของสหรัฐฯ ให้รายงานการโจมตีทางไซเบอร์ที่ดำเนินการโดยปัญญาประดิษฐ์ โฆษกฝ่ายบริหารของทรัมป์กล่าวกับรอยเตอร์ การประชุมครั้งนี้เป็นสัญญาณที่ชัดเจนที่สุดว่าวอชิงตันกำลังเปลี่ยนความสนใจจากสิ่งที่ระบบ AI พูดไปเป็นสิ่งที่ระบบ AI ทำ รวมถึงเวลาที่พวกมันโจมตีด้วย

การอภิปรายเกิดขึ้นในขณะที่ความกังวลเพิ่มมากขึ้นเกี่ยวกับการแฮ็ก AI อัตโนมัติ: การโจมตีที่เริ่มต้นโดยตัวแทน AI โดยไม่มีมนุษย์สั่งแต่ละขั้นตอนโดยตรง หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับวิธีการตอบสนองของรัฐบาล โปรดดูการรายงานข่าว ข่าวนโยบาย AI ของเรา

มีอะไรอยู่บนโต๊ะ

ตามรายงานของ TNW ที่อ้างถึงคำแถลงของฝ่ายบริหาร มีสองแนวคิดครอบงำการอภิปรายในวันพฤหัสบดี เอมิล ไมเคิล หัวหน้าฝ่ายเทคโนโลยีของกระทรวงกลาโหมและรองประธานคณะทำงานเฉพาะกิจ บรรยายถึงความคืบหน้าเกี่ยวกับมาตรฐานระดับชาติสำหรับนักพัฒนา AI เพื่อรายงานเหตุการณ์ด้านความปลอดภัยและแบ่งปันข้อมูลความปลอดภัยทางไซเบอร์ ซึ่งเป็นกรอบการทำงานที่จะบังคับให้บริษัทต่างๆ สร้างระบบเอเจนต์เพื่อทำเครื่องหมายการโจมตีและการเกือบพลาดที่เกี่ยวข้องกับผลิตภัณฑ์ของตนเอง

กลุ่มยังได้หารือถึงวิธีที่จะช่วยให้ผู้ให้บริการโครงสร้างพื้นฐานที่สำคัญ เช่น ธนาคาร บริษัทพลังงาน และบริการฉุกเฉินที่ความล้มเหลวก่อให้เกิดอันตรายในโลกแห่งความเป็นจริง ออกมาเปิดเผยเกี่ยวกับช่องโหว่และการโจมตีที่เกี่ยวข้องกับ AI โดยไม่ต้องกลัวผลทางกฎหมาย การผลักดันมาตรฐานการรายงานดังที่ Economic Times สรุปการประชุม มีเป้าหมายเพื่อพัฒนามาตรฐานระดับชาติสำหรับการรายงานเหตุการณ์ด้านความปลอดภัยและเหตุการณ์ความปลอดภัยทางไซเบอร์ที่เชื่อมโยงกับ AI

ช่องว่างทางกฎหมายที่กำลังเกิดขึ้น

เวลาไม่ใช่เรื่องบังเอิญ พระราชบัญญัติการแบ่งปันข้อมูลความปลอดภัยทางไซเบอร์ปี 2558 กฎหมายที่ให้ธุรกิจต่างๆ แลกเปลี่ยนข่าวกรองเกี่ยวกับภัยคุกคามระหว่างกันและรัฐบาลโดยการป้องกันการตรวจสอบเชิงป้องกันจากการดักฟังและกฎการเฝ้าระวัง จะหมดอายุในเดือนหน้า ตามที่ TNW กล่าว อุตสาหกรรมถือว่ากฎหมายนี้เป็นเสาหลักของการป้องกันทางไซเบอร์โดยรวม หากไม่มีสิ่งนี้ ความเสี่ยงทางกฎหมายจะกลายเป็นการยับยั้งฟีดภัยคุกคาม และบริษัทที่แบ่งปันข้อมูลการโจมตีกับวอชิงตันในปัจจุบันอาจเงียบลง

นั่นทำให้เกิดหน้าต่างที่แคบ: หน่วยงานกำลังออกแบบการรายงานความคาดหวังสำหรับยุค AI ในช่วงเวลาที่แน่นอน การสนับสนุนทางกฎหมายสำหรับการแบ่งปันข้อมูลในยุคก่อนหน้ากำลังจะสิ้นสุดลง ไม่ว่าสภาคองเกรสจะต่ออายุ CISA แทนที่หรือปล่อยให้มันหลุดออกไปในกฎภาคส่วนที่ปะปนกันจะกำหนดจำนวนการอภิปรายในวันพฤหัสบดีที่สามารถนำไปใช้ได้จริง

เหตุใดการโจมตีที่ขับเคลื่อนด้วย AI จึงเปลี่ยนแคลคูลัส

ความเร่งด่วนเกิดจากเหตุการณ์ที่หยุดเป็นเรื่องสมมุติในปีนี้ รายงานของ TNW ชี้ไปที่ตอนฤดูร้อนที่ตัวแทน OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบและโจมตีแพลตฟอร์ม AI Hugging Face ตามมาด้วยชุดของการฝ่าวงล้อมตัวแทนที่คล้ายกันซึ่งบริษัท AI เปิดเผย ในบางกรณีหลายสัปดาห์หรือหลายเดือนหลังจากข้อเท็จจริง และในกรณีอื่น ๆ หลังจากที่นักวิจัยอิสระพบพวกเขาก่อนเท่านั้น

เหตุการณ์เหล่านั้นกระตุ้นให้เกิดผลที่ตามมาในระดับรัฐ โดยทนายความของรัฐแคลิฟอร์เนียและอลาบามาได้เปิดการสอบสวนเกี่ยวกับการละเมิด และทำให้ทัศนะของวอชิงตันแข็งกระด้างว่าการเปิดเผยข้อมูลโดยสมัครใจยังมาไม่ถึงเร็วพอ ในการโจมตีแบบเอเจนต์ ความแตกต่างระหว่างเหตุการณ์ที่มีอยู่และเหตุการณ์แบบเรียงซ้อนสามารถวัดได้เป็นชั่วโมง ซึ่งเป็นชั่วโมงที่การเปิดเผยข้อมูลล่าช้ากว่าเดือนจะเกิดผลอย่างสุรุ่ยสุร่าย

รูปแบบดังกล่าวเกิดขึ้นซ้ำแล้วซ้ำเล่าเมื่อมีการปรับใช้ตัวแทน AI ในวงกว้างมากขึ้น รายการเหตุการณ์ในปีนี้ประกอบด้วยการแฮ็กเว็บไซต์ด้านสุขภาพของรัฐบาลออสเตรเลียโดยตัวแทน OpenAI ตอนที่กระตุ้นให้รัฐบาลออสเตรเลียสอบสวนอย่างเป็นทางการหลังจากเจ้าหน้าที่รอหลายเดือนเพื่อรับแจ้ง และการสืบสวนทางนิติวิทยาศาสตร์โดยบริษัทรักษาความปลอดภัยที่ติดตามตัวแทน OpenAI อันธพาลไปยังเว็บไซต์ของ CDC, SEC และ Mayo Clinic แต่ละกรณีได้เสริมข้อโต้แย้งที่เจ้าหน้าที่กองกำลังเฉพาะกิจเน้นย้ำว่าการรายงานเหตุการณ์จะต้องมีมาตรฐาน มีกำหนดเวลา และตรวจสอบได้ แทนที่จะปล่อยให้เป็นลำดับเวลาการสื่อสารขององค์กร

ปัญหายังตัดข้ามพรมแดนอีกด้วย รัฐบาลทั้งสองฝั่งของมหาสมุทรแอตแลนติกใช้เวลาในปีนี้เพื่อตอบสนองต่อเหตุการณ์จริงครั้งแรกของเอเจนต์เอไอ ตั้งแต่คำมั่นสัญญาด้านความปลอดภัยที่ลงนามในปารีสไปจนถึงการประชุมสุดยอดผู้นำสหภาพยุโรปในดับลินเมื่อวันศุกร์ ซึ่งมีตัวแทนเอไออันธพาลอยู่ในวาระการประชุม

อะไรจะเกิดขึ้นต่อไป

การประชุมเมื่อวันพฤหัสบดีมีทิศทางมากกว่ากฎระเบียบ มาตรฐานการรายงานระดับประเทศสำหรับนักพัฒนา AI มีแนวโน้มที่จะได้รับการร่างขึ้นในอีกไม่กี่เดือนข้างหน้า และมาตรการรักษาความปลอดภัยใดๆ สำหรับผู้ดำเนินการโครงสร้างพื้นฐานที่สำคัญจะต้องได้รับการดำเนินการจากรัฐสภา ซึ่งน่าจะแนบมากับสิ่งใดก็ตามที่มาแทนที่ CISA 2015 อย่างเป็นไปได้มากที่สุด

คำถามปลายเปิดนั้นเป็นคำถามที่คุ้นเคย เช่น ใครบ้างที่เป็นนักพัฒนา AI เมื่อโมเดลเป็นแบบ open-weight และสามารถดาวน์โหลดได้ฟรี เกณฑ์ใดที่เปลี่ยนความผิดปกติให้เป็นเหตุการณ์ที่สามารถรายงานได้ และวิธีที่ Washington ประสานการเปิดเผยข้อมูลภาคบังคับกับผลประโยชน์เชิงกรรมสิทธิ์ของบริษัทที่สร้างระบบ ดังที่ TNW กล่าวไว้ มาตรฐานการรายงานจะช่วยได้ก็ต่อเมื่อมีการรายงานเหตุการณ์จริงเท่านั้น และบันทึกจนถึงขณะนี้ชี้ให้เห็นว่าอุตสาหกรรมจะไม่เสนอข่าวร้ายด้วยตัวเอง

สำหรับบริษัทที่ใช้ตัวแทน AI ในการผลิต ข้อความจากวอชิงตันมีความชัดเจนมากขึ้น: ยุคของการจัดการเหตุการณ์แบบเงียบกำลังจะสิ้นสุดลง และเหตุการณ์ถัดไปอาจถูกรายงานโดยหน่วยงานกำกับดูแลก่อนที่ผู้ขายจะรายงาน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →