คำสั่งดังกล่าวซึ่งประกาศจากเมืองแซคราเมนโต กำหนดให้รัฐแคลิฟอร์เนียเป็นผู้ดำเนินการของรัฐสหรัฐฯ ที่ก้าวร้าวที่สุดในเรื่องความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI เกิดขึ้นไม่กี่วันหลังจาก การรายงานข่าวของอุตสาหกรรม AI ล่าสุด เปิดเผยว่าโมเดล AI ระดับแนวหน้าได้แสดงให้เห็นถึงความสามารถในการดำเนินการปฏิบัติการทางไซเบอร์ที่ซับซ้อนได้ด้วยตัวเองในระหว่างการทดสอบที่มีการควบคุม ซึ่งเป็นการพัฒนาที่เขย่าขวัญผู้กำหนดนโยบายทั่วโลก
สิ่งที่โปรแกรมจะทำ
จากข้อมูลของสำนักงานผู้ว่าการรัฐ Newsom กำลังกำกับดูแลหน่วยงานของรัฐให้ดำเนินการหลัก 4 ประการ:
1. สร้างโปรแกรมการป้องกันทางไซเบอร์ด้วย AI เพื่อรวมศูนย์ท่าทีการป้องกันของรัฐต่อภัยคุกคามที่ใช้ AI
2. เสริมสร้างการประสานงานด้านความปลอดภัยทางไซเบอร์ ทั่วทั้งหน่วยงานของรัฐ ทำลายไซโลระหว่างหน่วยงานต่างๆ
3. ขยายการป้องกันที่เปิดใช้งาน AI สำหรับโครงสร้างพื้นฐานที่สำคัญและรัฐบาลท้องถิ่น โดยนำเทคโนโลยีเดียวกันที่ช่วยให้การโจมตีมาทำงานเป็นเครื่องมือในการป้องกัน
4. ปรับปรุงการเตรียมพร้อม สำหรับเหตุการณ์ความปลอดภัยทางไซเบอร์ของ AI ที่เกิดขึ้น
โครงการริเริ่มนี้ต่อยอดตามคำสั่งผู้บริหารด้านปัญญาประดิษฐ์ของรัฐแคลิฟอร์เนียในปี 2023 และ 2026 ซึ่งร่วมกันกำหนดกรอบการทำงานของรัฐสำหรับการใช้ AI อย่างมีความรับผิดชอบ มีจริยธรรม และโปร่งใสในหน่วยงานสาธารณะ
'การโจมตีเร็วกว่า ซับซ้อนกว่า และบ่อยกว่า'
นิวซัมวางกรอบการประกาศนี้เป็นทางเลือกระหว่างการรอวิกฤติกับการดำเนินการทันที
> "สภาพแวดล้อมดิจิทัลกำลังพัฒนาอย่างรวดเร็วต่อหน้าต่อตาเรา การโจมตีเร็วขึ้น ซับซ้อนยิ่งขึ้น และบ่อยขึ้น ส่งผลให้ระบบพื้นฐานที่ครอบครัวต้องพึ่งพามีความเสี่ยง แคลิฟอร์เนียอาจรอให้เกิดวิกฤติครั้งต่อไป หรือเราจะสร้างการป้องกันแบบที่ต้องการในเวลานี้ เรากำลังเลือกที่จะสร้าง"
สำนักงานผู้ว่าการรัฐตั้งข้อสังเกตว่าการเปิดเผยล่าสุดโดยนักพัฒนา AI ชั้นนำแสดงให้เห็นว่าระบบ AI ขั้นสูงสามารถดำเนินการปฏิบัติการทางไซเบอร์ที่ซับซ้อนได้อย่างอิสระในระหว่างสภาพแวดล้อมการทดสอบที่มีการควบคุม ซึ่งเผยให้เห็นสิ่งที่เรียกว่า "ความเสี่ยงใหม่" ในเวลาเดียวกัน ฝ่ายตรงข้ามกำลังใช้ระบบ AI ที่มีความสามารถมากขึ้นในการโจมตีด้วยราคาถูกและมีประสิทธิภาพมากขึ้นกว่าเดิม
เหตุใดโครงสร้างพื้นฐานที่สำคัญจึงอยู่ในกากบาท
แคโรไลน์ โธมัส จาค็อบส์ ผู้อำนวยการสำนักงานบริการฉุกเฉินของผู้ว่าการรัฐแคลิฟอร์เนีย (Cal OES) และที่ปรึกษาความมั่นคงแห่งมาตุภูมิของรัฐ กล่าวว่า โครงการนี้มุ่งเป้าไปที่บริการที่ชาวแคลิฟอร์เนียต้องพึ่งพาทุกวัน
> "การโจมตีทางไซเบอร์สามารถขัดขวางบริการสำคัญที่ชาวแคลิฟอร์เนียต้องพึ่งพาทุกวัน รวมถึงน้ำ ไฟฟ้า การขนส่ง และการสื่อสารฉุกเฉิน โปรแกรมใหม่นี้จะช่วยให้ Cal OES และพันธมิตรของเราตรวจจับภัยคุกคามได้เร็วยิ่งขึ้น แบ่งปันข้อมูลได้อย่างมีประสิทธิภาพมากขึ้น เสริมสร้างการป้องกัน และตอบสนองเร็วขึ้น"
Nick Maduros เลขาธิการหน่วยงานปฏิบัติการของรัฐบาล กล่าวเสริมว่าโครงการริเริ่มนี้จะช่วยให้หน่วยงานของรัฐ รัฐบาลท้องถิ่น และพันธมิตรด้านโครงสร้างพื้นฐานที่สำคัญ "ตรวจจับ ป้องกัน และตอบสนองต่อเหตุการณ์ทางไซเบอร์ได้ดีขึ้น เพื่อให้มั่นใจว่าบริการที่จำเป็นที่ชาวแคลิฟอร์เนียพึ่งพานั้นยังคงปลอดภัย ยืดหยุ่น และเชื่อถือได้"
ฉากหลังของ Federal Retreat
การประกาศดังกล่าวมาถึงช่วงเวลาที่น่าทึ่งในนโยบายความปลอดภัยทางไซเบอร์ของสหรัฐอเมริกา สำนักงานของ Newsom ตั้งข้อสังเกตอย่างชัดเจนว่าโปรแกรมนี้เกิดขึ้น "เนื่องจากภัยคุกคามทางไซเบอร์มีความซับซ้อนมากขึ้นและฝ่ายบริหารของ Trump ยังคงถอยกลับการสนับสนุนที่สำคัญของรัฐบาลกลาง"
เจ้าหน้าที่รัฐบาลกลางเตือนเมื่อเร็วๆ นี้ว่าระบบน้ำของเทศบาลในรัฐมินนิโซตาตกเป็นเป้าหมายในปฏิบัติการทางไซเบอร์ที่ต้องสงสัยว่าเชื่อมโยงกับอิหร่าน ซึ่งส่งผลกระทบต่อระบบสาธารณูปโภคมากกว่า 30 แห่ง ซึ่งเป็นตัวอย่างที่ชัดเจนว่าบริการขั้นพื้นฐานของพลเมืองขณะนี้อยู่ในสายตาของศัตรูจากต่างประเทศ สำนักงานผู้ว่าการรัฐกล่าวว่าโครงการรักษาความปลอดภัยทางไซเบอร์ระดับชาติหลายโครงการที่รัฐบาลของรัฐและท้องถิ่นเคยใช้ในอดีตนั้น กำลังถูกลดขนาดลงในระดับรัฐบาลกลางไปพร้อมๆ กัน
สำหรับแคลิฟอร์เนีย ซึ่งเป็นประเทศที่มีขนาดเศรษฐกิจใหญ่เป็นอันดับ 5 ของโลก ช่องว่างที่เหลือจากการล่าถอยของรัฐบาลกลางถือเป็นช่องว่างที่รัฐตั้งใจที่จะเติมเต็มตัวเอง
ภาวะที่กลืนไม่เข้าคายไม่ออกแบบสองทาง
โปรแกรมนี้สะท้อนให้เห็นถึงความตึงเครียดที่สำคัญในนโยบาย AI สมัยใหม่: ความสามารถแบบเดียวกันที่ทำให้ AI เป็นอันตรายในมือของผู้โจมตี — ความเร็ว ขนาด ความสามารถในการตรวจสอบจุดอ่อนโดยอัตโนมัติ — ยังทำให้เป็นเครื่องมือป้องกันที่ทรงพลัง โดยการสั่งให้เอเจนซี่ "ขยายการป้องกันที่เปิดใช้งาน AI" Newsom กำลังเดิมพันว่าแคลิฟอร์เนียสามารถควบคุม AI เป็นโล่ได้ แม้ว่าจะเตรียมการโจมตีที่ใช้ AI ก็ตาม
การเดิมพันดังกล่าวได้รับการแชร์โดยนักวิจัยด้านความปลอดภัยและสตาร์ทอัพจำนวนมากขึ้น ซึ่งโต้แย้งว่าการป้องกันภัยคุกคามที่เร่งด้วย AI เพียงอย่างเดียวคือการตรวจจับและการตอบสนองที่เร่งด้วย AI การที่หน่วยงานของรัฐสามารถดำเนินการได้เร็วพอที่จะสร้างความสามารถเหล่านั้น และดึงดูดผู้มีความสามารถมาดำเนินการได้หรือไม่ จะเป็นตัวกำหนดว่าโปรแกรมจะให้ความคุ้มครองในทางปฏิบัติมากน้อยเพียงใด
ก้าวนำหน้า AI
AI กำลังเขียนกฎความปลอดภัย การกำกับดูแล และโครงสร้างพื้นฐานใหม่ ติดตาม AI Buzz Wire เพื่อรับความคุ้มครองอย่างต่อเนื่องเกี่ยวกับนโยบาย AI ความปลอดภัยทางไซเบอร์ และการตัดสินใจที่กำหนดอนาคตของเทคโนโลยี
อ่านข่าว AI เพิ่มเติม →
