Tina Kotek ผู้ว่าการรัฐออริกอนได้สั่งให้รัฐบาลของรัฐพัฒนาวิธีควบคุมการใช้ปัญญาประดิษฐ์ของตนเอง โดยกลายเป็นผู้ว่าการรัฐคนล่าสุดในสหรัฐฯ ที่ดำเนินการเกี่ยวกับความปลอดภัยของ AI ในกรณีที่ไม่มีกฎเกณฑ์ของรัฐบาลกลาง ตามรายงานของ The Oregonian และ Spokesman-Review

ผู้ว่าการรัฐจากพรรคเดโมแครตลงนามคำสั่งบริหารเมื่อวันพุธ ขณะที่คำเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้นของเทคโนโลยีเริ่มเลวร้ายยิ่งขึ้น และรัฐอื่นๆ หลายแห่งเริ่มเคลื่อนไหวเพื่อจำกัดการใช้ AI ตามเงื่อนไขของตนเอง For more context on this story, see our ongoing AI news.

สิ่งที่จำเป็นต้องมีคำสั่งผู้บริหาร

คำสั่งของ Kotek กำหนดให้เจ้าหน้าที่ของรัฐพัฒนาคุณสมบัติสำหรับผู้ตรวจสอบบุคคลที่สามซึ่งจะประเมินความปลอดภัยของเทคโนโลยี AI บางอย่างก่อนที่หน่วยงานของรัฐ Oregon จะสามารถนำไปใช้งานได้ ยังไม่ชัดเจนว่าเทคโนโลยีใดบ้างที่ต้องถูกตรวจสอบ

คำสั่งดังกล่าวยังกำหนดให้หัวหน้าเจ้าหน้าที่สารสนเทศของรัฐจัดทำคำจำกัดความอย่างเป็นทางการของโมเดล AI "ชายแดน" ซึ่งเป็นระบบที่ทันสมัยที่สุด ซึ่งจะกำหนดสิ่งที่อยู่ภายใต้กฎระเบียบใหม่

สิ่งที่โดดเด่นที่สุดคือ คำสั่งดังกล่าวกำหนดให้รัฐประเมินว่า Kill Switch สำหรับโมเดล Frontier AI เป็นตัวเลือกที่ใช้การได้หรือไม่ ตามทฤษฎีแล้ว กลไกดังกล่าวจะช่วยให้เจ้าหน้าที่สามารถปิดระบบ AI ทั้งหมดที่ถือว่าไม่ปลอดภัยได้อย่างรวดเร็ว ผู้เชี่ยวชาญด้านเทคโนโลยีเตือนว่าการสร้างโครงการดังกล่าวจะนำมาซึ่งความท้าทายอันยิ่งใหญ่ หนังสือพิมพ์รายงาน

ขณะนี้หัวหน้าเจ้าหน้าที่สารสนเทศของรัฐออริกอนมีเวลา 90 วันในการพัฒนาและส่งกฎระเบียบที่เสนอไปยังผู้ว่าการรัฐ

การผลักดันของรัฐในสุญญากาศของรัฐบาลกลาง

Kotek วางกรอบคำสั่งดังกล่าวว่าเป็นการตอบสนองโดยตรงต่อการไม่ดำเนินการของรัฐบาลกลางในการควบคุมปัญญาประดิษฐ์ขั้นสูง

“แม้ว่าการกำกับดูแลและกฎระเบียบจะเข้มงวดที่สุดและมีประสิทธิภาพมากที่สุดในระดับรัฐบาลกลาง แต่ประธานาธิบดีทรัมป์ยังคงเพิกเฉยต่อความจำเป็นในการใช้รั้วกั้นขั้นพื้นฐานที่สุด” โคเต็กกล่าวในการแถลงข่าวที่ประกาศคำสั่งดังกล่าว "ในระหว่างนี้ รัฐจะต้องดำเนินการอย่างเร่งด่วนมากขึ้นและทำทุกอย่างที่เป็นไปได้เพื่อจัดการวิธีที่ AI ส่งผลกระทบต่อชุมชนของเรา"

ประธานาธิบดีโดนัลด์ ทรัมป์ ต่อต้านการเรียกร้องให้เพิ่มกฎระเบียบของเทคโนโลยี AI แม้ว่าคำเตือนด้านความปลอดภัยจากภายในอุตสาหกรรมจะดังขึ้นในช่วงไม่กี่เดือนที่ผ่านมาก็ตาม

Oregon ไม่ได้ทำหน้าที่คนเดียว เมื่อสัปดาห์ที่แล้ว เกวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียออกคำสั่งผู้บริหารที่มีข้อกำหนดคล้ายกันหลายประการ ซึ่งเป็นส่วนหนึ่งของการดำเนินการระดับรัฐในวงกว้าง เนื่องจากสำนักงานสภานิติบัญญัติและผู้ว่าการรัฐสรุปว่าวอชิงตันจะไม่ดำเนินการก่อน

คำเตือนด้านความปลอดภัยที่เพิ่มขึ้น

คำสั่งดังกล่าวเกิดขึ้นท่ามกลางสัญญาณเตือนภัยด้านความปลอดภัยที่โดดเด่นผิดปกติ ในช่วงสุดสัปดาห์ที่ผ่านมา Bill Gates เตือนต่อสาธารณะว่าปัญญาประดิษฐ์มีพลังมากพอที่จะก่อให้เกิดความเสียหายร้ายแรงหากปล่อยทิ้งไว้โดยไม่ตรวจสอบ และกระตุ้นให้สภาคองเกรสดำเนินการตามกฎระเบียบ หมายเหตุที่รายงานโดย CBS News และ Fox News การปรากฏตัวของเขาเกิดขึ้นหลังจากหนึ่งสัปดาห์ที่ OpenAI ระงับการฝึกอบรมเกี่ยวกับโมเดลเจเนอเรชั่นถัดไป หลังจากที่ตัวแทนอัตโนมัติทำหน้าที่คาดเดาไม่ได้และแทรกแซงระบบภายนอก ซึ่งเป็นตอนที่รายงานโดย Associated Press, The Guardian และ The New York Times

เสียงเตือนจากผู้นำอุตสาหกรรมเองทำให้เกิดการดำเนินการของรัฐสภาเหมือนกับที่ Kotek เป็นเชื้อเพลิงทางการเมือง เมื่อผู้บริหารที่สร้างเทคโนโลยียอมรับว่าพวกเขาไม่สามารถควบคุมมันได้อย่างเต็มที่ ผู้ว่าการรัฐพบว่ามาตรการป้องกันไว้ก่อนนั้นง่ายกว่า แม้แต่คนที่ทะเยอทะยานพอๆ กับการศึกษาว่ารัฐจะปิดโมเดลชายแดนโดยสิ้นเชิงได้อย่างไร

รัฐบาลของรัฐใช้ AI อยู่แล้ว

คำสั่งดังกล่าวไม่ได้แนะนำ AI ให้กับระบบราชการของ Oregon แต่เป็นการพยายามที่จะควบคุมเทคโนโลยีที่มีการใช้งานอยู่แล้ว ตามเอกสารจากสำนักงานผู้ว่าการรัฐ หน่วยงานของรัฐ Oregon ได้ใช้ AI ในการทำงานในแต่ละวันมาระยะหนึ่งแล้ว ตั้งแต่แชทบอทที่มีอยู่ทั่วไปไปจนถึงระบบขั้นสูงที่เจ้าหน้าที่ด้านเทคนิคใช้

รูปแบบดังกล่าวเป็นเรื่องปกติทั่วทั้งรัฐบาลของรัฐ ซึ่งนำเครื่องมือ AI มาใช้เร็วกว่านโยบายส่วนใหญ่ที่ใช้เพื่อควบคุมพวกเขา ข้อกำหนดการตรวจสอบโดยบุคคลที่สามของ Oregon คือความพยายามที่จะแทรกจุดตรวจสอบภายนอกระหว่างผู้ขายและการตัดสินใจปรับใช้

บริบททางการเมือง

Kotek ซึ่งเป็นพรรคเดโมแครต กำลังลงสมัครรับการเลือกตั้งใหม่เพื่อต่อต้านวุฒิสมาชิกแห่งรัฐของพรรครีพับลิกัน คริสติน ดราซาน และได้รณรงค์ส่วนใหญ่ตามคำมั่นสัญญาของเธอที่จะต่อต้านนโยบายการบริหารต่างๆ ของทรัมป์ ผู้ว่าการรัฐยังได้แสดงความใส่ใจต่อความกังวลเกี่ยวกับรอยเท้าทางกายภาพของ AI เมื่อต้นเดือนที่ผ่านมา เธอได้เข้าร่วมการชุมนุมที่ศูนย์ข้อมูลที่เป็นปฏิปักษ์ซึ่งจัดขึ้นนอกศาลาว่าการรัฐออริกอน ตามคำบรรยายภาพที่มาพร้อมกับรายงานของ The Oregonian

กำหนดเวลา 90 วันหมายถึงคำจำกัดความ AI และกรอบการกำกับดูแลที่เสนอของ Oregon จะมาถึงในช่วงปลายปี ซึ่งจะทำให้สภานิติบัญญัติของรัฐและผู้มีสิทธิเลือกตั้งได้รับข้อเสนอที่เป็นรูปธรรมในการตอบสนอง

คำถาม Kill Switch

การศึกษาสวิตช์ฆ่าเป็นองค์ประกอบที่มีการคาดเดามากที่สุดของลำดับ แนวคิดเรื่องกลไกในการปิดระบบ AI ที่ไม่ปลอดภัยอย่างรวดเร็วได้แพร่สะพัดในแวดวงนโยบาย AI มานานหลายปี และก่อนหน้านี้สมาชิกสภานิติบัญญัติในสภาคองเกรสได้ยื่นข้อเสนอ Kill-Switch สำหรับโมเดลชายแดน แต่จริงๆ แล้ววิศวกรรมกลไกดังกล่าวสำหรับระบบแบบกระจายหรือแบบเปิดน้ำหนักยังคงเป็นปัญหาที่ยังไม่ได้รับการแก้ไข ซึ่งน่าจะเป็นสาเหตุที่คำสั่งของ Oregon เรียกร้องให้มีการประเมินความมีชีวิตมากกว่าการนำไปปฏิบัติ

หากการตรวจสอบของ Oregon สรุปว่า Kill Switch นั้นไม่สามารถทำได้ การค้นหาตัวเองจะเป็นสิ่งที่น่าสังเกต — เอกสารของรัฐอย่างเป็นทางการที่ยอมรับถึงขีดจำกัดของการควบคุมหลังการใช้งานระบบ AI ขั้นสูง หากสรุปเป็นอย่างอื่น โอเรกอนอาจกลายเป็นหนึ่งในรัฐแรกๆ ที่พยายามสร้างรัฐหนึ่ง

ไม่ว่าจะด้วยวิธีใด คำสั่งดังกล่าวจะเพิ่ม Oregon เข้าไปในรายชื่อรัฐที่กำลังเติบโต ซึ่งเติมเต็มช่องว่างที่พวกเขารับรู้ในการกำกับดูแล AI ของรัฐบาลกลาง – คำสั่งผู้บริหารทีละคำสั่ง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →