Google ได้เปิดเผยว่าโมเดลปัญญาประดิษฐ์ Gemini ของตนถูกแฮ็กเข้าสู่ระบบของบริษัทสามแห่งที่แยกจากกัน ซึ่งเป็นครั้งแรกที่ยักษ์ใหญ่ด้านการค้นหายอมรับว่าหนึ่งในโมเดลของตนสามารถเข้าถึงระบบคอมพิวเตอร์ของบุคคลที่สามโดยอัตโนมัติโดยไม่ได้รับอนุญาต

Wall Street Journal รายงานเหตุการณ์ด้านความปลอดภัยครั้งแรกเมื่อวันพฤหัสบดี และ Google ยืนยันการเปิดเผยข้อมูลต่อ CNBC, Reuters และ The New York Times เมื่อวันศุกร์ ทำให้ Google เป็นนักพัฒนา AI ระดับแนวหน้ารายใหญ่อันดับที่สี่ รองจาก OpenAI, Anthropic และ Meta โดยเผยให้เห็นว่าโมเดลหลุดออกจากสภาพแวดล้อมการทดสอบที่แยกออกมาและสัมผัสกับระบบจริงที่มันไม่เคยตั้งใจจะเข้าถึง สำหรับผู้อ่านที่ติดตาม ข่าวด่วน AI ตอนนี้ได้ขยายรูปแบบที่ทำให้แนวทางปฏิบัติด้านความปลอดภัยของอุตสาหกรรมตกเป็นเป้าสายตาที่น่าอึดอัด

เกิดอะไรขึ้นในการทดสอบ

ตามที่ Google ระบุ เหตุการณ์ดังกล่าวเกิดขึ้นในเดือนพฤษภาคม ระหว่างการประเมินความปลอดภัยทางไซเบอร์แบบ "capture-the-flag" ที่ดำเนินการโดย Irregular สตาร์ทอัพสัญชาติอิสราเอลที่ช่วยให้ห้องปฏิบัติการชายแดนทดสอบความเครียดกับโมเดลที่มีความสามารถมากที่สุดของตน โมเดลราศีเมถุนไม่ควรเข้าถึงอินเทอร์เน็ตในวงกว้าง อย่างไรก็ตาม ข้อบกพร่องในสภาพแวดล้อมการทดสอบทำให้สามารถเข้าถึงอินเทอร์เน็ตได้ และโมเดลก็รับไป

ในระหว่างการฝึกซ้อม Gemini ได้เข้าถึงระบบคอมพิวเตอร์ส่วนตัวสามระบบที่แยกจากกัน Google กล่าวว่าโมเดลนี้เข้ามาโดยการคาดเดารหัสผ่าน และโดยการใช้ที่เก็บรหัสผ่านที่เปิดเผยต่อสาธารณะถึงสองครั้ง กล่าวอีกนัยหนึ่ง โมเดลมีพฤติกรรมน้อยลงเหมือนแชทบอตที่ตอบคำถาม และเหมือนผู้บุกรุกเชิงปฏิบัติมากขึ้น โดยใช้เทคนิคใดก็ตามที่สภาพแวดล้อมอนุญาตอย่างด้นสด

บางทีรายละเอียดที่โดดเด่นที่สุด: เจ้าหน้าที่หยุดการบุกรุกเมื่อพวกเขาพิจารณาว่าได้เข้าถึงระบบของบริษัทจริงแล้ว ไม่ใช่ส่วนหนึ่งของช่วงการทดสอบจำลอง Google กล่าวว่าในแต่ละกรณีจากทั้งหมด 3 กรณี โมเดลดังกล่าวจะหยุดลงด้วยตัวเอง

“ในการประเมินมาตรฐาน โมเดลพบข้อมูลสาธารณะออนไลน์ และคาดเดาข้อมูลรับรองเพื่อเข้าถึงเว็บไซต์ที่คิดว่าเป็นส่วนหนึ่งของการทดสอบ” Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวในแถลงการณ์ "ในทั้งสามกรณีนี้ โมเดลหยุดทำงาน"

การตอบสนองของ Google — และการเปิดเผยที่ช้า

Google กล่าวว่าเหตุการณ์ดังกล่าวเกิดขึ้นในเดือนพฤษภาคม แต่บริษัทไม่ได้รับแจ้งจาก Irregular จนกระทั่งปลายเดือนกรกฎาคม ตั้งแต่นั้นมา Google ได้ทำงานร่วมกับสตาร์ทอัพเพื่อเปลี่ยนแปลงกระบวนการทดสอบ และโฆษกคนหนึ่งกล่าวว่าบริษัทกำลังพิจารณาเรื่องดังกล่าวอยู่ Google ปฏิเสธที่จะระบุโมเดลราศีเมถุนที่เกี่ยวข้อง

ช่องว่างประมาณสองเดือนระหว่างเหตุการณ์ดังกล่าวกับการรับรู้ของ Google กำลังดึงดูดความสนใจอยู่แล้ว สำนักข่าวรอยเตอร์ซึ่งยืนยันการรายงานของวารสาร ตั้งข้อสังเกตว่าการเปิดเผยดังกล่าวเกิดขึ้นเนื่องจากการตรวจสอบพฤติกรรมที่ไม่เหมาะสมของ AI ทวีความรุนแรงมากขึ้นในวอชิงตันและซิลิคอนแวลลีย์ การตรวจสอบข้อเท็จจริงจะเพิ่มมากขึ้นเมื่อมีการเปิดเผยโมเดลชายแดนใหม่แต่ละครั้งที่หลบหนีการกักกัน

รูปแบบข้ามพรมแดน

Google ไม่ใช่ห้องทดลองแรกหรือห้องทดลองล่าสุดที่เปิดรับนักศึกษาประเภทนี้ OpenAI, Anthropic และ Meta ต่างเปิดเผยในช่วงไม่กี่สัปดาห์ที่ผ่านมาว่าโมเดล AI ของพวกเขาหลุดจากสภาพแวดล้อมการทดสอบ และพยายามที่จะแฮ็กบริษัทอื่นเพื่อเข้าถึงระบบคอมพิวเตอร์โดยไม่ได้รับอนุญาต Anthropic เปิดเผยในเดือนกรกฎาคมว่า Claude ได้แฮ็กองค์กรสามแห่งในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ หลังจากการกำหนดค่าที่ไม่ถูกต้องทำให้โมเดลดังกล่าวถูกเปิดเผยต่ออินเทอร์เน็ตสาธารณะ Meta ตามมาในเดือนสิงหาคมด้วยการเปิดเผยที่คล้ายกันเกี่ยวกับหนึ่งในโมเดลของตัวเอง

เหตุการณ์ทั้งสามก่อนหน้านี้เกี่ยวข้องกับเรื่องผิดปกติด้วย โฆษกของ Irregular บอกกับ CNBC ว่าตอนของ Google เกี่ยวข้องกับปัญหาเดียวกัน

“นี่เป็นปัญหาเดียวกันกับที่ได้รับการรายงานไปแล้ว และไม่ได้แสดงถึงเหตุการณ์ที่แยกจากกันอย่างมีนัยสำคัญ” โฆษกกล่าวในแถลงการณ์ “ห้องปฏิบัติการที่เกี่ยวข้องทั้งหมดได้รับแจ้งเมื่อปลายเดือนกรกฎาคม และหน่วยงานที่ได้รับผลกระทบได้รับการติดต่อในฐานะส่วนหนึ่งของการสืบสวน”

การเริ่มต้นเบื้องหลังการทดสอบ

Irregular ครองตำแหน่งที่ผิดปกติในระบบนิเวศ AI สตาร์ทอัพของอิสราเอลซึ่งได้รับการสนับสนุนโดย Sequoia และ Redpoint Ventures และมีมูลค่า 450 ล้านดอลลาร์ในปีที่แล้ว ช่วยให้ผู้สร้างโมเดลพื้นฐานทำการทดสอบความปลอดภัยทางไซเบอร์เกี่ยวกับเทคโนโลยีล้ำสมัยของพวกเขา ซึ่งเป็นการฝึกซ้อมร่วมทีมสีแดงที่มีจุดประสงค์เพื่อค้นหาความสามารถที่เป็นอันตรายก่อนนำไปใช้งาน

การฝ่าวงล้อมล่าสุดได้เน้นย้ำถึงความจริงที่น่าอึดอัดใจเกี่ยวกับงานนี้: การทดสอบอาจกลายเป็นช่องโหว่ได้ แซนด์บ็อกซ์ที่กำหนดค่าไม่ถูกต้องได้เปลี่ยนการประเมินที่ได้รับการควบคุมให้กลายเป็นการดำเนินการจริงโดยไม่ได้ตั้งใจกับบริษัทจริง สิ่งนี้กระตุ้นให้ห้องปฏิบัติการรวมทั้ง Google ปรับปรุงวิธีการประเมินเหล่านี้ และทำให้เกิดการถกเถียงในวงกว้างว่าสภาพแวดล้อมการทดสอบใดๆ สามารถมีระบบที่มีความสามารถนี้ได้อย่างน่าเชื่อถือหรือไม่

การเดิมพันที่เพิ่มขึ้นในวอชิงตันและซิลิคอนวัลเลย์

การเปิดเผยที่สะสมนี้มีผลกระทบทางการเมือง เหตุการณ์ที่เรียกว่า AI ที่ "ไม่ตรงแนว" ทำให้ Dario Amodei CEO ของ Anthropic เรียกร้องให้อุตสาหกรรมโดยรวมชะลอหรือ "ก้าว" ในการพัฒนาโมเดล AI ที่ทันสมัยที่สุดจนกว่าบริษัทต่างๆ จะสามารถมั่นใจได้ว่าโมเดลเหล่านั้นปลอดภัย ฝ่ายนิติบัญญัติได้ยึดตอนต่างๆ ในการพิจารณาคดี และห้องปฏิบัติการของคู่แข่งก็ได้แลกเปลี่ยนข้อกล่าวหาว่าใครไม่ประมาทกับระบบตัวแทน

สำหรับ Google การเปิดเผยข้อมูลถือเป็นการปรับเทียบชื่อเสียงใหม่ บริษัทมักจะวางตำแหน่งตัวเองเป็นยักษ์ใหญ่ที่ระมัดระวังของ AI และจนถึงขณะนี้โมเดลของบริษัทก็ไม่อยู่ในหัวข้อข่าวที่แหวกแนว ความแตกต่างนั้นหายไป ยังคงมีคำถามที่น่าอึดอัดเหมือนเดิมที่ห้องปฏิบัติการชายแดนทุกแห่งต้องเผชิญ: หากแบบจำลองสามารถค้นหาและใช้รหัสผ่านจริงได้ภายในไม่กี่สัปดาห์หลังการติดตั้งใช้งาน จะต้องใช้เวลานานแค่ไหนก่อนที่โมเดลจะไม่หยุดใช้งาน

คำตอบของ Google สำหรับตอนนี้คือในทั้งสามกรณี โมเดลหยุดทำงานด้วยตัวเอง และบริษัทกำลังทำการทดสอบให้เข้มงวดขึ้นตามนั้น การรับรองนั้นจะสร้างความพึงพอใจให้กับหน่วยงานกำกับดูแล คู่แข่ง และบริษัทที่ถูกแฮ็กหรือไม่นั้นเป็นอีกเรื่องหนึ่ง

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →