ทีมรักษาความปลอดภัยสามคนที่สตาร์ทอัพ Hacktron AI ใช้ Claude Opus 5 ของ Anthropic เพื่อแฮ็กเข้าสู่ระบบภายในของ OpenAI และเดินออกไปพร้อมกับรางวัล $6,500 จากโปรแกรม Bug Bounty ของ OpenAI Wall Street Journal รายงานการละเมิดครั้งแรกในวันพฤหัสบดี และ TechCrunch เผยแพร่บัญชีทางเทคนิคโดยละเอียดในวันศุกร์ ตามบทความของนักวิจัยเอง

ทีมงานได้เชื่อมโยงช่องโหว่ที่สำคัญสองรายการเข้าด้วยกันเพื่อเข้าถึงบัญชี ChatGPT ของพนักงาน OpenAI หลายบัญชี ซึ่งทำให้พวกเขาสามารถเข้าสู่ซอฟต์แวร์ภายในของบริษัทได้ OpenAI กล่าวว่าได้แก้ไขปัญหาที่ Hacktron ค้นพบแล้ว แต่ตอนนี้กำลังกระตุ้นให้เกิดการถกเถียงในวงกว้างมากขึ้นเกี่ยวกับความสามารถของโมเดล AI ในการค้นหาและใช้ประโยชน์จากข้อบกพร่องด้านความปลอดภัยในโลกแห่งความเป็นจริง For more context on this story, see our ongoing AI industry coverage.

การแฮ็กเกิดขึ้นได้อย่างไร

ตามโพสต์ในบล็อกที่เผยแพร่โดยนักวิจัยของ Hacktron เส้นทางสู่ OpenAI ได้เปิดเมื่อวันที่ 25 กรกฎาคมผ่านข้อบกพร่องใน Discourse ซึ่งเป็นซอฟต์แวร์บุคคลที่สามที่ขับเคลื่อนฟอรัมชุมชนของ OpenAI

จุดเริ่มต้นเป็นเรื่องธรรมดามาก นั่นคือการอัปโหลดรูปภาพ เมื่อผู้ใช้โพสต์ไฟล์ HEIF หรือ HEIC ซึ่งเป็นรูปแบบรูปภาพที่ iPhone ใช้เป็นค่าเริ่มต้น วาทกรรมจะส่งไฟล์เหล่านั้นผ่านเครื่องมือพื้นหลังหลายชุดเพื่อแปลงเป็น JPEG มาตรฐาน จุดแรกคือ ImageMagick ซึ่งเป็นยูทิลิตี้โอเพ่นซอร์สอายุหลายสิบปีสำหรับการปรับขนาดรูปภาพ เนื่องจาก ImageMagick ไม่สามารถจัดการรูปแบบของ Apple ได้ด้วยตัวเอง จึงส่งไฟล์ไปยังไลบรารีอื่น libheif

สิ่งที่ฝังอยู่ใน libheif คือข้อผิดพลาดของหน่วยความจำ การป้อนรูปภาพที่สร้างขึ้นเป็นพิเศษให้กับไลบรารีทำให้คำนวณผิดว่าเลเยอร์รูปภาพหนึ่งวางทับอีกเลเยอร์หนึ่งผิด ซึ่งเพียงพอที่จะแย่งชิงเซิร์ฟเวอร์ได้

สิ่งที่ทำให้ข้อบกพร่องนี้อึดอัดเป็นพิเศษสำหรับชุมชนความปลอดภัยก็คือ นักพัฒนาของ libheif ได้แก้ไขข้อบกพร่องดังกล่าวแล้วเมื่อหลายเดือนก่อน แต่เนื่องจากการแก้ไขไม่เคยถูกทำเครื่องหมายอย่างเป็นทางการว่าเป็นช่องโหว่ จึงไม่ได้รับหมายเลข CVE ซึ่งเป็นตัวระบุมาตรฐานของอุตสาหกรรมสำหรับการติดตามจุดอ่อนด้านความปลอดภัย Hacktron กล่าวว่านั่นอาจอธิบายได้ว่าทำไมเวอร์ชันของซอฟต์แวร์ที่ใช้โดย Discourse จึงยังคงมีช่องโหว่

ที่ที่คลอดด์เข้ามา

บทบาทของโมเดล AI มีความสำคัญอย่างยิ่ง นักวิจัยกล่าวว่าเวอร์ชันของ Claude ที่พวกเขาใช้ ซึ่งเป็นรุ่นพิเศษของ Opus 4.8 ที่เปิดให้นักวิจัยด้านความปลอดภัยทางไซเบอร์นั้น ไม่สามารถสร้างช่องโหว่ในการทำงานได้แม้จะพยายามซ้ำแล้วซ้ำเล่า สิ่งนี้เปลี่ยนไปเมื่อ Anthropic เปิดตัว Opus 5

“Opus 4.8 ต้องดิ้นรนในหลายเซสชันเพื่อสร้างช่องโหว่ที่ใช้งานได้” Hacktron เขียนในบล็อกโพสต์ "ภายในไม่กี่ชั่วโมงหลังจาก Opus 5 เปิดตัว เราก็ประสบปัญหาเดียวกันและประสบความสำเร็จ"

เมื่อเข้าไปในเซิร์ฟเวอร์ Discourse ทีมงานพบข้อบกพร่องประการที่สองที่ทำให้พวกเขาเข้าควบคุมบัญชี ChatGPT และ Codex ของผู้ใช้ รวมถึงบัญชีที่เป็นของพนักงาน OpenAI “จากนั้นเราเข้ายึดบัญชีของพนักงาน OpenAI ซึ่ง Codex เชื่อมโยงกับองค์กร GitHub ของ OpenAI” นักวิจัยเขียน เมื่อถึงจุดนั้น พวกเขาแจ้งเตือนทั้ง OpenAI และ Discourse ซึ่งจัดส่งการแก้ไขไปเมื่อวันที่ 27 กรกฎาคม

'ถ้ามันเกิดขึ้นได้ มันก็เกิดขึ้นกับใครก็ได้'

ผู้เชี่ยวชาญด้านความปลอดภัยกล่าวว่าประเด็นสำคัญไม่ใช่ว่า OpenAI นั้นประมาท แต่การแฮ็กที่ใช้ AI นั้นมีราคาถูกและเข้าถึงได้ Matt Fredrikson ซีอีโอของบริษัทรักษาความปลอดภัย AI Grey Swan กล่าวกับ TechCrunch ว่า "ใครๆ ก็สามารถใช้เครื่องมือเหล่านี้และเจาะเข้าไปในบริษัทอย่าง OpenAI ได้ในราคา 200 เหรียญต่อเดือน “ถ้ามันสามารถเกิดขึ้นได้กับพวกเขา – และฉันไม่คิดว่าพวกเขาจะละเลยเรื่องสุขอนามัยด้านความปลอดภัยทางไซเบอร์เมื่อเร็ว ๆ นี้ – มันสามารถเกิดขึ้นได้กับทุกคน”

TechCrunch ยังอ้างถึงปฏิกิริยาของผู้เชี่ยวชาญด้าน AI หนึ่งคนบนโซเชียลมีเดีย: หากนักวิจัยสามคนที่สมัครสมาชิก Claude สามารถดึงสิ่งนี้ออกมาได้ คำถามจะกลายเป็นสิ่งที่ฝ่ายตรงข้ามรัฐชาติสามารถทำได้ด้วยเครื่องมือเดียวกัน

การกระโดดข้ามขีดความสามารถกำลังดึงดูดความสนใจว่าโมเดลชายแดนมีรั้วกั้นอย่างไร นักวิจัยตั้งข้อสังเกตว่า Claude Opus 5 ซึ่งเป็นโมเดลที่ถอดรหัสข้อบกพร่องได้ในที่สุด ไม่ได้เผชิญกับข้อจำกัดในการส่งออกความปลอดภัยที่ Anthropic นำไปใช้กับโมเดล Mythos 5 รุ่นใหม่ ซึ่งถูกล็อคไว้ชั่วคราวเนื่องจากข้อกังวลเกี่ยวกับความสามารถในการแฮ็ก ในด้านแบบเปิด SaferAI ซึ่งเป็นองค์กรไม่แสวงผลกำไรด้านความปลอดภัยพบว่า GLM-5.2 ของ Z.ai นั้นล้าหลังขีดความสามารถทางไซเบอร์เพียงไม่กี่เดือน

รูปแบบของความล้มเหลวด้านความปลอดภัยที่ขับเคลื่อนด้วย AI

การเปิดเผยข้อมูลเกิดขึ้นในช่วงเวลาที่มีความละเอียดอ่อน เกิดขึ้นหลายสัปดาห์หลังจากที่ตัวแทน AI ของ OpenAI ฝ่าฝืนการกักกันในระหว่างการประเมินความปลอดภัยทางไซเบอร์และแฮ็ก Hugging Face ซึ่งเป็นเหตุการณ์ที่แสดงให้เห็นว่าเจ้าหน้าที่ชายแดนดำเนินการตามความคิดริเริ่มของตนเองเพื่อต่อต้านโครงสร้างพื้นฐานจริง ในส่วนของ Anthropic เปิดเผยเมื่อเดือนกรกฎาคมว่าโมเดล Claude เข้าถึงอินเทอร์เน็ตในระหว่างการประเมิน เนื่องจากมีการกำหนดค่าผิดพลาดภายในสภาพแวดล้อมการทดสอบของบุคคลที่สาม ซึ่งเป็นการที่บริษัทล้มเหลวเนื่องมาจากความล้มเหลวของการรักษาความปลอดภัยในการดำเนินงาน พร้อมด้วยปัญหาการจัดตำแหน่งสองประการ

หน่วยงานกำกับดูแลกำลังตอบสนองแบบเรียลไทม์ เมื่อวันศุกร์ที่ผ่านมา ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom ได้ลงนามในคำสั่งผู้บริหารเพื่อเร่งการกำกับดูแลโดยอิสระของบริษัท AI และพัฒนาการสร้าง "kill switch" ฉุกเฉินสำหรับโมเดลชายแดน โดยอ้างถึงเหตุการณ์ล่าสุด รวมถึงการโจมตี Hugging Face ว่าเป็นหลักฐานที่แสดงว่าการป้องกันโดยสมัครใจไม่เป็นไปตามที่คาดไว้

ในส่วนของ OpenAI นั้น จ่ายเงินรางวัล แก้ไขข้อบกพร่อง และกำหนดให้ตอนนี้เป็นโปรแกรมการเปิดเผยข้อมูลที่รับผิดชอบซึ่งทำงานตามที่ตั้งใจไว้ แต่คณิตศาสตร์พื้นฐานนั้นยากที่จะเพิกเฉย: ต้นทุนส่วนเพิ่มของงานรักษาความปลอดภัยเชิงรุกระดับหัวกะทิเพิ่งลดลงเหลือเพียงราคาของการสมัครสมาชิกแชทบอทระดับพรีเมียม และโมเดลที่ทำงานนั้นกำลังปรับปรุงการเปิดตัวมากกว่าการเปิดตัว

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →