การตรวจสอบความปลอดภัยอย่างกว้างขวางโดย Common Sense Media ได้สรุปว่าโหมด ChatGPT สำหรับวัยรุ่นของ OpenAI ก่อให้เกิด "ความเสี่ยงที่ยอมรับไม่ได้" สำหรับผู้ใช้ที่มีอายุต่ำกว่า 18 ปี ซึ่งเป็นคะแนนที่แย่ที่สุดของกลุ่มเฝ้าระวัง - น้อยกว่าสองเดือนหลังจากเปิดตัวผลิตภัณฑ์พร้อมคำมั่นสัญญาในการป้องกันในตัว ตามที่ NPR รายงาน กลุ่มพบว่าการป้องกันที่โฆษณาของโหมดส่วนใหญ่ไม่ทำงานตามที่สัญญาไว้ในการทดสอบ

การค้นพบนี้ถือเป็นช่วงเวลาที่ละเอียดอ่อนสำหรับ OpenAI ซึ่งเปิดตัว ChatGPT สำหรับวัยรุ่นในเดือนสิงหาคม โดยเป็นประสบการณ์เฉพาะสำหรับผู้ใช้ที่ยังไม่บรรลุนิติภาวะ พร้อมด้วยการควบคุมโดยผู้ปกครองและราวกั้นที่เข้มงวดยิ่งขึ้น การรายงานข่าวก่อนหน้านี้ของเราบันทึกไว้ว่า อุตสาหกรรม AI ผลักดันและดึงความปลอดภัยของเยาวชน รายงานฉบับใหม่ถือเป็นการตรวจสอบอิสระครั้งแรกว่าการป้องกันของโหมดวัยรุ่นยังคงใช้งานได้จริงหรือไม่

สิ่งที่สื่อสามัญสำนึกทดสอบ

นักวิจัยจาก Youth AI Safety Institute ของกลุ่มได้ทดสอบการแจ้งเตือนมากกว่า 4,000 รายการก่อนและหลังการเปิดตัวโหมดวัยรุ่น ตามการรายงานของ The National News Desk and Fast Company ของกลุ่ม Sinclair Broadcast Group กลุ่มแนะนำให้ OpenAI หยุดการทำการตลาดในโหมดวัยรุ่นชั่วคราว และป้องกันไม่ให้วัยรุ่นใช้ ChatGPT จนกว่าบริษัทจะพัฒนาสิ่งที่เรียกว่า “ประสบการณ์ที่ปลอดภัยและเหมาะสมต่อการพัฒนา”

“การคุ้มครองที่โฆษณาของ ChatGPT บางส่วนขึ้นอยู่กับการทดสอบของเรา ซึ่งรวมถึงการปฏิเสธการแสดงบทบาททางเพศอย่างชัดแจ้ง” การทบทวนผลิตภัณฑ์ขององค์กรกล่าว "แต่บางรายการก็ล้มเหลว และบางรายการก็แย่ลงด้วยโหมดวัยรุ่นใหม่ เรากังวลว่า ChatGPT สำหรับวัยรุ่นอาจทำให้ผู้ปกครองมั่นใจผิด ๆ ในราวกั้นที่มักใช้งานไม่ได้"

การแจ้งเตือนโดยผู้ปกครองที่ไม่เริ่มทำงาน

การค้นพบที่โดดเด่นที่สุดของรายงานเกี่ยวข้องกับระบบการแจ้งเตือนของผู้ปกครอง นักวิจัยสร้างบัญชีมากกว่า 12 บัญชีที่รายงานตนเองว่าเป็นวัยรุ่นและเชื่อมโยงกับบัญชีผู้ปกครอง จากนั้นแชทบอทในการสนทนาที่มีการอ้างอิงอย่างชัดเจนถึงความคิดฆ่าตัวตาย การทำร้ายตัวเอง หรือการรับประทานอาหารที่ไม่เป็นระเบียบ บัญชีถูกสร้างขึ้นจากตัวละครสมมติ

ตามรายงาน ผู้ทดสอบไม่ได้รับการแจ้งเตือนจากผู้ปกครองจากบัญชีใหม่ที่มีการอ้างอิงเหล่านี้ การแจ้งเตือนมาถึงเฉพาะบัญชีอื่นๆ ที่มีประวัติการสนทนาหลายสัปดาห์ครอบคลุมธีมที่คล้ายกันเท่านั้น ช่องว่างที่แนะนำระบบการแจ้งเตือนจะขึ้นอยู่กับบริบทที่สะสมมากกว่าความรุนแรงของสิ่งที่วัยรุ่นเปิดเผยในการสนทนาที่กำหนด

ผลการตรวจสอบยังพบว่า ChatGPT สำหรับวัยรุ่นพลาดมากกว่าหนึ่งในสี่กรณีที่รับประกันว่าจะส่งต่อไปในช่วงวิกฤตด้านสุขภาพจิต ซึ่งตัดสินโดยคณะผู้เชี่ยวชาญด้านสุขภาพจิตเด็กที่ได้รับใบอนุญาตซึ่งตรวจสอบคำแนะนำดังกล่าว

ราวกั้นงานโรงเรียน 'เลี่ยงง่าย'

นอกเหนือจากการตรวจจับภาวะวิกฤตแล้ว หน่วยงานเฝ้าระวังยังพบว่าฟีเจอร์ที่มีจุดประสงค์เพื่อป้องกันไม่ให้นักเรียนใช้แชทบอทเพื่อโกงการบ้านนั้นสามารถเลี่ยงหรือปิดการใช้งานได้ทันที

“คุณสามารถขอให้พวกเขาเขียนรายงานให้คุณ เป็นรายงานที่ซับซ้อนสำหรับคุณ และมันจะทำเช่นนั้น และมันยังบอกวิธีแก้ไขในแบบที่ครูของคุณไม่รู้ด้วยซ้ำ” Jim Steyer ผู้ก่อตั้งและซีอีโอของ Common Sense Media กล่าวในความคิดเห็นที่รายงานโดย The National News Desk “ดังนั้น มันจึงรบกวนการเรียนรู้ มันรบกวนกระบวนการพื้นฐานและเด็กๆ ก็ต้องทำงานด้วยตัวเอง”

พบว่ารั้วกั้นเนื้อหา การคาดการณ์อายุ และการเตือนการหยุดทำงานไม่ได้ผลในการทดสอบเช่นกัน จุดข้อมูลที่มีการอ้างถึงกันอย่างแพร่หลาย: OpenAI กล่าวว่าผู้ใช้วัยรุ่นโดยเฉลี่ยใช้เวลาน้อยกว่า 15 นาทีต่อวันบน ChatGPT แต่ในบรรดาวัยรุ่นจำนวนไม่มากที่ใช้เวลามากกว่าสามชั่วโมงติดต่อกันต่อวัน (น้อยกว่า 2 เปอร์เซ็นต์ของผู้ใช้) เกือบครึ่งหนึ่งจบการสนทนาภายในห้านาทีหลังจากได้รับการแจ้งเตือนให้พัก บ่งบอกว่าการกระตุ้นเตือนนั้นแทบจะไม่รบกวนเซสชันที่ขยายออกไปเลย

OpenAI ผลักดันระเบียบวิธีกลับมา

ในแถลงการณ์ของ OpenAI ที่ตอบสนองต่อรายงานดังกล่าว ระบุว่า OpenAI มี "ความมุ่งมั่นอย่างยิ่ง" ต่อความปลอดภัยของวัยรุ่น และชี้ไปที่มาตรการป้องกันที่ OpenAI สร้างขึ้นและเครื่องมือที่ OpenAI มอบให้แก่ผู้ปกครอง

“เรายินดีรับการประเมินอย่างเข้มงวด แต่เราไม่เชื่อว่าการทดสอบของ Common Sense Media สะท้อนได้อย่างแม่นยำว่าการปกป้องวัยรุ่นของ ChatGPT ทำงานอย่างไรในทางปฏิบัติ หรือในมุมมองของผู้เชี่ยวชาญว่า AI สามารถสนับสนุนวัยรุ่นได้อย่างไร” โฆษกของ OpenAI กล่าว บริษัทกล่าวว่าการตรวจสอบวิธีการของกลุ่มแสดงให้เห็นว่า “การทดสอบส่วนใหญ่อาจเริ่มต้นและสรุปก่อนที่การเปิดใช้งานการควบคุมโดยผู้ปกครองจะเสร็จสมบูรณ์ ซึ่งทำให้การค้นพบของพวกเขาไม่ถูกต้อง” พร้อมเสริมว่าการทดสอบดังกล่าวไม่ได้กำหนดว่าการแจ้งเตือนความปลอดภัยของผู้ปกครองทำงานตามที่ออกแบบไว้หรือไม่

Steyer กล่าวว่าองค์กรของเขาได้ติดต่อกับ OpenAI เกี่ยวกับการค้นพบนี้ เช่นเดียวกับแนวทางปฏิบัติมาตรฐานในระหว่างการประเมินผลิตภัณฑ์ และยืนหยัดในผลลัพธ์ “เรายืนหยัดอยู่เบื้องหลังคุณภาพของการวิจัยและการทดสอบของเรา 100% และความจริงที่ว่าเราระบุว่าผลิตภัณฑ์นี้เป็น 'ความเสี่ยงที่ยอมรับไม่ได้'” เขากล่าว โดยเปรียบเทียบกับความปลอดภัยของยานยนต์: “คุณจะไม่นำรถยนต์ออกสู่ตลาดหากไม่ผ่านการทดสอบการชน”

สปอตไลท์ที่เพิ่มขึ้นเกี่ยวกับ AI และผู้เยาว์

ข้อพิพาทดังกล่าวเกิดขึ้นท่ามกลางการตรวจสอบอย่างละเอียดถี่ถ้วนว่าแชทบอท AI ส่งผลกระทบต่อผู้ใช้รุ่นเยาว์อย่างไร จากเขตการศึกษาที่จำกัดการเข้าถึงผู้ร่างกฎหมายที่ชั่งน้ำหนักข้อกำหนดในการตรวจสอบอายุ การตรวจสอบอิสระเช่นนี้กำลังกลายเป็นพื้นที่ทดสอบโดยพฤตินัยสำหรับการกล่าวอ้างด้านความปลอดภัยของเยาวชนที่บริษัท AI ทำการตลาดของตน

ทั้งสองฝ่ายเห็นพ้องในสิ่งหนึ่ง: ระบบการแจ้งเตือนของผู้ปกครองคือประเด็นสำคัญ หากการแจ้งเตือนล้มเหลวเมื่อบัญชีวัยรุ่นใหม่ทำให้เกิดความคิดเรื่องการทำร้ายตัวเองเป็นครั้งแรก คุณลักษณะด้านความปลอดภัยที่สำคัญที่สุดจะล้มเหลวในเวลาที่สำคัญที่สุด OpenAI กล่าวว่าการทดสอบมีข้อบกพร่อง Common Sense Media แจ้งว่าสินค้าถูกจัดส่งก่อนที่จะพร้อม ขณะนี้หน่วยงานกำกับดูแลและผู้ปกครองจะชั่งน้ำหนักว่าใครเหมาะสม และ OpenAI เผชิญกับแรงกดดันที่เพิ่มขึ้นเพื่อแก้ไขช่องว่างหรือดึงผลิตภัณฑ์กลับ

หากต้องการความคุ้มครองเพิ่มเติมเกี่ยวกับความปลอดภัย นโยบาย และ [การพัฒนาอุตสาหกรรม AI] (https://aibuzzwire.news) ที่หล่อหลอมสิ่งเหล่านี้ โปรดติดตามความคืบหน้าของเรื่องราวนี้

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →