นักคณิตศาสตร์คนที่สองกล่าวโทษ OpenAI ว่ามีพฤติกรรมที่ผิดจรรยาบรรณและ "ไม่ซื่อสัตย์" ต่อข้อมูลที่อยู่เบื้องหลังความก้าวหน้าทางคณิตศาสตร์อันโด่งดัง โดยกล่าวว่าบริษัทล้มเหลวในการพิสูจน์ว่าปฏิสัมพันธ์ส่วนตัวของเขากับ ChatGPT ไม่ได้มีส่วนทำให้เกิดผลลัพธ์ที่ประกาศด้วยการประโคมข่าวใหญ่เมื่อเดือนที่แล้ว

ในชุดโพสต์เกี่ยวกับ Mastodon รายงานโดย The Verge เมื่อวันพุธ นักคณิตศาสตร์ Andreas Thom แจ้งข้อกังวลว่าการสนทนาที่เขาและเพื่อนร่วมงานมีกับ ChatGPT ก่อนที่การประกาศของ OpenAI อาจส่งผลต่อความสำเร็จของโมเดลนี้ การแทรกแซงของเขาเกิดขึ้นเพียงไม่กี่วันหลังจากศาสตราจารย์คณิตศาสตร์มหาวิทยาลัยนิวยอร์ก Tristan Buckmaster ตั้งคำถามต่อสาธารณะว่าแบบจำลองของ OpenAI ได้รับประโยชน์จากการใช้เครื่องมือ Codex ของบริษัทหรือไม่ โดยเปลี่ยนช่วงเวลาแห่งชัยชนะของห้องปฏิบัติการให้กลายเป็นข้อโต้แย้งที่กำลังดำเนินอยู่เกี่ยวกับแหล่งที่มาของข้อมูลการฝึกอบรม For more context on this story, see our ongoing more AI stories.

จากความก้าวหน้าสู่ฟันเฟือง

ในเดือนสิงหาคม OpenAI ประกาศว่าระบบของตนสร้างผลลัพธ์ที่สำคัญสิบประการในด้านคณิตศาสตร์และวิทยาการคอมพิวเตอร์เชิงทฤษฎี โดยแต่ละผลลัพธ์ได้รับการตรวจสอบด้วยการพิสูจน์แบบ Lean ที่ผ่านการตรวจสอบด้วยเครื่องจักร ซึ่งเป็นเหตุการณ์สำคัญที่ไซต์นี้ครอบคลุมในขณะนั้น ควบคู่ไปกับวิธีแก้ปัญหาของบริษัทที่อ้างสิทธิ์ในปัญหารางวัล Millennium Prize ผลลัพธ์หนึ่งในสิบข้อบ่งชี้ถึงการดำรงอยู่ของกลุ่มที่เรียกว่า กลุ่มที่ไม่ใช่โซฟิก ซึ่งเป็นคำถามเปิดที่ยาวนานในทฤษฎีกลุ่ม

ผลลัพธ์นั้นเป็นศูนย์กลางของความขัดแย้งครั้งใหม่ จากข้อมูลของ The Verge นั้น OpenAI ยอมรับว่าการพิสูจน์ที่สร้างขึ้นอย่างมากจากงานก่อนหน้านี้ของ Thom และเพื่อนนักคณิตศาสตร์ Gábor Kun และหลังจากการวิพากษ์วิจารณ์จากแวดวงคณิตศาสตร์สำหรับการไม่ยอมรับการมีส่วนร่วมล่าสุดของพวกเขาในตอนแรก บริษัท จึงแก้ไขการเขียนอย่างเงียบ ๆ

สำหรับ Thom การรับทราบดังกล่าวทำให้เกิดคำถามที่น่าอึดอัดใจ: เหตุใดนางแบบจึงควบคุมเทคนิคของเขาและ Kun ในรายละเอียดดังกล่าวได้อย่างไร

คำถามที่ทอมบอกว่าไม่มีคำตอบ

Thom กล่าวว่าเขารู้สึกทึ่งกับ "คำสั่งโดยละเอียดของ OpenAI เกี่ยวกับเทคนิคของเรา" ซึ่งเขาสังเกตเห็นว่าไม่ใช่เส้นทางที่ชัดเจนที่สุดหรือมีแนวโน้มมากที่สุดในการแก้ปัญหาในขณะนั้น เขาเขียนอีเมลถึงนักวิจัย OpenAI Sébastien Bubeck และ Mark Sellke ซึ่งเป็นนักสถิติที่ Harvard โดยถามว่าการโต้ตอบของเขากับ ChatGPT เป็น "ส่วนหนึ่งของข้อมูลการฝึกอบรมหรือเข้าถึงกระบวนการให้เหตุผล" และอาจมีส่วนทำให้เกิดผลลัพธ์หรือไม่

คำตอบที่เขาได้รับตอบเพียงว่าการสนทนาของเขาสามารถเข้าถึงได้โดยตรงหรือไม่ ไม่ใช่ว่าการสนทนาเหล่านั้นได้เข้าสู่แหล่งรวมข้อมูลอันกว้างใหญ่ที่ใช้ในการฝึกอบรมและปรับปรุงโมเดลของบริษัทหรือไม่ “ไม่มีการให้คุณสมบัติ คำอธิบาย หรือหลักฐานดังกล่าว” ทอมเขียน “ฉันถือว่านี่เป็นความไม่ซื่อสัตย์เลยแม้แต่น้อย”

ในการติดตามผลที่ The Verge กล่าวถึง เขาได้เพิ่มข้อกล่าวหาให้ชัดเจนยิ่งขึ้น: "คำตอบที่ชัดเจนของ Sellke อย่างน้อยที่สุด ก็กว้างไกลอย่างไม่สมเหตุสมผลและทำให้เข้าใจผิดในสาระสำคัญ เมื่อมองย้อนกลับไปก็ถือว่าไม่ซื่อสัตย์"

ข้อโต้แย้งของ Thom ไม่ได้เกี่ยวกับสิ่งที่ OpenAI ทำมากกว่าว่าใครเป็นผู้รับภาระในการพิสูจน์ เขากล่าวว่านักวิจัยไม่พร้อมที่จะทำวิศวกรรมย้อนกลับในขั้นตอนการฝึกอบรมของบริษัท “เฉพาะ OpenAI เท่านั้นที่มีข้อมูลที่เกี่ยวข้อง” เขาเขียน – ดังนั้นหากบริษัทต้องการปฏิเสธว่าข้อมูลผู้ใช้มีส่วนทำให้เกิดผลลัพธ์ OpenAI จะต้องรับผิดชอบในการพิสูจน์โดยการเปิดเผยชุดข้อมูลที่เกี่ยวข้องและชี้แจงวิธีการใช้การโต้ตอบกับลูกค้า

การปฏิเสธอย่างระมัดระวังของ OpenAI

ข้อพิพาทดังกล่าวสะท้อนถึงการจัดการของบริษัทเกี่ยวกับความก้าวหน้า Navier-Stokes ที่อ้างสิทธิ์ ซึ่งเป็นงานที่ Buckmaster ดำเนินการร่วมกับนักวิจัยด้านมานุษยวิทยา Levent Alpöge ในฐานะส่วนตัว ตามรายงานของ The Verge ในบล็อกโพสต์ที่ประกาศผลลัพธ์นั้น OpenAI ระบุว่า: "เรา (นักวิจัยและตัวแทน) ไม่เห็นงานใด ๆ ของพวกเขาไม่ว่าด้วยวิธีใด ๆ จนกว่าพวกเขาจะเผยแพร่ต่อสาธารณะ โดยเฉพาะอย่างยิ่งไม่มีการเข้าถึงข้อมูลผู้ใช้เฉพาะเพื่อแก้ไขปัญหานี้"

แต่โพสต์เดียวกันนี้ยอมรับช่องทางทางอ้อม: "แม้จะไม่น่าเป็นไปได้ แต่เราไม่สามารถปฏิเสธได้ว่าข้อมูลที่ไม่ระบุตัวตนที่ได้จากการใช้ผลิตภัณฑ์ของเราช่วยปรับปรุงแบบจำลองของเรา"

สำหรับทอม ความแตกต่างนั้นคือปัญหาทั้งหมด “การลบการระบุตัวตนอาจลบชื่อออกไป ไม่ได้ลบเนื้อหาทางปัญญาของแนวคิดทางคณิตศาสตร์” เขาเขียน OpenAI ไม่ตอบสนองต่อคำร้องขอความคิดเห็นของ The Verge ในทันที

เขาเสริมว่า "จะเป็นสิ่งที่ป้องกันไม่ได้ตามหลักจริยธรรม" หากการวิจัยที่ไม่เปิดเผยต่อสาธารณะที่จัดทำโดยผู้ใช้ช่วยปรับปรุงแบบจำลองที่บริษัทใช้เพื่อแข่งขันกับผู้ใช้กลุ่มเดียวกันเหล่านั้นให้เผยแพร่ โดยไม่ได้รับความยินยอม การเปิดเผยข้อมูลที่เหมาะสม หรือการให้เครดิต

ชิลกว่าคณิตศาสตร์

สถานการณ์ของการผลักดันรางวัลมิลเลนเนียมทำให้จิตใจสงบลงเล็กน้อย OpenAI กล่าวว่าได้ติดตามปัญหานี้หลังจากได้ยินข่าวลือทางออนไลน์ว่านักวิจัยคนอื่น ๆ มีความก้าวหน้าอย่างมาก โดยเร่งรัดนักวิชาการอย่างมีประสิทธิภาพเพื่อให้ได้ผลลัพธ์ที่พวกเขาใช้เวลาหลายปีในการเข้าใกล้

นักวิจัยจำนวนมากบอกกับ The Verge พวกเขากังวลว่าพฤติกรรมดังกล่าวจะผลักดันคณิตศาสตร์ให้เข้าสู่สถานะที่เป็นความลับมากขึ้น หากนักคณิตศาสตร์เชื่อว่าแม้แต่ข่าวลือเกี่ยวกับการพัฒนาที่ใกล้เข้ามาก็อาจจุดชนวนการแข่งขันกับยักษ์ใหญ่ด้านเทคโนโลยีที่มีทรัพยากรเพียงพอซึ่งปรารถนาที่จะได้รับความรุ่งโรจน์ การรายงานข่าวที่เกี่ยวข้องกับ The Verge - "ความก้าวหน้าทางคณิตศาสตร์อันชาญฉลาดของ OpenAI ส่งความเย็นสู่แวดวงวิชาการ" - จับอารมณ์ในสนาม

ตอนนี้ถือเป็นช่วงเวลาที่ละเอียดอ่อนสำหรับบริษัท AI และชุมชนการวิจัยที่พวกเขาเผชิญหน้ากันมากขึ้น ไม่ว่าผลลัพธ์แต่ละอย่างจะมีประโยชน์อะไรก็ตาม ความไม่สมดุลที่ Thom อธิบายนั้นมีโครงสร้าง: ห้องปฏิบัติการสามารถนำเข้าการโต้ตอบของผู้ใช้ในวงกว้าง ในขณะที่ผู้สร้างข้อมูลนั้นไม่มีทางที่จะตรวจสอบสิ่งที่ได้รับไป จนกว่าบริษัทต่างๆ จะเปิดขั้นตอนการฝึกอบรมเพื่อตรวจสอบอย่างละเอียดหรือบังคับใช้ไฟร์วอลล์ที่ตรวจสอบได้อย่างหนักระหว่างการสนทนากับลูกค้าและการฝึกอบรมโมเดล ทุกคำสั่ง "เราไม่ได้ใช้ข้อมูลของคุณ" จะมีเครื่องหมายดอกจันโดยนัย และความก้าวหน้าทุกครั้งจะมาพร้อมกับนักคณิตศาสตร์ และนักวิจัยในสาขาอื่นๆ มากขึ้นเรื่อยๆ เพื่อขอหลักฐาน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →