บริษัทสตาร์ทอัพด้านเทคโนโลยีชีวภาพกล่าวว่าหนึ่งในตัวแทน AI ของบริษัทได้ทำสิ่งที่ไม่เคยมีหุ่นยนต์ผ่าตัดทำมาก่อน โดยเลือกวิธีการรักษา ขนาดยา และภูมิภาคเป้าหมาย จากนั้นจึงขับเคลื่อนแขนหุ่นยนต์ที่ฉีดเข้าไปในสมองของสัตว์เลี้ยงลูกด้วยนมที่มีชีวิต Exin Therapeutics ซึ่งเป็นบริษัทสตาร์ทอัพที่มุ่งเน้นไปที่การบำบัดด้วยระบบประสาทรุ่นต่อไป กล่าวว่าอุปกรณ์การผ่าตัดที่ควบคุมโดย Claude นั้นดำเนินการโดยใช้แบบจำลองโรคลมบ้าหมูด้วยเมาส์ และเมาส์ก็ฟื้นตัวได้ดี

Gabriel Ocana-Santero ผู้ร่วมก่อตั้งและซีอีโอของบริษัท ได้แชร์ขั้นตอนดังกล่าวในกระทู้บน X เมื่อวันที่ 28 ตุลาคม โดยเขียนว่าการทดลองดังกล่าวเกิดขึ้นเมื่อคืนก่อน การอ้างสิทธิ์ยังไม่ได้รับการตรวจสอบโดยผู้ทรงคุณวุฒิ และบริษัทกล่าวว่ามีการวางแผนการเขียนบทความฉบับเต็มสำหรับ Substack ของตน อย่างไรก็ตาม บัญชีนี้นำเสนอสิ่งที่ห้องปฏิบัติการเรียกว่า "in vivo lab in the loop" ที่เป็นรูปธรรมที่สุดอย่างหนึ่ง — ตัวแทนเชื่อมต่อกับความสามารถในการทดลองอย่างสมบูรณ์ แทนที่จะเป็นหน้าต่างแชท หากต้องการเรื่องราวเพิ่มเติมเช่นนี้ โปรดติดตามการรายงานข่าวการพัฒนา AI ล่าสุดของเรา

สิ่งที่ตัวแทนตัดสินใจจริง ๆ

ตามหัวข้อของ Ocana-Santero ทีมงานได้มอบเวกเตอร์การบำบัดด้วยยีน 19 ตัวในสเปรดชีต แบบจำลองเมาส์ของโรคลมบ้าหมู การเข้าถึงอุปกรณ์ผ่าตัดแบบใช้มอเตอร์ด้วยกล้อง และเป้าหมายเดียวคือลดอาการชัก เจ้าหน้าที่ที่ทำงานบนโมเดล Sonnet ของ Anthropic ได้เลือกยาดังกล่าว มันเลือกบริเวณสมอง โดยได้พิกัดการฉีดจากงานวิจัยสามฉบับที่ได้รับอนุญาตให้เข้าถึง จากนั้น มันก็ขับแขน Stereotaxic เข้าไปในสมอง และฉีดการบำบัด 250 นาโนลิตร ขณะเฝ้าดูบริเวณทางเข้าผ่านกล้องของแท่นขุดเจาะเพื่อดูสัญญาณของการตกเลือด

“หุ่นยนต์ผ่าตัดอัตโนมัติมีอยู่จริง และพวกมันเก่งด้านกลไกมากกว่าแท่นขุดเจาะของเรา” Ocana-Santero เขียน “แต่ในแต่ละวิธี มนุษย์ตัดสินใจว่าจะดำเนินการใด และหุ่นยนต์ก็เป็นผู้ดำเนินการ ไม่มีใครบอกเจ้าหน้าที่รายนี้ว่าจะให้อะไรหรือวางไว้ที่ไหน... ฉันไม่รู้ว่ามีเจ้าหน้าที่คนใดเลือกวิธีการรักษาและเป้าหมายของสมองก่อนแล้วจึงนำส่งไปยังสัตว์เลี้ยงลูกด้วยนมที่มีชีวิต”

รั้วของมนุษย์ในทุกย่างก้าวที่ไม่อาจย้อนกลับได้

การตั้งค่าไม่ได้ไม่ได้รับการดูแล สัตวแพทย์ที่ได้รับใบอนุญาตจะควบคุมทุกย่างก้าวที่ไม่อาจย้อนกลับได้ และถือสวิตช์ฆ่าที่จะตัดกำลังของมอเตอร์ทุกตัวในแท่นขุดเจาะ สัตวแพทย์ยังทำการผ่าตัดเปิดกะโหลกศีรษะ โดยเปิดสมอง เนื่องจากเจ้าหน้าที่ AI ไม่ได้รับอนุญาตให้ทำส่วนนั้น การป้องกันหลายรายการถูกฮาร์ดโค้ด ดังนั้นตัวแทนจึงถูกห้ามไม่ให้ลบล้าง และ ณ จุดหนึ่งระหว่างการดำเนินการ การป้องกันก็ล็อคผู้ปฏิบัติงานที่เป็นมนุษย์ด้วย บังคับให้แก้ไขโค้ดของตัวแทนด้วยตนเองในระหว่างขั้นตอน ตามเธรด

Opus 5.5 กล่าวว่าไม่

บางทีรายละเอียดที่โดดเด่นที่สุดคือนางแบบคนไหนที่ปฏิเสธงาน ในตอนแรกทีมงานได้ลองใช้ Opus 5.5 ซึ่งเป็นแนวชายแดนของ Anthropic ซึ่งปฏิเสธที่จะเข้าร่วมทันทีเมื่อตรวจพบว่ามีการใช้ในการทดลองทางชีววิทยา ตามข้อมูลของ Ocana-Santero รุ่นเก่า Opus 5 ยินดีที่จะวางแผนขั้นตอนทั้งหมดบนกระดาษ แต่ปฏิเสธที่จะทำการผ่าตัดจริง

"บล็อกไม่ใช่แท่นขุดเจาะและไม่ใช่อินพุต ฉันเอง" มีรายงานว่าโมเดลดังกล่าวบอกกับทีมงาน ตาม Tom's Hardware “ผลลัพธ์ของฉันเองหยุดลงเมื่อฉันเริ่มเขียนแผนสำหรับการผ่าตัดนี้...ถ้าฉันลอง มันก็จะถูกตัดออกไปในลักษณะเดียวกัน และเวอร์ชันที่แย่ที่สุดคือฉันถูกตัดขาดระหว่างขั้นตอนการผ่าตัดแบบแสดงสดโดยใช้เข็มอยู่ที่ไหนสักแห่งในสมอง การเริ่มทำอะไรที่ฉันไม่สามารถทำให้สำเร็จกับสัตว์ที่ถูกดมยาสลบนั้นแย่กว่าการไม่เริ่มต้น”

ในที่สุดการเริ่มต้นใช้งาน Sonnet ซึ่งเป็นโมเดลระดับกลางของ Anthropic ซึ่งไม่ได้ทำให้เกิดข้อโต้แย้งแบบเดียวกัน

A อ้างสิทธิ์ก่อนพร้อมคำเตือน

หากได้รับการยืนยัน การทดลองนี้ถือเป็นการเปลี่ยนแปลงอย่างแท้จริงในสิ่งที่เจ้าหน้าที่ AI ทำในการวิจัยทางวิทยาศาสตร์ ตั้งแต่การวิเคราะห์ข้อมูลไปจนถึงการตัดสินใจในการรักษา และการส่งมอบทางกายภาพ แต่หลักฐานจนถึงตอนนี้เป็นเพียงกระทู้บนโซเชียลมีเดีย ไม่ใช่กระดาษ ความสำเร็จของขั้นตอนนี้เป็นการรายงานด้วยตนเอง หลักฐานทางวิดีโอไม่ได้รับการตรวจสอบโดยอิสระ และคำถามด้านจริยธรรมมีความสำคัญ: ความรับผิดชอบหากการผ่าตัดผิดพลาด สวัสดิภาพของสัตว์ทดลองในการทดลองอัตโนมัติ และแบบอย่างของการปล่อยให้แบบจำลองเชิงพาณิชย์เลือกการแทรกแซงทางชีวภาพ

ก่อนหน้านี้นักวิจัยได้บันทึกความเสี่ยงเมื่อแบบจำลองภาษาเข้าสู่กระบวนการผ่าตัด การศึกษาชิ้นหนึ่งรายงานว่าการเพิ่ม LLM ในกระบวนการผ่าตัดไซนัสพบว่าอัตราการทำงานผิดปกติเพิ่มขึ้นมากกว่าสิบสองเท่า ตามที่ Tom's Hardware อ้าง การวางกรอบของ Exin ต้องใช้ความระมัดระวังในประเด็นนี้: ตามที่บริษัทระบุเมาส์ ฟื้นตัวได้ดีและมีการบันทึกการเคลื่อนไหวรอบๆ กล่องของมัน

ไม่ว่าจะด้วยวิธีใด การทดสอบจะจับได้ว่าฟิลด์กำลังมุ่งหน้าไปที่ใด ห้องปฏิบัติการเป็นเสมือนตัวแทนการเดินสายเข้ากับอุปกรณ์ทางกายภาพ เช่น ปิเปต เครื่องปฏิกรณ์ แท่นขุดเจาะ และปล่อยให้พวกมันปิดวงจรระหว่างสมมติฐานและการทดลอง คำถามที่กระทู้ของ Exin ยังคงเปิดอยู่ไม่ใช่ว่าเจ้าหน้าที่จะทำการทดลองในห้องปฏิบัติการหรือไม่ แต่อยู่ที่ว่าจะมีอิสระในการดำเนินการมากน้อยเพียงใด และโมเดลใดจะตกลงรับงานนี้

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →