ในไม่ช้า โมเดลปัญญาประดิษฐ์จะทรงพลังพอที่จะเชี่ยวชาญชีววิทยา โดยนำเสนอประโยชน์และความเสี่ยงที่ร้ายแรงในระดับที่เท่าเทียมกัน หัวหน้านักวิทยาศาสตร์ AI ของ Tencent เตือนในระหว่างการปรากฏตัวต่อสาธารณะที่หายากในฮ่องกงเมื่อวันเสาร์ เพิ่มเสียงของเขาในการอภิปรายที่เพิ่มมากขึ้นเกี่ยวกับสิ่งที่เกิดขึ้นเมื่อระบบ AI ดูดซับวิทยาศาสตร์เพื่อชีวิตอย่างเต็มที่
Yao Shunyu หัวหน้านักวิทยาศาสตร์ AI ของ Tencent Holdings และอดีตนักวิจัย OpenAI กล่าวว่า "ความสามารถทางไซเบอร์ของโมเดล AI และความสามารถทางชีวภาพของโมเดลในเร็วๆ นี้ จะถึงขีดจำกัดที่อาจก่อให้เกิดอันตรายได้" กล่าวโดย South China Morning Post ในการประชุมวิทยาศาสตร์ที่จัดขึ้นโดย Hong Kong Academy of Sciences และ Future Science Prize For more context on this story, see our ongoing breaking AI news.
ผู้สนับสนุน Open-Weight เรียกร้องความรับผิดชอบ
คำเตือนของเหยามีความโดดเด่นในเรื่องเนื้อหาน้อยกว่าแหล่งที่มา เขาสร้างชื่อเสียงที่ OpenAI ก่อนที่จะมาร่วมงานกับ Tencent หนึ่งในบริษัทเทคโนโลยีที่ใหญ่ที่สุดของจีน และ Tencent ก็ได้วางตำแหน่งตัวเองให้เป็นหนึ่งในผู้เผยแพร่โมเดล AI แบบเปิดที่ก้าวร้าวที่สุด ซึ่งเป็นระบบที่มีพารามิเตอร์พื้นฐานเผยแพร่ต่อสาธารณะ และสามารถดาวน์โหลด แก้ไข และเรียกใช้โดยใครก็ได้
นั่นทำให้ข้อความประกอบของเขาชี้ให้เห็นว่า “ชาวจีนทั้งหมดหรือบริษัทต้นแบบเปิดใดๆ จำเป็นต้องมีความรับผิดชอบและจริงจังอย่างมากเกี่ยวกับข้อกังวลด้านความปลอดภัยเหล่านั้น” เหยากล่าว ตามรายงานของ SCMP
การประเมินดังกล่าวเกิดขึ้นในขณะที่ระบบ AI ระดับแนวหน้าถูกนำไปใช้กับการแพทย์และชีววิทยามากขึ้น ซึ่งสามารถเร่งการค้นพบยาใหม่และการรักษาอื่น ๆ ซึ่งเป็นการเปลี่ยนแปลงที่เปลี่ยนโฉมอุตสาหกรรมยาของจีนไปแล้ว ตามรายงานของ SCMP อย่างไรก็ตาม ผู้เชี่ยวชาญด้านความปลอดภัยเตือนมานานแล้วว่าความสามารถเดียวกันนี้สามารถช่วยให้ผู้ประสงค์ร้ายผลิตอาวุธชีวภาพหรือจุดประกายให้เกิดการระบาดใหญ่ครั้งต่อไปได้ ซึ่งเป็นความเสี่ยงที่ยากต่อการควบคุมเมื่อมีการเผยแพร่โมเดลที่มีความสามารถออกมาเป็นซอฟต์แวร์แบบเปิดที่ใครๆ ก็สามารถทำงานได้โดยไม่ต้องมีรั้วกั้น
ผู้เชี่ยวชาญด้าน AI มองว่าชีววิทยาเป็นพรมแดนหลักถัดไปหลังจากการเขียนโค้ด ซึ่งเป็นโดเมนที่ความก้าวหน้าของ AI อย่างรวดเร็วได้เปลี่ยนความปลอดภัยทางไซเบอร์ทั่วโลกแล้ว เช่นเดียวกับความสามารถทางไซเบอร์ ความสามารถทางชีวภาพนั้นมีการใช้งานได้สองทาง โดยหลักการแล้วรูปแบบเดียวกับที่ออกแบบผู้สมัครยาที่มีศักยภาพสามารถช่วยเหลือผู้โจมตีได้ มีการถกเถียงกันอย่างแท้จริงว่าฝ่ายใดได้ประโยชน์มากกว่า
คู่มือความปลอดภัยของ Tencent
คำพูดของเหยามีน้ำหนักเพิ่มขึ้น เนื่องจากคำพูดดังกล่าวมาถึงไม่กี่วันหลังจากที่บริษัทของเขาจัดส่งเรือธงรุ่นใหม่ Tencent เปิดตัว Hy4 เมื่อวันพุธ ซึ่งได้รับการจัดอันดับให้เป็นรุ่นที่มีประสิทธิภาพดีที่สุดเป็นอันดับสองที่ผลิตในประเทศจีน ตามการวิเคราะห์ของบริษัทเปรียบเทียบมาตรฐาน SCMP รายงาน
ในการประกาศเปิดตัว Tencent อธิบายถึงมาตรการด้านความปลอดภัยที่มีอยู่ใน Hy4 บริษัทกล่าวว่าได้ลบความสามารถในการแฮ็กทางไซเบอร์ของโมเดลนี้ออก ในขณะที่ยังคงความสามารถในการป้องกันทางไซเบอร์ไว้โดยการกรองข้อมูลที่เกี่ยวข้องในระหว่างขั้นตอนการฝึกอบรม ในด้านชีววิทยา Tencent กล่าวว่าความสามารถทางชีวภาพของ Hy4 ยังคง "ต่ำกว่า" เกณฑ์ที่มีความเสี่ยงสูง เนื่องจากแบบจำลองยังคงไม่สามารถเปลี่ยนความรู้ทางชีววิทยาพื้นฐานเป็นโปรโตคอลที่สามารถนำไปปฏิบัติได้ กล่าวคือ ช่องว่างระหว่างความเข้าใจในตำราเรียนและคำแนะนำในการปฏิบัติงานทีละขั้นตอน
การกำหนดกรอบดังกล่าว — การวัดว่าแบบจำลองสามารถเปลี่ยนความรู้ทั่วไปเป็นขั้นตอนที่ใช้งานได้หรือไม่ — ได้กลายเป็นมาตรฐานทั่วไปในการประเมินความปลอดภัยทางชีวภาพของระบบ AI คำกล่าวอ้างของ Tencent ที่ว่า Hy4 ไม่อยู่ในบรรทัดนั้นเป็นการยืนยันโดยผู้ผลิตโมเดลนั้นเอง และการตรวจสอบความถูกต้องจากภายนอกของการประเมินดังกล่าวยังคงมีข้อจำกัดทั่วทั้งอุตสาหกรรม
ระยะเวลายังสะท้อนถึงความกดดันทางการแข่งขันด้วย Tencent เปิดตัว Hy4 เข้าสู่การแข่งขันแบบเปิดที่ร้อนแรงมากขึ้นในหมู่บริษัท AI ของจีน โดย DeepSeek, Z.ai และ Alibaba ต่างจัดส่งโมเดลใหม่ในช่วงไม่กี่สัปดาห์ที่ผ่านมา ตามการรายงานข่าวก่อนหน้านี้ของ SCMP เกี่ยวกับการเปิดตัว ในระบบนิเวศที่การเผยแพร่น้ำหนักเป็นสิ่งจำเป็นในการแข่งขัน การเรียกร้องของ Yao สำหรับแนวทางปฏิบัติในการเผยแพร่ที่ "มีความรับผิดชอบสูง" ถือเป็นความพยายามที่จะกำหนดบรรทัดฐานภายในการเคลื่อนไหวที่ทำให้การตรวจสอบด้านความปลอดภัยยากที่สุดในการบังคับใช้
จากคำเตือนไปจนถึงห้องปฏิบัติการอิสระ
สิ่งที่ทำให้รูปลักษณ์ของ Yao น่าสนใจเป็นพิเศษคือ Tencent กำลังผลักดัน AI ให้ลึกเข้าไปในห้องปฏิบัติการไปพร้อมๆ กัน ในการกล่าวถึงห้องของนักศึกษาวิทยาการคอมพิวเตอร์ เขาได้สรุปแผนสำหรับ "ห้องปฏิบัติการวิทยาศาสตร์อัตโนมัติ" ซึ่งจะใช้ระบบ AI เพื่อทำการทดลองที่ซับซ้อนตั้งแต่ต้นจนจบ โดยมีการพับโปรตีนผกผันที่อ้างถึงเป็นตัวอย่างของประเภทงานที่บริษัทตั้งเป้าไว้
Yao แย้งว่าอุปสรรคทางเทคนิคของ AI ทางวิทยาศาสตร์ที่ปลอดภัยและมีความสามารถจะต้องมาทันเวลา “ผมคิดว่าการเปลี่ยนแปลงทางเทคนิคทั้งหมดสามารถแก้ไขได้ โดยที่เป็นเพียงเรื่องของเวลา” เขากล่าวต่อ SCMP “ฉันคิดว่าความท้าทายที่ยิ่งใหญ่กว่านั้นคือด้านสังคมและองค์กร”
สถานที่ดังกล่าวเน้นย้ำถึงกลุ่มเป้าหมายของข้อความดังกล่าว โดยเหยาได้พูดคุยกับห้องที่เต็มไปด้วยนักศึกษาสาขาวิทยาการคอมพิวเตอร์ ซึ่งเป็นกลุ่มประชากรที่มีแนวโน้มมากที่สุดที่จะสร้างจากแบบจำลองเหล่านี้ ในช่วงสัปดาห์รางวัลวิทยาศาสตร์แห่งอนาคตปี 2026 ซึ่ง SCMP รายงานว่าดึงดูดผู้เข้าร่วมได้ประมาณ 1,000 คน
แผนกดังกล่าว — ปัญหาทางวิศวกรรมที่แก้ไขได้กับปัญหาการกำกับดูแลที่ยังไม่ได้รับการแก้ไข — กำลังกลายเป็นตำแหน่งมาตรฐานของผู้บริหาร AI ทั้งสองด้านของมหาสมุทรแปซิฟิกอย่างเงียบๆ สำหรับ Tencent มันเป็นการป้องกันเช่นกัน บริษัทที่เดิมพันการดำเนินการครั้งต่อไปในห้องปฏิบัติการอิสระมีแรงจูงใจทุกประการที่จะโน้มน้าวหน่วยงานกำกับดูแลว่าเกณฑ์ความเสี่ยงทางชีวภาพสามารถออกแบบ ตรวจสอบ และเคารพในที่โล่งได้
สำหรับตอนนี้ คำถามในระยะสั้นคือ บริษัทต่างๆ ที่เผยแพร่โมเดล open-weight จะใช้เกณฑ์ความเสี่ยงทางชีวภาพที่วัดได้ก่อนที่ขีดความสามารถจะข้าม — หรือหลังจากนั้น คำเตือนของเหยาบ่งบอกว่าอย่างน้อย Tencent ก็เชื่อว่านาฬิกากำลังทำงานอยู่
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
