செயற்கை நுண்ணறிவு மாதிரிகள் விரைவில் உயிரியலில் தேர்ச்சி பெறும், பலன்கள் மற்றும் கடுமையான அபாயங்களை சம அளவில் வழங்கும் என்று டென்சென்ட்டின் தலைமை AI விஞ்ஞானி சனிக்கிழமை ஹாங்காங்கில் ஒரு அரிய பொது நிகழ்ச்சியில் எச்சரித்தார்.
"AI மாடல்களின் சைபர் திறன்கள் - விரைவில் மாடல்களின் உயிரியல் திறன் - உண்மையில் தீங்கு விளைவிக்கக்கூடிய ஒரு வரம்பை எட்டும்" என்று டென்சென்ட் ஹோல்டிங்ஸின் தலைமை AI விஞ்ஞானியும் முன்னாள் OpenAI ஆராய்ச்சியாளருமான யாவ் ஷுன்யு, ஹாங்காங் அகாடமி ஆஃப் சயின்சஸ் மற்றும் எஃப் சைன்ஸுடன் இணைந்து நடத்திய அறிவியல் சிம்போசியத்தில் கூறினார். For more context on this story, see our ongoing artificial intelligence updates.
ஒரு திறந்த எடை வழக்கறிஞர் பொறுப்பை அழைக்கிறார்
Yao இன் எச்சரிக்கையானது அதன் மூலத்தைக் காட்டிலும் அதன் உள்ளடக்கம் குறைவாக உள்ளது. சீனாவின் மிகப்பெரிய தொழில்நுட்ப நிறுவனங்களில் ஒன்றான டென்சென்ட்டில் சேர்வதற்கு முன்பு அவர் OpenAI இல் தனது நற்பெயரைக் கட்டியெழுப்பினார், மேலும் டென்சென்ட் திறந்த எடை AI மாதிரிகளின் மிகவும் ஆக்ரோஷமான வெளியீட்டாளர்களில் தன்னை நிலைநிறுத்திக் கொண்டார் - அதன் அடிப்படை அளவுருக்கள் பொதுவில் வெளியிடப்படுகின்றன மற்றும் யாராலும் பதிவிறக்கம் செய்து, மாற்றியமைக்கப்பட்டு இயக்கப்படலாம்.
இது அவரது உடன் வரும் செய்தியை சுட்டிக்காட்டுகிறது: "அனைத்து சீன அல்லது எந்தவொரு திறந்த மாடல் நிறுவனமும் அந்த பாதுகாப்பு மற்றும் பாதுகாப்பு கவலைகள் குறித்து மிகவும் பொறுப்பாகவும் மிகவும் தீவிரமாகவும் இருக்க வேண்டும்" என்று யாவ் கூறினார், SCMP படி.
SCMP இன் அறிக்கையின்படி, எல்லைப்புற AI அமைப்புகள் அதிகளவில் மருத்துவம் மற்றும் உயிரியலுக்குப் பயன்படுத்தப்படுவதால், அவை புதிய மருந்துகள் மற்றும் பிற சிகிச்சைகளின் கண்டுபிடிப்பை துரிதப்படுத்தலாம் - இது சீனாவின் மருந்துத் துறையை ஏற்கனவே மாற்றியமைத்து வருகிறது என்று SCMP அறிக்கை கூறுகிறது. எவ்வாறாயினும், அதே திறன்கள் தீங்கிழைக்கும் நடிகர்களுக்கு உயிரி ஆயுதங்களை உருவாக்க அல்லது அடுத்த தொற்றுநோயைத் தூண்ட உதவும் என்று பாதுகாப்பு வல்லுநர்கள் நீண்ட காலமாக எச்சரித்துள்ளனர் - திறமையான மாதிரிகள் திறந்த-எடை மென்பொருளாக வெளியிடப்படும்போது, பாதுகாப்பு இல்லாமல் எவரும் இயக்கக்கூடிய ஒரு ஆபத்து காவல்துறைக்கு கடினமாகிவிடும்.
குறியீட்டு முறைக்குப் பிறகு அடுத்த முக்கிய எல்லையாக AI நிபுணர்களிடையே உயிரியல் பரவலாகப் பார்க்கப்படுகிறது, விரைவான AI முன்னேற்றம் ஏற்கனவே உலகளாவிய இணையப் பாதுகாப்பை உயர்த்திய ஒரு டொமைன். சைபர் திறன்களைப் போலவே, உயிரியல் திறன்களும் இரட்டைப் பயன்பாடாகும்: அதே மாதிரியானது, நம்பிக்கையூட்டும் போதைப்பொருள் வேட்பாளர்களை வடிவமைக்கும் அதே மாதிரி, கொள்கையளவில், தாக்குபவர்களுக்கு உதவ முடியும். எந்தப் பக்கம் அதிக பலன் தரும் என்பது பற்றிய உண்மையான விவாதம் உள்ளது.
Tencent's Own Safety Playbook
யாவோவின் கருத்துக்கள் கூடுதல் எடையைக் கொண்டிருந்தன, ஏனெனில் அவை அவரது சொந்த நிறுவனம் ஒரு புதிய முதன்மை மாடலை அனுப்பிய சில நாட்களுக்குப் பிறகு வந்தன. டென்சென்ட் புதனன்று Hy4 ஐ வெளியிட்டது, இது சீனாவில் தயாரிக்கப்பட்ட இரண்டாவது சிறந்த செயல்திறன் கொண்ட மாடலாக தரவரிசைப்படுத்துதல் நிறுவனமான செயற்கைப் பகுப்பாய்வு கூறுகிறது, SCMP தெரிவித்துள்ளது.
அதன் வெளியீட்டு அறிவிப்பில், டென்சென்ட் Hy4 இல் கட்டமைக்கப்பட்ட பாதுகாப்பு நடவடிக்கைகளை விவரித்தார். பயிற்சி கட்டத்தில் தொடர்புடைய தரவை வடிகட்டுவதன் மூலம் அதன் சைபர் பாதுகாப்பு திறன்களைத் தக்க வைத்துக் கொண்டு, மாடலின் சைபர் ஹேக்கிங் திறன்களை அகற்றியதாக நிறுவனம் கூறியது. உயிரியல் பக்கத்தில், டென்சென்ட், Hy4 இன் உயிரியல் திறன்கள் அதன் உயர்-அபாய வரம்புக்கு "மிகக் கீழே" இருப்பதாகக் கூறினார், ஏனெனில் மாதிரி இன்னும் அடிப்படை உயிரியல் அறிவை செயல்படக்கூடிய நெறிமுறைகளாக மாற்ற முடியவில்லை - வேறுவிதமாகக் கூறினால், பாடப்புத்தக புரிதலுக்கும் படிப்படியான செயல்பாட்டு வழிகாட்டுதலுக்கும் இடையிலான இடைவெளி.
அந்த ஃப்ரேமிங் - ஒரு மாதிரி பொது அறிவைப் பயன்படுத்தக்கூடிய நடைமுறைகளாக மாற்ற முடியுமா என்பதை அளவிடுவது - AI அமைப்புகளின் உயிரியல் பாதுகாப்பு மதிப்பீடுகளில் ஒரு பொதுவான அளவுகோலாக மாறியுள்ளது. டென்சென்ட்டின் கூற்று, Hy4 அந்த வரிசையில் குறைவாக உள்ளது என்பது மாதிரியின் சொந்த தயாரிப்பாளரின் வலியுறுத்தலாகும், மேலும் அத்தகைய மதிப்பீடுகளின் வெளிப்புற சரிபார்ப்பு தொழில் முழுவதும் குறைவாகவே உள்ளது.
நேரமும் போட்டி அழுத்தத்தை பிரதிபலிக்கிறது. டீப்சீக், Z.ai மற்றும் அலிபாபா ஆகியவை சமீபத்திய வாரங்களில் புதிய மாடல்களை ஷிப்பிங் செய்வதன் மூலம், சீனாவின் AI நிறுவனங்களுக்கிடையில், Hy4 ஐ டென்சென்ட் வெளியிட்டது. எடைகளை வெளியிடுவது ஒரு போட்டித் தேவையாக இருக்கும் ஒரு சுற்றுச்சூழல் அமைப்பில், "மிகவும் பொறுப்பான" வெளியீட்டு நடைமுறைகளுக்கான யாவோவின் அழைப்பு, பாதுகாப்பு மதிப்பாய்வுகளைச் செயல்படுத்த கடினமாக இருக்கும் இயக்கத்திற்குள் விதிமுறைகளை அமைக்கும் முயற்சியாகப் படிக்கிறது.
எச்சரிக்கைகள் முதல் தன்னாட்சி ஆய்வகங்கள் வரை
யாவோவின் தோற்றத்தை குறிப்பாக சுவாரஸ்யமாக்குவது என்னவென்றால், டென்சென்ட் ஒரே நேரத்தில் AI ஐ ஆய்வகத்திற்குள் ஆழமாகத் தள்ளுகிறது. கம்ப்யூட்டர் சயின்ஸ் மாணவர்களின் அறையில் உரையாற்றிய அவர், "தன்னாட்சி அறிவியல் ஆய்வகங்களுக்கான" திட்டங்களை கோடிட்டுக் காட்டினார், இது AI அமைப்புகளைப் பயன்படுத்தி சிக்கலான சோதனைகளை இறுதி முதல் இறுதி வரை இயக்குகிறது, தலைகீழ் புரத மடிப்பு நிறுவனம் இலக்கு வைக்கும் வேலைகளுக்கு ஒரு எடுத்துக்காட்டு.
பாதுகாப்பான, திறமையான அறிவியல் AIக்கான தொழில்நுட்பத் தடைகள் காலப்போக்கில் குறையும் என்று யாவ் வாதிட்டார். "அனைத்து தொழில்நுட்ப மாற்றங்களையும் தீர்க்க முடியும் என்று நான் நினைக்கிறேன் - இது ஒரு குறிப்பிட்ட நேரமாகும்," என்று அவர் கூறினார், SCMP. "பெரிய சவால் சமூகம் மற்றும் நிறுவனமானது என்று நான் நினைக்கிறேன்."
செய்தியின் நோக்கம் பார்வையாளர்களை அந்த இடம் அடிக்கோடிட்டுக் காட்டியது: 2026 ஆம் ஆண்டு எதிர்கால அறிவியல் பரிசு வாரத்தின் போது, கணினி அறிவியல் மாணவர்கள் நிரம்பிய ஒரு அறையுடன் யாவ் பேசினார் - இந்த மாதிரிகளை உருவாக்கக்கூடிய மக்கள்தொகை - SCMP 1,000 பங்கேற்பாளர்களை ஈர்த்ததாக அறிவித்தது.
அந்த பிரிவு - தீர்க்கக்கூடிய பொறியியல் சிக்கல்கள் மற்றும் தீர்க்கப்படாத நிர்வாக சிக்கல்கள் - அமைதியாக பசிபிக் இருபுறமும் உள்ள AI நிர்வாகிகளின் நிலையான நிலையாக மாறி வருகிறது. டென்சென்ட்டைப் பொறுத்தவரை, இது ஒரு தற்காப்புக்குரிய ஒன்றாகும்: தன்னாட்சி ஆய்வகங்களில் அதன் அடுத்தச் செயலை பந்தயம் கட்டும் நிறுவனம், உயிரி-ஆபத்து வரம்புகள் பொறிக்கப்படலாம், தணிக்கை செய்யப்படலாம் மற்றும் திறந்த வெளியில் மதிக்கப்படலாம் என்று கட்டுப்பாட்டாளர்களை நம்ப வைப்பதற்கான ஒவ்வொரு ஊக்கத்தையும் கொண்டுள்ளது.
இப்போதைக்கு, திறந்த-எடை மாடல்களை வெளியிடும் நிறுவனங்கள், திறன்களைக் கடக்கும் முன் - அல்லது அதற்குப் பிறகு அளவிடக்கூடிய உயிர்-ஆபத்து வரம்புகளை ஏற்றுக்கொள்வார்களா என்பதுதான் நெருங்கிய கேள்வி. யாவோவின் எச்சரிக்கை டென்சென்ட், குறைந்தபட்சம், கடிகாரம் இயங்குகிறது என்று நம்புகிறது.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
