ஆந்த்ரோபிக் தலைமை நிர்வாகி டாரியோ அமோடி சட்டமியற்றுபவர்களை எச்சரித்துள்ளார், திறந்த மூல செயற்கை நுண்ணறிவுக்கான விரைவான போக்கு, சக்திவாய்ந்த மாதிரிகள் கவனமாக பாதுகாப்பு இல்லாமல் வெளியிடப்பட்டால், AI கொள்கையில் மிகவும் சர்ச்சைக்குரிய விவாதங்களில் ஒன்றாகும்.

கிளாட் குடும்ப மாடல்களுக்குப் பின்னால் நிறுவனத்தை நிறுவி வழிநடத்தும் அமோடெய், திறந்த மூல AI இன் தனித்துவமான தன்மை, மேம்பட்ட அமைப்புகளை பதிவிறக்க, மாற்ற மற்றும் வரிசைப்படுத்த எவருக்கும் இலவசமாகக் கிடைக்கச் செய்கிறது, இது வழக்கமான திறந்த மூல மென்பொருள் ஒருபோதும் ஏற்படுத்தாத அபாயங்களை உருவாக்குகிறது என்று வாதிட்டார். அவரது கருத்துக்கள், டெகேடியாவால் அறிவிக்கப்பட்டது, திறன் AI பொதுவில் விநியோகிக்கப்பட்டவுடன் அதைக் கட்டுப்படுத்துவதில் உள்ள சிரமத்தை மையமாகக் கொண்டது. இந்தக் கதையின் கூடுதல் சூழலுக்கு, எங்களின் தற்போதைய மேலும் AI கதைகள் பார்க்கவும்.

பாரம்பரிய மென்பொருளைப் போலன்றி, அதிநவீன AI அமைப்புகள் உறுதியான உரையை உருவாக்கலாம், யதார்த்தமான படங்களை உருவாக்கலாம், கணினி குறியீட்டை எழுதலாம் மற்றும் இணையப் பாதுகாப்புப் பணிகளுக்கு உதவலாம். தவறான கைகளில், சைபர் தாக்குதல்களை தானியக்கமாக்குவதற்கு, அதிநவீன தவறான தகவல் பிரச்சாரங்களை ஏற்றுவதற்கு அல்லது தீங்கு விளைவிக்கும் உயிரியல் ஆராய்ச்சியை முன்னெடுப்பதற்கு அந்த திறன்கள் பயன்படுத்தப்படலாம் என்று Amodei வாதிடுகிறார்.

நிரந்தரத்தின் பிரச்சனை

Amodei முன்னிலைப்படுத்தப்பட்ட மைய அபாயங்களில் ஒன்று, ஒரு சக்திவாய்ந்த மாதிரி வெளிப்படையாக வெளியிடப்பட்டவுடன், அதை நினைவுபடுத்துவது திறம்பட இயலாததாகிவிடும். புதிய பாதிப்புகள் வெளிப்படும் போது நிறுவனங்களால் இயக்கப்படும் மூடிய அமைப்புகளை கண்காணிக்கலாம், இணைக்கலாம் மற்றும் கட்டுப்படுத்தலாம். இதற்கு நேர்மாறாக, ஒரு திறந்த மூல மாதிரியை காலவரையின்றி நகலெடுத்து இணையம் முழுவதும் மறுபகிர்வு செய்யலாம், வெளியீட்டிற்குப் பிறகு அதன் பயன்பாட்டைக் கட்டுப்படுத்த டெவலப்பர்களுக்கு எந்த வழிமுறையும் இல்லை.

பெருகிய முறையில் சிக்கலான பணிகளில் மாடல்கள் மனித அளவிலான செயல்திறனை அணுகுவதால், அந்த நிரந்தரமானது, குறிப்பாக தொந்தரவாக இருக்கிறது என்று Amodei எச்சரித்தார். மேம்பட்ட AI ஆனது, திறந்தவெளியில் கூட்டு முயற்சியுடன் மேம்படுத்தப்படக்கூடிய சாதாரண மென்பொருளைப் போல் கருதாமல், அது பரவலாக அணுகப்படுவதற்கு முன், வலுவான பாதுகாப்பு சோதனை, கட்டுப்படுத்தப்பட்ட வரிசைப்படுத்தல் மற்றும் பொருத்தமான ஒழுங்குமுறை மேற்பார்வைக்கு உட்படுத்தப்பட வேண்டும் என்று அவர் வாதிட்டார்.

அவரது நிலைப்பாடு தொழில்துறையில் வளர்ந்து வரும் தவறுகளை பிரதிபலிக்கிறது. திறந்த மூல AI இன் ஆதரவாளர்கள், பொது அணுகல் போட்டியைத் தூண்டுகிறது, தொழில்நுட்ப முன்னேற்றத்தை ஜனநாயகப்படுத்துகிறது மற்றும் செயற்கை நுண்ணறிவை ஏகபோகமாக்குவதில் இருந்து ஒரு சில நிறுவனங்களைத் தடுக்கிறது என்று வாதிடுகின்றனர். உலகெங்கிலும் உள்ள டெவலப்பர்கள் மாதிரி கட்டிடக்கலை, மேற்பரப்பு பாதுகாப்பு குறைபாடுகளை ஆய்வு செய்யலாம் மற்றும் அமைப்புகளை ஒத்துழைப்புடன் மேம்படுத்தலாம், அதே நேரத்தில் ஸ்டார்ட்அப்கள், ஆராய்ச்சியாளர்கள் மற்றும் கல்வி நிறுவனங்கள் விலையுயர்ந்த தனியுரிம தளங்களைச் சார்ந்து இல்லாமல் உருவாக்க முடியும்.

அட்டவணையில் குறிப்பிட்ட அபாயங்கள்

அமோடியின் கவலைகள் சுருக்கமானவை அல்ல. வெளிப்படையாக வெளியிடப்பட்ட மாதிரிகள், நேரடியான நுண்ணிய-சரிப்படுத்தும் நுட்பங்களைப் பயன்படுத்தி ஆராய்ச்சியாளர்களால் அவற்றின் பாதுகாப்புக் கயிறுகளை ஏற்கனவே அகற்றிவிட்டன, இது அடிப்படை எடைகள் பொதுவில் இருக்கும் போது எவ்வளவு விரைவாக பாதுகாப்பு நடவடிக்கைகளை அகற்றலாம் என்பதை நிரூபித்தது. வேதியியல், உயிரியல் மற்றும் மென்பொருள் சுரண்டல் போன்ற பணிகளில் மாடல்கள் அதிக திறனுடன் வளரும்போது, ​​கவலை என்னவென்றால், பொறுப்பான ஆய்வகங்கள் தங்கள் வாடிக்கையாளர்கள் மீது திணிக்கும் திரையிடலை ஒருபோதும் கடந்து செல்லாத நடிகர்களுக்கு திறந்த வெளியீடுகள் சக்திவாய்ந்த திறன்களை வழங்கக்கூடும்.

தவறான தகவல் பரிமாணமும் ஆய்வுக்கு உட்படுத்தப்பட்டுள்ளது. யதார்த்தமான உரை, படங்கள் மற்றும் ஆடியோவை அளவில் உருவாக்கக்கூடிய மாதிரிகள் தேர்தல் குறுக்கீடு, நிதி மோசடி அல்லது பிரசாரத்தின் வெகுஜன உற்பத்தியை நோக்கித் திரும்பலாம். ஒரு திறந்த மாதிரியானது தாக்குபவர்களின் சொந்த வன்பொருளில் முழுவதுமாக செயல்படுவதால், அமோடி குறிப்பிட்டார், த்ரோட்டில் செய்ய ஏபிஐ இல்லை, இடைநிறுத்த கணக்கு இல்லை மற்றும் சேதம் ஏற்பட்டவுடன் பொறுப்பேற்க வழங்குநர் இல்லை.

ஒரு போட்டி பின்னணி

சீன டெவலப்பர்களிடமிருந்து திறமையான திறந்த மாதிரிகளின் எழுச்சிக்கு மத்தியில் Amodei இன் எச்சரிக்கைகள் வருகின்றன. Zhipu's GLM-5.2, மற்ற குறைந்த-கட்டண சீன அமைப்புகளுடன் சேர்ந்து, ஆந்த்ரோபிக் மற்றும் ஓபன்ஏஐ ஆகியவற்றிலிருந்து எல்லைக்குட்பட்ட தனியுரிம அமைப்புகளுடன் எவ்வளவு விரைவாக திறந்த மற்றும் வெளிப்படையாகக் கிடைக்கும் மாதிரிகள் இடைவெளியை மூடுகின்றன என்பதில் புதிய கவனத்தை ஈர்த்துள்ளது. அந்த போட்டி அழுத்தமானது, திறந்த வெளியீடுகளின் மீதான கட்டுப்பாடுகள் மேலாதிக்க நிறுவனங்களுக்கு சாதகமாக இருக்குமா அல்லது சமூகங்களை தவறாக பயன்படுத்துமா என்பது குறித்த கொள்கை விவாதத்தை தீவிரப்படுத்தியுள்ளது.

Amodei இன் நிலைப்பாட்டின் விமர்சகர்கள், திறந்த மூல AI ஐ கட்டுப்படுத்துவது, சுயாதீனமான கண்டுபிடிப்புகளை கட்டுப்படுத்துவதன் மூலம் கவனக்குறைவாக பெரிய தொழில்நுட்ப நிறுவனங்களை நிலைநிறுத்தக்கூடும் என்று வாதிடுகின்றனர். மூடிய வளர்ச்சியைக் காட்டிலும் பாதிப்புகளை விரைவாகக் கண்டறிய ஆராய்ச்சியாளர்களை வெளிப்படைத்தன்மை அடிக்கடி அனுமதிக்கிறது என்பதையும் அவர்கள் குறிப்பிடுகின்றனர். இருப்பினும், திறந்த வளர்ச்சியின் பல ஆதரவாளர்கள் கூட, பெருகிய முறையில் சக்திவாய்ந்த அமைப்புகளுக்கு முந்தைய தலைமுறை மென்பொருளை விட வலுவான நிர்வாக கட்டமைப்புகள் தேவைப்படலாம் என்பதை ஒப்புக்கொள்கிறார்கள்.

ஒழுங்குமுறை இறுக்கம்

உலகெங்கிலும் உள்ள அரசாங்கங்கள் புதிய AI விதிமுறைகளை எடைபோடுவதால், விவாதம் அவசரமானது. கொள்கை வகுப்பாளர்கள் கடினமான சமநிலையை எதிர்கொள்கின்றனர்: அதிகப்படியான கட்டுப்பாடுகள் பொருளாதார வளர்ச்சி மற்றும் அறிவியல் கண்டுபிடிப்புகளை மெதுவாக்கலாம், அதே சமயம் போதிய மேற்பார்வையின்மை சமூகங்களை எதிர்நோக்குவதற்கு கடினமான இடர்களை வெளிப்படுத்தலாம். அந்தச் சமநிலையைத் தாக்கும் வகையில், அரசாங்கங்கள், தொழில்நுட்ப நிறுவனங்கள், கல்வியியல் ஆராய்ச்சியாளர்கள் மற்றும் சிவில் சமூகத்தின் ஒத்துழைப்பு தேவை என்று Amodei பரிந்துரைத்தார்.

அவரது சாட்சியம் தசாப்தத்தின் வரையறுக்கும் தொழில்நுட்பக் கொள்கை விவாதங்களில் ஒன்றை அடிக்கோடிட்டுக் காட்டுகிறது. செயற்கை நுண்ணறிவு அதிக திறன் கொண்டதாக வளரும்போது, ​​மாற்றும் அமைப்புகளுக்கான பரவலான அணுகலுடன் தொடர்புடைய ஆபத்துகளைக் குறைக்கும் அதே வேளையில் புதுமைகளை எவ்வாறு ஊக்குவிப்பது என்பதை சமூகம் தீர்மானிக்க வேண்டும். ஒழுங்குமுறை, தொழில்துறை தரநிலைகள் அல்லது சர்வதேச ஒத்துழைப்பு மூலம், திறந்த மூல AI மூலம் வரும் மாதங்களில் செய்யப்படும் தேர்வுகள், தொழில்நுட்பத்தை யார் கட்டுப்படுத்துகிறார்கள், மேலும் அது எவ்வளவு பாதுகாப்பாக பயன்படுத்தப்படுகிறது என்பதை பல ஆண்டுகளாக வடிவமைக்க முடியும்.

Anthropic ஐப் பொறுத்தவரை, AI பாதுகாப்பு மற்றும் கட்டுப்படுத்தப்பட்ட வெளியீடுகளில் நிறுவனத்தின் நீண்டகால முக்கியத்துவத்துடன் இந்த நிலைப்பாடு ஒத்துப்போகிறது. ஆனால் திறந்த மாதிரிகள் வேகமாக முன்னேறி வருவதோடு, கட்டுப்பாட்டாளர்கள் இன்னும் அதைப் பிடிக்கத் துடிக்கிறார்கள், அமோடியின் எச்சரிக்கைகளுக்கும் திறந்த மூல இயக்கத்தின் வேகத்திற்கும் இடையிலான இடைவெளி கொள்கை வகுப்பாளர்கள் அதை மூடுவதை விட வேகமாகக் குறையக்கூடும்.

---

AIக்கு முன்னால் இருங்கள்

சமீபத்திய AI செய்திகள், பகுப்பாய்வு மற்றும் முன்னேற்றங்கள் - அனைத்தையும் ஒரே இடத்தில் பெறுங்கள்.

மேலும் AI செய்திகளைப் படிக்கவும் →