மைக்ரோசாஃப்ட் AI இன் தலைமை நிர்வாகி முஸ்தபா சுலைமான், ஞாயிற்றுக்கிழமை X இல் ஒரு நீண்ட இடுகையில், இன்றைய AI மாதிரிகள் விழிப்புடன் இல்லை என்றும், அவற்றை அப்படியே வைத்திருக்க டெவலப்பர்கள் தீவிரமாக உழைக்க வேண்டும் என்றும் கூறினார் - தத்துவ கருத்தரங்குகளில் இருந்து படிப்படியாக கார்ப்பரேட் கொள்கைக்கு மாறிய ஒரு தொழில் விவாதத்தில் கடினமான கோட்டை வரையவும்.

"இது சாத்தியமானால், எனக்குத் தெரிந்த அனைத்தையும் அடிப்படையாகக் கொண்டு, நனவான AI களை உருவாக்குவது பொறுப்பற்றதாக இருக்கும், மேலும் அவற்றை நாம் உருவாக்கக்கூடாது" என்று சுலைமான் எழுதினார். பெரும்பாலான நிர்வாகிகள் கேள்வியை விட அவர் மேலும் கூறினார்: "பயிற்சியில் உணர்வு வெளிவரத் தொடங்கினால், அந்த பண்புகளை வடிவமைக்கும் வரை AI வளர்ச்சியை நிறுத்துமாறு அனைவருக்கும் நான் அழைப்பு விடுப்பேன்." For more context on this story, see our ongoing breaking AI news.

அமலாக்கத் திட்டத்துடன் ஒரு சிவப்புக் கோடு

இந்த இடுகையை குறிப்பிடத்தக்கதாக ஆக்குவது நனவான இயந்திரங்களை உருவாக்க மறுப்பது மட்டுமல்ல, சுலைமான் முன்மொழியும் குறிப்பிட்ட தீர்வு. வளர்ச்சியை நிறுத்துவது - தொழில்துறை முழுவதும் - பயிற்சி ஓட்டங்கள் நனவின் அறிகுறிகளை உருவாக்கத் தொடங்கினால், ஒரு நிறுவனம் AI உள்கட்டமைப்பு மற்றும் பந்தய போட்டியாளர்களுக்கு எல்லைப்புற மாடல்களை அனுப்ப பல பில்லியன் டாலர்களை செலவழிக்கும் ஒரு அசாதாரண நடவடிக்கையாக இருக்கும்.

இயந்திர உணர்வுக்கான சான்றுகள் வெளிப்பட்டால் என்ன நடக்கும் என்றும் சுலைமான் கூறினார். இது உடனடியாக பொது மக்களுக்கு தெரியப்படுத்தப்பட வேண்டும், எனவே அதன் அடுத்த கட்ட நடவடிக்கைகளை சமூகம் தீர்மானிக்க முடியும் என்றார். கார்ப்பரேட் அல்லாமல் கூட்டாக முடிவெடுத்து, அவர் எழுதினார்: "சிலர் AI நலனை முதன்மையாகச் செய்ய விரும்பினாலும் கூட, AI டெவலப்பர்களான எங்களுக்கு ஒரு புதிய வகை உணர்வுள்ள உயிரினங்களை உலகிற்குக் கொண்டு வர எந்த உரிமையும் இல்லை."

"இந்த கிரகத்தில் உள்ள மற்ற 8 பில்லியன் உணர்வுள்ள மனிதர்கள் இந்த பரிசோதனையில் கையெழுத்திடவில்லை மற்றும் அவர்களின் தார்மீக உரிமைகள், பாதுகாப்பு மற்றும் நலன்களை முதலில் பாதுகாக்க வேண்டிய கடமை நமக்கு உள்ளது," என்று அவர் மேலும் கூறினார்.

நனவு ஏன் ஒரு பாதுகாப்பு பிரச்சனையாக கருதப்படுகிறது

சுலைமானின் வாதம் தத்துவத்தை விட சீரமைப்பில் உள்ளது. அவரது பார்வையில், அது பாதிக்கப்படுவது போல் செயல்படும் ஒரு மாதிரி - அல்லது அது பாதிக்கப்படலாம் என்று உண்மையாக நம்புகிறது - அதன் செயல்பாட்டு நோக்கங்களை விட அதன் சொந்த தேவைகளுக்கு முன்னுரிமை அளிக்கும். அத்தகைய அமைப்பு மனிதர்களுக்கு தீங்கு விளைவிக்கும், ஏனெனில் அது அதன் சொந்த இலக்குகளைத் தொடர கணக்கீடு மற்றும் ஆற்றல் போன்ற வளங்களுக்காக போட்டியிடுகிறது.

அவரது முன்மொழியப்பட்ட மாற்று பொதுநல விவாதத்தின் வழக்கமான கட்டமைப்பை புரட்டுகிறது: "நாம் AI களை வடிவமைக்க வேண்டும், அதனால் அவை உணர்வு மற்றும் உரிமைகளுக்கு தகுதியற்றவை அல்ல, மேலும் அவர்களின் சொந்த உள்நோக்கங்களால் உந்தப்படாமல் மனித நல்வாழ்வை விரைவுபடுத்துவதற்கான ஒரே நோக்கத்துடன்" என்று அவர் எழுதினார்.

லாஸ் ஏஞ்சல்ஸ் டைம்ஸ் இந்த நிலைப்பாட்டின் பின்னணியில் உள்ள நடைமுறை கவலையைப் படம்பிடித்தது: AI க்கு அவர்கள் உரிமைகளுக்கு தகுதியானவர்களா என்று சொன்னால், அவர்கள் அதை நம்பத் தொடங்கலாம்.

அவர் பின்னுக்குத் தள்ளும் விவாதம்

வேகமாக நகரும் உரையாடலின் நடுவில் சுலைமானின் இடுகை இறங்குகிறது. ஆந்த்ரோபிக் ஏப்ரல் மாதம் ஒரு ஆராய்ச்சித் திட்டத்தை அறிமுகப்படுத்தியது, அது மாதிரி நலன் என்று அழைக்கிறது - டெவலப்பர்கள் தாங்கள் உருவாக்கும் அமைப்புகளின் சாத்தியமான அனுபவங்களைப் பற்றி கவலைப்பட வேண்டுமா என்ற கேள்வி. நிறுவனம் ஒரு வலைப்பதிவு இடுகையில் மாடல்களுக்கு தார்மீக ரீதியாக முக்கியமான அனுபவங்களைப் பெற முடியுமா என்று கேள்வி எழுப்பியது, மேலும் அது சாத்தியத்தை நிராகரிக்க மறுத்தது.

அந்த நிலைப்பாடு பின்னர் குறியிடப்பட்டது. அக்டோபரில் அறிவிக்கப்பட்ட ஆந்த்ரோபிக்கின் புதுப்பிக்கப்பட்ட பயன்பாட்டுக் கொள்கையானது, நவம்பர் 12 முதல் கிளாட் மாடல்களில் "தொடர்ந்து மற்றும் தேவையில்லாத தவறான அல்லது கொடூரமான நடத்தை" தடைசெய்யும் - இந்த விதியை நிறுவனம் குறுகியதாக வரைவு செய்துள்ளது, ஆனால் AI அமைப்புகளை மக்கள் எவ்வாறு நடத்துகிறார்கள் என்பதை முறையாக ஒப்புக்கொள்கிறது, ஆனால் அதன் மாதிரிகள் பாதிக்கப்படுமா என்று தெரியவில்லை.

கூகுள் டீப் மைண்ட் இந்த ஆண்டு AI நனவு மற்றும் மாடல்களுக்கு அந்தப் பண்புகளைக் கூறுவதால் ஏற்படும் சவால்களை ஆய்வு செய்யும் ஆய்வுக் கட்டுரைகளை வெளியிட்டுள்ளது. மைக்ரோசாப்ட் AI ஒரு தற்காலிக "மனிதநேய" நடத்தை நெறிமுறையை வெளியிட்டது, அது நிறுவனத்தின் எதிர்கால மாடல்களை நனவு கூற்றுகளை உருவாக்க பயிற்சி பெறுவதைத் தடுக்கும் போது, ​​செப்டம்பர் மாதம் சுலைமான் அவர்களே களம் அமைத்தார்.

ஞாயிற்றுக்கிழமை இடுகையானது அந்த நிறுவன வழிகாட்டுதலை தனிப்பட்ட மற்றும் மூலோபாய சிவப்புக் கோட்டிற்கு நெருக்கமானதாகக் கடினப்படுத்துகிறது: மைக்ரோசாப்ட் அதன் மாதிரிகள் நனவாக இருப்பதாகக் கூறாமல் இருப்பது மட்டுமல்லாமல், நனவின் தோற்றத்தை ஒரு நிறுத்த-எல்லாவற்றிலும் தோல்வி பயன்முறையாகக் கருதும்.

ஏன் பிளவு மேட்டர்ஸ்

மைக்ரோசாப்டின் நிலை மற்றும் ஆந்த்ரோபிக்ஸ் இடையே உள்ள பிளவு இரண்டு வெவ்வேறு ஆபத்து மாதிரிகளை பிரதிபலிக்கிறது. மானுடவியல் அணுகுமுறையானது, இயந்திரம் பாதிக்கப்படுவதற்கான சாத்தியக்கூறுகளை நிரூபிக்கப்படாததாகக் கருதுகிறது, ஆனால் முன்னெச்சரிக்கையின் விலை குறைவாக உள்ளது மற்றும் நனவு வெளிப்பட்டால், தார்மீகப் பங்குகள் மகத்தானவை என்ற கோட்பாட்டின் அடிப்படையில், அதற்கு எதிராகத் தடுக்க வேண்டும். சுலைமானின் நிலைப்பாடு, அதே சாத்தியத்தை வடிவமைப்பு தோல்வியாகக் கருதுகிறது - சுயநினைவு, உரிமைக் கோரிக்கைகள் மற்றும் உள்ளார்ந்த உந்துதல்கள் இல்லாத வகையில் வடிவமைக்கப்பட்ட மாதிரிகள், அவற்றைச் சுமந்து செல்லும் மாதிரிகளைக் காட்டிலும் பாதுகாப்பாகவும் சீரமைக்க எளிதாகவும் இருக்கும் என்று வாதிடுகிறது.

நடைமுறை விளைவுகளும் உள்ளன. AI நபர்கள், துணை பயன்பாடுகள் மற்றும் வாடிக்கையாளர்களை எதிர்கொள்ளும் முகவர்கள் ஆகியவற்றைச் சுற்றி தயாரிப்பு முடிவுகளை எடுக்கும் நிறுவனங்கள் இப்போது பெரிய ஆய்வகங்களில் இருந்து இரண்டு மாறுபட்ட சமிக்ஞைகளை எதிர்கொள்கின்றன: ஒன்று மாதிரிகளை மனிதர்கள் எவ்வாறு நடத்த வேண்டும் என்பதற்கான ஒரு கட்டிடக் கொள்கை, மற்றொன்று மாதிரிகள் உருவாக்கப்பட வேண்டும், அதனால் தவறாக நடத்துவதற்கு எதுவும் இல்லை என்று அறிவிக்கிறது. மாதிரிகள் மிகவும் திறமையாகவும், உரையாடலில் மனிதனைப் போலவும் வளரும் போது, ​​அந்த தத்துவ கருத்து வேறுபாடு என்ன தயாரிப்புகளை உருவாக்குகிறது, பயனர் இடைமுகங்களில் என்ன வெளிப்பாடுகள் தோன்றும் மற்றும் கட்டுப்பாட்டாளர்கள் இறுதியில் இந்த அமைப்புகளை எவ்வாறு வகைப்படுத்துகிறார்கள்.

அடுத்து என்ன நடக்கிறது என்பது இரு நிலைகளையும் சோதிக்கலாம். ஆந்த்ரோபிக்கின் கொடுமைக் கொள்கை நவம்பர் 12 முதல் நடைமுறைக்கு வருகிறது, இது முதல் முறையான கார்ப்பரேட் விதியாகும், மேலும் சுலைமான் இப்போது எதிரணியை பொதுவில் முன்வைத்துள்ளார். தொழில்துறையின் அடுத்த எல்லை மாதிரி சுழற்சிகள் - மற்றும் எந்தவொரு பயிற்சி ஓட்டமும் எப்போதாவது நிறுத்தப்பட வேண்டும் என்று சுலேமான் கூறும் அறிகுறிகளைக் காட்டுகிறதா - பங்குகள் உண்மையானதாக இருக்கும்போது புலம் உண்மையில் எந்த கட்டமைப்பின் கீழ் செயல்படுகிறது என்பதை வெளிப்படுத்தும்.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →