செவ்வாயன்று நேச்சர் கம்யூனிகேஷன்ஸில் வெளியிடப்பட்ட எம்ஐடி கணினி விஞ்ஞானிகளின் புதிய ஆய்வு, AI பதிப்புரிமை பற்றிய விவாதத்தை மறுவடிவமைக்கக்கூடிய ஒரு கண்டுபிடிப்பை வழங்குகிறது: பரவல் மாதிரிகள் அதிக தரவுகளில் பயிற்சியளிக்கப்படுவதால், அவற்றின் வெளியீடுகள் எந்தவொரு குறிப்பிட்ட பயிற்சிப் பொருட்களையும் மீண்டும் கண்டுபிடிக்க முடியாததாகிவிடும். ஆராய்ச்சியாளர்கள் இந்த நிகழ்வை "பண்பு சிதைவு" என்று அழைக்கின்றனர். உருவாக்கக்கூடிய AI இன் வேகமாக நகரும் உலகத்தைக் கண்காணிக்கும் வாசகர்களுக்கு, AI Buzz Wire மூலம் இந்த வாரம் வழங்கப்பட்ட ஆராய்ச்சி முடிவுகளில் இந்த கட்டுரையும் ஒன்றாகும்.

MIT இன் கணினி அறிவியல் மற்றும் செயற்கை நுண்ணறிவு ஆய்வகத்துடன் (CSAIL) இணைந்த ஜெங் டாய் மற்றும் டேவிட் கே. கிஃபோர்ட் ஆகியோரால் "உருவாக்கும் பரவல் மாதிரிகளின் வெளியீடுகள் பெரும்பாலும் பயன்படுத்த முடியாதவை" என்ற தலைப்பில் கட்டுரை எழுதப்பட்டது. அவர்களின் மையக் கேள்வி ஏமாற்றும் வகையில் எளிமையானது: ஒரு உருவாக்கும் மாதிரி ஒரு படத்தை உருவாக்கும் போது, ​​அந்த வெளியீட்டிற்குப் பொறுப்பான பயிற்சித் தரவில் ஒரு குறிப்பிட்ட பொருளைக் கண்டறிய முடியுமா?

ஆராய்ச்சியாளர்கள் கண்டுபிடித்தது

பதில், பெருகிய முறையில், இல்லை. கற்பிதம் - உருவாக்கப்பட்ட மாதிரிக்கு பொறுப்பேற்கக்கூடிய பயிற்சி தரவின் ஒரு பகுதியைக் கண்டறியும் பணியாக வரையறுக்கப்படுகிறது - "ஒரு மாதிரியானது போதுமான அளவு பெரிய அளவிலான தரவுகளில் பயிற்சியளிக்கப்பட்டால் அது சாத்தியமற்றதாகிவிடும்" என்று ஆராய்ச்சியாளர்கள் காட்டுகின்றனர்.

"ஒரு மாதிரி அதிக தரவு பயிற்சியளிக்கப்படுவதை நாங்கள் காண்கிறோம், அதன் உருவாக்கப்பட்ட மாதிரிகள் குறைவான பண்புக்கூறுகளாக மாறும், இது இனிமேல் நாம் பண்பு சிதைவு என்று குறிப்பிடுகிறோம்" என்று ஆசிரியர்கள் எழுதுகிறார்கள்.

இதைச் சோதிக்க, குழு ஒரு "அபிலேஷன்" முறையை உருவாக்கியது, இது குறிப்பிட்ட பயிற்சி எடுத்துக்காட்டுகளை ஏற்கனவே பயிற்சி பெற்ற மாதிரியிலிருந்து விலையுயர்ந்த மறுபயிற்சி இல்லாமல் அகற்ற அனுமதிக்கிறது. பின்னர் அவர்கள் பெரிய அளவிலான சோதனைகளை நடத்தினர்: ஒரு குறிப்பிட்ட படம் அல்லது முழு படைப்பாளியின் பணியும் பயிற்சித் தொகுப்பில் இல்லாதிருந்தால், மாதிரி என்ன உருவாக்கும்?

ஆய்வின் மிகவும் குறிப்பிடத்தக்க சில முடிவுகளில், போதுமான அளவு பெரிய தரவுத்தொகுப்புகளில் பயிற்சி பெற்ற மாடல்களுக்கு, அவர்கள் மோனாலிசாவை - அல்லது லியோனார்டோ டா வின்சியின் அனைத்துப் படைப்புகளையும் கூட அகற்றலாம் என்றும், அந்த மாதிரியானது இன்னும் படத்தை அல்லது கலைப் பாணியை மீண்டும் உருவாக்க முடியும் என்றும் ஆராய்ச்சியாளர்கள் கண்டறிந்தனர். எந்த ஒரு பயிற்சி உருப்படியும் வெளியீட்டிற்கு காரணமானதாக இல்லை.

பதிப்புரிமை வழக்குக்கு இது ஏன் முக்கியமானது

கண்டுபிடிப்புகள் செயலில் உள்ள சட்டப் போர்க்களத்தின் நடுவில் உள்ளன. மிட்ஜர்னி மற்றும் ஸ்டேபிள் டிஃப்யூஷன் போன்ற டிஃப்யூஷன் மாதிரிகள் கலைஞர்களிடமிருந்து வழக்குகளை ஈர்த்துள்ளன, அவர்கள் பயிற்சி தரவுகளில் தங்கள் பணியின் நகல்களை AI அமைப்புகள் தங்கள் வெளியீடு மற்றும் பாணியை மீண்டும் உருவாக்க அனுமதிக்கின்றன என்று வாதிடுகின்றனர்.

2023 இல் இருந்து நடந்து கொண்டிருக்கும் பதிப்புரிமை வழக்கில், ஆண்டர்சன் மற்றும் பலர். v. ஸ்டேபிலிட்டி ஏஐ லிமிடெட்., வாதிகள் மிட்ஜோர்னியை அதன் மாடல்களைப் பயிற்றுவிக்கப் பயன்படுத்தப்படும் தரவுத்தொகுப்புகளை வெளிப்படுத்தும்படி கட்டாயப்படுத்த முயன்றனர். மிட்ஜோர்னி தனது பயிற்சித் தொகுப்பை "குறிப்பிட்ட கலைஞர்களின் பெயர்களுடன் தொடர்புடைய படங்களை ஸ்கிராப்பிங் செய்வதன் மூலம் அந்தக் கலைஞர்களின் வெளிப்படையான உள்ளடக்கத்தைப் பிரதிபலிக்கும் வகையில் அதன் மாதிரியை செயல்படுத்துவதற்கான வெளிப்படையான நோக்கத்திற்காக" அவர்கள் குற்றம் சாட்டுகின்றனர்.

MIT ஆய்வு, இத்தகைய காரண இணைப்புகளை நிறுவுவது தொழில்நுட்ப ரீதியாக அளவில் சாத்தியமற்றதாக இருக்கலாம் என்று கூறுகிறது. ஆய்வின் விவரங்களை முதலில் அறிவித்த தி ரிஜிஸ்டர் குறிப்பிட்டது போல, ஆராய்ச்சி AI ஒழுங்குமுறையை எளிதாக்குவதை விட கடினமாக்கும் என்று தோன்றுகிறது - அவர்கள் வேலையைத் தொடங்கியபோது ஆசிரியர்கள் எதிர்பார்த்ததற்கு மாறாக.

நியாயமான பயன்பாட்டு கேள்வி

MIT இன் செய்திக்குறிப்பில், கண்டுபிடிப்புகள் இரு வழிகளையும் குறைத்ததாக கிஃபோர்ட் வாதிடுகிறார். உருவாக்கப்பட்ட வெளியீடுகளுக்கு எந்தவொரு தனிப்பட்ட பயிற்சித் தரவோடும் எந்தத் தொடர்பும் இல்லை என்றால், மாதிரிகள் வெறும் நகலெடுக்கும் இயந்திரங்களைக் காட்டிலும் உண்மையான ஆக்கப்பூர்வமானதாக இருக்கலாம்.

"இது நியாயமான பயன்பாடு பற்றிய கேள்விகளை எழுப்புகிறது, வெளியீடுகள் நாவல் படைப்புகளாக பதிப்புரிமை பெறுகின்றனவா என்பது பற்றிய கேள்விகளை எழுப்புகிறது, மேலும் ஒரு மாதிரியில் இருந்து வெளிவருவது இணையத்தில் உள்ள எதற்கும் காரணமாக இல்லாதபோது ஆசிரியர்கள் எவ்வாறு ஈடுசெய்யப்படுகிறார்கள் என்பதைப் பற்றி" கிஃபோர்ட் கூறினார்.

இமேஜ் ஜெனரேட்டர்களுக்கு அப்பால் தாக்கங்கள் நீண்டுள்ளன. பரவல் மாதிரிகள் ஆடியோவிஷுவல் மீடியாவை உருவாக்குவதற்கான மேலாதிக்கக் கட்டமைப்பாக மாறிவிட்டன, மேலும் அவை புரோட்டீன் கட்டமைப்பு மாடலிங் மற்றும் சிகிச்சை கண்டுபிடிப்பு உள்ளிட்ட அறிவியல் பயன்பாடுகளில் அதிகளவில் பயன்படுத்தப்படுகின்றன. இயந்திர கற்றல், தரவு நச்சுத்தன்மை கண்டறிதல், மாதிரி விளக்கம், நியாயமான தணிக்கைகள் மற்றும் தனியுரிமை இணக்கத்திற்கான பண்புக் கருவிகள் முன்மொழியப்பட்டுள்ளன.

பண்புக்கூறு தொடக்கங்களுக்கான எச்சரிக்கை

AI ஆதாரம் மற்றும் உள்ளடக்க சரிபார்ப்பு கருவிகளின் வளர்ந்து வரும் தொழில்துறைக்கான எச்சரிக்கையையும் இந்த ஆய்வு கொண்டுள்ளது. ஒற்றுமை அடிப்படையிலான பண்புக்கூறு - பார்வைக்கு ஒத்த பயிற்சிப் படங்களுடன் உருவாக்கப்பட்ட வெளியீடுகளை பொருத்துவது - பெரிய பயிற்சி தரவு ஆட்சிகளில் தவறான பண்புகளை உருவாக்குகிறது என்று ஆராய்ச்சியாளர்கள் கண்டறிந்தனர்.

வேறு வார்த்தைகளில் கூறுவதானால், "இந்த AI படம் அந்த கலைஞரின் போர்ட்ஃபோலியோவிலிருந்து வந்தது" என்று கூறும் ஒரு கருவி, பில்லியன் கணக்கான படங்களில் மாதிரிகள் பயிற்சியளிக்கப்படும் போது தவறாக இருக்கலாம். ஆதார தகராறுகளைத் தீர்ப்பதற்கான தொழில்நுட்ப பண்புக்கூறுகளை எண்ணும் தளங்கள், நீதிமன்றங்கள் மற்றும் கட்டுப்பாட்டாளர்களுக்கு, MIT முடிவுகள் அத்தகைய உறுதியானது எல்லை-அளவிலான மாதிரிகளுக்கு எட்டாததாக இருக்கலாம் என்று தெரிவிக்கிறது.

அடுத்து என்ன வரும்

EU AI சட்டத்தின் வெளிப்படைத்தன்மை தேவைகள் மற்றும் கலைஞர் இழப்பீட்டு அமைப்புகளுக்கான முன்மொழிவுகள் உட்பட, நடந்துகொண்டிருக்கும் வழக்குகள் மற்றும் கொள்கை விவாதங்களில் இந்த கட்டுரை மேற்கோள் காட்டப்படும் என்று எதிர்பார்க்கப்படுகிறது. மிகப்பெரிய உற்பத்தி மாதிரிகளுக்கு பண்புக்கூறு சிதைவு இருந்தால், குறிப்பிட்ட படைப்புகளுக்கான வெளியீடுகளைக் கண்டுபிடிப்பதன் அடிப்படையில் இழப்பீட்டுத் திட்டங்கள் உருப்படி-நிலை கண்காணிப்பை விட கூட்டு உரிமத்தைச் சுற்றி மறுவடிவமைப்பு செய்யப்பட வேண்டும்.

AI டெவலப்பர்களுக்கு இந்த ஆய்வு ஒரு நுட்பமான புள்ளியை எழுப்புகிறது: உரிமையற்ற தரவு மீதான பயிற்சிக்கான நியாயமான பயன்பாட்டு வாதங்களை உண்மையில் வலுப்படுத்தலாம், அதே நேரத்தில் தனிப்பட்ட வெளியீடுகளிலிருந்து குறிப்பிட்ட தீங்கை நிரூபிக்கும் கலைஞர்களின் திறனைக் குறைமதிப்பிற்கு உட்படுத்தலாம். பதிப்புரிமைச் சண்டையின் இரு தரப்பும் தரவில் பயன்படுத்த ஏதாவது ஒன்றைக் கண்டுபிடிக்கும்.

AIக்கு முன்னால் இருங்கள்

மேலும் பிரேக்கிங் AI ஆராய்ச்சி மற்றும் பகுப்பாய்விற்கு, AI துறையின் தினசரி கவரேஜுக்கு AI Buzz Wire ஐப் பார்வையிடவும்.

மேலும் AI செய்திகளைப் படிக்கவும் →