ஓபன்ஏஐ வியாழன் அன்று அதன் விரிவான கணக்கை "எதிரி வடிகட்டுதலை" கண்டறிந்து சீர்குலைக்கிறது - ஒரு போட்டி அமைப்பைப் பயிற்றுவிக்க எல்லைப்புற மாதிரியின் வெளியீடுகளின் அங்கீகரிக்கப்படாத பயன்பாடு - மேலும் பல அறிக்கைகளின்படி, அதன் மாதிரியை நேரடியாக அணுகுவதற்கு முன் மூன்றாம் தரப்பு நுழைவாயில்கள் மற்றும் மறுவிற்பனையாளர்கள் அதன் ஒப்புதலைப் பெறத் தொடங்கியுள்ளனர்.
OpenAI வலைப்பதிவு இடுகையில் "எதிர்ப்பு வடிகட்டுதலை எதிர்த்துப் போராடுதல்" மற்றும் Semafor மற்றும் eWeek ஆகியவற்றின் கவரேஜில் விவரிக்கப்பட்டுள்ள நகர்வுகள், அதன் மாடல்களின் திறன்களை யார் மறுபகிர்வு செய்யலாம் என்பதை நிறுவனம் எவ்வாறு கட்டுப்படுத்துகிறது என்பதைக் குறிக்கிறது - டெவலப்பர்கள், ஸ்டார்ட்அப்கள் மற்றும் இடைநிலை அமைப்புகளை அணுகும் நிறுவனங்களுக்கு உண்மையான விளைவுகளுடன் ஒரு மாற்றம்.
ஏன் OpenAI வடிகட்டுதலை ஒரு பாதுகாப்பு பிரச்சனையாக கருதுகிறது
வடிகட்டுதல் என்பது ஒரு நிலையான இயந்திர கற்றல் நுட்பமாகும், இதில் ஒரு மாதிரி மற்றொன்றின் வெளியீடுகளிலிருந்து கற்றுக்கொள்கிறது. தன்னைத்தானே, OpenAI குறிப்பிடுகிறது, இது சட்டவிரோதமானது அல்லது அசாதாரணமானது அல்ல. நிறுவனத்தின் கவலை என்னவென்றால், அது எதிரெதிர் வடிகட்டுதல் என்று அழைக்கிறது: ஒரு நடிகர், அதே மாதிரியான திறன்களைக் கொண்ட மற்றொரு மாடலைப் பயிற்றுவிப்பதற்கு அங்கீகாரம் இல்லாமல் ஒரு எல்லை மாதிரியின் வெளியீடுகளைப் பயன்படுத்துகிறார், பின்னர் அதை ஒப்பிடக்கூடிய பாதுகாப்புகள் இல்லாமல் பயன்படுத்துகிறார்.
அதன் வலைப்பதிவு இடுகையில், இணைய பாதுகாப்பு மற்றும் உயிரியல் போன்ற இரட்டை பயன்பாட்டு களங்களில் ஆபத்து மிகவும் தெளிவாக உள்ளது என்று OpenAI வாதிடுகிறது. பாதுகாவலர்களுக்கு மென்பொருள் பாதிப்புகளைக் கண்டறிய உதவும் ஒரு மாதிரியானது, அதன் திறன்கள் பலவீனமான பாதுகாப்புக் கம்பிகளைக் கொண்ட அமைப்பிற்கு மாற்றப்பட்டவுடன், தாக்குபவர் அவற்றைப் பயன்படுத்திக் கொள்ள உதவும். "ஒரு எதிரி ஒரு மாடலின் சைபர் திறன்களை வடிகட்டலாம் மற்றும் அதன் விளைவாக வரும் மாதிரியைப் பயன்படுத்தி அசல் மாடல் உதவ மறுத்திருக்கும் சைபர் தாக்குதல்களை மேற்கொள்ள உதவும்" என்று நிறுவனம் எழுதியது.
எண்ணச் சங்கிலியைப் பாதுகாத்தல்
OpenAI இன் பாதுகாப்பின் மையத்தில் அது பாதுகாக்கப்பட்ட பகுத்தறிவு என்று அழைக்கப்படுகிறது: இடைநிலை படிகள் - சிந்தனையின் சங்கிலி - ஒரு மாதிரியானது ஒரு பதிலை நோக்கி வேலை செய்யும் போது உள்நாட்டில் உருவாக்குகிறது. அந்த தடயங்கள், இறுதி பதில் விட்டுச்செல்லும் தகவல்களைக் கொண்டிருக்கலாம், அவை மற்றொரு ஆய்வகத்தின் மாதிரிக்கான பயிற்சித் தரவாக குறிப்பாக மதிப்புமிக்கதாக இருக்கும் என்று நிறுவனம் விளக்குகிறது.
GPT-6.2 Astra மற்றும் GPT-6.2 Sol ஆகியவற்றில் பகுத்தறிவு-தடத்தை பிரித்தெடுப்பதற்கு எதிராக அதன் பாதுகாப்பை பலப்படுத்தியுள்ளதாக OpenAI கூறுகிறது. தன்னியக்க ரெட்-டீமிங்கைப் பயன்படுத்தி உள் தகவமைப்பு மதிப்பீட்டில், பாதுகாக்கப்பட்ட பகுத்தறிவை மீட்டெடுப்பதற்கான சராசரி தாக்குதல் வெற்றி விகிதம் GPT-6 அஸ்ட்ராவிற்கு எதிராக 54.0% இலிருந்து அதன் அசல் பாதுகாப்புகளுடன் GPT-6.2 Astra க்கு எதிராக 0.2% ஆகக் குறைந்துள்ளது என்று நிறுவனம் தெரிவித்துள்ளது.
அதன் உள் சைபர் ஆய்வில் என்ன கண்டறியப்பட்டது
வடிகட்டுதலின் போது சைபர் திறன்கள் எவ்வாறு மாற்றப்படுகின்றன என்பது பற்றிய உள் ஆய்வின் முடிவுகளையும் நிறுவனம் பகிர்ந்து கொண்டது. குறியீட்டு முறை மற்றும் தற்காப்பு இணையப் பாதுகாப்புப் பணிகளில் பணிபுரியும் ஆசிரியர் மாதிரிகளால் உருவாக்கப்பட்ட பாதைகளில் மாணவர் மாதிரிகள் நன்றாக வடிவமைக்கப்பட்டுள்ளன. துல்லியமான பகுத்தறிவு தடயங்களில் பயிற்சி பெற்ற மாணவர்கள் பொதுவாக பகுத்தறிவு சுருக்கங்களில் மட்டுமே பயிற்சி பெற்ற மாணவர்களை விட சிறப்பாக செயல்பட்டனர், இவை இரண்டும் மேற்பார்வையிடப்பட்ட ஃபைன்-ட்யூனிங்கிற்குப் பிறகு மற்றும் - சோதனை செய்யப்பட்ட மிகப்பெரிய அனுமான வரவு செலவுத் திட்டங்களில் - மேலும் ஒரு சுற்று வலுவூட்டல் கற்றலுக்குப் பிறகு, ஓபன்ஏஐ இடுகையுடன் காட்டப்படும் வரையறைகளின்படி.
சுத்திகரிக்கப்பட்ட வெளியீடுகளை வெளியிடுவதன் மூலம் திறன் பரிமாற்றத்தைக் கட்டுப்படுத்த முடியும் என்று நம்பும் எவருக்கும் இதன் உட்குறிப்பு நிதானமாக இருக்கிறது: பயன்பாட்டுக் கொள்கைகளின் கீழ் அனுமதிக்கப்படும் இடைவினைகள் கூட, ஆசிரியர் முதலில் செய்த பணிகளுக்கு அப்பால் பொதுமைப்படுத்தும் திறன்களை ஒரு மாணவருக்குக் கற்பிக்க முடியும்.
நுழைவாயில்கள் மற்றும் மறுவிற்பனையாளர்களுக்கு இப்போது ஒப்புதல் தேவை
தொழில்நுட்ப நடவடிக்கைகள் கொள்கை மாற்றத்துடன் வருகின்றன. வியாழன் முதல், OpenAI க்கு AI மாதிரி ரவுட்டர்கள் மற்றும் நுழைவாயில்கள் தேவைப்படும், அவை முன் அனுமதியைப் பெற மூன்றாம் தரப்பினருக்கு அதன் மாடல்களுக்கு நேரடி அணுகலை வழங்கும் என்று eWeek தெரிவித்துள்ளது. வாடிக்கையாளர்கள் நேரடியாகவோ அல்லது ஹோஸ்டிங் பார்ட்னர்கள் மற்றும் மறுவிற்பனையாளர்கள் மூலமாகவோ அதன் மாடல்களை அணுகும்போது பாதுகாப்புப் பாதுகாப்புகள் எவ்வாறு பயன்படுத்தப்பட வேண்டும் என்பதை நிறுவனம் அக்டோபர் மாதம் வெளியிட்ட அறிவிப்பின் அடிப்படையில் தேவைப்பட்டது.
அந்த கட்டமைப்பின் eWeek இன் சுருக்கத்தின்படி, பங்கேற்பு சேவைகள் ஒப்பிடக்கூடிய தரத்தை பராமரிக்கும் என்று எதிர்பார்க்கப்படுகிறது, எனவே பயனர்கள் கட்டுப்பாடுகளைத் தவிர்க்க வழங்குநர்களை மாற்ற முடியாது. நடவடிக்கைகள் மூன்று நிலைகளை உள்ளடக்கியது: இடர் மதிப்பீடுகள் மற்றும் வரிசைப்படுத்தலுக்கு முன் பாதுகாப்பு-பைபாஸ் முயற்சிகளுக்கு எதிரான சோதனை; சந்தேகத்திற்கிடமான செயல்பாட்டை விசாரிக்கும் கூட்டாளர்களுடன், பயன்பாட்டின் போது கண்காணிப்பு; மற்றும் மீறல்கள் ஏற்பட்ட பிறகு அமலாக்க நடவடிக்கைகள். அதன் APIயைச் சுற்றி வேகமாக வளர்ந்த மறுவிற்பனையாளர் சுற்றுச்சூழல் அமைப்பில் OpenAI தனது பிடியை இறுக்குகிறது என Semafor வகைப்படுத்தியது.
டெவலப்பர்களுக்கு இது என்ன அர்த்தம்
டெவலப்பர்களுக்கு, நடைமுறை விளைவு என்பது விற்பனையாளருக்கு உரிய விடாமுயற்சியுடன் சேர்க்கும் புதிய இணக்கக் கேள்வியாகும்: OpenAI மாதிரிகளை வழங்கும் ஒரு இடைத்தரகர் உண்மையில் அவ்வாறு செய்ய அங்கீகரிக்கப்பட்டுள்ளாரா. திரட்டிகள் மூலம் போக்குவரத்தை வழிநடத்தும் வணிகங்கள், தங்கள் வழங்குநரின் ஒப்புதல் நிலையை உறுதிப்படுத்த வேண்டும் மற்றும் அது நற்சான்றிதழ்கள் மற்றும் தரவை எவ்வாறு கையாளுகிறது என்பதை உறுதிப்படுத்த வேண்டும் என்று eWeek அறிவுறுத்தியுள்ளது.
பரந்த தொழில்துறையைப் பொறுத்தவரை, இந்த அறிவிப்பு, மாடல் வழங்குநர்கள் பெறப்பட்ட திறன்களின் கட்டுப்பாட்டை - மாடல்கள் மட்டும் அல்ல - முக்கியமான சுற்றளவாகப் பார்க்கிறார்கள் என்பதற்கான சமிக்ஞையாகும். சமீபத்திய ஆண்டுகளில் வடிகட்டுதல் தகராறுகள் களம் முழுவதும் வெடித்துள்ளன, மேலும் OpenAI இப்போது அதன் பதிலை உரிம தகராறாக இல்லாமல் ஒரு பாதுகாப்புத் தேவையாக உருவாக்குகிறது, உயிரியல் மற்றும் சைபர் பாதுகாப்பு அபாயங்களுக்கு அது பொருந்தும் கட்டுப்பாடுகளுடன் வடிகட்டுதல் பாதுகாப்பை சீரமைக்கிறது.
முன்னோக்கிச் செல்லும் பாதை
ஓபன்ஏஐ பல்வேறு மாணவர் மாதிரிகள் மற்றும் வடிகட்டுதல் செய்முறைகளில் எவ்வளவு திறன் பரிமாற்றங்களைத் தொடர்ந்து படிப்பதாகக் கூறுகிறது, மேலும் அதன் கண்டறிதல் மற்றும் அமலாக்கப் பணிகளை உருவாக்க மற்ற ஆய்வகங்களை அழைக்கிறது. போட்டியாளர்கள் ஒப்பிடக்கூடிய நுழைவாயில்-அங்கீகார ஆட்சிகளை ஏற்றுக்கொள்கிறார்களா - மற்றும் கூடுதல் உராய்வை பயனர்கள் ஏற்றுக்கொள்கிறார்களா - அடுத்த தலைமுறை AI அமைப்புகள் எவ்வாறு கட்டமைக்கப்படுகின்றன, யார் அவற்றை உருவாக்க அனுமதிக்கப்படுகிறார்கள் என்பதை தீர்மானிக்க உதவும்.
வளைவுக்கு முன்னால் இருங்கள்
AI மாதிரிகள், பாதுகாப்பு மற்றும் கொள்கைகள் பற்றிய சமீபத்திய தகவல்களை அது நடக்க வேண்டுமா? AI Buzz Wire இல் பிரேக்கிங் AI செய்திகளைப் பின்தொடரவும்.
மேலும் AI செய்திகளைப் படிக்கவும் →