எல்லைப்புற AI மாடல்களின் பாதுகாப்பைச் சோதிப்பதற்குப் பொறுப்பான சிறிய அமெரிக்க அரசாங்க அலுவலகத்தின் ஊழியர்கள் சமீபத்தில் வெள்ளை மாளிகை அலுவலகத்திற்கு முறைசாரா முறையில் புகாரளிக்குமாறு கேட்டுக் கொள்ளப்பட்டுள்ளனர் என்று அசோசியேட்டட் பிரஸ் சனிக்கிழமை தெரிவித்துள்ளது, இது நாட்டின் உயர்மட்ட AI பாதுகாப்பு மதிப்பீட்டாளரின் சுதந்திரம் குறித்த புதிய கவலைகளைத் தூண்டியது.

CAISSI என அழைக்கப்படும் மற்றும் வணிகத் துறையின் உள்ளே அமைந்துள்ள இந்த அலுவலகம், மேம்பட்ட கண்டுபிடிப்பு மற்றும் தரநிலைகளுக்கான மையம் - AP படி, அதன் ஆராய்ச்சியை வெளியிடுவதை நிறுத்தியுள்ளது. கட்டுப்பாடற்ற AI ஏஜெண்டுகளைப் பற்றிய கதைகளின் வரிசையின் மீது பொதுமக்களின் கவலைகள் அதிகரித்து வரும் நிலையில் இந்த அறிக்கை தரையிறங்குகிறது, மேலும் இது குறைவான பணியாளர்கள், தலைமையற்ற மற்றும் பெருகிய முறையில் அமைதியான கண்காணிப்புக்குழுவை விவரிக்கிறது. For more context on this story, see our ongoing more AI stories.

CAISSI என்ன செய்கிறது - மற்றும் AP கண்டுபிடித்தது

CAISSI ஆனது புதிய AI சலுகைகள் பொதுமக்களை சென்றடைவதற்கு முன் அவற்றின் பாதுகாப்பை மதிப்பிடும் பொறுப்பில் உள்ளது, இது எல்லைப்புற மாதிரிகள் சைபர் தாக்குதல்கள் மற்றும் பிற கடுமையான தீங்குகளை தவறாக பயன்படுத்துவதை எவ்வாறு எதிர்க்கிறது என்பதை மதிப்பீடு செய்வதை உள்ளடக்கியது. AP படி, மையத்தில் உள்ள ஊழியர்கள் "சமீபத்தில்" வெள்ளை மாளிகையின் அலுவலகத்திற்கு முறைசாரா முறையில் புகாரளிக்குமாறு கேட்டுக் கொள்ளப்பட்டனர். தற்போதைய ஊழியர்களைப் பாதுகாக்க அநாமதேயமாகப் பேசிய இரண்டு முன்னாள் அரசாங்க அதிகாரிகளை இந்தச் செய்தி நிறுவனம் மேற்கோள் காட்டியது. மையம் குறித்த குறிப்பிட்ட கேள்விகளுக்கு வெள்ளை மாளிகை பதிலளிக்கவில்லை.

செயல்பாட்டின் அளவு மிதமானது. CAISSI வருடத்திற்கு சுமார் $10 மில்லியன் பெறுகிறது என்று AP தெரிவிக்கிறது - ஐக்கிய இராச்சியத்தின் பிரதிநிதிகள் பெறுவதில் ஏறக்குறைய எட்டில் ஒரு பங்கு, அமெரிக்காவில் தான் பெரும்பாலான எல்லை மாடல்கள் உருவாக்கப்பட்டாலும் கூட.

முறைசாரா அறிக்கை ஏற்பாடு மையத்தில் சமீபத்திய இடையூறு மட்டுமே. AP ஒரு தலைமைத்துவ வெற்றிடத்தை பல மாதங்களுக்கு முன்பு விவரிக்கிறது: ஒரு இயக்குனர் ஏப்ரல் மாதத்தில் பணியமர்த்தப்பட்டார் மற்றும் சில நாட்களுக்குள் நீக்கப்பட்டார், அவருக்குப் பதிலாக பதவி விலகுவதற்கு சில மாதங்கள் நீடித்தது, மேலும் பெற்றோர் நிறுவனத்தின் தலைவர் தற்போது செயல் இயக்குநராக பணியாற்றுகிறார். நடைமுறையில், நிரந்தர ஆணையைக் கொண்ட எவரும் தற்போது மையத்தின் சுதந்திரத்தைப் பாதுகாக்கவில்லை.

வெளியிடுவதை நிறுத்திய கண்காணிப்பு நாய்

AP ஐப் பொறுத்தவரை, அதிக விளைவு மாற்றத்தை, மையம் இனி செய்யாது. பாதுகாப்பு சோதனைகளில் AI அமைப்புகள் எவ்வாறு செயல்படுகின்றன என்பது குறித்த அறிக்கைகளை CAISSI பகிரங்கமாக வெளியிடுவதை ஏன் நிறுத்தியது என்று ஆகஸ்ட் மாதம் காங்கிரஸ் கேட்டது. ப்ரீ-டெப்லைமென்ட் டெஸ்டிங், அதன் முடிவுகள் ஆய்வகத்திற்கு வெளியே தெரிந்தால் மட்டுமே மாடல் பில்டர்களின் பொதுச் சரிபார்ப்பாகச் செயல்படுகிறது - மேலும், இப்போதைக்கு அவை இல்லை.

ஷிப்ட் எங்கும் வெளியே வரவில்லை. அக்டோபரில், ராய்ட்டர்ஸ், The Information இன் அறிக்கையை மேற்கோள் காட்டி, நிர்வாகம் மூன்று மூத்த CAISSI அதிகாரிகளை வெள்ளை மாளிகைக்கு மாற்ற திட்டமிட்டுள்ளது என்பதை வெளிப்படுத்தியது. ஒரு வெள்ளை மாளிகை அதிகாரி அந்த நேரத்தில் தி இன்ஃபர்மேஷன் இடம் கூறினார், வர்த்தகத்துடனான ஒருங்கிணைப்பு சிக்கல்கள் மையத்தின் தலைமையை AI முடிவெடுப்பதில் நெருக்கமாக கொண்டு வர வேண்டியதன் அவசியத்தை காட்டுகிறது. அந்த அறிக்கையின்படி, அதிகாரிகள் அறிவியல் மற்றும் தொழில்நுட்பக் கொள்கை அலுவலகத்தை நடத்தும் மைக்கேல் க்ராட்சியோஸ் மற்றும் தேசிய சைபர் இயக்குநர் சீன் கெய்ர்ன்கிராஸ் ஆகியோருக்கு பதிலளிப்பார்கள். வர்த்தகச் செயலர் ஹோவர்ட் லுட்னிக் ஆறு மாதங்களுக்கு முன்னர் இருவரையும் மையத்தை இணைந்து நிர்வகிக்க அழைத்திருந்தார்.

ஒன்றாகப் படியுங்கள், AP இன் புதிய அறிக்கையிடல் திட்டம் நடைமுறையில் வருகிறது என்று தெரிவிக்கிறது - முறைசாரா மற்றும் எந்த முறையான மறுசீரமைப்புக்கும் முன்னதாக.

சுதந்திரக் கவலைகள், இரு திசைகளிலும்

AP ஆல் மேற்கோள் காட்டப்பட்ட விமர்சகர்கள் இணைய பாதுகாப்பு மற்றும் உயிரி ஆயுத அபாயத்தைத் தொடும் முடிவுகள் அரசியலாக்கப்படலாம் அல்லது தொழில்நுட்பத் துறைக்கு ஏற்றவாறு கண்டுபிடிப்புகள் மென்மையாக்கப்படலாம் என்று கவலைப்படுகிறார்கள். நீதிக்கான ப்ரென்னன் மையத்தின் அமோஸ் டோ, இதுபோன்ற முடிவுகள் மகத்தான பொது விளைவுகளை ஏற்படுத்துவதாகவும், அவை பொதுவில் விளக்கப்பட வேண்டும் என்றும் AP இடம் கூறினார். அமெரிக்க விஞ்ஞானிகளின் கூட்டமைப்பைச் சேர்ந்த கரோலின் சீகல் சிங், CAISSI போன்ற மையங்கள் வாழ்க்கையை கடுமையாக மேம்படுத்தக்கூடிய அல்லது எதிர்மாறாகச் செய்யக்கூடிய சக்திவாய்ந்த நிறுவனங்கள் என்று விவரித்தார்.

ஒரு எதிர்வாதம் உள்ளது, மற்றும் AP அதை நிராகரிக்கவில்லை. மால்வேரை எழுத உதவும் ஒரு மாதிரியின் திறனை மதிப்பிடுவது ஒரு தேசிய பாதுகாப்பு கேள்வியாகும், மேலும் அந்த முடிவுகளை யார் பார்க்கிறார்கள் என்பது பற்றிய தெரிவுநிலையை விரும்பும் நிர்வாகம் பாதுகாக்கக்கூடிய வழக்கைக் கொண்டுள்ளது. சிரமம் நிறுவன ரீதியானது: அணிகளின் ஸ்பான்சர்களில் ஒருவருக்கு பதிலளிக்கும் ஒரு நடுவர் விளையாட்டை நேராக அழைப்பதற்கு மோசமாக வைக்கப்படுகிறார், மேலும் மையம் அதன் சுதந்திரத்தை நிரூபிக்கும் அறிக்கைகளை வெளியிடுவதை நிறுத்திவிட்டது.

பில்டர்கள் மற்றும் வாங்குபவர்களுக்கு இது ஏன் முக்கியமானது

எல்லைப்புற மாதிரிகளை உருவாக்கும் நிறுவனங்களுக்கு, அறிக்கையிடலில் அடையாளம் காணப்பட்ட நடைமுறை ஆபத்து ஒரு தடை அல்ல - இது நிச்சயமற்றது. மதிப்பீடுகள் இரகசியமாக இருந்தால் மற்றும் ஏற்றுமதி கட்டுப்பாடுகள் மற்றும் அரசாங்க கொள்முதல் ஆகியவற்றிற்கு ஊட்டமாக இருந்தால், ஒரு ஆய்வகம் ஒரு ஒப்பந்தத்தை அல்லது சந்தையை இழக்க நேரிடும், அது ஒருபோதும் பார்க்கவோ அல்லது போட்டியிடவோ முடியாது. அந்த ஆபத்து எந்த எச்சரிக்கையும் இல்லாமல் கீழ்நிலை தயாரிப்புகளுக்கு விநியோகச் சங்கிலி மூலம் பரவுகிறது.

இரண்டு விஷயங்களை அடுத்து கவனிக்க வேண்டும். முதலாவதாக, இந்த மையத்திற்கு நிரந்தர இயக்குனரை நிர்வாகம் குறிப்பிடுகிறதா, அவர்களை யார் தேர்வு செய்கிறார்கள் என்பதுதான். இரண்டாவதாக, ஏற்கனவே வெளியிடப்பட்ட அறிக்கைகளில் மௌனம் காக்க மத்திய அரசுக்கு அழுத்தம் கொடுத்துள்ள காங்கிரஸ், மையத்தின் சுதந்திரத்தை சட்டமாக எழுத நகர்கிறதா என்பதுதான். எதுவும் நடக்கும் வரை, அமெரிக்காவின் எல்லையில் உள்ள AI பாதுகாப்பு நடுவர் $10 மில்லியன் பட்ஜெட்டுடன் செயல்படுகிறார், நிரந்தர தலைவர் இல்லை மற்றும் வெள்ளை மாளிகையை நோக்கி செல்லும் ஒரு அறிக்கை வரிசை.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →