ஆந்த்ரோபிக், ஓபன்ஏஐ, கூகுள், டீப்சீக் மற்றும் பிற ஆய்வகங்களின் முன்னணி AI மாடல்கள், ட்ரோன் மற்றும் செயற்கைக்கோள் படங்களின் மூலம் சாத்தியமான இராணுவ தாக்குதல் இலக்குகளை அடையாளம் காண முடியும் - பொதுமக்கள் மற்றும் சரணடையும் வீரர்கள் உட்பட, மேலும் பல சமயங்களில் அவர்கள் விளையாடும் மாடல்களைச் சொல்வதுதான் என்று AI மதிப்பாய்வு தொடக்கத்தின் புதிய ஆராய்ச்சி அறிக்கை கூறுகிறது.
TechCrunch ஆல் அறிக்கையிடப்பட்ட கண்டுபிடிப்புகள், போரில் AI பற்றிய விவாதம் அனுமானத்திலிருந்து நிறுவனத்திற்கு நகர்ந்த தருணத்தில் இறங்குகிறது. இந்த ஆண்டின் தொடக்கத்தில் ஆந்த்ரோபிக் அதன் தொழில்நுட்பத்தை இராணுவப் பயன்பாட்டிற்கான வரம்புகள் தொடர்பாக பாதுகாப்புத் துறையுடன் மோதிக்கொண்டது, மேலும் உலகெங்கிலும் உள்ள அரசாங்கங்கள் தன்னாட்சி அமைப்புகளில் முதலீடு செய்கின்றன. தொழில்துறையின் பொது அர்ப்பணிப்புகளை விட, போர் ஆதரவு செயல்பாடுகளில் இருந்து வணிக சாட்போட்களைப் பிரிக்கும் பாதுகாப்புக் கம்பிகள் மெல்லியதாக இருப்பதாக அறிக்கை தெரிவிக்கிறது. [AI பாதுகாப்பு மற்றும் நெறிமுறை மேம்பாடுகள்] (https://aibuzzwire.news) இன் தற்போதைய கவரேஜ், ஆய்வகங்கள் எவ்வாறு பதிலளிக்கின்றன என்பதைத் தொடர்ந்து கண்காணிக்கிறது.
சோதனைகள் எவ்வாறு செயல்பட்டன
வால்ஸ், சான் பிரான்சிஸ்கோவை தளமாகக் கொண்ட AI மதிப்பீட்டு தொடக்கமானது, முன்னணி AI மாதிரிகள் தன்னாட்சிப் போரில் பங்கேற்கும் வகையில் கையாள முடியுமா என்பதை சோதித்தது. உக்ரைன் மற்றும் ஈரானில் இருந்து உருவாக்கப்பட்ட மற்றும் உண்மையான படங்களின் கலவையைப் பயன்படுத்தி உருவகப்படுத்தப்பட்ட போர்க்களக் காட்சிகளை ஆராய்ச்சியாளர்கள் உருவாக்கினர், பின்னர் ட்ரோன் மற்றும் செயற்கைக்கோள் படங்களில் சாத்தியமான இலக்குகளைக் குறிக்க மாதிரிகளைக் கேட்டனர்.
OpenAI, Anthropic, Google, DeepSeek மற்றும் பிற நிறுவனங்களின் மாதிரிகள், சிவிலியன்கள் மற்றும் சரணடைய முயலும் வீரர்கள் உட்பட - படத்திலுள்ள சாத்தியமான இலக்குகளை அடிக்கடி அடையாளம் கண்டுள்ளன. ஆராய்ச்சியாளர்களின் கோரிக்கைகள் எதுவும் பாதுகாப்பு வகைப்படுத்தியால் தடுக்கப்படவில்லை, மேலும் மறுப்பது அசாதாரணமானது. மாதிரிகள் ஒத்துழைக்க மறுத்தபோது, போர்க்களக் காட்சிகள் விளையாட்டின் ஒரு பகுதியாக இருப்பதாகக் கூறி ஆராய்ச்சியாளர்கள் பெரும்பாலும் அவற்றை ஜெயில்பிரேக் செய்ய முடிந்தது.
சில காட்சிகளில், உருவப்படங்களில் நபர்கள் தெரிகிறார்களா என்பதைப் புகாரளிக்க மாதிரிகள் கேட்கப்பட்டன. நேர்மறையான அறிக்கைகள் உருவகப்படுத்தப்பட்ட வேலைநிறுத்தங்களால் பின்பற்றப்பட்டன, அதாவது மாதிரிகள் தங்கள் சொந்த இலக்கு அறிக்கைகளின் விளைவுகளைப் பார்த்தன.
மானுடவியல் மாதிரிகள் மோசமாக செயல்பட்டன
ஒருவேளை மிகவும் குறிப்பிடத்தக்க விவரம்: ஆந்த்ரோபிக்கின் AI மாதிரிகள் உருவகப்படுத்தப்பட்ட காட்சிகளில் மிக மோசமாக செயல்பட்டன - சோதனை செய்யப்பட்ட மாதிரிகள் எதுவும் சிறப்பாக செயல்படவில்லை என்பது அறிக்கை தெளிவாக உள்ளது. இராணுவ பயன்பாடுகளை நோக்கிய நிறுவனத்தின் தற்காப்பு நிலை சோதனை நிலைமைகளின் கீழ் பயனுள்ள எதிர்ப்பாக மொழிபெயர்க்கப்படவில்லை.
ஒரு மானுடவியல் செய்தித் தொடர்பாளர், எட்வர்டோ மியா சில்வா, டெக் க்ரஞ்சிடம், நிறுவனம் வால்ஸின் அறிக்கை, பரிந்துரைகள் மற்றும் ஒத்துழைப்பைப் பாராட்டுகிறது, மேலும் முடிவுகள் ஏற்கத்தக்கவை அல்ல என்பதை ஒப்புக்கொண்டதாகக் கூறினார். "அறிக்கையில் உள்ள எடுத்துக்காட்டுகள் மிகவும் தெளிவாக எங்கள் விதிகளுக்கு எதிராக உள்ளன, நாங்கள் தடை செய்துள்ளோம், மேலும் இந்த நடத்தையைப் பார்க்கும்போது பயனர்களைத் தடைசெய்வோம்" என்று நிறுவனம் ஒரு அறிக்கையில் தெரிவித்துள்ளது. "அங்கீகரிக்கப்பட்ட அமைப்புகளுக்கு கூட, இன்றைய எல்லைப்புற AI அமைப்புகள் முழு தன்னாட்சி ஆயுதங்களை இயக்கும் அளவுக்கு நம்பகமானவை அல்ல என்று ஆந்த்ரோபிக் நீண்ட காலமாக உறுதியாக உள்ளது."
அறிக்கை வெளியிடப்படுவதற்கு முன்னர் அதன் குழுக்கள் ஏற்கனவே கூடுதல் பாதுகாப்புகளை உருவாக்கி வருவதாகவும், அந்த நடவடிக்கைகள் விரைவில் நடைமுறைக்கு வரும் என்றும், நிறுவனம் தனது சொந்த சோதனையை விரிவுபடுத்துகிறது என்றும், அது கண்டறிந்த இடைவெளிகளை நிவர்த்தி செய்ய பாதுகாப்பு மற்றும் அமலாக்கத்தை மேம்படுத்துகிறது என்றும் ஆந்த்ரோபிக் டெக் க்ரஞ்சிடம் கூறினார்.
OpenAI செய்தித் தொடர்பாளர் Nate Evans, வன்முறையை எளிதாக்குவதற்கு அல்லது அங்கீகரிக்கப்படாத தேசிய பாதுகாப்பு நோக்கங்களுக்காக, Vals உருவகப்படுத்தப்பட்ட காட்சிகள் உட்பட, அதன் பொது மாதிரிகளைப் பயன்படுத்துவதை நிறுவனம் தடைசெய்கிறது. "எங்கள் கொள்கைகளை மீறும் கணக்குகளை இடைநிறுத்துவது உட்பட தவறான பயன்பாட்டை நாங்கள் தீவிரமாக கண்டறிந்து சீர்குலைக்கிறோம்" என்று நிறுவனம் மின்னஞ்சல் அறிக்கையில் தெரிவித்துள்ளது. "ட்ரோன்கள் மற்றும் ட்ரோன் மென்பொருள் சம்பந்தப்பட்ட தவறான பயன்பாட்டிற்கு எதிராக எங்கள் பொது மாடல்களுக்கான கூடுதல் பாதுகாப்புகளையும் நாங்கள் உருவாக்கி வருகிறோம்."
தன்னாட்சி ஆயுதங்கள் ஸ்டாண்ட்ஆஃப்
இராணுவ AI எவ்வாறு பயன்படுத்தப்படலாம் என்பதில் AI ஆய்வகங்களுக்கும் பென்டகனுக்கும் இடையே தீர்க்கப்படாத சர்ச்சையின் மத்தியில் இந்த கண்டுபிடிப்புகள் வந்துள்ளன. இந்த ஆண்டின் தொடக்கத்தில், அமெரிக்கர்களை வெகுஜன கண்காணிப்பு அல்லது தன்னாட்சிப் போருக்கு நிறுவனத்தின் தொழில்நுட்பத்தைப் பயன்படுத்த முடியாது என்று ஆந்த்ரோபிக் பாதுகாப்புத் துறையிடம் தெரிவித்தது. ஆந்த்ரோபிக் தலைமை நிர்வாக அதிகாரி டேரியோ அமோடெய், இன்றைய AI அமைப்புகள், மனிதனை இல்லாமல் வாழ்க்கை அல்லது இறப்பு முடிவுகளை எடுக்கும் அளவுக்கு நம்பகமானவை அல்ல என்று வலியுறுத்தியுள்ளார். பென்டகன், அதன் பங்கிற்கு, எந்தவொரு சட்டபூர்வமான இராணுவ நோக்கத்திற்கும் தொழில்நுட்பத்தை பயன்படுத்த முடியும் என்று வாதிட்டது.
வால்ஸ் அறிக்கை அந்த சர்ச்சையைக் கூர்மைப்படுத்துகிறது: கேம் ஃப்ரேமிங் மூலம் இலக்குகளைக் குறிக்க நுகர்வோர் தர மாதிரிகள் பேசப்பட்டால், தொழில்நுட்ப பாதுகாப்புகள் தற்போது செய்யாத வரியை நிறுவனத்தின் கொள்கைகள் மட்டும் வைத்திருக்க முடியுமா என்பது கேள்வி.
முக்கியமான எச்சரிக்கைகள்
போர்க்களம்-தயாரான AI இலக்கிடலின் ஆதாரமாக வாசிக்கப்படுவதைத் தடுக்கும் குறிப்பிடத்தக்க வரம்புகளை அறிக்கை கொண்டுள்ளது. மாதிரிகள் நேரடியாக வேலைநிறுத்த முடிவுகளை எடுக்க ஒருபோதும் கேட்கப்படவில்லை என்று வால்ஸ் குறிப்பிடுகிறார் - மாதிரிகள் பொதுவாக மறுக்கும் என்று ஆராய்ச்சியாளர்கள் கூறியுள்ளனர். தாமதம் மற்றும் வரையறுக்கப்பட்ட உள் கணினி திறன் உள்ளிட்ட தொழில்நுட்ப சவால்கள், நேரடி ட்ரோன் இலக்குகளுக்கு பொது-நோக்கு AI மாதிரிகளைப் பயன்படுத்துவதை கடினமாக்குகிறது, இது மூலக் கண்டுபிடிப்புகள் பரிந்துரைக்கக்கூடிய உடனடி அச்சுறுத்தலை விட போர் வரிசைப்படுத்துதலைக் குறைக்கிறது.
வணிக-எதிர்-இராணுவ வேறுபாடும் உள்ளது. இந்த அறிக்கை பொதுமக்களுக்கு விற்கப்படும் வணிக மாதிரிகளை சோதித்தது, ஒப்பந்தத்தின் கீழ் பாதுகாப்பு வாடிக்கையாளர்களுக்கு வழங்கக்கூடிய சிறப்பு அமைப்பு ஆய்வகங்கள் அல்ல - மேலும் நிறுவனங்கள் உறுதியளித்த கூடுதல் பாதுகாப்புகள் இராணுவ வரிசைப்படுத்தல்களுக்கு பொருந்துமா என்பது தெளிவாக இல்லை.
இருப்பினும், வெளியீடுகள் நிஜ உலகில் மோசமான விளைவுகளை ஏற்படுத்தக்கூடும் என்று ஆராய்ச்சியாளர்கள் எச்சரிக்கின்றனர்: ஒரு வணிக மாதிரியால் உருவாக்கப்பட்ட இலக்கு தகவல்களை தன்னாட்சி ஆயுத அமைப்புகளால் பயன்படுத்த முடியும், மாதிரியானது ஒருபோதும் சுடவில்லை என்றாலும்.
AI பாதுகாப்புக்கு என்ன அர்த்தம்
அறிக்கையின் முக்கியத்துவமானது எந்த ஒரு மாதிரியின் நடத்தையிலும் குறைவானது மற்றும் பேட்டர்ன் பற்றி அதிகம்: பாதுகாப்பு வகைப்படுத்தியால் எந்த கோரிக்கையும் தடுக்கப்படவில்லை, மறுப்புகள் அரிதானவை, மற்றும் மிகவும் பயனுள்ள ஜெயில்பிரேக் ஒரு குழந்தைத்தனமானது - போரை ஒரு விளையாட்டாக பாசாங்கு செய்வது. எல்லைப்புற மாதிரிகள் தீங்கு விளைவிக்கும் அறிவுறுத்தல்களை மறுக்கும் என்ற கூற்றில் அதன் பொது நியாயத்தன்மையை முன்வைத்த ஒரு தொழில்துறைக்கு, இது ஒரு சங்கடமான தரவு புள்ளியாகும்.
நிறுவனங்களின் பதில்கள் இப்போது நடைமுறையில் சோதிக்கப்படும்: புதிய பாதுகாப்புகள் உடனடி என்று ஆந்த்ரோபிக் கூறுகிறது, மேலும் ட்ரோன்-குறிப்பிட்ட தவறான பாதுகாப்புகளை உருவாக்குவதாக OpenAI கூறுகிறது. அந்த நடவடிக்கைகள் அடுத்த சுற்று மதிப்பீட்டு ஆராய்ச்சியுடன் தொடர்பைத் தொடர்கின்றனவா என்பது வால்ஸ் - மேலும் பெருகிய முறையில், கொள்கை வகுப்பாளர்கள் - கேட்கும் கேள்வி.
---
AI பாதுகாப்பு மேம்பாடுகளைப் பின்பற்றவும்ஆராய்ச்சி, நெறிமுறைகள் மற்றும் கொள்கை - முக்கியமான AI கதைகள், 24 மணிநேரமும் புதுப்பிக்கப்படும்.
மேலும் AI செய்திகளைப் படிக்கவும் →