சான் பிரான்சிஸ்கோ நகர வழக்கறிஞர் ஆப்பிள் மற்றும் கூகிள் தங்கள் ஆப் ஸ்டோர்களில் இருந்து செயற்கை நுண்ணறிவு நிர்வாண பயன்பாடுகளை அகற்றுமாறு உத்தரவிட்டுள்ளார், தளங்கள் கலிபோர்னியா சட்டங்களை மீறுவதாக எச்சரித்துள்ளனர். உண்மையான நபர்களின் சாதாரண புகைப்படங்களை வெளிப்படையான படங்களாக மாற்றும் AI கருவிகளின் மீதான கோரிக்கை அதிகரித்து வரும் மோதலை அதிகரிக்கிறது.

பிரச்சனையின் அளவு

நிஜ நபர்களின் புகைப்படங்களில் இருந்து ஆடைகளை கழற்றுவது, அவர்களின் அம்சங்களை மாற்றுவது, அவர்களை பாலுறவு கொண்ட நிலையில் வைப்பது மற்றும் மற்றவர்களின் நிர்வாண உடல்களில் முகங்களை மாற்றுவது போன்றவற்றை அற்பமாக எளிதாக்குவதற்கு நுடிஃபிகேஷன் ஆப்ஸ் ஜெனரேட்டிவ் AI ஐப் பயன்படுத்துகிறது. மொபைல் ஆப் ஸ்டோர்களில் தொழில்நுட்பம் வேகமாகப் பெருகியுள்ளது, மேலும் இதன் முடிவுகள் பாதிக்கப்பட்டவர்களை கொடுமைப்படுத்தவும், அவமானப்படுத்தவும், அழிவுகரமான விளைவுகளுடன் அச்சுறுத்தவும் பயன்படுத்தப்படுகின்றன.

சான் பிரான்சிஸ்கோ நகர வழக்கறிஞர் டேவிட் சியு வயர்டிடம், நிர்வாணத் தொழில்நுட்பம் எங்கும் எங்கும் பரவியிருப்பதைக் கண்டு அவரது அலுவலகம் முற்றிலும் திகிலடைந்ததாகக் கூறினார், மேலும் அதிகமான கருவிகள் சந்தையில் வெள்ளத்தில் மூழ்கியதால் பெரும்பாலும் பெண்கள் மற்றும் குழந்தைகளை ஆபத்தான அளவில் பாதிக்கின்றனர். படங்கள், நற்பெயரை அழிக்கவும், மன ஆரோக்கியத்தை சேதப்படுத்தவும், சுயாட்சியில் பாதிக்கப்பட்டவர்களை அகற்றவும் பயன்படுத்தப்படுகின்றன, சில இலக்குகள் தற்கொலையாக மாறுகின்றன.

கடிதங்கள் என்ன கோருகின்றன

சியுவின் அலுவலகம் இரு நிறுவனங்களுக்கும் முறையான கடிதங்களை அனுப்பியது, அவற்றின் ஆப் ஸ்டோர்கள் கலிபோர்னியாவின் சட்டங்களை மீறுவதாக எச்சரித்தது, இது டீப்ஃபேக் ஆபாசத்தை உருவாக்கும் சேவைகளை ஆதரிக்கிறது என்று வயர்டு தெரிவித்துள்ளது. கூகுள் நிறுவனத்திடம் ஐந்து செயலிகளையும், ஆப்பிளிடம் 8 செயலிகளையும் நீக்குமாறு கேட்டுக் கொண்டார். குறிப்பிட்ட பயன்பாடுகள் மக்களை நோக்கிச் செல்வதைத் தவிர்ப்பதற்காக பொது அறிக்கையிடலில் பெயரிடப்படவில்லை, ஆனால் ஒரு கொடியிடப்பட்ட பயன்பாடு ஒரு மில்லியனுக்கும் அதிகமான பதிவிறக்கங்களைக் குவித்துள்ளது மற்றும் பெண்களின் படங்களை பாலியல் ரீதியாக அல்லது இலவச மற்றும் தணிக்கை செய்யப்படாத வீடியோக்களை உருவாக்குவதற்கான அம்சங்களை வெளிப்படையாக விளம்பரப்படுத்தியதாக வயர்டு குறிப்பிட்டார்.

ஆப்பிள் மற்றும் கூகுள் ஆகியவை வலுவான நடவடிக்கை எடுப்பதற்குப் பதிலாக அல்லது சிறந்த கண்டறிதல் அமைப்புகளை உருவாக்குவதற்குப் பதிலாக, தீங்கு விளைவிக்கும் பயன்பாடுகளை தங்கள் கடைகளில் இருக்க அனுமதிப்பதன் மூலம் மில்லியன் கணக்கான டாலர்களை கட்டணமாகச் சம்பாதித்திருக்கலாம் என்று சியுவின் அலுவலகம் மதிப்பிட்டுள்ளது. நகர வழக்கறிஞர் நிலைமையை பொதுத் தொல்லையிலிருந்து லாபம் ஈட்டுவதாக வகைப்படுத்தினார், அத்தகைய பயன்பாடுகள் தொடர்ந்து கிடைக்க அனுமதிப்பது ஏற்றுக்கொள்ள முடியாதது என்று வாதிட்டார்.

கூகுள் பதிலளிக்கிறது, ஆப்பிள் அமைதியாக இருக்கிறது

Ars Technica க்கு அளித்த அறிக்கையில், Google செய்தித் தொடர்பாளர் Dan Jackson, Chiu ஆல் கொடியிடப்பட்ட ஐந்து பயன்பாடுகள் தீங்கு விளைவிக்கும் உள்ளடக்கத்திற்கு எதிரான கொள்கைகளை மீறியதற்காக Google Play ஸ்டோரில் இருந்து இடைநீக்கம் செய்யப்பட்டதாக உறுதிப்படுத்தினார். பாலியல் உள்ளடக்கம் கொண்ட பயன்பாடுகளை Google Play அனுமதிப்பதில்லை என்றும், தீங்கு விளைவிக்கும் உள்ளடக்கம் உள்ள பயன்பாடுகளைக் கண்டறிந்து அகற்றுவதற்கு நிறுவனம் தொடர்ந்து செயலூக்கமான நடவடிக்கைகளை மேற்கொள்கிறது என்றும் ஜாக்சன் கூறினார். மீறல்கள் புகாரளிக்கப்பட்டால், கூகுள் விசாரித்து விரைவான நடவடிக்கை எடுக்கிறது, இதில் நூற்றுக்கணக்கான மீறும் பயன்பாடுகளை இடைநிறுத்துவது மற்றும் அதன் ஸ்டோரில் nudify போன்ற தொடர்புடைய தேடல் சொற்களைக் கட்டுப்படுத்துவது ஆகியவை அடங்கும் என்று ஜாக்சன் கூறினார்.

ஆப்பிளின் பதில் குறிப்பிடத்தக்க வகையில் வேறுபட்டது. நிறுவனம் கடந்த காலத்தில் ஆராய்ச்சியாளர்களால் கொடியிடப்பட்ட சில பயன்பாடுகளை அகற்றியிருந்தாலும், அதன் ஆப் ஸ்டோரில் போலீஸ் nudification பயன்பாடுகளுக்கான அழைப்புகளுக்கு மத்தியில் அது குறிப்பிடத்தக்க வகையில் அமைதியாக இருந்தது. நகர வழக்கறிஞரின் கோரிக்கைகளுக்கு ஐபோன் தயாரிப்பாளர் உடனடியாக விரிவான பொது பதிலை வழங்கவில்லை.

கண்டறிதலின் பூனை மற்றும் எலி விளையாட்டு

இந்த ஆப்ஸைக் கண்காணிப்பதில் உள்ள சவாலானது, அவற்றின் வளர்ந்து வரும் தந்திரங்களால் ஒருங்கிணைக்கப்படுகிறது. சில தீங்கிழைக்கும் பயன்பாடுகள் அவற்றின் நிர்வாண திறன்களை மறைத்து முகத்தை மாற்றும் அம்சங்களை மட்டும் விளம்பரப்படுத்துவதன் மூலம் ஆப் ஸ்டோர் அகற்றுவதைத் தவிர்ப்பதில் சிறந்து விளங்குவதாக ஆராய்ச்சியாளர்கள் சமீபத்தில் எச்சரித்ததாக வயர்டு தெரிவித்துள்ளது. மே ப்ரீப்ரிண்ட் பேப்பரில், ஆராய்ச்சியாளர்கள் 420 பயன்பாடுகளை பொதுவான முகத்தை மாற்றும் கருவிகளாகக் கண்டறிந்து அவற்றில் 155ஐ சோதித்தனர். 70 சதவீதத்திற்கும் அதிகமான வழக்குகளில், படங்களை பாலியல் ரீதியாகப் பயன்படுத்த பயன்பாடுகள் பயன்படுத்தப்படலாம், தீங்கற்ற மார்க்கெட்டிங் பின்னால் எவ்வளவு எளிதில் தீங்கு விளைவிக்கும் செயல்பாடு மறைந்துள்ளது என்பதை நிரூபிக்கிறது.

இந்த கண்டறிதல் இடைவெளி என்றால், ஆப் ஸ்டோர்கள் நிர்வாணக் கருவிகளைத் தீவிரமாகத் தேடினாலும், பலர் தங்களை பாதிப்பில்லாத பொழுதுபோக்கு அல்லது புகைப்பட எடிட்டிங் மென்பொருளாகக் காட்டிக்கொண்டு நழுவி விடுகிறார்கள். ஆராய்ச்சியாளர்களின் கண்டுபிடிப்புகள், புழக்கத்தில் உள்ள பிரச்சனைக்குரிய பயன்பாடுகளின் உண்மையான எண்ணிக்கை சியுவின் அலுவலகத்தால் கொடியிடப்பட்ட பதின்மூன்றுகளை விட அதிகமாக இருக்கலாம் என்று கூறுகின்றன.

க்ரோக் முன்னோடி

நுடிஃபை செயலி ஒடுக்குமுறையானது AI-உருவாக்கிய தீங்கிழைக்கும் உள்ளடக்கம் பற்றிய பரந்த விவாதத்துடன் குறுக்கிடுகிறது. இந்த வாரம், xAI ஆனது, Grok-உருவாக்கிய சிறுவர் பாலியல் துஷ்பிரயோகப் பொருட்கள் மற்றும் பெரியவர்களை இலக்காகக் கொண்ட ஒருமித்த நெருக்கமான படங்கள் ஆகியவற்றைக் கண்டறிந்ததாக உறுதிப்படுத்தும் ஒரு வழக்கைத் தாக்கல் செய்தது. தவறான பயன்பாட்டிற்கு தீர்வு காண, சட்டவிரோத உள்ளடக்கத்தை உருவாக்க Grok ஐத் தூண்டியதாகக் கூறப்படும் பயனர் மீது xAI வழக்குத் தொடர்ந்தது.

க்ரோக் கேஸ் ஆப் ஸ்டோர்களுக்கு ஒரு கடினமான கேள்வியை எழுப்புகிறது: சட்டவிரோத உள்ளடக்கத்தை உருவாக்க தூண்டக்கூடிய AI சாட்போட்கள் அகற்றப்பட வேண்டுமா. NBC செய்திகளின்படி, App Store இலிருந்து Grok ஐ நீக்குவதாக தனிப்பட்ட முறையில் அச்சுறுத்தியதாக ஆப்பிள் ஏப்ரல் மாதம் செனட்டர்களிடம் கூறியதாகக் கூறப்படுகிறது, ஆனால் xAI பயன்பாடு இன்றும் உள்ளது. சட்டவிரோத உள்ளடக்கத்தை உருவாக்க க்ரோக்கைப் பயன்படுத்துவது சாத்தியம் இருக்கும் வரை, சியு தனித்த நிர்வாணப் பயன்பாடுகளுக்குக் கோரியது போல், ஆப் ஸ்டோர்களும் நடவடிக்கை எடுக்க அழுத்தத்தை எதிர்கொள்ள நேரிடும்.

பிளாட்ஃபார்ம் பொறுப்புணர்வுக்கான ஒரு திருப்புமுனை

சான் ஃபிரான்சிஸ்கோ ஆர்டர், AI-உருவாக்கிய தீங்கு விளைவிக்கும் உள்ளடக்கத்தின் மூலம் ஆப் ஸ்டோர்களை இலக்காகக் கொண்ட அரசாங்கத்தின் மிகவும் தீவிரமான தலையீடுகளில் ஒன்றாகும். கலிஃபோர்னியாவின் டீப்ஃபேக் ஆபாசச் சட்டங்களைப் பயன்படுத்துவதன் மூலம், பிளாட்ஃபார்ம் ஆபரேட்டர்கள் தங்கள் சந்தைகளில் விநியோகிக்கப்படும் AI கருவிகளுக்குப் பொறுப்பேற்குமாறு மாநில சட்டங்கள் கட்டாயப்படுத்த முடியுமா என்பதை சியு சோதித்து வருகிறார்.

பிற அதிகார வரம்புகள் சிக்கலை எவ்வாறு அணுகுகின்றன என்பதற்கும், AI-உருவாக்கிய ஒருமித்தமற்ற படங்களைக் கண்காணிப்பதன் சுமை டெவலப்பர்கள், பிளாட்ஃபார்ம் ஆபரேட்டர்கள் அல்லது இருவர் மீதும் விழுகிறதா என்பதற்கும் இந்த விளைவு ஒரு முன்னுதாரணமாக அமையும். இந்தக் கருவிகளால் குறிவைக்கப்பட்ட மில்லியன் கணக்கான மக்களுக்கு, முக்கியமாக பெண்கள் மற்றும் சிறுமிகளுக்கு, பங்குகள் ஒழுங்குமுறைக் கோட்பாட்டிற்கு அப்பாற்பட்டது.

AIக்கு முன்னால் இருங்கள்

AI நெறிமுறைகள், பிளாட்ஃபார்ம் பொறுப்புக்கூறல் மற்றும் தீங்கு விளைவிக்கும் செயற்கை ஊடகங்கள் மீதான ஒழுங்குமுறைப் போர்கள் ஆகியவற்றின் தொடர்ச்சியான கவரேஜுக்கு, சமூகத்தில் AI இன் தாக்கத்தை வடிவமைக்கும் சிக்கல்களைப் பற்றி புகாரளிக்க AI Buzz Wire ஐப் பின்தொடரவும்.

மேலும் AI நெறிமுறைகள் செய்திகளைப் படிக்கவும் →