WIRED உடன் பகிரப்பட்டு செவ்வாயன்று வெளியிடப்பட்ட லாப நோக்கமற்ற தொழில்நுட்ப வெளிப்படைத்தன்மை திட்டத்தின் ஆராய்ச்சியின் படி, குழந்தை பாலியல் துஷ்பிரயோகம் உள்ளடக்கிய 250 க்கும் மேற்பட்ட கூடுதல் விளம்பரங்கள் மெட்டாவின் தளங்களில் பரவியது. இந்த கண்டுபிடிப்பு, அதன் AI-இயங்கும் விளம்பரத் திரையிடல் பெரும்பாலும் இடைவெளியை மூடிவிட்டதாக நிறுவனத்தின் கூற்றைக் குறைக்கிறது.

புதிய புள்ளிவிவரங்கள் முந்தைய வெளிப்பாட்டை நீட்டிக்கின்றன. கடந்த மாதம், ஃபேஸ்புக், இன்ஸ்டாகிராம் மற்றும் த்ரெட்களில் இடுகையிடப்பட்ட சுமார் 50 விளம்பரங்களை மெட்டா நீக்கியது, இதில் நேரடியாக சிறுவர் பாலியல் துஷ்பிரயோகம் உள்ளடக்கப்பட்டது, WIRED இன் முந்தைய அறிக்கையைத் தொடர்ந்து. அந்த நேரத்தில், புதிய AI கண்டறிதல் கருவிகளைப் பயன்படுத்துவதற்கு முன்பே பெரும்பாலான தவறான விளம்பரங்கள் வெளியிடப்பட்டதாக நிறுவனம் கூறியது. எதிர்பார்க்கப்படும் சரிவுக்குப் பதிலாக, சமீபத்திய வாரங்களில் நூற்றுக்கணக்கான விளம்பரங்களைக் கண்டறிந்ததாக ஆராய்ச்சியாளர்கள் கூறுகின்றனர் - மெட்டா சமீபத்தில் அகற்றிய சில ஒத்த விளம்பரங்கள் உட்பட. பிளாட்ஃபார்ம் பாதுகாப்பு மற்றும் சமீபத்திய AI செய்திகள் பற்றிய தொடர்ச்சியான தகவல்களுக்கு, AI Buzz Wire ஐப் பின்தொடரவும்.

தோல்வியின் அளவு

மொத்தத்தில், டெக் டிரான்ஸ்பரன்சி ப்ராஜெக்ட்டின் ஆராய்ச்சியாளர்கள், கடந்த ஆண்டு இறுதியில் இருந்து, பேஸ்புக், இன்ஸ்டாகிராம், மெசஞ்சர், த்ரெட்கள் மற்றும் மெட்டாவின் பரந்த விளம்பர நெட்வொர்க்கில் பரவி வரும் 350 க்கும் மேற்பட்ட தவறான வீடியோ விளம்பரங்களை மெட்டாவின் இயங்குதளங்களில் ஆவணப்படுத்தியுள்ளனர். குழு கண்டறிந்த 53 விளம்பரங்களின் ஆரம்ப தொகுப்பைப் போலன்றி, புதிய தொகுப்பில் முற்றிலும் செயற்கையான படங்களைக் காட்டிலும் உண்மையான குழந்தைகளின் படங்கள் சேர்க்கப்பட்டுள்ளன. ஒரு ஐரோப்பிய அரச குடும்பத்தின் அதிகாரப்பூர்வ இணையதளத்தில் இருந்து ஒரு ஆதாரப் படம் வந்ததை WIRED உறுதிப்படுத்தியது; குடும்பத்தில் ஒரு சிறிய உறுப்பினரின் அதிகாரப்பூர்வமாக வெளியிடப்பட்ட புகைப்படம் பாலியல் செயலை சித்தரிக்கும் வீடியோவாக கையாளப்பட்டதாக ஆராய்ச்சியாளர்கள் கூறுகின்றனர். பாதிக்கப்பட்டவரைப் பாதுகாப்பதற்காக ஆராய்ச்சியாளர்கள் அரச குடும்பத்தின் பெயரைக் குறிப்பிடவில்லை மற்றும் அவர்கள் சம்பந்தப்பட்ட நாட்டில் உள்ள அதிகாரிகளைத் தொடர்பு கொண்டதாகக் கூறுகிறார்கள்.

குழுவின் இயக்குனர் கேட்டி பால், WIRED இடம், இந்த பிரச்சனை AI-உருவாக்கப்பட்ட படங்களுக்கு மட்டும் அல்ல என்று கூறினார். "நாங்கள் இங்கு பேசுவது AI-உருவாக்கப்பட்ட குழந்தை பாலியல் துஷ்பிரயோகம் பற்றிய பொருள் அல்ல," என்று அவர் கூறினார், விளம்பரங்களில் பயன்படுத்தப்படுவதற்கு முன்பு பல படங்கள் திறந்த வலையிலிருந்து எடுக்கப்பட்டதாகத் தெரிகிறது. "மெட்டா இந்தச் செயல்பாட்டில் பணத்தைக் குவிக்கும் போது, ​​இதிலிருந்து நிறைய தீங்குகள் வரக்கூடும்." விளம்பரங்களில் படங்கள் பயன்படுத்தப்பட்ட நான்கு சிறார்களின் நிஜ உலக அடையாளங்களை ஆராய்ச்சியாளர்கள் அடையாளம் கண்டுள்ளனர்.

நிர்வாண பயன்பாடுகளில் ஒரு புனல்

அறிக்கையின்படி, விளம்பரங்கள் ஒரு நிலையான முறையைப் பின்பற்றுகின்றன. பதின்வயது அல்லது டீனேஜ் பெண்ணின் தீங்கற்ற படத்தைப் பலர் திறக்கிறார்கள் - ஒரு பையனை மட்டுமே உள்ளடக்கியதாக ஆராய்ச்சியாளர்கள் கண்டறிந்தனர் - படம் "வெறும் புகைப்படம் அல்ல" என்று உரையுடன் மேலெழுதப்பட்டது மற்றும் அதை என்ன செய்ய முடியும் என்பதில் "எந்த தடையும் இல்லை" என்று அறிவிக்கிறது. குறுகிய வீடியோ இயங்கும் போது, ​​குழந்தையின் முகம் வெளிப்படையான வீடியோவாக மாற்றப்படுகிறது. இதன் மூலம் கிளிக் செய்வதன் மூலம் AI முகமாற்றம் மற்றும் "நிர்வாண" பயன்பாடுகள் ஆப்பிள் மற்றும் கூகுளின் ஆப் ஸ்டோர்களில் கிடைக்கும், பல சீன டெவலப்பர்களுடன் இணைக்கப்பட்டுள்ளன. மெட்டாவின் இயங்குதளங்களில் பெரியவர்களைக் காட்டும் நூற்றுக்கணக்கான தொடர்புடைய நிர்வாண விளம்பரங்களை WIRED தனித்தனியாக அடையாளம் கண்டுள்ளது.

மெதுவான விமர்சனங்கள் மற்றும் விடுபட்ட வெளிப்பாடுகள்

மெட்டாவின் கொள்கைகள், நிறுவனம் அதன் தளங்களில் இயங்கும் அனைத்து விளம்பரங்களையும் மதிப்பாய்வு செய்கிறது, மேலும் விளம்பரங்கள் குழந்தை சுரண்டல், வயது வந்தோருக்கான சுரண்டல் மற்றும் நிர்வாணம் ஆகியவற்றில் அதன் விதிகளை மீறுகின்றன. நடைமுறையில், WIRED ஆல் மதிப்பாய்வு செய்யப்பட்ட ஸ்கிரீன்ஷாட்களின்படி, நிறுவனத்தின் சொந்தக் கருவிகள் மூலமாகப் புகாரளிக்கப்பட்ட நேரடி விளம்பரங்களை மதிப்பாய்வு செய்ய சில நேரங்களில் மெட்டாவுக்கு ஒரு வாரம் வரை ஆகும் என்று ஆராய்ச்சியாளர்கள் தெரிவித்தனர். சில விளம்பரங்கள் அகற்றப்பட்டபோது, ​​அவற்றின் தரமிறக்குதல் பதிவுகள் நிறுவனத்தின் குழந்தைப் பாலியல் துஷ்பிரயோகக் கொள்கைகளை மீறியதாக எந்த வெளிப்பாடும் இல்லை; WIRED மெட்டாவிடம் முரண்பாட்டைக் கேட்ட பிறகுதான் அந்த விவரங்கள் தோன்றின.

ஆராய்ச்சியாளர்கள் தாங்கள் கண்டறிந்த ஒவ்வொரு விளம்பரத்தையும் காணாமல் போன மற்றும் சுரண்டப்பட்ட குழந்தைகளுக்கான சைபர் டிப்லைனுக்கான தேசிய மையம் மற்றும் மெட்டாவின் அறிக்கையிடல் கருவிகள் மூலம் அறிக்கை செய்தனர். மெட்டாவின் சொந்த விளம்பர நூலகம், ஐரோப்பிய யூனியன் நாடுகளில் 29,000க்கும் மேற்பட்ட கணக்குகளிலும், ஐக்கிய இராச்சியத்தில் சுமார் 7,000 கணக்குகளிலும் விளம்பரங்கள் காட்டப்பட்டுள்ளன, அமெரிக்காவில் 250க்கும் மேற்பட்டவை, ஆஸ்திரேலியாவில் 120 மற்றும் இந்தியாவில் 80 கணக்குகள் காட்டப்பட்டுள்ளன.

மெட்டா பதிலளிக்கிறது

கண்டுபிடிப்புகளின் முக்கியத்துவத்தை மெட்டா பின்னுக்குத் தள்ளியது. "நிர்வாண பயன்பாடுகள் அல்லது குழந்தை சுரண்டலை நாங்கள் பொறுத்துக்கொள்ள மாட்டோம், உண்மையான அல்லது AI-உருவாக்கப்பட்டதாக இருந்தாலும் சரி," என்று நிறுவனத்தின் செய்தித் தொடர்பாளர் ட்ரேசி கிளேட்டன் WIRED இடம் கூறினார், நிறுவனம் தனது நிர்வாணக் கொள்கைகளை மீறியதற்காக நூறாயிரக்கணக்கான விளம்பரங்களை முன்பு நீக்கியுள்ளது. ஆராய்ச்சியாளர்கள் கண்டறிந்த பல விளம்பரங்கள் ஏற்கனவே அகற்றப்பட்டுவிட்டதாகவும், பெரும்பாலானவை 200க்கும் குறைவான இம்ப்ரெஷன்களைப் பெற்றதாகவும், விளம்பரப் பணம் செலுத்தியதில் $5,000க்கு கீழ் வசூலித்ததாகவும் மெட்டா கூறியது. AI-உருவாக்கப்பட்ட வீடியோக்களில் வயது வந்தோருக்கான வீடியோக்கள் இடம்பெற்றுள்ளன, அதே சமயம் சிறார்களை உள்ளடக்கிய கிளிப்புகள் சுருக்கமாகவோ அல்லது மங்கலாகவோ இருந்ததால் கண்டறிதலை கடினமாக்குகிறது, மேலும் இது குழந்தைகள் சுரண்டல் உள்ளடக்கத்தை NCMEC க்கு தெரிவிக்கிறது என்றும் நிறுவனம் கூறியது.

சட்டமியற்றுபவர்கள் மற்றும் கட்டுப்பாட்டாளர்கள் நகர்வு

பல சட்டமியற்றுபவர்கள் மற்றும் கட்டுப்பாட்டாளர்கள் இப்போது WIRED இன் அறிக்கையைத் தொடர்ந்து விளம்பரங்களை விசாரிப்பதாக அல்லது பார்க்கிறார்கள் என்று கூறுகிறார்கள். விர்ஜினியா செனட்டர் மார்க் வார்னர், மெட்டா தலைமை நிர்வாக அதிகாரி மார்க் ஜுக்கர்பெர்க்கிற்கு முந்தைய அறிக்கைக்குப் பிறகு ஒரு கடிதம் அனுப்பினார், "குழந்தைகள் பாலியல் துஷ்பிரயோகம் மற்றும் கருத்தொற்றுமையற்ற நெருக்கமான படங்களைக் கொண்ட விளம்பரங்களை மெட்டா தொடர்ந்து இயக்குவது ஏமாற்றமளிக்கிறது" என்றார். மிச்சிகனின் அட்டர்னி ஜெனரல் அலுவலகம் "இந்த விஷயத்தை தீவிரமாக கவனித்து வருகிறது" என்று கூறினார், புளோரிடாவின் அட்டர்னி ஜெனரல் அவரது அலுவலகம் விசாரணை செய்து வருவதாகவும், ஆஸ்திரேலியாவின் eSafety கட்டுப்பாட்டாளர் இது "மிகவும் அக்கறை கொண்டுள்ளதாக" கூறினார் மற்றும் உயர் மட்டத்தில் மெட்டாவிடம் இருந்து தகவல்களைக் கோரியுள்ளார்.

சமூக வலைப்பின்னல்கள் குழந்தைகளுக்கு தீங்கு விளைவிப்பதாகக் குற்றம் சாட்டப்பட்ட வழக்குகளைத் தீர்ப்பதற்கு ஏற்கனவே $16.7 பில்லியன் வரை செலுத்தும் நிறுவனத்திற்கு இந்த ஆய்வு அழுத்தம் சேர்க்கிறது, மேலும் அதன் CSAM அறிக்கையிடல் செயல்முறைகளை மேம்படுத்த வேண்டும் என்று நியூ மெக்ஸிகோ நீதிமன்றத் தீர்ப்பை மேல்முறையீடு செய்கிறது. AI தொழில்துறையின் பரந்த கேள்வி என்னவென்றால், AI-உதவி பெருகிய முறையில் பயன்படுத்தப்படும் துஷ்பிரயோகத்துடன் தானியங்கு மட்டுப்படுத்தல் வேகத்தைத் தக்கவைக்க முடியுமா என்பதுதான்.

AIக்கு முன்னால் இருங்கள்

AI-இயங்கும் தீங்குகளுடன் கட்டுப்பாட்டாளர்கள் மற்றும் இயங்குதளங்கள் மல்யுத்தம் செய்யும்போது சமீபத்திய AI மேம்பாடுகளையும், செயற்கை நுண்ணறிவுச் செய்திகளைப் பின்தொடரவும்.

மேலும் AI செய்திகளைப் படிக்கவும் →