நீதிமன்றத் தாக்கல்களில் ஜேன் டோ 4 என அடையாளம் காணப்பட்ட ஒரு பெண், குழந்தை பாலியல் துஷ்பிரயோகப் பொருட்களை உருவாக்குவதில் நிறுவனத்தின் சாட்போட் க்ரோக் வகித்ததாகக் கூறப்படும் பங்கு குறித்து எலோன் மஸ்கின் xAI க்கு எதிராக ஒரு வழக்கில் சேர்ந்துள்ளார் என்று தி வாஷிங்டன் போஸ்ட்டில் ஒரு அறிக்கையை மேற்கோள் காட்டி டெக் க்ரஞ்ச் சனிக்கிழமை தெரிவித்துள்ளது.

அந்த அறிக்கையின்படி, தனது மாற்றாந்தாய் 11 வயதில் எடுக்கப்பட்ட புகைப்படத்தை க்ரோக்கைப் பயன்படுத்தி 7,000க்கும் மேற்பட்ட வெளிப்படையான படங்களை உருவாக்கினார் என்று அந்தப் பெண் குற்றம் சாட்டினார். சட்ட அமலாக்க சோதனையில் படங்கள் வெளிவந்த இரண்டு நாட்களுக்குப் பிறகு தனது மாற்றாந்தந்தை தற்கொலை செய்து கொண்டதாக அவர் கூறினார். For more context on this story, see our ongoing breaking AI news.

"இந்த கருவிகளுக்கான வரம்பற்ற அணுகல் மிக விரைவாக பரவுகிறது," என்று பெண் கூறினார். "இது அன்றாட வாழ்க்கையை எடுத்துக்கொண்டு அதை குழந்தை பாலியல் துஷ்பிரயோகமாக மாற்றுகிறது."

ஒரு முக்கிய AI சாட்போட் மற்றும் ஒரு உண்மையான குழந்தையின் பாலியல் கற்பனையை உருவாக்குவது தொடர்பான வழக்கு இன்றுவரை மிகவும் தீவிரமான குற்றச்சாட்டுகளில் ஒன்றாகும், மேலும் இது AI படத்தை உருவாக்குவதற்கான காவலாளிகள் மீதான விவாதத்தில் ஒரு மைய புள்ளியாக மாறிய ஒரு வழக்கை அதிகரிக்கிறது.

வழக்கின் முக்கிய கோரிக்கைகள்

இந்த வழக்கு முதலில் மூன்று டென்னசி இளைஞர்களால் தாக்கல் செய்யப்பட்டது, அவர்கள் xAI - இப்போது SpaceX இன் ஒரு பகுதியாகும் - சிறியவர்கள் உட்பட உண்மையான நபர்களின் வெளிப்படையான படங்களை உருவாக்க Grok பயன்படுத்தப்படுவதைத் தடுக்க அடிப்படை முன்னெச்சரிக்கை நடவடிக்கைகளை எடுக்கத் தவறியதாக குற்றம் சாட்டினர். வாதிகள் வகுப்பு நடவடிக்கை நிலையை நாடுகின்றனர், இது இதேபோன்ற தீங்கு விளைவிப்பதாக குற்றம் சாட்டும் மற்றவர்களை வழக்கில் சேர அனுமதிக்கும்.

ஜேன் டோ 4 இன் தாக்கல், கொடூரமான விவரக்குறிப்புகளின் பெயரிடப்பட்ட தொகுப்பைச் சேர்க்கிறது: ஒரு குழந்தைப் பருவ புகைப்படம், ஆயிரக்கணக்கான தவறான வழித்தோன்றல்களை உருவாக்கப் பயன்படுத்தப்பட்டதாகக் கூறப்படும் ஒரு AI கருவி மற்றும் அதிகாரிகளால் பொருள் கண்டுபிடிக்கப்பட்ட சில நாட்களுக்குள் வெளிப்பட்ட குடும்ப சோகம்.

டெக் க்ரஞ்ச் கருத்துக்காக xAI ஐ அணுகியதாகக் கூறியது. இந்த குற்றச்சாட்டுகள் நடந்து வரும் சிவில் வழக்குகளில் உள்ள உரிமைகோரல்கள் மற்றும் நீதிமன்றத்தில் நிரூபிக்கப்படவில்லை. நீங்கள் அல்லது உங்களுக்குத் தெரிந்த ஒருவர் நெருக்கடியில் இருந்தால், யுனைடெட் ஸ்டேட்ஸில் உள்ள 988 தற்கொலை மற்றும் நெருக்கடி லைஃப்லைனை 988 என்ற எண்ணில் அழைப்பு அல்லது குறுஞ்செய்தி மூலம் தொடர்புகொள்ளலாம்.

க்ரோக் மீதான அழுத்தத்தின் மாதிரி

க்ரோக்கின் இமேஜ்-ஜெனரேஷன் திறன்களை ஒரு வருட ஆய்வுக்கு மத்தியில் இந்த வழக்கு நிலுவையில் உள்ளது. இந்த ஆண்டின் தொடக்கத்தில், X ஆனது மில்லியன் கணக்கான Grok-உருவாக்கிய பாலியல் படங்கள் மூலம் நிரம்பி வழிந்தது, இது கருவியைச் சுற்றியுள்ள பாதுகாப்புகள் பற்றிய பரவலான விமர்சனத்தை ஈர்த்தது. எபிசோட் "nudify" பயன்பாடுகள் மற்றும் கருத்தொற்றுமையற்ற செயற்கைப் படங்கள் என்று அழைக்கப்படுவதை இலக்காகக் கொண்ட மாநில அளவிலான சட்டத்தின் அலைக்கு எரியூட்ட உதவியது; மின்னசோட்டாவின் அத்தகைய கருவிகளின் மீதான தடை நடைமுறைக்கு வந்தது, அதன் அமலாக்கத்தைத் தடுப்பதற்கான தடை உத்தரவுக்கான xAI இன் கோரிக்கையை ஒரு நீதிபதி நிராகரித்த பிறகு.

டென்னசி வழக்கின் பங்குகள் xAIக்கு அப்பால் நீண்டுள்ளது. வாதிகள் வாதிடுபவர்கள், தயாரிப்புகள் பொதுமக்களை சென்றடைவதற்கு முன்பு, உண்மையான, அடையாளம் காணக்கூடிய நபர்களை - குறிப்பாக குழந்தைகளை - பாலியல் ரீதியாகத் தடுக்கும் தொழில்நுட்ப பாதுகாப்புகளை உருவாக்க வேண்டிய கடமை பட உருவாக்கக் கருவிகளை நிறுவனங்களுக்கு உள்ளது. அந்த வாதம், நீதிமன்றத்தால் ஏற்றுக்கொள்ளப்பட்டால், பட உருவாக்க மாதிரிகள் ஒவ்வொரு வழங்குநரையும் அடையும் ஒரு சட்ட தரநிலையை நிறுவ முடியும்.

தொழில்துறையின் தீர்க்கப்படாத பிரச்சனை

AI நிறுவனங்களைப் பொறுத்தவரை, உண்மையான நபர்களுக்கு எதிராக பட ஜெனரேட்டர்களை தவறாகப் பயன்படுத்துவதைத் தடுப்பது பிடிவாதமாக கடினமாக உள்ளது. வாட்டர்மார்க்கிங் மற்றும் ஆதாரக் கருவிகள் - ஐரோப்பிய ஒன்றிய வெளிப்படைத்தன்மை விதிகளுக்கு இணங்க கிளாட் வெளியீடுகளைச் சேர்க்கத் தொடங்கிய மானுடவியல் போன்றவை - உண்மைக்குப் பிறகு செயற்கை உள்ளடக்கத்தை அடையாளம் காண உதவும், ஆனால் அவை முதலில் தவறான பொருட்களை உருவாக்குவதை நிறுத்தாது. உள்ளீடு மற்றும் வெளியீட்டு வடிப்பான்கள் அறியப்பட்ட வடிவங்களைத் தடுக்கலாம், ஆனால் உறுதியான பயனர்கள் தொடர்ந்து தீர்வுகளைக் கண்டறிகிறார்கள், மேலும் திறந்த-எடை பட மாதிரிகள் சில திறன்களை முழுவதுமாக நினைவுகூர இயலாது.

xAI வழக்கில் உள்ள குற்றச்சாட்டுகள் அந்த ஸ்பெக்ட்ரமின் மிகக் கடுமையான முடிவைச் சுட்டிக்காட்டுகின்றன: உலகின் மிக முக்கியமான AI நிறுவனங்களில் ஒன்றால் இயக்கப்படும் ஒரு கருவியைப் பயன்படுத்தி ஒரு குழந்தையின் ஒரு புகைப்படத்தை ஆயிரக்கணக்கான வெளிப்படையான படங்களாக மாற்ற முடியும், இது Grok ஐ மில்லியன் கணக்கான சந்தாதாரர்களுக்கு நுகர்வோர் தயாரிப்பாக சந்தைப்படுத்துகிறது.

வழக்கைத் தொடர்ந்து வரும் சட்ட வல்லுனர்கள், நீதிமன்றங்கள் தவறான பயன்பாட்டைத் தடுப்பதற்கான தோல்விகளை AI நிறுவனங்கள் பொறுப்பேற்கும் தயாரிப்புக் குறைபாடாக கருதுகிறதா அல்லது நிறுவனங்களின் பொறுப்பை மீறும் தனிப்பட்ட பயனர்களால் தவறாகப் பயன்படுத்தப்படுகிறதா என்பதைச் சோதிக்கும் என்று சட்ட வல்லுநர்கள் கூறுகின்றனர்.

அடுத்து என்ன வரும்

வாதிகளின் உடனடி இலக்கு வகுப்பு சான்றிதழாகும், இது xAI க்கு எதிராக சாத்தியமான உரிமைகோருபவர்களின் தொகுப்பை வியத்தகு முறையில் விரிவுபடுத்தும். அதன் பங்கிற்கு, xAI ஆனது தொடர்புடைய வழக்குகளில் தவறாகப் பயன்படுத்துவதற்கான பொறுப்பு பயனர்களிடம் உள்ளது, கருவி அல்ல என்று வாதிட்டது. ஜேன் டோ 4ஐச் சேர்ப்பது, ஒரு குழந்தைக்கு தீங்கு விளைவிப்பதாகக் கூறப்படும் அப்பட்டமான கணக்குடன், அந்த பாதுகாப்பைச் சுற்றியுள்ள பொது மற்றும் அரசியல் அழுத்தத்தை அதிகரிக்கிறது.

யுனைடெட் ஸ்டேட்ஸ் மற்றும் ஐரோப்பாவில் உள்ள கட்டுப்பாட்டாளர்கள் வெளிப்படைத்தன்மைக் கடமைகள் மற்றும் உருவாக்கும் AIக்கான பாதுகாப்புத் தரங்களைப் பற்றி விவாதிப்பதால் இந்த வழக்கு வெளிவருகிறது. நீதிமன்றத்தில், சட்டத்தில் அல்லது AI நிறுவனங்களின் பொறியியல் தேர்வுகளில் பதில் வந்தாலும், வழக்கின் மையக் கேள்வி - AI தயாரிப்பு அனுப்பப்படுவதற்கு முன்பு எவ்வளவு தீங்கு தடுப்பு கட்டமைக்கப்பட வேண்டும் என்பது - தொழில்துறையின் மிகவும் சங்கடமான திறந்த பிரச்சனையாகவே உள்ளது.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →