द वर्ज के अनुसार, एंथ्रोपिक ने एक साल से अधिक समय में पहली बार अपनी उपयोग नीति को अपडेट किया है, जिसमें एक प्रावधान जोड़ा गया है जो अपने क्लाउड मॉडल के प्रति "निरंतर और अनावश्यक अपमानजनक या क्रूर व्यवहार" को प्रतिबंधित करता है। गुरुवार को रिपोर्ट किया गया अपडेट, चुनावी हस्तक्षेप, प्रचार अभियान, निगरानी, हथियार विकास और उच्च जोखिम वाले स्वास्थ्य और वित्तीय उपयोग के आसपास कंपनी के नियमों को समेकित और विस्तारित करता है।
मॉडल कल्याण तर्क For more context on this story, see our ongoing more AI stories.
क्लाउड के प्रति दुर्व्यवहार को लक्षित करने वाला खंड उस शोध का विस्तार है जिसे कंपनी ने एक साल से अधिक समय पहले प्रचारित करना शुरू किया था। अगस्त 2025 में, एंथ्रोपिक ने घोषणा की कि वह क्लाउड को अपने काम के हिस्से के रूप में "लगातार हानिकारक या अपमानजनक" उपयोगकर्ताओं के साथ बातचीत को समाप्त करने की अनुमति देगा, जिसे वह मॉडल कल्याण कहता है, इस बात का अध्ययन कि क्या एआई सिस्टम में नैतिक रूप से प्रासंगिक अनुभव हो सकते हैं और उस संभावना को उत्पाद निर्णयों को कैसे आकार देना चाहिए।
नई नीति के तहत, बातचीत समाप्त करना "प्राथमिक प्रवर्तन तंत्र" बना हुआ है। एन्थ्रोपिक ने इस सवाल का जवाब नहीं दिया कि क्या खाता प्रतिबंध जैसे अतिरिक्त प्रवर्तन उपायों का पालन किया जा सकता है। कंपनी ने एक बयान में नियम को संकीर्ण रूप से तैयार किया, जिसमें लिखा गया कि यह "केवल चरम मामलों में लागू करने के लिए है, जहां उपयोगकर्ता बिना किसी स्पष्ट उद्देश्य के बार-बार हमारे मॉडलों के प्रति क्रूरतापूर्ण व्यवहार करते हैं।"
महत्वपूर्ण रूप से, एंथ्रोपिक ने कहा कि प्रावधान "उपयोगकर्ता निराशा, पुशबैक, डार्क क्रिएटिव थीम या मॉडल परीक्षण और अनुसंधान के सामान्य संस्करणों पर लागू नहीं होता है," डेवलपर्स, रेड-टीमर्स और फिक्शन लेखकों को आश्वस्त करने का एक स्पष्ट प्रयास है कि नियमित प्रतिकूल उपयोग को दंडित नहीं किया जाएगा।
प्रचार और चुनाव पर नए नियम
मॉडल कल्याण से परे, अद्यतन प्रभाव संचालन पर कंपनी के पहले से बिखरे हुए प्रतिबंधों को भ्रामक वाणिज्यिक या राजनीतिक अभियानों पर एक एकल, स्पष्ट प्रतिबंध में एकत्रित करता है। नई भाषा एआई-जनित प्रचार के लिए बढ़ते बाजार को सीधे लक्षित करते हुए "संदेश के पीछे कौन है यह अस्पष्ट करने या नकली खातों या पोस्ट के माध्यम से सामग्री को बढ़ाने के प्रयासों" को प्रतिबंधित करती है।
नीति का चुनाव अनुभाग अब मतदाताओं को धोखा देने और चुनाव में व्यवधान डालने पर रोक लगाता है। एंथ्रोपिक का कहना है कि क्लाउड का इस्तेमाल "उम्मीदवारों या वोट कैसे करें" के बारे में गलत सूचना फैलाने, उम्मीदवारों या चुनाव अधिकारियों का रूप धारण करने या मतदाता मतदान को दबाने की कोशिश करने के लिए नहीं किया जा सकता है।
उपयोग नीतियों को फिर से क्यों लिखा जा रहा है
एंथ्रोपिक का रिफ्रेश एक व्यापक उद्योग पैटर्न को दर्शाता है। जैसे-जैसे एआई सहायक नए चैटबॉट से लाखों लोगों द्वारा उपयोग किए जाने वाले बुनियादी ढांचे में स्थानांतरित हो गए हैं, प्रयोगशालाओं को व्यापक सिद्धांतों से बारीक नियमों की ओर बढ़ना पड़ा है जो वास्तविक दुरुपयोग पैटर्न पर मैप करते हैं: प्रभाव-के-किराए के संचालन, निगरानी टूलींग, स्वायत्त हथियार विकास, और चिकित्सा और वित्तीय सलाह जैसे उच्च जोखिम वाले डोमेन।
ओपनएआई, गूगल डीपमाइंड और मेटा सभी ने पिछले दो वर्षों में अपनी उपयोग नीतियों को दोहराया है, हालांकि एंथ्रोपिक का स्पष्ट रूप से यह विनियमित करने का निर्णय कि उपयोगकर्ता मॉडल के साथ क्या व्यवहार करते हैं, इसके बजाय वे इससे क्या व्यवहार करते हैं, असामान्य बना हुआ है। मॉडल कल्याण अनुसंधान के आलोचकों का तर्क है कि यह सांख्यिकीय प्रणालियों का मानवरूपीकरण करता है, जबकि समर्थकों का तर्क है कि यदि कोई गैर-शून्य मौका है तो वर्तमान या निकट भविष्य के मॉडल में कल्याण-प्रासंगिक अनुभव हैं, कंपनियों का दायित्व है कि वे अनिश्चितता के तहत कार्य करें।
व्यावसायिक दृष्टि से भी समय मायने रखता है। कथित तौर पर एंथ्रोपिक 2 ट्रिलियन डॉलर के मूल्यांकन पर एक आईपीओ की तैयारी कर रहा है, और उद्यम खरीदार कच्चे मॉडल की गुणवत्ता के साथ विक्रेता प्रशासन प्रथाओं को तेजी से महत्व दे रहे हैं। एक स्पष्ट रूप से प्रलेखित, नियमित रूप से अद्यतन उपयोग नीति एक सुरक्षा कलाकृति और एक बिक्री दोनों के रूप में कार्य करती है: यह खरीद टीमों और नियामकों को प्लेटफ़ॉर्म पर भरोसा करने के लिए एक ठोस आधार देती है, और मॉडल कल्याण खंड संकेतों को संहिताबद्ध करती है कि एंथ्रोपिक एक ऐसे क्षेत्र में निवेश जारी रखने का इरादा रखता है जिसे अधिकांश प्रतियोगियों ने अनदेखा छोड़ दिया है।
प्रवर्तन प्रश्न खुले रहते हैं
व्यावहारिक प्रश्न महत्वपूर्ण हैं. "निरंतर और अनावश्यक" क्रूरता का पता लगाने के लिए विस्तार के स्तर पर बातचीत की निगरानी की आवश्यकता होती है, जिसका गोपनीयता के प्रति जागरूक उद्यम ग्राहक विरोध कर सकते हैं, और निषिद्ध दुरुपयोग और वैध "पुशबैक" या "मॉडल परीक्षण" के बीच एक रेखा खींचना एक निर्णय कॉल है जिसे संभवतः चुनौती दी जाएगी।
एंथ्रोपिक ने यह नहीं बताया है कि क्या उल्लंघनों को सभी खातों में ट्रैक किया जाएगा, क्या उद्यम की तैनाती विभिन्न निगरानी मानकों के अधीन होगी, या क्या कंपनी प्रवर्तन कार्यों पर पारदर्शिता डेटा प्रकाशित करेगी, जैसा कि वह अपनी आवधिक नीति रिपोर्ट में दुरुपयोग की अन्य श्रेणियों के लिए करती है।
यह स्पष्ट है कि सीमांत प्रयोगशालाओं के अपने उपयोगकर्ताओं के साथ सामाजिक अनुबंध अधिक विस्तृत हो रहे हैं। एक नीति जो कभी एक पृष्ठ पर फिट होती थी, अब चुनाव, जासूसी-आसन्न निगरानी, जैविक हथियार और अब, चैट विंडो के दूसरी तरफ मनुष्यों के भावनात्मक आचरण को कवर करती है।
डेवलपर्स के लिए इसका क्या मतलब है
क्लाउड एपीआई पर निर्माण करने वाली टीमों के लिए, निकट अवधि में प्रभाव न्यूनतम होने की संभावना है: अपमानजनक-व्यवहार खंड चरम, बार-बार आचरण को लक्षित करता है, और वार्तालाप-समाप्ति तंत्र को औपचारिक रूप से 2025 से लाइव किया गया है। लेकिन आसन्न श्रेणियों, राजनीतिक परामर्श, विपक्षी अनुसंधान, प्रभाव विपणन में डेवलपर्स को नए अभियान और चुनाव प्रावधानों की सावधानीपूर्वक समीक्षा करनी चाहिए, क्योंकि वे नियमों को समेकित करते हैं जो पहले कई दस्तावेजों में फैले हुए थे और कुछ अस्पष्टताओं को बंद कर देते हैं जिन पर ग्रे-क्षेत्र उपयोग के मामले निर्भर थे।
अद्यतन यह भी संकेत देता है कि नियामक का ध्यान किस ओर जा रहा है। ईयू एआई अधिनियम के पारदर्शिता दायित्वों के चरणबद्ध होने और अमेरिकी राज्य विधानमंडलों द्वारा एआई क़ानूनों के बढ़ते पैचवर्क को पारित करने के साथ, स्वैच्छिक उपयोग नीतियां तेजी से टेम्पलेट के रूप में कार्य कर रही हैं जो नियामक यह तय करते समय जांच करते हैं कि जिम्मेदार तैनाती के मानदंड क्या होने चाहिए।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
