ऐप्पल अपने प्लेटफॉर्म पर एआई साथियों और डेटिंग ऐप्स को लेकर एक सख्त रेखा खींच रहा है। सोमवार को डेवलपर्स के लिए एक घोषणा में, कंपनी ने कहा कि वह ऐप स्टोर नीतियों को समायोजित कर रही है ताकि नाबालिगों के लिए ऑनलाइन डेटिंग ऐप्स या यौन या रोमांटिक सामग्री में संलग्न एआई साथी ऐप्स तक पहुंच को और अधिक कठिन बना दिया जा सके - और 16 नवंबर से, डेवलपर्स को नई सामग्री विवरणक दाखिल करने की आवश्यकता होगी ताकि उनके ऐप्स की आयु रेटिंग उनकी विशेषताओं को सटीक रूप से प्रतिबिंबित कर सकें।

नतीजा: डेटिंग या रोमांटिक रिलेशनशिप फीचर पेश करने वाले किसी भी ऐप की अब 18+ रेटिंग होनी चाहिए। इसमें न केवल स्पष्ट डेटिंग सेवाएं शामिल हैं, जो आम तौर पर पहले से ही खुद को वयस्कों तक ही सीमित रखती हैं, बल्कि एआई साथी ऐप्स की तेजी से बढ़ती श्रेणी भी शामिल है - और यही वह जगह है जहां नई नीति सबसे कठिन है। For more context on this story, see our ongoing breaking AI news.

एआई कंपेनियन ऐप्स असली लक्ष्य क्यों हैं

एआई सहयोगी ऐप्स का विपणन अक्सर युवा उपयोगकर्ताओं के लिए किया जाता है। कैरेक्टर.एआई, रेप्लिका और इसी तरह की सेवाएं लोगों को एआई मित्र, प्रेमी, प्रेमी और गर्लफ्रेंड और काल्पनिक चरित्र बनाने देती हैं, जिससे चैटबॉट और रिश्ते के बीच की रेखा धुंधली हो जाती है। टेकक्रंच ने नोट किया कि पिछली गर्मियों तक, ऐप्पल ऐप स्टोर और Google Play पर शीर्ष एआई सहयोगी ऐप्स को वैश्विक स्तर पर 220 मिलियन बार डाउनलोड किया गया था - एक ऐसा पैमाना जिसने उन्हें बाल-सुरक्षा बहस का केंद्र बिंदु बना दिया है।

श्रेणी के सबसे बड़े नाम पहले ही जांच का सामना कर चुके हैं कि नाबालिग रोमांटिक एआई व्यक्तित्वों के साथ कैसे बातचीत करते हैं। नया कंटेंट डिस्क्रिप्टर सिस्टम उन सुविधाओं को ऐप लिस्टिंग में ही प्रदर्शित करने के लिए डिज़ाइन किया गया है, ताकि माता-पिता और आयु-आश्वासन सिस्टम उन्हें फ़िल्टर कर सकें। xAI का ग्रोक, जिसने पिछले साल अनलॉक करने योग्य NSFW क्षमताओं के साथ 3D एनिमेटेड AI साथी लॉन्च किए थे, यह दर्शाता है कि Apple नियमों को औपचारिक क्यों बना रहा है: जो सुविधाएँ चंचल के रूप में शुरू होती हैं, वे किसी ऐप की रेटिंग में कोई बदलाव किए बिना वयस्क सामग्री में बदल सकती हैं।

नई प्रणाली कैसे काम करती है

16 नवंबर से, डेवलपर्स को ऐप सबमिट करते समय नए कंटेंट डिस्क्रिप्टर को शामिल करना होगा, यह सुनिश्चित करते हुए कि उम्र की रेटिंग यह दर्शाती है कि ऐप वास्तव में क्या करता है, बजाय इसके कि उसके मार्केटिंग दावे क्या हैं। ऐप्पल ने कहा कि डेटिंग और रोमांटिक रिलेशनशिप फीचर पेश करने वाले ऐप्स को बोर्ड भर में 18+ रेटिंग की आवश्यकता होगी।

यह आवश्यकता पहले दिखाई देने वाली अपेक्षा से कहीं आगे तक पहुंचती है। अधिकांश प्रमुख डेटिंग सेवाएँ पहले से ही अपने प्लेटफ़ॉर्म को वयस्कों तक ही सीमित रखती हैं, लेकिन ऐप्पल की नीति अब डेटिंग या रोमांटिक रिलेशनशिप सुविधाओं वाले प्रत्येक ऐप के लिए 18+ रेटिंग अनिवार्य बनाती है - जिसमें छोटी सेवाएँ शामिल हैं जो पहले स्व-रिपोर्ट किए गए आयु गेट्स पर निर्भर थीं, और एआई चैटबॉट जिनके साथी फीचर्स उन ऐप्स में जोड़े गए थे जिन्होंने अन्य उद्देश्यों के साथ जीवन शुरू किया था।

नीति परिवर्तन रोमांस से भी आगे तक फैला हुआ है। ऐप्स को अब यह बताने की आवश्यकता होगी कि वे अपनी कार्यक्षमता के हिस्से के रूप में किसी उपयोगकर्ता के वास्तविक दुनिया के स्थान को किसी अन्य व्यक्ति या समूह के साथ कब साझा करते हैं - एक सामाजिक सुविधा के अंदर स्थान साझाकरण छिपा होने पर गोपनीयता जोखिमों को संबोधित करने के लिए डिज़ाइन किया गया प्रकटीकरण। Apple ने एक स्थानीय बदलाव को चिह्नित किया: ब्राज़ील में, पारिवारिक स्थान-साझाकरण ऐप्स स्थानीय कानून के अनुरूप, मानक A16 रेटिंग के बजाय सरकार के न्याय और सार्वजनिक सुरक्षा मंत्रालय से आधिकारिक रेटिंग का अनुरोध कर सकते हैं।

व्यापक बाल-सुरक्षा प्रयास का हिस्सा

यह बदलाव मायने रखता है क्योंकि उम्र की रेटिंग ही एप्पल के पेरेंटल टूल्स पर काम करती है। कंपनी ने विस्तारित अभिभावक नियंत्रण और बाल सुरक्षा सुविधाओं के साथ-साथ विश्व स्तर पर आयु आश्वासन तकनीक शुरू की है, और ये प्रणालियाँ नाबालिगों द्वारा डाउनलोड की जा सकने वाली सामग्री को फ़िल्टर करने के लिए सटीक रेटिंग पर निर्भर करती हैं। डेवलपर्स को स्पष्ट रूप से रोमांटिक या यौन कार्यक्षमता घोषित करने की आवश्यकता करके, ऐप्पल उस स्थान को बंद कर रहा है जहां एक ऐप किशोरों के अनुकूल रेटिंग ले सकता है जबकि इसके एआई अक्षर रोमांटिक भागीदारों की तरह व्यवहार करते हैं।

नए नियम नाबालिगों की सुरक्षा के लिए Apple द्वारा किए गए परिवर्तनों की श्रृंखला में नवीनतम हैं। साथ में, वे ऐप स्टोर गवर्नेंस में एक बदलाव को चिह्नित करते हैं: उचित आयु की स्व-घोषणा करने के लिए डेवलपर्स पर भरोसा करने के बजाय, ऐप्पल को क्रमिक प्रकटीकरण और कार्यक्षमता से मेल खाने वाली रेटिंग लागू करने की आवश्यकता बढ़ रही है।

एआई कंपनियों के लिए, समय महत्वपूर्ण है। कई अमेरिकी राज्यों में नियामक चैटबॉट प्रदाताओं पर अपने स्वयं के दायित्वों को लागू करने के लिए आगे बढ़ रहे हैं, विशेष रूप से नाबालिगों और रोमांटिक या यौन भूमिका के आसपास। साथी ऐप्स के लिए 18+ रेटिंग की आवश्यकता करके, ऐप्पल प्रभावी रूप से अपने स्वयं के प्लेटफ़ॉर्म पर उस बहस का हिस्सा बना रहा है - और उस श्रेणी के लिए अनुपालन बार बढ़ा रहा है जो उसके सुरक्षा बुनियादी ढांचे की तुलना में तेजी से बढ़ी है।

डेवलपर्स को क्या करने की आवश्यकता है

अपने ऐप्स में डेटिंग सुविधाओं या एआई सहयोगी कार्यक्षमता वाले डेवलपर्स के पास नए कंटेंट डिस्क्रिप्टर दाखिल करने के लिए 16 नवंबर तक का समय है। जो ऐप्स अपडेटेड रेटिंग के बिना रोमांटिक या यौन फीचर जोड़ते हैं, उन्हें ऐप रिव्यू में हटाने या जबरन रेटिंग में बदलाव का सामना करना पड़ता है। स्थान-साझाकरण कार्यक्षमता का खुलासा उसी तरह किया जाना चाहिए। एआई सहयोगी क्षेत्र के लिए, जो आकस्मिक, कम-घर्षण साइन-अप पर पनपा है, एक वयस्क-केवल रेटिंग पता योग्य दर्शकों को बदल देती है - और, इसके आलोचकों का तर्क होगा, अंततः उत्पाद को उसके जोखिमों से मेल खाता है।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →