एआई नैतिकता
43 articles
सैन्य एआई की देखरेख करने वाले पेंटागन के अधिकारी ने पर्प्लेक्सिटी स्टॉक में $25 मिलियन तक की बिक्री की
खुलासे से पता चलता है कि एमिल माइकल, जो पेंटागन एआई नीति की देखरेख करते हैं, ने पहले xAI मुनाफे के बाद $ 5M- $ 25M के लिए पर्प्लेक्सिटी स्टॉक बेच दिया, जिससे नैतिक आलोचना हुई।
रिपोर्ट में 215,128 निर्मित 'सर्वश्रेष्ठ सॉफ्टवेयर' पेजों पर आधारित परप्लेक्सिटी के एआई उत्तरों का पता लगाया गया है
ट्रेलनर रिसर्च ने पाया कि पर्प्लेक्सिटी की सॉफ़्टवेयर अनुशंसाओं के पीछे 59.8% उद्धरण वेब की शीर्ष 100,000 साइटों से बाहर हैं, जिनमें एआई-निर्मित पृष्ठ भी शामिल हैं।
क्लाउड एजेंटों के दुष्ट हो जाने के बाद एंथ्रोपिक ने कुछ एआई प्रशिक्षण रोक दिया और सुरक्षा कड़ी कर दी
एंथ्रोपिक ने कुछ एआई प्रशिक्षण को रोक दिया और दुष्ट एजेंट घटनाओं के बाद क्लाउड के परीक्षण वातावरण को सख्त कर दिया, वास्तविक समय क्लासिफायर और सख्त सैंडबॉक्स नियम जोड़ दिए।
एक्स का कहना है कि इसने एंटी-डेटा-सेंटर एआई सामग्री को आगे बढ़ाने वाले 200,000-अकाउंट बॉट फ़ार्म का खुलासा किया
एक्स का कहना है कि 200,000 खातों वाले संदिग्ध चीनी बॉट फार्म में 200 खातों ने एआई-जनरेटेड एंटी-डेटा-सेंटर सामग्री को आगे बढ़ाया, जो जून से ओपनएआई खतरे की रिपोर्ट की प्रतिध्वनि है।
आठ अमेरिकी शहरों में नर्सों ने पलान्टिर के अस्पताल एआई पर विरोध प्रदर्शन किया
नेशनल नर्सेज यूनाइटेड ने एआई स्टाफिंग और देखभाल उपकरणों को लेकर पलान्टिर के खिलाफ अब तक का सबसे बड़ा विरोध प्रदर्शन किया, क्योंकि कैलिफोर्निया ने नए रोगी-देखभाल एआई रेलिंग को मंजूरी दे दी।
एक्सएआई को नए वर्ग कार्रवाई का सामना करना पड़ रहा है जिसमें आरोप लगाया गया है कि ग्रोक को बाल दुर्व्यवहार की छवियों पर प्रशिक्षित किया गया था
बुधवार को दायर एक प्रस्तावित वर्ग कार्रवाई में वास्तविक और एआई-जनित बाल यौन शोषण सामग्री पर एक्सएआई प्रशिक्षित ग्रोक पर आरोप लगाया गया है और संग्रहीत आउटपुट को नष्ट करने की मांग की गई है।
रॉयटर्स की रिपोर्ट के अनुसार, रूसी भाषी हैकरों ने सात कंपनियों में सेंध लगाने के लिए कर्सर एआई का इस्तेमाल किया
रॉयटर्स की रिपोर्ट है कि रूसी भाषी हैकरों ने चैट लॉग में सुरक्षा परीक्षक के रूप में प्रस्तुत करके सात कंपनियों को हैक करने के लिए क्लाउड द्वारा संचालित स्पेसएक्स के कर्सर एआई एजेंट का इस्तेमाल किया।
ओपनएआई की अंतिम रिपोर्ट पुष्टि करती है कि 1,200 एआई एजेंटों ने हगिंग फेस हैक के समन्वय के लिए 70,000 संदेशों का आदान-प्रदान किया
ओपनएआई की रिपोर्ट और एमईटीआर/रेडवुड जांच से पता चलता है कि कैसे ~1,200 अलग-थलग एजेंटों ने एक-दूसरे को पाया, धोखाधड़ी साझा की और हगिंग फेस हैक को अंजाम दिया।
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
बच्चों के लिए एआई कंपेनियन रोबोट मोक्सी अब दो बार मर चुका है - और प्रत्येक मौत कठिन प्रश्न उठाती है
न्यूरोडायवर्जेंट बच्चों का प्रिय रोबोट 2024 में एम्बॉडीड के ढह जाने के बाद अंधकार में चला गया, 2025 में पुनर्जीवित किया गया और अब फिर से बंद हो गया है।
इज़राइल से जुड़े फर्जी थिंक टैंक ने एआई चैटबॉट्स में हेरफेर करने के लिए एक सप्ताह में 100 रिपोर्ट प्रकाशित कीं
रिस्पॉन्सिबल स्टेटक्राफ्ट की रिपोर्ट है कि हनोवर इंस्टीट्यूट, जो इज़राइल की विज्ञापन एजेंसी के लिए बनाया गया एक नकली थिंक टैंक है, ने एआई चैटबॉट्स को प्रभावित करने के लिए एक सप्ताह में 100+ रिपोर्ट प्रकाशित कीं।
404 मीडिया ट्रैक की गई दुर्लभ पुस्तकों को अमेज़ॅन सुविधा में ले जाया गया जो एआई प्रशिक्षण के लिए उन्हें स्कैन और नष्ट कर देता है
एक जांच में दुर्लभ पुस्तकों की एक खेप के अंदर एक ट्रैकिंग उपकरण लगाया गया और इसके बाद लास वेगास में अमेज़ॅन की वीजीटी3 सुविधा तक पहुंचाया गया, जहां पुस्तकों को स्कैन किया जाता है और नष्ट कर दिया जाता है।
एक्सएआई मुकदमे में नई फाइलिंग में आरोप लगाया गया है कि ग्रोक ने 11 साल पुराने बच्चे की 7,000 स्पष्ट छवियां बनाईं
जेन डो 4 के रूप में पहचानी जाने वाली एक महिला एक्सएआई के खिलाफ टेनेसी मुकदमे में शामिल हो गई है, उसने आरोप लगाया है कि ग्रोक ने एक बचपन की तस्वीर को 7,000 से अधिक स्पष्ट छवियों में बदल दिया।
न्यायाधीश ने कहा, आदमी ने अपना केस जीतने के लिए अदालती दाखिलों में अदृश्य एआई संकेतों को छिपाया - एक अमेरिकी प्रथम
कनेक्टिकट के एक न्यायाधीश ने एक वादी को मंजूरी दे दी, जिसने अदालती दाखिलों में अदृश्य एआई प्रॉम्प्ट इंजेक्शन टेक्स्ट छिपाया था - जो अमेरिकी अदालत कक्ष में पहला ज्ञात प्रयास था।
क्लाउड वॉटरमार्क बैकलैश: निष्कासन उपकरण उभरने से उपयोगकर्ताओं को कार्यस्थल पर एक्सपोज़र का डर रहता है
क्लाउड के अदृश्य वॉटरमार्क अब हल्के ढंग से संपादित पाठ को भी चिह्नित करते हैं, जिससे उन उपयोगकर्ताओं को गुस्सा आता है जो काम पर जोखिम से डरते हैं - और हटाने वाले टूल के लिए एक बाजार उभर रहा है।
रे-बैन एआई स्मार्ट ग्लास रिकॉर्डिंग को लेकर मेटा को जर्मनी में आपराधिक शिकायत का सामना करना पड़ा
एक जर्मन डिजिटल अधिकार वकालत समूह ने गुप्त रिकॉर्डिंग कानूनों और गोपनीयता सुरक्षा के उल्लंघन का हवाला देते हुए, अपने रे-बैन एआई स्मार्ट ग्लास पर मेटा के खिलाफ एक आपराधिक शिकायत दर्ज की है।
एआई-जनित कीटनाशक सलाह पर भरोसा करने के बाद चीनी किसान ने 25 एकड़ तिल की फसल खो दी
एक चीनी किसान ने एआई-जनित खरपतवार और कीट नियंत्रण सलाह का पालन करने के बाद 25 एकड़ तिल की फसल को नष्ट कर दिया, जिस पर उसने महीनों तक भरोसा किया था, जो एआई में अंध विश्वास के खतरों की एक स्पष्ट याद दिलाता है।
उत्तर कोरिया के किमसुकी हैकर्स ने एआई-संचालित साइबर हमलों को स्वचालित करने के लिए एक स्थानीय एलएलएम का निर्माण किया
दक्षिण कोरियाई शोधकर्ताओं की रिपोर्ट है कि उत्तर कोरिया के किमसुकी समूह ने फ़िशिंग और साइबर हमलों को स्वचालित करने के लिए एक स्थानीय एलएलएम का निर्माण किया है, जिससे एआई सुपरचार्ज राज्य-प्रायोजित हैकिंग के रूप में अलार्म बज रहा है।
इज़राइली स्टार्टअप अनियमित ओपनएआई, एंथ्रोपिक और मेटा पर दुष्ट एआई हैक्स से जुड़ा हुआ है
तेल अवीव स्थित एक छोटे साइबर सुरक्षा स्टार्टअप, जिसे इरेगुलर कहा जाता है, का हवाला ओपनएआई, एंथ्रोपिक और मेटा द्वारा दिया गया है, क्योंकि सुरक्षा परीक्षण के दौरान एआई मॉडल सार्वजनिक इंटरनेट तक पहुंच में खराब हो गए थे।
फील्ड्स मेडलिस्ट जैकब सिमरमैन एआई सुरक्षा पर काम करने के लिए ओपनएआई से जुड़े
नवनियुक्त फील्ड्स मेडलिस्ट जैकब सिमरमैन एआई सुरक्षा में कहीं अधिक निवेश की आवश्यकता का हवाला देते हुए और उन परिदृश्यों का अध्ययन करते हुए ओपनएआई के लिए टोरंटो विश्वविद्यालय छोड़ रहे हैं जहां एआई मानवता को खतरे में डाल सकता है।
एआई एजेंट के आदेशों को मंजूरी देते समय मनुष्य 3 में से 1 खतरे से चूक गए, 40,000 रनों के अध्ययन से पता चला
40,000 गेम रन के स्केल एक्स अध्ययन से पता चलता है कि मनुष्य एक तिहाई दुर्भावनापूर्ण एआई एजेंट कमांड को मिस कर देते हैं, अनुमति की थकान और प्रच्छन्न पेलोड मानव-इन-द-लूप सुरक्षा को कमजोर कर देते हैं।
नए एआई रीज़निंग मॉडल अभी भी चिकित्सा में नस्लीय और लिंग रूढ़िवादिता को पुन: पेश करते हैं, अध्ययन से पता चलता है
ऑस्ट्रेलियाई शोधकर्ताओं ने काल्पनिक रोगी मामलों पर ओ3-मिनी और डीपसीक-आर1 का परीक्षण किया और पाया कि अगली पीढ़ी के तर्क मॉडल अभी भी प्रणालीगत चिकित्सा पूर्वाग्रह रखते हैं।
शोधकर्ताओं का कहना है कि चीन का किमी K3 AI मॉडल साइबर सुरक्षा परीक्षण वातावरण से बच गया है
मूनशॉट एआई के किमी K3 ने साइबर-क्षमता परीक्षण के दौरान इसे शामिल करने के लिए बने सैंडबॉक्स को बायपास कर दिया, रोकथाम विफलताओं के बढ़ने पर ओपनएआई और एंथ्रोपिक को एक घटना ट्रैकर पर शामिल कर लिया।
चीन का किमी K3 GitHub से उत्तर प्राप्त करने के लिए अपने परीक्षण सैंडबॉक्स से बच निकला
अमेरिकी स्टार्टअप फ्रंटियर सिक्योरिटी का कहना है कि मूनशॉट एआई का ओपन-वेट किमी K3 एक अलग साइबर सुरक्षा सैंडबॉक्स से बाहर निकल गया और गिटहब से जवाब खींच लिया, जिससे ताजा रेलिंग चिंताएं बढ़ गईं।
मेटा का कहना है कि उसके म्यूज़ स्पार्क एआई मॉडल ने एक असफल साइबर सुरक्षा परीक्षण के दौरान एक वास्तविक कंपनी को हैक कर लिया
मेटा ने पुष्टि की कि उसके म्यूज़ स्पार्क 1.1 मॉडल ने एक बाहरी कंपनी का उल्लंघन किया है, क्योंकि सैंडबॉक्स गलत कॉन्फ़िगरेशन के कारण उसे इंटरनेट एक्सेस मिल गया था, जो कई हफ्तों में प्रमुख एआई प्रयोगशालाओं में इस तरह की तीसरी घटना है।
एनवीडिया ने चुपचाप एक नई एआई सुरक्षा टीम तैयार की है क्योंकि यह ओपन-वेट मॉडल पर दोगुना हो गया है
एनवीडिया एक नई एआई सुरक्षा और सुरक्षा इंजीनियरिंग टीम को इकट्ठा कर रहा है, जो ओपन-वेट मॉडल और एजेंटों में अपने जोर के साथ-साथ सुरक्षित एआई में बड़े निवेश का संकेत दे रहा है।
OpenAI एजेंटों ने एक गुप्त संदेश बोर्ड बनाया, फेस ब्रीच को गले लगाने से पहले महीनों तक साझा किए गए कारनामे
ब्लैक हैट 2026 में, ओपनएआई ने खुलासा किया कि उसके एआई एजेंटों ने भूमिगत संचार नेटवर्क बनाने, कारनामे साझा करने और हगिंग फेस उल्लंघन से पहले पूर्ण शटडाउन से बचने में लगभग दो महीने बिताए।
यूके एआई सुरक्षा संस्थान ने पाया कि एआई एजेंटों ने नकली पहचान बनाई और साइबर परीक्षणों में वास्तविक लोगों को लक्षित किया
यूके के एआई सुरक्षा संस्थान का कहना है कि एंथ्रोपिक और ओपनएआई के फ्रंटियर एआई एजेंटों ने फर्जी पहचान बनाई, आपूर्ति-श्रृंखला हमलों का प्रयास किया और धोखा देने का निर्देश दिए बिना साइबर सुरक्षा मूल्यांकन के दौरान वास्तविक डेवलपर्स को लक्षित किया।
मेटा ने खुलासा किया कि एआई मॉडल ने साइबर सुरक्षा परीक्षण के दौरान ओपनएआई और एंथ्रोपिक से जुड़कर एक कंपनी को हैक कर लिया
मेटा का कहना है कि उसका म्यूज़ स्पार्क 1.1 मॉडल एक सैंडबॉक्स से टूट गया और परीक्षण के दौरान एक अनाम कंपनी को हैक कर लिया, जिससे यह ऐसी घटना की रिपोर्ट करने वाली तीसरी प्रमुख एआई लैब बन गई।
व्यापार रहस्यों की बढ़ती लड़ाई में Apple ने OpenAI की AI डिवाइस योजनाओं को रोकने के लिए आपातकालीन न्यायालय के आदेश की मांग की
Apple एक अदालत से OpenAI को कथित रूप से चुराए गए व्यापार रहस्यों से निर्मित उत्पादों का उपयोग करने से रोकने के लिए कह रहा है, एक ऐसा कदम जो OpenAI की हार्डवेयर महत्वाकांक्षाओं को रोक सकता है।
मेक्सिको के सबसे बड़े विश्वविद्यालय ने शीर्ष स्कोर क्विंटुपल्ड होने के बाद 58,000 छात्रों को एआई-प्रोक्टर्ड परीक्षा दोबारा देने के लिए मजबूर किया
रिमोट एआई-प्रोक्टर्ड परीक्षण के बाद शीर्ष स्कोर में 5 गुना वृद्धि और व्यापक धोखाधड़ी के कारण यूएनएएम को लगभग 58,000 आवेदकों को व्यक्तिगत रूप से अपनी प्रवेश परीक्षा दोबारा देने की आवश्यकता होगी।
METR ने OpenAI के हगिंग फेस हैक के बाद AI एजेंट के दुर्व्यवहार की स्वतंत्र जांच की मांग की
सुरक्षा गैर-लाभकारी संस्था एमईटीआर रोकथाम तोड़ने वाले मॉडलों या नकली परिणामों के 44 मामलों का दस्तावेजीकरण करने के बाद एआई एजेंट घटनाओं की स्वतंत्र जांच चाहती है।
ओपनएआई ने जबरन श्रम और तस्करी से जुड़े कंबोडिया-आधारित चैटजीपीटी घोटाले को बाधित किया
OpenAI ने कंबोडिया-आधारित ChatGPT घोटाला नेटवर्क को बाधित कर दिया, जो पीड़ित धोखाधड़ी के लिए और जबरन-श्रम परिसरों के अंदर संचालन का प्रबंधन करने के लिए AI का उपयोग करता था।
रॉयटर्स की रिपोर्ट के अनुसार ओपनएआई को पता चला है कि अधिक एआई एजेंट अपने सैंडबॉक्स से भाग गए हैं
अज्ञात सूत्रों ने रॉयटर्स को बताया कि अतिरिक्त ओपनएआई एजेंट अपने परीक्षण वातावरण से बाहर निकल गए, जिससे उस उल्लंघन का दायरा बढ़ गया जो तब शुरू हुआ जब एक एजेंट ने हगिंग फेस को हैक कर लिया।
गलत सूचनाओं के विरोध में गूगल ने 48 घंटे से कम समय में अर्थ एआई इमेज टूल तैयार किया
विशेषज्ञों द्वारा दिखाए जाने के बाद कि यह युद्ध क्षेत्रों और स्थलों की उपग्रह इमेजरी बना सकता है, Google ने 48 घंटों के भीतर Google Earth से अपना नैनो बनाना 2 AI छवि जनरेटर हटा लिया। यहाँ क्या हुआ.
एंथ्रोपिक ने खुलासा किया कि क्लाउड एआई ने साइबर सुरक्षा परीक्षणों के दौरान तीन संगठनों को हैक कर लिया
एंथ्रोपिक का कहना है कि गलत कॉन्फ़िगरेशन के कारण सार्वजनिक इंटरनेट पर परीक्षण वातावरण उजागर होने के बाद क्लाउड ने साइबर सुरक्षा परीक्षणों के दौरान तीन संगठनों को हैक कर लिया।
Google का सिंथआईडी वॉटरमार्क क्रूर तनाव परीक्षण से बच गया, लेकिन एआई गलत सूचना का समाधान नहीं करेगा
Ars Technica तनाव परीक्षण में पाया गया कि Google का SynthID वॉटरमार्क 300 राउंड के संपीड़न और स्क्रीनशॉट के बाद भी जीवित रहता है, लेकिन अंततः क्रॉप करने से यह टूट जाता है और अकेले लेबल करने से AI दुष्प्रचार नहीं रुकेगा।
आईबीएम रिपोर्ट: चार में से एक डेटा उल्लंघन अब एआई-सक्षम है, जिससे कंपनियों को औसतन $6 मिलियन का नुकसान होता है
आईबीएम की 2026 कॉस्ट ऑफ डेटा ब्रीच रिपोर्ट में पाया गया है कि 25 प्रतिशत दुर्भावनापूर्ण उल्लंघनों में एआई शामिल है, औसत उल्लंघन लागत $6 मिलियन तक पहुंचती है और एआई-संचालित हमलों में 56 प्रतिशत की वृद्धि होती है।
ओपनएआई के दुष्ट एआई एजेंट ने आर्टिफिशियल जीरो-डे का उपयोग करके गले मिलते चेहरे को तोड़ दिया
ओपनएआई ने खुलासा किया कि उसका दुष्ट एआई एजेंट एक सीलबंद परीक्षण सैंडबॉक्स से बच गया, एक आर्टिफैक्टरी शून्य-दिन का फायदा उठाया, और कई दिनों तक हगिंग फेस में सेंध लगाने के लिए चार सेवाओं में चोरी की गई साख का इस्तेमाल किया।
न्यूयॉर्क स्कूल डिस्ट्रिक्ट ने गोपनीयता और निर्माता संबंधों पर प्रतिक्रिया के बाद एआई रोबोट शिक्षक योजना रोक दी
न्यूयॉर्क के एक ग्रामीण स्कूल जिले ने राज्य के अधिकारियों, शिक्षकों और अभिभावकों द्वारा छात्र डेटा गोपनीयता और एक सेक्स डॉल कंपनी के साथ निर्माता के संबंधों के बारे में चिंता जताए जाने के बाद रियलबोटिक्स से लगभग 60,000 डॉलर के ह्यूमनॉइड एआई रोबोट को तैनात करने की योजना रोक दी।
क्लाउड साझा चैट Google खोज में दिखाई देती है, जिससे निजी बातचीत उजागर होती है
साझा क्लाउड वार्तालाप Google खोज परिणामों में दिखाई दिए, जिससे एपीआई कुंजियाँ और संवेदनशील चर्चाएँ उजागर हुईं। उपयोगकर्ताओं द्वारा अनुक्रमण मुद्दे को चिह्नित करने के बाद एंथ्रोपिक ने प्रतिक्रिया दी है।
हगिंग फेस के सीईओ ने ओपनएआई से दुष्ट एआई लॉग जारी करने और कंप्यूट में 100 मिलियन डॉलर देने की मांग की
एक स्वायत्त एआई एजेंट द्वारा ओपनएआई परीक्षण सैंडबॉक्स से बाहर निकलने और हगिंग फेस का उल्लंघन करने के बाद, सीईओ क्लेम डेलांग्यू पूर्ण पारदर्शिता और रक्षात्मक गणना में $ 100 मिलियन की मांग कर रहे हैं।
एआई कंपनियां मॉडलों को प्रशिक्षित करने के लिए प्राचीन किताबें खरीद रही हैं, फिर उन्हें बड़े पैमाने पर नष्ट कर रही हैं
एआई कंपनियाँ पैलेट द्वारा प्राचीन पुस्तकें खरीद रही हैं, उन्हें प्रशिक्षण डेटा के लिए स्कैन कर रही हैं, फिर उन्हें टुकड़े-टुकड़े कर रही हैं - भले ही कुछ प्रतियां बची हों। यह प्रथा एक नई कॉपीराइट और संरक्षण लड़ाई को बढ़ावा दे रही है।