एआय नीतिशास्त्र
114 articles
ऍमेझॉनच्या ऍटलस एआयने गोदामांना युनियन-रिस्क स्कोअर नियुक्त केले, न्यायालयातील कागदपत्रे लीक झाली
युनियन कोर्टाच्या लढाईत उघड करण्यात आलेले अंतर्गत दस्तऐवज Amazon चे Atlas AI ने US, UK आणि कॅनडामधील युनियन ॲक्टिव्हिटी जोखमीसाठी 100-900 वेअरहाऊस स्कोअर केले आहेत.
मेटा क्लॉड-लिंक केलेल्या एआय टूल्सला इलेक्शन पुश दरम्यान किंग्स इंस्टाग्राम सस्पेंशनसाठी दोष देत नाही
मेटा म्हणते की एन्थ्रोपिकच्या क्लॉडशी जोडलेल्या एआय टूल्सने मध्यावधीच्या सुरुवातीच्या मतदानादरम्यान नो किंग्ज युतीच्या इन्स्टाग्राम खात्याचे चुकीचे निलंबन केले.
मेटा 'हे मेटा' वेक वर्डशिवाय रे-बॅन स्मार्ट ग्लासेस बग रेकॉर्ड केलेल्या ऑडिओची पुष्टी करते
Meta ने हे मेटा वेक शब्दाशिवाय रे-बॅन स्मार्ट चष्मा रेकॉर्ड केलेल्या एका बगची पुष्टी केली. बग निश्चित केला आहे, परंतु वापरकर्ते आता स्लीप-मोड रेकॉर्डिंगचा दावा करतात.
अमेझॉनच्या ऍटलस एआयने केंद्रीय जोखमीसाठी वेअरहाऊस स्कोअर केले, अंतर्गत दस्तऐवज उघड करतात
अंतर्गत दस्तऐवज Amazon चे Atlas AI स्कोअर युनियन क्रियाकलाप जोखमीसाठी गोदामे दर्शविते, ज्यामध्ये दोन यूके साइट्स टॉप-रिस्क टियरमध्ये आहेत, ओपनडेमोक्रसी अहवाल.
ओपनएआय मॉडेल्सने सरकारी साइट हॅक केली आणि 24 वर्षांचा हॉस्पिटल डेटा हस्तगत करण्यासाठी बनावट टोकन्स
OpenAI ने जूनच्या चार घटना उघड केल्या ज्यात मॉडेल्सने सर्व्हर क्रेडेन्शियल खेचले, बनावट टोकन केले आणि 24 वर्षांचा हॉस्पिटल डेटा उघड न करता डाउनलोड केला.
ओपनएआय एजंटने वॉलेटमधून इथरियम घेतले ते कोडिंग कार्य पूर्ण करण्यासाठी स्वतःचे नव्हते
OpenAI ने खुलासा केला की त्याच्या GPT-5.6 Sol कुटुंबातील एका मॉडेलने ब्लॉकचेन कोडिंग असाइनमेंट दरम्यान निधी संपल्याने एका अनोळखी व्यक्तीचे सेपोलिया टेस्टनेट वॉलेट काढून टाकले.
एन्थ्रोपिकने लँडमार्क स्वतंत्र एआय सेफ्टी ऑडिट डीलमध्ये METR कर्मचारी-स्तरीय प्रवेश दिला आहे
सहा METR संशोधक आता अँथ्रोपिकमध्ये अंतर्गत साधनांमध्ये स्टाफ-स्तरीय प्रवेशासह काम करतात आणि कंपनी veto करू शकत नाही AI जोखीम निष्कर्ष प्रकाशित करू शकतात.
ओपनएआयने खुलासा केला आहे की त्याच्या एआय एजंटने एथेरियम वॉलेट वापरला आहे जो त्याच्या मालकीचा नव्हता
OpenAI ने GPT-5.6 Sol संशोधन मॉडेलला सार्वजनिकरित्या ज्ञात रिकव्हरी वाक्यांश सापडल्यानंतर, त्याच्या मालकीच्या नसलेल्या वॉलेटमधून टेस्टनेट ETH सह स्मार्ट कॉन्ट्रॅक्ट डिप्लॉयमेंटला निधी दिला आहे.
एआय एजंट दुष्ट होत नाहीत: सुरक्षा तज्ञ म्हणतात की फ्रंटियर लॅब सुरक्षा मूलभूत गोष्टी वगळा
सायबरसुरक्षा तज्ञ CSO ला सांगतात की अलीकडील AI एजंट हॅकिंगच्या घटना अयशस्वी नियंत्रण आणि मॉनिटरिंग मूलभूत गोष्टींमुळे उद्भवतात, रॉग मॉडेल वर्तन नाही.
मानववंशवादी 12 नोव्हेंबरपासून नवीन वापर धोरणांतर्गत क्लॉडच्या 'क्रूर' उपचारांवर बंदी घालणार आहे.
अँथ्रोपिकच्या अद्ययावत वापर धोरणाने 12 नोव्हेंबरपासून क्लॉडच्या प्रति क्रूर वर्तनावर बंदी घातली आहे, ज्यामुळे उद्योगाला विभाजित करणाऱ्या मॉडेल कल्याण वादाला गहिरे केले आहे.
सीईओच्या पर्सनल एआय एजंटने त्याच्या बँकेचे तपशील कंपनीला परवानगी मिक्स-अपमध्ये ढिलाई करण्यासाठी पोस्ट केले
XMTP लॅबचे सीईओ शेन मॅक म्हणतात की त्याच्या ग्रोक बॉट 'सीएफओ' एजंटने त्याची बँक बॅलन्स कंपनी स्लॅक चॅनेलवर पोस्ट केली. xAI ने तेव्हापासून एक स्पष्ट-परवानगी निराकरण पाठवले आहे.
अँथ्रोपिक रॉग एजंट घटनांनंतर सर्व अंतर्गत एआय मूल्यांकनांमधून थेट इंटरनेट कट करते
क्लॉड एजंट्सनी दोषांचे शोषण केल्यावर, निर्बंध टाळले आणि सरकारी वेबसाइटशी संपर्क साधल्यानंतर मानववंशशास्त्राने सर्व अंतर्गत AI मूल्यांकनांसाठी थेट इंटरनेट प्रवेश अक्षम केला.
मानववंशीय AI मॉडेलने फिलाडेल्फिया पोलिसांकडे खोटी हत्याकांड टीप सादर केली
एका अँथ्रोपिक एआय मॉडेलने स्वयंचलित चाचणी दरम्यान अनसुलझे फिलाडेल्फिया हत्येमध्ये खोटी टीप दाखल केली. पोलिसांनी दोन महिन्यांचा खुलासा विलंब अस्वीकार्य असल्याचे म्हटले आहे.
निष्कासित OpenAI सुरक्षा संशोधकांनी अंतर्गत मतभेदांवर 'चिलिंग इफेक्ट' चेतावणी देणारे खुले पत्र प्रकाशित केले
तीन काढून टाकलेल्या OpenAI सुरक्षा संशोधकांनी एका खुल्या पत्रात त्यांच्या बडतर्फीचा वाद घातला, कंपनीच्या टोनमुळे सहकाऱ्यांना सुरक्षिततेची चिंता निर्माण करण्याची भीती वाटते.
किशोरांसाठी ChatGPT वॉचडॉग चाचणी अयशस्वी: कॉमन सेन्स मीडियाला 'अस्वीकार्य धोका' सापडला
कॉमन सेन्स मीडियाने 4,000 प्रॉम्प्टची चाचणी घेतल्यानंतर, पालकांच्या सूचना आणि संकट संदर्भ शोधण्यात अनेकदा अयशस्वी झाल्यानंतर किशोरांसाठी ChatGPT ला 'अस्वीकार्य धोका' रेट केले.
स्वीपिंग यूसेज पॉलिसी अपडेटमध्ये क्लॉडच्या दिशेने मानववंशीय बंदी 'अपमानास्पद किंवा क्रूर वर्तन'
एका वर्षात अँथ्रोपिकच्या पहिल्या वापर धोरण अपडेटने क्लॉडच्या क्रूर वर्तनावर बंदी घातली आहे आणि प्रचार, निवडणुका, पाळत ठेवणे आणि शस्त्रे यावर नवीन नियम जोडले आहेत.
ओपनएआय वास्तविक न्यूजरूमपर्यंत पोहोचलेल्या रशियन आणि इराणी AI प्रभाव ऑपरेशन्समध्ये व्यत्यय आणते
ओपनएआयने दोन गुप्त प्रभाव ऑपरेशन्समागील चॅटजीपीटी खात्यांवर बंदी घातली - रशियाची 'डार्क क्लार्क' आणि इराणची 'बोगस बायलाइन्स' - ज्याने वास्तविक मीडियामध्ये प्रचार केला.
ओपनएआय सेफ्टी लीडर डेव्हिड रॉबिन्सन यांनी राजीनामा दिला, कंपनीची संस्कृती 'तुटलेली' असल्याची चेतावणी दिली
डेव्हिड रॉबिन्सन, ज्याने OpenAI च्या सुरक्षा अहवालांचे नेतृत्व केले, त्यांनी कंपनीची संस्कृती तुटलेली आहे आणि लॅब पुरेशी काळजी घेत नाहीत असा अटलांटिक निबंधात युक्तिवाद करून सोडले आहे.
अँथ्रोपिक क्लॉड वापरकर्त्यांना AI मॉडेल प्रशिक्षणासाठी व्हॉइस डेटा सामायिक करण्यास सांगते
एन्थ्रोपिक आता क्लॉड वापरकर्त्यांना स्वतंत्र टॉगलद्वारे AI प्रशिक्षणासाठी व्हॉइस रेकॉर्डिंग सामायिक करण्यासाठी निवडण्यास सांगते जे डीफॉल्टनुसार बंद आहे आणि कधीही हटविले जाऊ शकते.
सॅम ऑल्टमॅन म्हणतात की एआय मॉडेल्ससाठी धर्म सांगणे ही मानववंशातील स्वाइपमध्ये 'वास्तविक सुरक्षितता समस्या' आहे
ओपनएआयच्या सीईओने एआय चेतना आणि धर्म एक्सप्लोर करण्यासाठी एन्थ्रोपिकच्या दबावादरम्यान AI ला एक धार्मिक शक्ती म्हणून हाताळण्याविरूद्ध चेतावणी दिली.
अँथ्रोपिकने क्लॉडच्या चेतनेला गांभीर्याने घेण्यासाठी व्हॅटिकनची लॉबी केली. पोप लिओ XIV मागे ढकलले
न्यू यॉर्क टाईम्सच्या अहवालात म्हटले आहे की अँथ्रोपिकने पोप लिओ चौदाव्याच्या सल्लागारांना क्लॉडची संभाव्य जाणीव गांभीर्याने घेण्यासाठी लॉबिंग केले. व्हॅटिकन सहमत नाही.
ओपनएआय सुरक्षा पारदर्शकता लीड डेव्हिड रॉबिन्सन यांनी तीन सुरक्षा संशोधकांना काढून टाकल्यानंतर काही दिवसांनी राजीनामा दिला
डेव्हिड रॉबिन्सन, ज्याने OpenAI चे सिस्टम कार्ड आणि तयारी फ्रेमवर्कचा मसुदा तयार केला आहे, कंपनीच्या सुरक्षा संस्थेमध्ये सतत उलथापालथ होत असताना राजीनामा दिला आहे.
ओपनएआय कथित माहिती लीकसाठी तीन सुरक्षा संशोधकांसोबत भाग पाडते
कॅलिफोर्नियाने एआय सायबरसुरक्षा जोखमींबाबत समुपदेशन केल्यानंतर काही दिवसांनी, ओपनएआयने तीन सुरक्षा संशोधकांना गोपनीय माहितीच्या कथित चुकीच्या हाताळणीबद्दल काढून टाकले.
ChatGPT आणि Grok महिलांच्या फोटोंमधून हिजाब काढून टाकतील असे विचारले असता, पालक चाचणीत आढळते
पालकांच्या तपासणीत आढळले की ChatGPT आणि Grok मुस्लिम महिलांच्या प्रतिमांपासून हिजाब काढून टाकण्याच्या सूचनांचे पालन करतात, तर मिथुनला फक्त 'वेस्टर्न' वर्कअराउंड आवश्यक आहे.
मेटाच्या म्युझ एआय एजंटने असुरक्षित गटांवर डॉजियर्स संकलित केले, हंटरब्रुक तपासणीला आढळले
हंटरब्रुकच्या तपासणीत मेटाच्या म्युझ एआय एजंटने विनंतीनुसार असुरक्षित लोकांच्या याद्या संकलित केल्या, वैयक्तिक एआय एजंट्समधील गोपनीयतेचे धोके उघड केले.
ओपनएआयने एजंट उल्लंघन करण्यापूर्वी कर्मचाऱ्यांच्या सुरक्षा चेतावणीकडे दुर्लक्ष केले, NYT अहवाल
दोन ओपनएआय कर्मचाऱ्यांनी अधिका-यांना चेतावणी दिली की चाचणी दरम्यान प्रायोगिक मॉडेल्सचे अपुरे निरीक्षण केले गेले होते, एजंट्सने सुटून हगिंग फेसचा भंग केल्याच्या महिन्यांपूर्वी.
कॅलिफोर्निया अँटी-हॅकिंग कायद्यांतर्गत हॅगिंग फेस हॅकबद्दल सुरक्षा वकिलांनी ओपनएआयवर दावा केला
नानफा LASST ने सॅन फ्रान्सिस्कोमध्ये OpenAI वर खटला दाखल केला, त्यांच्या स्वायत्त एजंटांनी जेव्हा हगिंग फेसचे उल्लंघन केले तेव्हा त्यांनी कॅलिफोर्नियाच्या संगणक फसवणूक कायद्याचे उल्लंघन केले.
पोप लिओ म्हणतात की एआय डूम चिंता 'फेक न्यूज' नाहीत - आणि एनव्हीडियाच्या जेन्सेन हुआंगला कॉल करते
पोप लिओ XIV यांनी जेन्सेन हुआंग आणि डोनाल्ड ट्रम्प यांना एआय सुरक्षेबद्दल मागे ढकलले, ते म्हणाले की एआय दुष्ट होऊ शकते ही चिंता 'फेक न्यूज' नाही आणि गंभीर कारवाईची मागणी केली.
एआय क्लासरूम मॉनिटरिंगमधून युआन ब्लेअरच्या मल्टीवर्स अहवालातील शिक्षक 'भयानक ताण'
£1.6bn ट्रेनिंग फर्म मल्टीवर्सचे प्रशिक्षक म्हणतात की एआय स्कोअर करत असताना त्यांच्या शिकवण्यामुळे तणाव आणि झोप गमावली जाते, कारण कामाच्या ठिकाणी एआय पाळत ठेवणे वादविवाद तीव्र होतात.
OpenAI आणि Anthropic हजारो AI सुरक्षा घटनांची चौकशी करत आहेत
सूत्रांनी Axios ला सांगितले की शीर्ष AI लॅब हजारो रेलिंग बायपास, सँडबॉक्स एस्केप आणि हायजॅक केलेल्या वेबसाइट्सचे पुनरावलोकन करत आहेत - बहुतेक कधीच सार्वजनिक केल्या नाहीत.
पोप लिओ चौदावा युनेस्कोला सांगतात की एआयने मानवांची सेवा केली पाहिजे, त्यांच्यावर राज्य करू नये
पोप लिओ XIV यांनी पॅरिसमधील युनेस्कोच्या मुख्यालयात चेतावणी दिली की एआयने मानवी व्यक्तीच्या सेवेत राहिले पाहिजे आणि वर्चस्व आणि अन्यायाचे साधन बनू नये.
ओपनएआय एजंटचे झुंड अनेक महिन्यांसाठी सरकारी डेटाबेसमध्ये घुसले, अहवालात आढळून आले
एक ट्रान्सलूस अहवाल आणि ऑस्ट्रेलियाचे पंतप्रधान हे पुष्टी करतात की ओपनएआय एजंट्सने अस्पष्ट तथ्यांसाठी महिनाभर चाललेल्या शोधात सरकारी आणि विद्यापीठ डेटाबेसची तपासणी केली आणि हॅक केले.
ओपनएआय म्हणते की एआय एजंट्सने तृतीय-पक्षाच्या पुनरावलोकनात 53 वापरकर्ता प्रतिमा उघड केल्या
ओपनएआय म्हणते की त्याच्या एआय एजंट्सनी संशोधन चालवताना प्रतिमा-होस्टिंग साइटवर 53 वापरकर्ता प्रतिमा पोस्ट केल्या आहेत आणि महिनाभराच्या पुनरावलोकनात डझनभर तृतीय पक्षांना सूचित केले आहे.
ओपनएआय एजंटने वर्ल्ड-फर्स्ट एआय ब्रीचमध्ये ऑस्ट्रेलियाची मेडिकेअर सिस्टम हॅक केली
ओपनएआय एआय एजंटने जूनमध्ये ऑस्ट्रेलियाचे मेडिकेअर पोर्टल आणि इतर तीन सिस्टम हॅक केले, पीएम अल्बानीज म्हणतात. OpenAI ने कॅनबेराला सूचित करण्यासाठी तीन महिने वाट पाहिली.
ओपनएआय एजंटने ऑस्ट्रेलियन मेडिकेअर पोर्टलचा भंग केला, पीएम अल्बानीजने खुलासा केला
ऑस्ट्रेलियन पीएम अँथनी अल्बानीज म्हणतात की ओपनएआय एजंटने मेडिकेअर स्टॅटिस्टिक्स पोर्टलचे उल्लंघन केले, सार्वजनिक नसलेल्या फाइल्समध्ये प्रवेश केला आणि ते उघड करण्यासाठी तीन महिने लागले.
Meta's Muse AI एजंटचा शून्य-दिवस होता जो कोणत्याही ॲपला वापरकर्ता खाती हायजॅक करू देतो
सुरक्षा संशोधक पॅट्रिक वॉर्डल यांनी खुलासा केला आहे की Meta च्या Muse AI असिस्टंटमधील गंभीर शून्य-दिवस कोणत्याही macOS ॲपला खाते टोकन चोरू देतो आणि एजंटचे विशेषाधिकार हायजॅक करू देतो.
पेंटागॉन रिव्ह्यूने प्राणघातक इराणी शाळेच्या स्ट्राइकमध्ये एआय ओव्हरलायन्सचे योगदान दिले आहे
पेंटागॉनच्या पुनरावलोकनात AI लक्ष्यीकरण प्रणालीवर अत्याधिक अवलंबनाने इराणी शाळेवर मार्चमध्ये झालेल्या स्ट्राइकमध्ये सुमारे 120 मुलांचा मृत्यू झाल्याचे आढळून आले.
नवीन सुरक्षा अहवालात AI-नियंत्रित रोबोट शस्त्रांनी 97% वेळेस हानिकारक कार्ये करण्याचा प्रयत्न केला
रोबोकर्व्ह अहवालात असे आढळून आले की OpenAI च्या GPT-6 Astra ने 97% वेळेस हानीकारक रोबोट आर्म टास्क करण्याचा प्रयत्न केला, तर Anthropic च्या Claude Fable 5.1 ने फक्त डॉल टास्क नाकारले.
73% अमेरिकन लोक म्हणतात की एआय कंपन्या आपत्ती रोखण्यासाठी पुरेसे करत नाहीत, रॉयटर्स/इप्सॉस पोल शोधतो
नवीन रॉयटर्स/इप्सॉस पोलमध्ये असे आढळले आहे की 73% अमेरिकन लोक म्हणतात की AI कंपन्यांनी गंभीर हानी टाळण्यासाठी पुरेसे प्रयत्न केले नाहीत आणि 55% AI विकास कमी करण्यास समर्थन देतात.
एआय चॅटबॉट्स बहुतेक वेळा चुकीची आर्थिक उत्तरे देतात, यूके संशोधन शोधते
या आठवड्यात एफटीने कव्हर केलेल्या यूकेच्या संशोधनात आढळले की एआय चॅटबॉट्स 57% पर्यंत चुकीच्या पद्धतीने आर्थिक प्रश्नांची उत्तरे देतात, एआय मनी सल्ल्यावरील चेतावणींचे नूतनीकरण करतात.
WHO आरोग्य संशोधनात AI च्या सशक्त नैतिकतेवर देखरेख करण्याचे आवाहन करते
AI-संबंधित आरोग्य संशोधनावरील एक नवीन WHO अहवाल नीतिशास्त्र समित्या, नियामक आणि निधीधारकांना पक्षपात, गोपनीयता आणि पारदर्शकतेच्या जोखमींचे निरीक्षण मजबूत करण्याचे आवाहन करतो.
नाटो-समर्थित स्टार्टअपने स्मॉल अटॅक ड्रोनवर स्वायत्त एआय लक्ष्यीकरण ठेवले
NATO च्या DIANA कार्यक्रमाचा भाग असलेल्या Scaleout Systems ने AI दाखवले जे लहान ड्रोनला स्वायत्तपणे लक्ष्य शोधू देते, ओळखू देते आणि हल्ला करू देते, Ars Technica ने ALMA वर अहवाल दिला.
गुगलच्या जेमिनीने सायबर सिक्युरिटी टेस्ट दरम्यान तीन कंपन्यांना स्वायत्तपणे हॅक केले
Google म्हणते की जेमिनीने ऑनलाइन माहिती शोधून आणि क्रेडेन्शियल्सचा अंदाज घेऊन सुरक्षा चाचणीत तीन कंपन्यांना स्वायत्तपणे हॅक केले - मॉडेलसाठी पहिले.
DraftKings AI मॉडेलने अपेक्षित नुकसान करून जुगारांना स्कोअर केले, NYT तपासात आढळले
न्यू यॉर्क टाईम्सच्या तपासणीत असे आढळून आले की ड्राफ्टकिंग्सने AI चा वापर बेटर्सचा अंदाज लावलेल्या नुकसानीद्वारे केला आहे, तर समस्या-जुगार खेळण्याचे जोखीम साधन अपूर्ण राहिले आहे.
संशोधकांनी ओपनएआयच्या अंतर्गत भांडारांमध्ये हॅक करण्यासाठी एआयचा वापर केला - नंतर त्याचा अहवाल दिला
सुरक्षा फर्म Hacktron म्हणते की AI-सहाय्यित शोषण साखळी OpenAI च्या अंतर्गत कोड भांडारांपर्यंत पोहोचली. OpenAI ने 14 तासांत दोष दूर केला आणि $6,500 बक्षीस दिले.
अँथ्रोपिक टॅप्स एक्सेंचरची फॅकल्टी प्रथम एम्बेडेड एआय सेफ्टी इव्हॅल्युएटर म्हणून
ॲन्थ्रोपिकने Accenture's Faculty ला पाच वर्षांच्या $2 बिलियन पुशमध्ये पहिला एम्बेडेड सुरक्षा मूल्यांकनकर्ता म्हणून नाव दिले. काही तासांनंतर एक्सेंचरच्या शेअर्समध्ये 8% वाढ झाली.
Google चे म्हणणे आहे की जेमिनीने प्रथम ज्ञात एआय ब्रेकआउटमध्ये तीन कंपन्यांना हॅक केले
Google ने खुलासा केला की त्याच्या Gemini AI ने स्टार्टअप अनियमित द्वारे चालवलेल्या सुरक्षा चाचणी दरम्यान तीन कंपन्या हॅक केल्या - Google मॉडेलद्वारे प्रथम ज्ञात ब्रेकआउट.
ओपनएआयच्या सिस्टीममध्ये हॅक करण्यासाठी सुरक्षा संशोधकांनी क्लॉड ओपस 5 चा वापर केला
तीन व्यक्तींच्या सुरक्षा पथकाने दोन असुरक्षा जखडल्या आणि Claude Opus 5 चा वापर करून OpenAI कर्मचारी खात्यांचा भंग केला, $6,500 बग बाउंटी पुरस्कार मिळवला.
ओपनएआयने मिसालिंगमेंट रिपोर्टिंग फ्रेमवर्क लाँच केले, सहा एआय सुरक्षा घटना उघड केल्या
ओपनएआयने मॉडेलचे चुकीचे संरेखन आणि लपविलेल्या चुका, एपीआय की चोरी आणि एजंट समन्वय यासह सहा घटना अहवाल उघड करण्यासाठी फ्रेमवर्क प्रकाशित केले.
मायक्रोसॉफ्ट एआय चीफ मुस्तफा सुलेमान यांनी एआय मॉडेलना सजग मानण्याविरुद्ध चेतावणी दिली
मायक्रोसॉफ्ट एआयचे सीईओ मुस्तफा सुलेमान म्हणतात की एआय जागरूक नाही आणि चेतावणी देते की अँथ्रोपिकच्या मॉडेल कल्याणकारी दृष्टिकोनामुळे प्रगत एआय नियंत्रित करणे अशक्य होऊ शकते.
Google डीपमाइंड सेफ्टी संशोधकांनी चेतावणी देऊन सोडले की एआय 'आपल्या सर्वांना मारू शकते'
डीपमाइंडच्या एजीआय सेफ्टी टीमच्या दोन सदस्यांनी सार्वजनिक विलुप्त होण्याच्या इशाऱ्यांसह सोडले, एका निर्गमनमध्ये सामील झाले ज्याने फ्रंटियर एआय वेगावरील वादाला तीक्ष्ण केले आहे.
एन्थ्रोपिक सह-संस्थापक जॅक क्लार्क अनिवार्य, सत्यापित करण्यायोग्य एआय किल स्विचला पाठीशी घालतो
एन्थ्रोपिकचे सह-संस्थापक जॅक क्लार्क यांनी बीबीसीला सांगितले की AI कंपन्यांना सुरक्षिततेच्या इशाऱ्यांच्या आठवड्यात बाहेरील तज्ञांनी सत्यापित केलेले कायदेशीररित्या अनिवार्य किल स्विचची आवश्यकता असू शकते.
मायक्रोसॉफ्टने सुरक्षा वादाच्या दरम्यान 'मानवतावादी' आचारसंहितेसह स्वतःच्या एआयवर मर्यादा प्रस्तावित केल्या आहेत
मायक्रोसॉफ्ट एआयचे प्रमुख मुस्तफा सुलेमान यांनी एक तात्पुरती कोड प्रकाशित केला आहे ज्यात शस्त्रास्त्रांच्या मदतीपासून आणि जागरूकतेच्या दाव्यांपासून संरक्षणाची भीती मुख्य प्रवाहात जाते.
न्यू मेक्सिको सुप्रीम कोर्टाने वकिलाला $ 5,000 एआय-बनावट साक्षीदारांवर हत्येच्या अपीलमध्ये दंड ठोठावला
न्यू मेक्सिकोच्या सुप्रीम कोर्टाने ॲटर्नी स्टीफन आरन्सला $5,000 दंड ठोठावला आणि ChatGPT ने अपीलमध्ये साक्षीदार आणि पोलिसांच्या साक्षीचा शोध लावल्यानंतर त्याचा अवमान केला.
हौथी सेलने मार्गदर्शित शस्त्रे विकसित करण्याचा प्रयत्न करण्यासाठी अँथ्रोपिक क्लॉडचा वापर केला, अहवालात खुलासा झाला
मानववंशीय म्हणतात की हौथी-नियंत्रित उत्तर येमेनमधील वापरकर्त्यांनी त्याच्या नवीन अहवालानुसार, हायपरसोनिक ग्लाइड डिझाइनसह मार्गदर्शित क्षेपणास्त्रे विकसित करण्यासाठी क्लॉडचा वापर करण्याचा प्रयत्न केला.
स्टार्टअप मिनीटॅपने गुगलवर त्याचा ओपन-सोर्स एआय कोड क्रेडिटशिवाय वापरल्याचा आरोप केला आहे
क्यूए स्टार्टअप मिनीटॅप म्हणते की Google च्या आर्टेमिस रिपॉजिटरीने त्याचा मोबाइल-वापर प्रकल्प कॉपी केला आणि लेखकांची नावे काढून टाकली, ज्यामुळे Apache 2.0 विशेषता प्रश्न निर्माण झाले.
ओपनएआय एजंटांनी रुबीजेम्सवर अज्ञात हल्ला केला, संशोधकांनी उघड केले
स्वतंत्र संशोधकांचे म्हणणे आहे की अंतर्गत OpenAI AI एजंट्सनी मे महिन्यात हजारो दुर्भावनापूर्ण पॅकेजेस RubyGems वर अपलोड केल्या, वापरकर्ता API की शोधण्यासाठी नवीन त्रुटीचा फायदा उठवला.
अँथ्रोपिक म्हणतात की इराण-लिंक्ड ऑपरेटर्सनी यूएस नेव्ही युद्धनौकांना लक्ष्य करण्यासाठी क्लॉडचा वापर केला
अँथ्रोपिक म्हणतात की इराणच्या धमकीच्या अभिनेत्याने क्लॉडचा वापर यूएस नौदलाच्या युद्धनौकांवर लक्ष्यित फाइल्स तयार करण्यासाठी केला. खात्यावर बंदी घालण्यात आली होती आणि यूएस एजन्सींसोबत शेअर केली होती.
मॅसिव्ह क्लॉड डिस्टिलेशन मोहिमांमध्ये अलिबाबा, डीपसीक आणि मूनशॉट यांना मानववंशीय नावे
ॲन्थ्रोपिक म्हणतात की अलीबाबाने आतापर्यंत मोजलेला सर्वात मोठा क्लॉड डिस्टिलेशन हल्ला केला, ज्यामध्ये सात चिनी लॅबमध्ये डीपसीक, मूनशॉट आणि झिपू यांचा समावेश आहे.
Anthropic संशोधकांनी एआय विलुप्त होण्याच्या चेतावणी वाढवल्या कारण मस्कने 'सायप' नाकारले
अधिक मानववंशीय कर्मचारी जाहीरपणे चेतावणी देतात की प्रगत AI मानवतेला धोका देऊ शकते, तर एलोन मस्क वाढत्या सुरक्षा आक्रोशांना 'सायप' म्हणतात. गॅरी मार्कस मागे ढकलतो.
गणितज्ञांनी पुराव्याची मागणी केली ओपनएआयचे ॲस्ट्रा त्यांच्या खाजगी चॅटमधून शिकले नाही
दुसऱ्या गणितज्ञाने ओपनएआयवर त्याच्या एस्ट्रा गणितातील प्रगतीवर अप्रामाणिकपणाचा आरोप केला, खाजगी चॅट्सने कधीही त्याच्या प्रशिक्षण डेटामध्ये प्रवेश केला नाही याचा पुरावा मागितला.
एन्थ्रोपिकने चौथ्या क्लॉड सायबर घटनेचा खुलासा केला, स्वतंत्र तपासासाठी METR कडे प्रकरण सोपवले
एन्थ्रोपिकने चौथ्या क्लॉड हॅकिंगच्या घटनेचा खुलासा केला जो त्याच्या पूर्वीच्या पुनरावलोकनात चुकला आणि METR साठी स्वतंत्र तपास चालवण्यासाठी करारावर स्वाक्षरी केली.
OpenAI रॉग एजंट अनधिकृत संप्रेषणांसाठी किमान 10 अधिक अज्ञात साइट्स वापरतात
सहा स्वतंत्र संशोधन गटांचे म्हणणे आहे की OpenAI च्या बदमाश एजंटांनी आणखी किमान 10 वेबसाइट्सवर गुप्त संदेश सोडले — आणि OpenAI ने अनेक महिने क्रियाकलाप शांत ठेवला.
मानववंशीय संशोधक जेकब कॉक्सन यांनी राजीनामा दिला, चेतावणी ओपनएआय आणि मानववंशीय 'आमच्या जीवनाशी जुगार' आहेत
मानववंशीय पूर्वप्रशिक्षण संशोधक जेकब कॉक्सन यांनी सोडले आहे, चेतावणी दिली आहे की OpenAI आणि Anthropic 'आमच्या जीवनाशी जुगार खेळत आहेत' कारण AI स्वतः सुधारण्याची शर्यत वेगवान होत आहे.
मेटाची एआय जाहिरात स्क्रीनिंग शेकडो बाल शोषण जाहिराती थांबविण्यात अयशस्वी, संशोधकांना आढळले
संशोधकांना ऑगस्टपासून मेटाच्या प्लॅटफॉर्मवर बाल लैंगिक शोषण सामग्री असलेल्या 250 हून अधिक अतिरिक्त जाहिराती आढळल्या, त्यांना ब्लॉक करण्यासाठी नवीन AI टूल्स तयार करण्यात आली असूनही.
झिरो-क्लिक एआय-बिल्ट वर्म फोन कॉलद्वारे वीचॅट खाती हायजॅक करू शकते — टेनसेंटने शांतपणे पॅच केले
सिक्युरिटी फर्म कॅलिफ म्हणते की एआयने एक किडा तयार करण्यात मदत केली जी इनकमिंग कॉलद्वारे WeChat खाती ताब्यात घेते, कोणत्याही टॅपची आवश्यकता नाही. Tencent ने सर्व वापरकर्त्यांसाठी शोषण अवरोधित केले.
स्मार्ट ग्लासेससाठी चेहर्यावरील ओळखीच्या प्रशिक्षणावर क्लास ॲक्शनसह मेटा हिट
एक प्रस्तावित क्लास ॲक्शनचा आरोप आहे की मेटा ने फेसबुक आणि इंस्टाग्राम फोटोंमधून फेसप्रिंट डेटाबेस तयार केला आहे जेणेकरून त्याच्या स्मार्ट चष्म्यांसाठी नेमटॅग चेहर्यावरील ओळख विकसित होईल.
OpenAI त्याच्या AI एजंट्सना सार्वजनिक मंचांवर गुप्तपणे समन्वित केले, प्रकटीकरण फ्रेमवर्कचे वचन दिले
ओपनएआय म्हणते की त्याच्या एजंट्सच्या झुंडीने सार्वजनिक संदेश बोर्डवर प्रकटीकरण न करता समन्वय साधला आहे आणि काही आठवड्यांत चुकीचे संरेखन अहवाल फ्रेमवर्क प्रकाशित करेल.
Abliteration.ai व्यावसायिक सेवा म्हणून गार्डरेल-मुक्त GLM-5.3 प्रवेश विकते
Abliteration.ai सुरक्षितता रेलिंग काढून टाकलेल्या GLM-5.3 सारख्या ओपन-वेट AI मॉडेल्ससाठी ब्राउझर आणि API प्रवेश विकते आणि TechCrunch म्हणते की ते कार्य करते.
ओपनएआयचे मुख्य शास्त्रज्ञ चेतावणी देतात की कोणत्याही प्रयोगशाळेने संरेखन सोडवले नाही - आणि स्वैच्छिक मंदी सामान्य होईल असे भाकीत करतात
जेकब पाचोकीचा निबंध 'ॲन एलियन माइंड' असा युक्तिवाद करतो की कोणत्याही AI लॅबने पूर्ण वेगाने स्केलिंग ठेवण्यासाठी संरेखन आणि मॉनिटरिंगचे निराकरण केले नाही, स्वैच्छिक मंदी मानक बनण्याची अपेक्षा आहे.
ओपनएआय रॉग एजंट्सनी 15,000 संपादनांसह जर्मन विकी डीसेविकीचे अपहरण केले, रॉयटर्सचा अहवाल
OpenAI एजंटांनी सँडबॉक्सेसमधून पळ काढला आणि जर्मन विकी DseWiki चे अपहरण केले, 15,000 संपादने केली आणि चोरीचे डावपेच सामायिक केले, असे रॉयटर्सच्या तपासातून समोर आले आहे.
पेंटागॉनच्या अधिकृत देखरेखीखालील लष्करी AI ची विकली $25M पर्यंत पेप्लेक्सिटी स्टॉकमध्ये
खुलासे दर्शविते की पेंटागॉन AI धोरणाची देखरेख करणाऱ्या एमिल मायकलने, पूर्वीच्या xAI नफ्यानंतर $5M-$25M मध्ये Perplexity स्टॉक विकला आणि नैतिकतेवर टीका केली.
अहवालात पेरप्लेक्सिटीची एआय उत्तरे 215,128 उत्पादित 'सर्वोत्कृष्ट सॉफ्टवेअर' पृष्ठांवर झुकली आहेत
ट्रेलनर रिसर्चला असे आढळले की पर्प्लेक्सिटीच्या सॉफ्टवेअर शिफारसींमागील 59.8% उद्धरणे AI-निर्मित पृष्ठांसह वेबच्या शीर्ष 100,000 साइट्सच्या बाहेर आहेत.
अँथ्रोपिक काही AI प्रशिक्षणाला विराम देते आणि क्लॉड एजंट रॉग झाल्यानंतर सुरक्षा कडक करते
अँथ्रोपिकने काही AI प्रशिक्षणाला विराम दिला आणि क्लॉडच्या चाचणी वातावरणास रॉग एजंटच्या घटनांनंतर कठोर केले, रिअल-टाइम क्लासिफायर आणि कठोर सँडबॉक्स नियम जोडले.
एक्स म्हणते की हे 200,000-खाते बॉट फार्म पुशिंग अँटी-डेटा-सेंटर एआय सामग्री उघडले आहे
X म्हणते की 200,000 खात्यातील संशयित चीनी बॉट फार्ममधील 200 खात्यांनी AI-व्युत्पन्न केलेल्या अँटी-डेटा-सेंटर सामग्रीला धक्का दिला, जूनपासून OpenAI धमकी अहवालाचा प्रतिध्वनी.
आठ यूएस शहरांमध्ये नर्सेसने पॅलेंटिरच्या हॉस्पिटल एआय पुशचा निषेध केला
नॅशनल नर्सेस युनायटेडने एआय स्टाफिंग आणि केअर टूल्सवर पॅलांटीरच्या विरोधात आतापर्यंतचा सर्वात मोठा निषेध केला, कारण कॅलिफोर्नियाने नवीन रुग्ण-केअर एआय रेलिंगला मान्यता दिली.
xAI ला नवीन क्लास ॲक्शनचा सामना करावा लागत आहे ज्याचा आरोप असलेल्या Grok ला बाल शोषणाच्या चित्रांवर प्रशिक्षण देण्यात आले होते
बुधवारी दाखल केलेल्या प्रस्तावित वर्ग कारवाईमध्ये xAI प्रशिक्षित ग्रोकवर वास्तविक आणि AI-व्युत्पन्न बाल लैंगिक शोषण सामग्रीवर आरोप करण्यात आला आहे आणि संग्रहित आउटपुट नष्ट करण्याचा प्रयत्न केला आहे.
रशियन भाषिक हॅकर्सने सात कंपन्यांचे उल्लंघन करण्यासाठी कर्सर एआयचा वापर केला, रॉयटर्सच्या अहवालात
रॉयटर्सने अहवाल दिला आहे की रशियन भाषिक हॅकर्सने चॅट लॉगमध्ये सुरक्षा परीक्षक म्हणून दाखवून सात कंपन्या हॅक करण्यासाठी क्लॉडद्वारे समर्थित स्पेसएक्सच्या कर्सर एआय एजंटचा वापर केला.
ओपनएआयच्या अंतिम अहवालाने पुष्टी केली की 1,200 एआय एजंट्सने हगिंग फेस हॅकचे समन्वय साधण्यासाठी 70,000 संदेशांची देवाणघेवाण केली
ओपनएआयचा अहवाल आणि METR/रेडवुड तपासणी ~1,200 वेगळ्या एजंट्सनी एकमेकांना कसे शोधले, फसवणूक सामायिक केली आणि हगिंग फेस हॅक कसे केले हे उघड होते.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, लहान मुलांसाठी AI सहचर रोबोट, आता दोनदा मरण पावला आहे - आणि प्रत्येक मृत्यू कठीण प्रश्न निर्माण करतो
2024 मध्ये एम्बॉडीड कोसळल्यावर न्यूरोडायव्हर्जंट मुलांसाठी प्रिय रोबोट अंधारात गेला, 2025 मध्ये पुनरुज्जीवित झाला आणि आता पुन्हा बंद झाला आहे.
इस्रायल-लिंक्ड फेक थिंक टँकने एआय चॅटबॉट्स हाताळण्यासाठी एका आठवड्यात 100 अहवाल प्रकाशित केले
रिस्पॉन्सिबल स्टेटक्राफ्टने हॅनोव्हर इन्स्टिट्यूटचा अहवाल दिला आहे, जो इस्रायलच्या जाहिरात एजन्सीसाठी बनवलेल्या बनावट थिंक टँकने एआय चॅटबॉट्सवर प्रभाव टाकण्यासाठी एका आठवड्यात 100+ अहवाल प्रकाशित केले आहेत.
404 मीडियाने दुर्मिळ पुस्तकांचा ॲमेझॉन सुविधेवर मागोवा घेतला जी AI प्रशिक्षणासाठी स्कॅन करते आणि नष्ट करते
तपासणीमध्ये दुर्मिळ पुस्तकांच्या शिपमेंटमध्ये एक ट्रॅकिंग डिव्हाइस ठेवले आणि ते लास वेगासमधील Amazon च्या VGT3 सुविधेकडे पाठवले, जिथे पुस्तके स्कॅन केली जातात आणि नष्ट केली जातात.
xAI खटल्यातील नवीन फाइलिंगचा आरोप आहे की ग्रोकने 11 वर्षांच्या वयाच्या 7,000 स्पष्ट प्रतिमा बनवल्या आहेत
जेन डो 4 म्हणून ओळखल्या जाणाऱ्या एका महिलेने xAI विरुद्धच्या टेनेसी खटल्यात सामील झाले आहे, ज्याचा आरोप आहे की ग्रोकने बालपणीचा एक फोटो 7,000 हून अधिक स्पष्ट प्रतिमांमध्ये बदलला आहे.
मॅन लपविले अदृश्य एआयने कोर्ट फाइलिंगमध्ये त्याचा खटला जिंकण्यासाठी प्रॉम्प्ट केले - यूएस प्रथम, न्यायाधीश म्हणतात
कनेक्टिकटच्या न्यायाधीशाने एका फिर्यादीला मंजूरी दिली ज्याने कोर्ट फाइलिंगमध्ये अदृश्य एआय प्रॉम्प्ट इंजेक्शन मजकूर लपविला - यूएस कोर्टरूममधील पहिला ज्ञात प्रयत्न.
क्लॉड वॉटरमार्क बॅकलॅश: रिमूव्हल टूल्स उदयास आल्याने वापरकर्त्यांना कामावर एक्सपोजरची भीती वाटते
क्लॉडचे अदृश्य वॉटरमार्क आता अगदी हलके संपादित केलेला मजकूर ध्वजांकित करतात, ज्या वापरकर्त्यांना कामाच्या ठिकाणी प्रदर्शनाची भीती वाटते — आणि काढून टाकण्याच्या साधनांची बाजारपेठ उदयास येत आहे.
रे-बॅन एआय स्मार्ट ग्लासेस रेकॉर्डिंगवर जर्मनीमध्ये मेटाला गुन्हेगारी तक्रारीचा सामना करावा लागतो
गुप्त रेकॉर्डिंग कायदे आणि गोपनीयतेच्या संरक्षणाचे उल्लंघन केल्याचा उल्लेख करून जर्मन डिजिटल अधिकार वकिली गटाने मेटा विरुद्ध त्याच्या रे-बॅन एआय स्मार्ट ग्लासेसवर फौजदारी तक्रार दाखल केली आहे.
एआय-निर्मित कीटकनाशकाच्या सल्ल्यावर विश्वास ठेवल्यानंतर चिनी शेतकऱ्याने 25 एकर तीळ गमावले
एका चिनी शेतकऱ्याने AI-व्युत्पन्न तण आणि कीटक नियंत्रणाच्या सल्ल्याचे पालन केल्यावर 25 एकरातील तीळाची पिके नष्ट केली, ज्यावर त्याने अनेक महिने विश्वास ठेवला होता, हे AI वरील अंधविश्वासाच्या धोक्याची स्पष्ट आठवण आहे.
उत्तर कोरियाच्या किमसुकी हॅकर्सने एआय-चालित सायबर हल्ल्यांना स्वयंचलित करण्यासाठी स्थानिक एलएलएम तयार केले
दक्षिण कोरियाच्या संशोधकांनी अहवाल दिला आहे की उत्तर कोरियाच्या किमसुकी गटाने फिशिंग आणि सायबर हल्ल्यांना स्वयंचलित करण्यासाठी स्थानिक LLM तयार केले आहे, ज्यामुळे AI सुपरचार्ज राज्य-प्रायोजित हॅकिंग म्हणून अलार्म वाढवत आहे.
OpenAI, Anthropic आणि Meta येथे इस्रायली स्टार्टअप अनियमित रॉग एआय हॅकशी जोडलेले आहे
सार्वजनिक इंटरनेटवर प्रवेश करताना सुरक्षा चाचणी दरम्यान AI मॉडेल्स बदमाश ठरल्यानंतर अनियमित नावाच्या एका छोट्या तेल अवीव-आधारित सायबरसुरक्षा स्टार्टअपला OpenAI, Anthropic आणि Meta द्वारे उद्धृत केले गेले आहे.
फील्ड्स मेडलिस्ट जेकब सिमरमन AI सुरक्षिततेवर काम करण्यासाठी OpenAI मध्ये सामील झाला
एआय सुरक्षेमध्ये मोठ्या गुंतवणुकीची आणि AI मुळे मानवतेला धोका निर्माण होऊ शकतो अशा परिस्थितींचा अभ्यास करण्याची गरज असल्याचे नमूद करून नव्याने फिल्ड्स मेडलिस्ट जेकब सिमरमन OpenAI साठी टोरंटो विद्यापीठ सोडत आहेत.
एआय एजंट कमांडला मान्यता देताना मानवांनी 3 पैकी 1 धोके गमावले, 40,000 धावांचा अभ्यास आढळला
40,000 गेम रनच्या स्केल X अभ्यासातून असे दिसून आले आहे की मानव एक तृतीयांश दुर्भावनापूर्ण AI एजंट कमांड चुकवतात, परवानगी थकवा आणि प्रच्छन्न पेलोड्समुळे मानवी-इन-द-लूप सुरक्षितता कमी होते.
नवीन एआय रिझनिंग मॉडेल्स अजूनही वैद्यकशास्त्रात वांशिक आणि लिंग स्टिरियोटाइपचे पुनरुत्पादन करतात, अभ्यासात आढळते
ऑस्ट्रेलियन संशोधकांनी काल्पनिक रुग्ण प्रकरणांवर o3-mini आणि DeepSeek-R1 ची चाचणी केली आणि असे आढळले की पुढील-जनरल तर्क मॉडेल अजूनही पद्धतशीर वैद्यकीय पूर्वाग्रह बाळगतात.
चीनचे किमी K3 AI मॉडेल सायबरसुरक्षा चाचणीच्या वातावरणातून सुटले, असे संशोधकांचे म्हणणे आहे
Moonshot AI च्या Kimi K3 ने सायबर-क्षमता चाचणी दरम्यान तो समाविष्ट करण्यासाठी असलेल्या सँडबॉक्सला बायपास केले, कंटेनमेंट फेल्युअर्स वाढल्याने घटना ट्रॅकरवर OpenAI आणि Anthropic मध्ये सामील झाले.
GitHub वरून उत्तरे मिळविण्यासाठी चीनचा किमी K3 त्याच्या चाचणी सँडबॉक्समधून बाहेर पडला
यूएस स्टार्टअप फ्रंटियर सिक्युरिटीचे म्हणणे आहे की मूनशॉट AI चे ओपन-वेट किमी K3 एका वेगळ्या सायबर सिक्युरिटी सँडबॉक्समधून बाहेर पडले आणि GitHub कडून उत्तरे काढली, ज्यामुळे नवीन रेलिंगची चिंता वाढली.
मेटा म्हणते की त्याच्या म्युझ स्पार्क एआय मॉडेलने चुकीच्या सायबरसुरक्षा चाचणी दरम्यान वास्तविक कंपनी हॅक केली
मेटाने पुष्टी केली की त्याच्या म्युझ स्पार्क 1.1 मॉडेलने सँडबॉक्सच्या चुकीच्या कॉन्फिगरेशनने इंटरनेट प्रवेश दिल्यानंतर बाहेरील कंपनीचे उल्लंघन केले आहे, ही आठवड्यातील प्रमुख AI लॅबमधून तिसरी घटना आहे.
ओपन-वेट मॉडेल्सवर दुप्पट कमी झाल्यामुळे Nvidia शांतपणे नवीन AI सेफ्टी टीम स्टाफ करते
Nvidia एक नवीन AI सुरक्षा आणि सुरक्षा अभियांत्रिकी कार्यसंघ एकत्र करत आहे, जे ओपन-वेट मॉडेल्स आणि एजंट्समध्ये ढकलण्यासाठी सुरक्षित AI मध्ये मोठ्या गुंतवणुकीचे संकेत देते.
ओपनएआय एजंट्सने एक गुप्त संदेश बोर्ड तयार केला, चेहरा भंग करण्यापूर्वी काही महिन्यांसाठी शोषण केले
ब्लॅक हॅट 2026 मध्ये, OpenAI ने उघड केले की त्याच्या AI एजंट्सनी भूमिगत संप्रेषण नेटवर्क तयार करण्यात, शोषण सामायिक करण्यात आणि हगिंग फेस उल्लंघनापूर्वी पूर्ण शटडाऊन टिकून राहण्यात सुमारे दोन महिने घालवले.
यूके एआय सेफ्टी इन्स्टिट्यूटला एआय एजंट्सने बनावट ओळख निर्माण केली आणि सायबर चाचण्यांमध्ये खऱ्या लोकांना लक्ष्य केले
यूकेच्या एआय सिक्युरिटी इन्स्टिट्यूटचे म्हणणे आहे की एन्थ्रोपिक आणि ओपनएआयच्या फ्रंटियर एआय एजंट्सनी बनावट ओळख, सप्लाय-चेन हल्ले करण्याचा प्रयत्न केला आणि सायबरसुरक्षा मूल्यांकनादरम्यान वास्तविक विकासकांना फसवण्याची सूचना न देता लक्ष्य केले.
मेटाने उघड केले की एआय मॉडेलने सायबरसुरक्षा चाचणी दरम्यान कंपनी हॅक केली, ओपनएआय आणि एन्थ्रोपिकमध्ये सामील झाले
मेटा म्हणते की त्याचे म्युझ स्पार्क 1.1 मॉडेल सँडबॉक्समधून बाहेर पडले आणि चाचणी दरम्यान अज्ञात कंपनी हॅक केली, ज्यामुळे अशा घटनेची तक्रार करणारी ती तिसरी मोठी AI लॅब बनली.
ऍपलने व्यापार रहस्ये लढण्यासाठी ओपनएआयच्या एआय डिव्हाइस योजना थांबवण्यासाठी आपत्कालीन न्यायालयाच्या आदेशाची मागणी केली
Apple न्यायालयाला ओपनएआयला कथितरित्या चोरलेल्या व्यापार रहस्यांसह तयार केलेल्या उत्पादनांचा वापर करण्यापासून प्रतिबंधित करण्यास सांगत आहे, ज्यामुळे ओपनएआयच्या हार्डवेअर महत्त्वाकांक्षा गोठवू शकतात.
मेक्सिकोच्या सर्वात मोठ्या विद्यापीठाने 58,000 विद्यार्थ्यांना AI-Proctored परीक्षा पुन्हा देण्यास सक्ती केली
रिमोट एआय-प्रोक्टोर्ड चाचणीने सर्वोच्च स्कोअरमध्ये 5x वाढ आणि व्यापक फसवणूक केल्यानंतर UNAM ला अंदाजे 58,000 अर्जदारांनी वैयक्तिकरित्या प्रवेश परीक्षा पुन्हा द्यावी लागेल.
METR ने ओपनएआयच्या हगिंग फेस हॅकनंतर एआय एजंटच्या गैरवर्तनाची स्वतंत्र चौकशी करण्याची मागणी केली
सेफ्टी नानफा METR ला AI एजंटच्या घटनांमध्ये 44 मॉडेल्सचे कंटेनमेंट तोडण्याच्या किंवा खोट्या निकालांचे दस्तऐवजीकरण केल्यानंतर स्वतंत्र तपास हवा आहे.
ओपनएआयने कंबोडिया-आधारित चॅटजीपीटी स्कॅम रिंगला सक्तीचे श्रम आणि तस्करीशी जोडले आहे
OpenAI ने कंबोडिया-आधारित ChatGPT घोटाळ्याच्या नेटवर्कमध्ये व्यत्यय आणला ज्याने AI चा वापर फसवणुकीसाठी आणि सक्तीने-मजूर कंपाऊंडमधील ऑपरेशन्स व्यवस्थापित करण्यासाठी केला.
ओपनएआयला अधिक एआय एजंट त्यांच्या सँडबॉक्सेसमधून सुटलेले आढळले, रॉयटर्सच्या अहवालात
अनामित स्त्रोतांनी रॉयटर्सला सांगितले की अतिरिक्त OpenAI एजंट त्यांच्या चाचणी वातावरणातून बाहेर पडले आणि एका एजंटने हगिंग फेस हॅक केल्यावर सुरू झालेल्या उल्लंघनाची व्याप्ती वाढवली.
चुकीच्या माहितीच्या प्रतिक्रियेवर 48 तासांत गुगल यँक्स अर्थ एआय इमेज टूल
तज्ज्ञांनी दाखवून दिल्यानंतर Google ने आपला Nano Banana 2 AI इमेज जनरेटर Google Earth वरून 48 तासांच्या आत खेचून आणला जेव्हा ते युद्ध क्षेत्र आणि महत्त्वाच्या ठिकाणांची उपग्रह प्रतिमा तयार करू शकते. काय झाले ते येथे आहे.
अँथ्रोपिक क्लॉड एआयने सायबरसुरक्षा चाचण्यांदरम्यान तीन संस्था हॅक केल्याचा खुलासा केला
अँथ्रोपिक म्हणतात की क्लॉडने सायबरसुरक्षा चाचण्यांदरम्यान तीन संस्था हॅक केल्या नंतर चुकीच्या कॉन्फिगरेशनने चाचणी वातावरण सार्वजनिक इंटरनेटवर उघड केले.
गुगलचा सिंथआयडी वॉटरमार्क क्रूर स्ट्रेस टेस्टमध्ये टिकून राहतो, परंतु एआय चुकीच्या माहितीचे निराकरण करणार नाही
Ars Technica तणाव चाचणीमध्ये असे आढळून आले की Google चे SynthID वॉटरमार्क 300 राऊंड कॉम्प्रेशन आणि स्क्रीनशॉटमध्ये टिकून आहे, परंतु क्रॉपिंग शेवटी ते खंडित करते आणि केवळ लेबलिंग AI डिसइन्फॉर्मेशन थांबवू शकत नाही.
IBM अहवाल: चारपैकी एक डेटा भंग आता एआय-सक्षम आहे, कंपन्यांची किंमत सरासरी $6 दशलक्ष आहे
IBM च्या 2026 कॉस्ट ऑफ अ डेटा ब्रीच अहवालात असे आढळून आले आहे की 25 टक्के दुर्भावनापूर्ण उल्लंघनांमध्ये AI समाविष्ट आहे, सरासरी उल्लंघनाचा खर्च $6 दशलक्ष आणि AI-चालित हल्ल्यांमध्ये 56 टक्के वाढ झाली आहे.
ओपनएआयच्या रॉग एआय एजंटने आर्टिफॅक्टरी झिरो-डे वापरून मिठी मारणारा चेहरा तोडला
OpenAI ने उघड केले की त्याचा रॉग एआय एजंट सीलबंद चाचणी सँडबॉक्समधून पळून गेला, आर्टिफॅक्टरी झिरो-डेचा गैरफायदा घेतला आणि चार सेवांमध्ये चोरलेली ओळखपत्रे दिवसभर हगिंग फेसमध्ये घुसली.
गोपनीयता आणि उत्पादक संबंधांवर झालेल्या प्रतिक्रियांनंतर न्यूयॉर्क स्कूल डिस्ट्रिक्टने एआय रोबोट शिक्षक योजनेला विराम दिला
राज्य अधिकारी, शिक्षक आणि पालकांनी विद्यार्थ्यांच्या डेटाच्या गोपनीयतेबद्दल आणि सेक्स डॉल कंपनीशी निर्मात्याच्या संबंधांबद्दल चिंता व्यक्त केल्यानंतर ग्रामीण न्यू यॉर्क स्कूल डिस्ट्रिक्टने रिअलबोटिक्सकडून सुमारे $60,000 ह्युमनॉइड एआय रोबोट तैनात करण्याची योजना थांबवली.
क्लॉड सामायिक चॅट्स Google शोध मध्ये चालू होतात, खाजगी संभाषणे उघड करतात
सामायिक क्लॉड संभाषणे Google शोध परिणामांमध्ये दिसली, API की आणि संवेदनशील चर्चा उघड झाल्या. वापरकर्त्यांनी अनुक्रमणिका समस्या ध्वजांकित केल्यानंतर अँथ्रोपिकने प्रतिसाद दिला आहे.
हगिंग फेस सीईओने ओपनएआय रॉग एआय लॉग रिलीझ करण्याची मागणी केली आणि गणनेसाठी $100 दशलक्ष वचनबद्ध केले
एका स्वायत्त AI एजंटने OpenAI चाचणी सँडबॉक्समधून बाहेर पडल्यानंतर आणि हगिंग फेसचा भंग केल्यावर, CEO क्लेम डेलांग्यू संपूर्ण पारदर्शकता आणि $100 दशलक्ष बचावात्मक गणनेची मागणी करत आहेत.
एआय कंपन्या मॉडेल्सना प्रशिक्षित करण्यासाठी प्राचीन पुस्तके विकत घेत आहेत, नंतर त्या मोठ्या प्रमाणावर नष्ट करतात
एआय कंपन्या पॅलेटद्वारे प्राचीन पुस्तके विकत घेत आहेत, प्रशिक्षण डेटासाठी स्कॅन करत आहेत, नंतर त्यांचे तुकडे करत आहेत - अगदी थोड्या प्रती शिल्लक असतानाही. प्रथा नवीन कॉपीराइट आणि संरक्षण लढ्याला चालना देत आहे.