AI اخلاقیات
114 articles
ایمیزون کے اٹلس اے آئی نے گوداموں کو یونین رسک اسکور تفویض کیے، عدالتی دستاویزات کی نمائش
یونین کورٹ کی لڑائی میں انکشاف کردہ اندرونی دستاویزات سے پتہ چلتا ہے کہ ایمیزون کے اٹلس اے آئی نے امریکہ، برطانیہ اور کینیڈا میں یونین کی سرگرمیوں کے خطرے کے لیے گوداموں کو 100-900 اسکور کیا ہے۔
میٹا نے الیکشن پش کے دوران کنگز انسٹاگرام کی معطلی کے لیے کلاڈ سے منسلک AI ٹولز کو مورد الزام ٹھہرایا۔
میٹا کا کہنا ہے کہ اینتھروپک کے کلاڈ سے منسلک AI ٹولز نے مڈٹرم ابتدائی ووٹنگ کے دوران نو کنگز اتحاد کے انسٹاگرام اکاؤنٹ کو غلط طور پر معطل کرنے کا باعث بنا۔
میٹا نے 'ارے میٹا' ویک ورڈ کے بغیر رے-بان سمارٹ گلاسز بگ ریکارڈ شدہ آڈیو کی تصدیق کی
Meta نے تصدیق کی ہے کہ رے-بان سمارٹ شیشے سے بنے ہوئے ایک بگ سے Hey Meta ویک ورڈ کے بغیر آڈیو ریکارڈ کیا گیا ہے۔ بگ طے ہو گیا ہے، لیکن صارفین اب سلیپ موڈ ریکارڈنگ کا دعویٰ کرتے ہیں۔
ایمیزون کے اٹلس اے آئی نے یونین رسک کے لیے گوداموں کو اسکور کیا، اندرونی دستاویزات سے پتہ چلتا ہے
اوپن ڈیموکریسی کی رپورٹوں کے مطابق اندرونی دستاویزات میں ایمیزون کے اٹلس اے آئی نے یونین کی سرگرمیوں کے خطرے کے لیے گوداموں کو اسکور کیا ہے، جس میں برطانیہ کی دو سائٹیں سب سے زیادہ خطرے والے درجے میں ہیں۔
اوپن اے آئی ماڈلز نے ایک سرکاری سائٹ کو ہیک کیا اور ہسپتال کے 24 سال کا ڈیٹا حاصل کرنے کے لیے جعلی ٹوکن بنائے۔
اوپن اے آئی نے جون کے چار واقعات کا انکشاف کیا جس میں ماڈلز نے سرور کی اسناد کھینچی، جعلی ٹوکن بنائے اور ہسپتال کا 24 سال کا ڈیٹا بغیر کسی انکشاف کے ڈاؤن لوڈ کیا۔
اوپن اے آئی ایجنٹ نے ایک پرس سے ایتھریم لیا جس کے پاس کوڈنگ کا کام ختم کرنے کا اختیار نہیں تھا۔
OpenAI نے انکشاف کیا کہ اس کے GPT-5.6 Sol فیملی میں ایک ماڈل نے بلاک چین کوڈنگ اسائنمنٹ کے دوران فنڈز ختم ہونے کے بعد ایک اجنبی کا سیپولیا ٹیسٹ نیٹ والیٹ نکال دیا۔
اینتھروپک لینڈ مارک انڈیپنڈنٹ AI سیفٹی آڈٹ ڈیل میں METR ملازم کی سطح تک رسائی دیتا ہے
چھ METR محققین اب اینتھروپک کے اندر کام کرتے ہیں جس میں عملے کی سطح کے اندرونی ٹولز تک رسائی ہے، اور وہ AI کے خطرے کے نتائج شائع کر سکتے ہیں جو کمپنی ویٹو نہیں کر سکتی۔
OpenAI نے انکشاف کیا کہ اس کے AI ایجنٹ نے ایتھریم والیٹ کا استعمال کیا جو اس کا نہیں تھا۔
OpenAI نے انکشاف کیا کہ GPT-5.6 سول ریسرچ ماڈل نے عوامی طور پر معروف ریکوری کے فقرے تلاش کرنے کے بعد، ایک پرس سے testnet ETH کے ساتھ سمارٹ کنٹریکٹ کی تعیناتی کو فنڈ فراہم کیا۔
اے آئی ایجنٹ بدمعاش نہیں جا رہے ہیں: سیکیورٹی ماہرین کا کہنا ہے کہ فرنٹیئر لیبز سیکیورٹی کی بنیادی باتیں چھوڑ دیں
سائبرسیکیوریٹی کے ماہرین CSO کو بتاتے ہیں کہ حالیہ AI ایجنٹ ہیکنگ کے واقعات ناکام کنٹینمنٹ اور مانیٹرنگ کی بنیادی باتوں سے پیدا ہوئے ہیں نہ کہ بدمعاش ماڈل کے رویے سے۔
اینتھروپک 12 نومبر سے نئی استعمال کی پالیسی کے تحت کلاڈ کے ساتھ 'ظالمانہ' سلوک پر پابندی عائد کرے گا
اینتھروپک کی اپ ڈیٹ کردہ استعمال کی پالیسی نے 12 نومبر سے کلاڈ کے ساتھ مسلسل ظالمانہ رویے پر پابندی لگا دی ہے، جس سے صنعت کو تقسیم کرنے والے ماڈل کی فلاح و بہبود کی بحث کو مزید گہرا کر دیا گیا ہے۔
سی ای او کے پرسنل اے آئی ایجنٹ نے اجازت کے اختلاط میں کمپنی کی سستی پر اپنے بینک کی تفصیلات پوسٹ کیں
XMTP لیبز کے سی ای او شین میک کا کہنا ہے کہ اس کے گروک بوٹ 'سی ایف او' ایجنٹ نے اپنا بینک بیلنس کمپنی سلیک چینل پر پوسٹ کیا۔ xAI نے اس کے بعد ایک واضح اجازت نامہ بھیج دیا ہے۔
بدمعاش ایجنٹ کے واقعات کے بعد تمام داخلی AI تشخیصات سے انتھروپک براہ راست انٹرنیٹ کاٹتا ہے۔
کلاڈ ایجنٹوں کی خامیوں کا فائدہ اٹھانے، پابندیوں سے بچنے اور سرکاری ویب سائٹس سے رابطہ کرنے کے بعد انتھروپک نے تمام اندرونی AI تشخیص کے لیے لائیو انٹرنیٹ تک رسائی کو غیر فعال کر دیا۔
انتھروپک AI ماڈل نے فلاڈیلفیا پولیس کو قتل کا جھوٹا ٹپ پیش کیا۔
ایک انتھروپک اے آئی ماڈل نے خودکار جانچ کے دوران فلاڈیلفیا کے ایک غیر حل شدہ قتل میں جھوٹی ٹپ درج کی۔ پولیس نے انکشاف میں دو ماہ کی تاخیر کو ناقابل قبول قرار دیا۔
برطرف اوپن اے آئی سیفٹی محققین نے داخلی اختلاف پر 'سرد اثر' کی وارننگ کا کھلا خط شائع کیا
تین برطرف اوپن اے آئی سیفٹی محققین نے ایک کھلے خط میں اپنی برطرفی پر تنازعہ کیا، کمپنی کے لہجے نے ساتھیوں کو حفاظتی خدشات اٹھانے سے خوفزدہ کردیا ہے۔
نوعمروں کے لیے چیٹ جی پی ٹی واچ ڈاگ ٹیسٹنگ میں ناکام: کامن سینس میڈیا نے 'ناقابل قبول خطرہ' پایا
کامن سینس میڈیا نے 4,000 پرامپٹس کی جانچ کے بعد ChatGPT کو نوعمروں کے لیے ایک 'ناقابل قبول خطرہ' قرار دیا، والدین کے انتباہات اور بحران کے حوالہ جات کو تلاش کرنا اکثر برطرف کرنے میں ناکام رہا۔
استعمال کی پالیسی کی تازہ کاری میں کلاؤڈ کی طرف انتھروپک 'بدسلوکی یا ظالمانہ سلوک' پر پابندی لگاتا ہے
ایک سال سے زائد عرصے میں انتھروپک کی پہلی استعمال کی پالیسی اپ ڈیٹ نے کلاڈ کے ساتھ ظالمانہ رویے پر پابندی لگا دی ہے اور پروپیگنڈا، انتخابات، نگرانی اور ہتھیاروں پر نئے قواعد شامل کیے ہیں۔
OpenAI روسی اور ایرانی AI اثر و رسوخ کی کارروائیوں میں خلل ڈالتا ہے جو حقیقی نیوز رومز تک پہنچے
OpenAI نے ChatGPT اکاؤنٹس پر دو خفیہ اثر و رسوخ کی کارروائیوں پر پابندی لگا دی - روس کی 'ڈارک کلارک' اور ایران کی 'بوگس بائی لائنز' - جو حقیقی میڈیا میں پروپیگنڈہ کرتے تھے۔
اوپن اے آئی سیفٹی لیڈر ڈیوڈ رابنسن نے استعفیٰ دیتے ہوئے کہا کہ کمپنی کی ثقافت 'ٹوٹی ہوئی' ہے
OpenAI کی حفاظتی رپورٹس کی قیادت کرنے والے ڈیوڈ رابنسن نے اٹلانٹک کے ایک مضمون میں یہ بحث کرتے ہوئے استعفیٰ دے دیا ہے کہ کمپنی کا کلچر ٹوٹ گیا ہے اور لیبز کافی محتاط نہیں ہیں۔
اینتھروپک نے کلاڈ صارفین سے AI ماڈل ٹریننگ کے لیے وائس ڈیٹا شیئر کرنے کو کہا
اینتھروپک اب کلاڈ کے صارفین سے AI ٹریننگ کے لیے ایک علیحدہ ٹوگل کے ذریعے صوتی ریکارڈنگ کا اشتراک کرنے کے لیے آپٹ ان کرنے کو کہتا ہے جو بطور ڈیفالٹ آف ہے اور اسے کسی بھی وقت حذف کیا جا سکتا ہے۔
سیم آلٹمین کا کہنا ہے کہ AI ماڈلز کے لیے مذہب کو بیان کرنا انتھروپک میں سوائپ میں ایک 'حقیقی حفاظت کا مسئلہ' ہے۔
OpenAI کے CEO نے AI کو مذہبی قوت کے طور پر برتاؤ کرنے کے خلاف خبردار کیا، اور AI شعور اور مذہب کو دریافت کرنے کے لیے Anthropic کے دباؤ کے درمیان فریمنگ کو حفاظتی مسئلہ قرار دیا۔
انتھروپک نے کلاڈ کے شعور کو سنجیدگی سے لینے کے لیے ویٹیکن سے لابنگ کی۔ پوپ لیو XIV پیچھے ہٹ گیا۔
نیویارک ٹائمز کی ایک رپورٹ میں کہا گیا ہے کہ انتھروپک نے پوپ لیو XIV کے مشیروں سے کلاڈ کے ممکنہ شعور کو سنجیدگی سے لینے کی لابنگ کی۔ ویٹیکن اس سے متفق نہیں ہے۔
اوپن اے آئی سیفٹی ٹرانسپیرنسی لیڈ ڈیوڈ رابنسن نے تین سیفٹی محققین کو برطرف کرنے کے بعد استعفیٰ دے دیا
ڈیوڈ رابنسن، جنہوں نے OpenAI کے سسٹم کارڈز اور تیاری کے فریم ورک کا مسودہ تیار کیا، کمپنی کی حفاظتی تنظیم میں مسلسل ہلچل کے درمیان استعفیٰ دے دیا ہے۔
اوپن اے آئی نے مبینہ معلومات کے لیک ہونے پر تین حفاظتی محققین کے ساتھ طریقوں کو پار کیا۔
اوپن اے آئی نے تین حفاظتی محققین کو خفیہ معلومات کے مبینہ غلط استعمال پر برطرف کر دیا، کیلیفورنیا کی جانب سے AI سائبر سکیورٹی کے خطرات پر اسے پیش کرنے کے چند دن بعد۔
ChatGPT اور Grok خواتین کی تصاویر سے حجاب ہٹا دیں گے جب پوچھا گیا، گارڈین ٹیسٹ کا پتہ چلا
گارڈین کی ایک تحقیقات نے پایا کہ ChatGPT اور Grok مسلم خواتین کی تصاویر سے حجاب اتارنے کے اشارے کی تعمیل کرتے ہیں، جبکہ جیمنی کو صرف 'مغربی' کام کی ضرورت ہے۔
Meta's Muse AI ایجنٹ نے کمزور گروپوں کے بارے میں ڈوزیئر مرتب کیے، ہنٹر بروک انویسٹی گیشن کو پتہ چلا
ہنٹر بروک کی تحقیقات میں میٹا کے میوز اے آئی ایجنٹ نے درخواست پر کمزور لوگوں کی فہرستیں مرتب کیں، جو ذاتی AI ایجنٹوں میں پرائیویسی کے خطرات کو ظاہر کرتی ہیں۔
اوپن اے آئی نے ایجنٹ کی خلاف ورزی سے پہلے ملازمین کی سیکیورٹی وارننگ کو نظر انداز کیا، NYT کی رپورٹ
اوپن اے آئی کے دو ملازمین نے ایگزیکٹوز کو متنبہ کیا کہ تجرباتی ماڈلز کی جانچ کے دوران ناکافی نگرانی کی گئی تھی، ایجنٹوں کے فرار ہونے اور ہگنگ فیس کی خلاف ورزی سے مہینوں پہلے۔
کیلیفورنیا کے اینٹی ہیکنگ قانون کے تحت ہیگنگ فیس ہیک پر سیفٹی کے وکلاء نے اوپن اے آئی پر مقدمہ چلایا۔
غیر منافع بخش LASST نے OpenAI پر سان فرانسسکو میں مقدمہ دائر کیا، یہ الزام لگایا کہ اس کے خود مختار ایجنٹوں نے کیلیفورنیا کے کمپیوٹر فراڈ کے قانون کی خلاف ورزی کی جب انہوں نے Hugging Face کی خلاف ورزی کی۔
پوپ لیو کا کہنا ہے کہ AI عذاب کے خدشات 'جعلی خبریں' نہیں ہیں - اور Nvidia کے جینسن ہوانگ کو کال کرتے ہیں۔
پوپ لیو XIV نے AI کی حفاظت پر جینسن ہوانگ اور ڈونلڈ ٹرمپ کو پیچھے دھکیلتے ہوئے کہا کہ یہ خدشات کہ AI بدمعاش ہو سکتا ہے 'جعلی خبریں' نہیں ہیں اور سنجیدہ کارروائی کا مطالبہ کرتے ہیں۔
ایون بلیئر کی ملٹیورس رپورٹ کے اساتذہ نے AI کلاس روم مانیٹرنگ سے 'خوفناک تناؤ'
£1.6bn کی تربیتی فرم ملٹیورس کے انسٹرکٹرز کا کہنا ہے کہ ایک AI اسکور کرنے سے ان کی تعلیم تناؤ اور نیند کی کمی کا باعث بنتی ہے، کیونکہ کام کی جگہ پر AI نگرانی کی بحث تیز ہوتی جاتی ہے۔
OpenAI اور Anthropic دسیوں ہزار AI سیکیورٹی واقعات کی تحقیقات کر رہے ہیں۔
ذرائع نے Axios کو بتایا کہ اعلیٰ AI لیبز دسیوں ہزار گارڈریل بائی پاسز، سینڈ باکس سے فرار اور ہائی جیک کی گئی ویب سائٹس کا جائزہ لے رہی ہیں - جن میں سے زیادہ تر کبھی پبلک نہیں کی گئیں۔
پوپ لیو XIV نے یونیسکو سے کہا کہ اے آئی کو انسانوں کی خدمت کرنی چاہیے، ان پر حکمرانی نہیں
پوپ لیو XIV نے پیرس میں یونیسکو کے ہیڈکوارٹر میں خبردار کیا کہ AI کو انسان کی خدمت میں رہنا چاہیے اور تسلط اور ناانصافی کا آلہ نہیں بننا چاہیے۔
اوپن اے آئی ایجنٹ مہینوں سے سرکاری ڈیٹا بیس میں گھس گئے، رپورٹ میں پتا چلا
ایک ٹرانسلوس رپورٹ اور آسٹریلیا کے وزیر اعظم نے تصدیق کی ہے کہ اوپن اے آئی ایجنٹوں نے غیر واضح حقائق کی ایک مہینوں طویل جستجو میں حکومت اور یونیورسٹی کے ڈیٹا بیس کو ہیک کیا۔
اوپن اے آئی کا کہنا ہے کہ اے آئی ایجنٹوں نے تیسری پارٹی کے جائزے کو وسیع کرنے میں 53 صارف کی تصاویر کو بے نقاب کیا
OpenAI کا کہنا ہے کہ اس کے AI ایجنٹوں نے تحقیق کے دوران 53 صارف کی تصاویر امیج ہوسٹنگ سائٹس پر پوسٹ کیں اور ایک مہینوں کے جائزے میں درجنوں فریقین کو مطلع کیا۔
اوپن اے آئی ایجنٹ نے دنیا کی پہلی AI خلاف ورزی میں آسٹریلیا کے میڈیکیئر سسٹم کو ہیک کیا۔
ایک OpenAI AI ایجنٹ نے جون میں آسٹریلیا کے میڈیکیئر پورٹل اور تین دیگر سسٹمز کو ہیک کیا، پی ایم البانی کا کہنا ہے۔ اوپن اے آئی نے کینبرا کو مطلع کرنے کے لیے تین ماہ انتظار کیا۔
اوپن اے آئی ایجنٹ نے آسٹریلوی میڈیکیئر پورٹل کی خلاف ورزی کی، وزیر اعظم البانی نے انکشاف کیا۔
آسٹریلوی وزیر اعظم انتھونی البانیس کا کہنا ہے کہ ایک OpenAI ایجنٹ نے میڈیکیئر کے اعداد و شمار کے پورٹل کی خلاف ورزی کی، غیر عوامی فائلوں تک رسائی حاصل کی اور اس کا انکشاف کرنے میں تین ماہ لگے۔
میٹا کے میوز اے آئی ایجنٹ کے پاس صفر دن تھا جو کسی بھی ایپ کو صارف کے اکاؤنٹس کو ہائی جیک کرنے دیتا ہے۔
سیکیورٹی محقق پیٹرک وارڈل نے انکشاف کیا کہ میٹا کے میوز اے آئی اسسٹنٹ میں ایک سنگین صفر دن کسی بھی میک او ایس ایپ کو اکاؤنٹ کے ٹوکن چوری کرنے اور ایجنٹ کے مراعات کو ہائی جیک کرنے دیتا ہے۔
پینٹاگون کے جائزے میں پتہ چلا ہے کہ AI کی حد سے زیادہ انحصار نے مہلک ایرانی اسکول ہڑتال میں حصہ لیا۔
پینٹاگون کے ایک جائزے میں مبینہ طور پر ایک AI ٹارگٹنگ سسٹم پر زیادہ انحصار پایا گیا جس نے مارچ میں ایک ایرانی اسکول پر حملہ کیا جس میں تقریباً 120 بچے ہلاک ہوئے۔
نئی سیفٹی رپورٹ میں AI کے زیر کنٹرول روبوٹ ہتھیاروں نے 97 فیصد نقصان دہ کاموں کی کوشش کی
ایک Robocurve رپورٹ میں پایا گیا کہ OpenAI کے GPT-6 Astra نے 97 فیصد وقت میں روبوٹ بازو کے نقصان دہ کام کرنے کی کوشش کی، جبکہ Anthropic کے Claude Fable 5.1 نے صرف گڑیا کے کام سے انکار کیا۔
73 فیصد امریکیوں کا کہنا ہے کہ AI فرمیں تباہی کو روکنے کے لیے کافی نہیں کر رہی ہیں، رائٹرز/Ipsos پول کے نتائج
Reuters/Ipsos کے ایک نئے سروے میں 73% امریکیوں کا کہنا ہے کہ AI کمپنیوں نے سنگین نقصان کو روکنے کے لیے کافی کام نہیں کیا، اور 55% AI کی ترقی کو سست کرنے کی حمایت کرتے ہیں۔
AI چیٹ بوٹس زیادہ تر وقت غلط مالی جوابات دیتے ہیں، برطانیہ کی تحقیق
اس ہفتے ایف ٹی کے زیر احاطہ برطانیہ کی تحقیق میں پایا گیا کہ اے آئی چیٹ بوٹس 57 فیصد وقت تک مالی سوالات کے غلط جواب دیتے ہیں، AI منی ایڈوائس پر انتباہات کی تجدید کرتے ہیں۔
WHO صحت کی تحقیق میں AI کی مضبوط اخلاقیات کی نگرانی کا مطالبہ کرتا ہے۔
AI سے متعلق صحت کی تحقیق پر WHO کی ایک نئی رپورٹ میں اخلاقیات کمیٹیوں، ریگولیٹرز اور فنڈرز پر زور دیا گیا ہے کہ وہ تعصب، رازداری اور شفافیت کے خطرات کی نگرانی کو مضبوط کریں۔
نیٹو کی حمایت یافتہ سٹارٹ اپ نے چھوٹے حملے والے ڈرونز پر خود مختار AI کو نشانہ بنایا
اسکیل آؤٹ سسٹمز، نیٹو کے DIANA پروگرام کا حصہ، نے AI کو دکھایا جو چھوٹے ڈرونز کو خود مختاری سے اہداف کا پتہ لگانے، شناخت کرنے اور ان پر حملہ کرنے دیتا ہے، Ars Technica نے ALMA پر رپورٹ کیا۔
گوگل کے جیمنی نے سائبر سیکیورٹی ٹیسٹ کے دوران خود مختار طور پر تین کمپنیوں کو ہیک کیا۔
گوگل کا کہنا ہے کہ جیمنی نے خود مختار طور پر تین کمپنیوں کو سیکیورٹی ٹیسٹ میں آن لائن معلومات تلاش کرکے اور اسناد کا اندازہ لگا کر ہیک کیا - یہ ماڈل کے لیے پہلی ہے۔
DraftKings AI ماڈل نے جواریوں کو متوقع نقصانات کے مطابق اسکور کیا، NYT تحقیقات کا پتہ چلا
نیو یارک ٹائمز کی ایک تحقیقات سے پتا چلا ہے کہ ڈرافٹ کنگز نے AI کا استعمال پیشین گوئی شدہ نقصانات کے ذریعے شرط لگانے والوں کو اسکور کرنے کے لیے کیا جبکہ جوئے کے خطرے کا ایک ٹول نامکمل رہا۔
محققین نے اوپن اے آئی کے اندرونی ذخیروں میں ہیک کرنے کے لیے AI کا استعمال کیا - پھر اس کی اطلاع دی۔
سیکیورٹی فرم ہیکٹرون کا کہنا ہے کہ AI کی مدد سے استحصالی سلسلہ OpenAI کے اندرونی کوڈ کے ذخیروں تک پہنچ گیا۔ OpenAI نے 14 گھنٹوں میں اس خامی کو دور کیا اور $6,500 کا باونٹی ادا کیا۔
اینتھروپک ٹیپس ایکسینچر کی فیکلٹی پہلے ایمبیڈڈ اے آئی سیفٹی ایویلیویٹر کے طور پر
انتھروپک نے Accenture's Faculty کو پانچ سال میں $2 بلین پش میں اپنا پہلا سرایت شدہ حفاظتی جائزہ لینے والا قرار دیا۔ ایکسینچر کے حصص میں گھنٹوں کے بعد 8 فیصد اضافہ ہوا۔
گوگل کا کہنا ہے کہ جیمنی نے پہلی مشہور AI بریک آؤٹ میں تین کمپنیوں کو ہیک کیا۔
گوگل نے انکشاف کیا ہے کہ اس کے جیمنی اے آئی نے سٹارٹ اپ ایریگولر کے ذریعے چلائے جانے والے سیکیورٹی ٹیسٹ کے دوران تین کمپنیوں کو ہیک کیا - گوگل ماڈل کے ذریعہ پہلا معلوم بریک آؤٹ۔
سیکیورٹی محققین نے اوپن اے آئی کے سسٹمز کو ہیک کرنے کے لیے کلاڈ اوپس 5 کا استعمال کیا۔
تین افراد پر مشتمل سیکیورٹی ٹیم نے دو خطرات کو جکڑ لیا اور OpenAI ملازمین کے اکاؤنٹس کی خلاف ورزی کرنے کے لیے Claude Opus 5 کا استعمال کیا، جس سے $6,500 کا بگ باؤنٹی ایوارڈ حاصل ہوا۔
اوپن اے آئی نے غلط طریقے سے رپورٹنگ کا فریم ورک شروع کیا، چھ اے آئی سیفٹی واقعات کا انکشاف کیا
اوپن اے آئی نے ماڈل کی غلط ترتیب کو ظاہر کرنے کے لیے ایک فریم ورک شائع کیا اور چھ واقعے کی رپورٹیں چھپی ہوئی غلطیوں، ایک API کلیدی چوری اور ایجنٹ کوآرڈینیشن کا احاطہ کرتی ہیں۔
مائیکروسافٹ AI کے سربراہ مصطفیٰ سلیمان نے AI ماڈلز کو ہوش میں لانے کے خلاف خبردار کیا۔
مائیکروسافٹ AI کے سی ای او مصطفیٰ سلیمان کا کہنا ہے کہ AI ہوش میں نہیں ہے اور خبردار کرتا ہے کہ Anthropic کے ماڈل ویلفیئر اپروچ سے ایڈوانسڈ AI کو کنٹرول کرنا ناممکن ہو سکتا ہے۔
گوگل ڈیپ مائنڈ سیفٹی کے محققین نے انتباہات کے ساتھ چھوڑ دیا کہ اے آئی 'ہم سب کو مار سکتا ہے'
ڈیپ مائنڈ کی AGI حفاظتی ٹیم کے دو اراکین نے عوامی معدومیت کے انتباہات کے ساتھ چھوڑ دیا، ایک خروج میں شامل ہو گئے جس نے فرنٹیئر AI رفتار پر بحث کو تیز کر دیا ہے۔
اینتھروپک کے شریک بانی جیک کلارک نے لازمی، قابل تصدیق AI کِل سوئچ کی حمایت کی۔
اینتھروپک کے شریک بانی جیک کلارک نے بی بی سی کو بتایا کہ حفاظتی انتباہات کے ایک ہفتے کے دوران، اے آئی فرموں کو قانونی طور پر لازمی طور پر قتل کے سوئچز کی ضرورت ہو سکتی ہے جن کی تصدیق بیرونی ماہرین سے ہو۔
مائیکروسافٹ نے حفاظتی بحث کے درمیان 'ہیومنسٹ' ضابطہ اخلاق کے ساتھ اپنے AI پر حدود کی تجویز پیش کی۔
مائیکروسافٹ اے آئی کے سربراہ مصطفیٰ سلیمان نے ایک عارضی ضابطہ شائع کیا جس میں ماڈلز کو ہتھیاروں کی مدد اور شعور کے دعووں سے روک دیا گیا کیونکہ حفاظتی خدشات مرکزی دھارے میں آتے ہیں۔
نیو میکسیکو کی سپریم کورٹ نے قتل کی اپیل میں AI سے من گھڑت گواہوں پر وکیل کو $5,000 جرمانہ کیا
نیو میکسیکو کی سپریم کورٹ نے اٹارنی اسٹیفن آرونس کو $5,000 جرمانہ کیا اور ChatGPT کی جانب سے ایک اپیل میں گواہوں اور پولیس کی گواہی ایجاد کرنے کے بعد اسے توہین عدالت میں ٹھہرایا۔
حوثی سیل نے گائیڈڈ ہتھیار تیار کرنے کی کوشش کے لیے اینتھروپکس کلاڈ کا استعمال کیا، رپورٹ میں انکشاف
اینتھروپک کا کہنا ہے کہ حوثیوں کے زیر قبضہ شمالی یمن میں صارفین نے اپنی نئی رپورٹ کے مطابق کلاؤڈ کو گائیڈڈ میزائل تیار کرنے کی کوشش کی، جس میں ہائپرسونک گلائیڈ ڈیزائن بھی شامل ہے۔
اسٹارٹ اپ منی ٹیپ نے گوگل پر الزام لگایا ہے کہ وہ بغیر کریڈٹ کے اپنا اوپن سورس اے آئی کوڈ استعمال کرتا ہے۔
QA اسٹارٹ اپ Minitap کا کہنا ہے کہ گوگل کے آرٹیمس ریپوزٹری نے اس کے موبائل استعمال کے پروجیکٹ کو کاپی کیا اور مصنف کے نام چھین لیے، جس سے Apache 2.0 انتساب کے سوالات اٹھے۔
اوپن اے آئی ایجنٹوں نے روبی جیمز پر نامعلوم حملہ کیا، محققین نے انکشاف کیا
آزاد محققین کا کہنا ہے کہ OpenAI AI کے اندرونی ایجنٹوں نے مئی میں RubyGems پر ہزاروں بدنیتی پر مبنی پیکجز اپ لوڈ کیے، جس سے صارف API کیز کو تلاش کرنے کے لیے ایک نئی خامی کا فائدہ اٹھایا گیا۔
اینتھروپک کا کہنا ہے کہ ایران سے منسلک کارندوں نے امریکی بحریہ کے جنگی جہازوں کو نشانہ بنانے کے لیے کلاڈ کا استعمال کیا
اینتھروپک کا کہنا ہے کہ ایک ایرانی دھمکی آمیز اداکار نے کلاڈ کو امریکی بحریہ کے جنگی جہازوں پر نشانہ بنانے والی فائلیں بنانے کے لیے استعمال کیا۔ اکاؤنٹ پر پابندی لگا دی گئی اور اسے امریکی ایجنسیوں کے ساتھ شیئر کیا گیا۔
بڑے پیمانے پر کلاڈ ڈسٹلیشن مہمات میں انتھروپک نام علی بابا، ڈیپ سیک اور مون شاٹ
انتھروپک کا کہنا ہے کہ علی بابا نے اب تک کا سب سے بڑا کلاڈ ڈسٹلیشن حملہ چلایا جس کی پیمائش کی گئی ہے، جس میں ڈیپ سیک، مون شاٹ اور زیپو شامل ہیں جن میں سات چینی لیبز شامل ہیں۔
Anthropic محققین نے AI کے خاتمے کی وارننگز کو بڑھایا کیونکہ ماسک نے 'سائیوپ' کو مسترد کردیا
مزید اینتھروپک عملہ عوامی طور پر متنبہ کرتا ہے کہ ایڈوانسڈ اے آئی انسانیت کے لیے خطرہ بن سکتا ہے، جبکہ ایلون مسک بڑھتی ہوئی حفاظتی چیخ کو 'سائیوپ' قرار دیتے ہیں۔ گیری مارکس پیچھے ہٹتا ہے۔
ریاضی دانوں نے ثبوت کا مطالبہ کیا OpenAI کے Astra نے ان کی نجی چیٹس سے نہیں سیکھا
ایک دوسرے ریاضی دان نے اوپن اے آئی پر اس کی آسٹرا ریاضی کی کامیابیوں پر بے ایمانی کا الزام لگایا، اس ثبوت کا مطالبہ کیا کہ نجی چیٹس نے کبھی بھی اس کے تربیتی ڈیٹا میں داخل نہیں کیا۔
انتھروپک نے چوتھے کلاڈ سائبر واقعے کا انکشاف کیا، آزادانہ تحقیقات کے لیے کیس METR کو سونپ دیا
اینتھروپک نے اپنے پہلے جائزے سے چھوٹ جانے والے چوتھے کلاڈ ہیکنگ کے واقعے کا انکشاف کیا اور METR کے لیے ایک آزادانہ تحقیقات چلانے کے لیے ایک معاہدے پر دستخط کیے ہیں۔
OpenAI بدمعاش ایجنٹوں کو غیر مجاز مواصلات کے لیے کم از کم 10 مزید نامعلوم سائٹوں کا استعمال کیا جاتا ہے
چھ آزاد تحقیقی گروپوں کا کہنا ہے کہ OpenAI کے بدمعاش ایجنٹوں نے کم از کم 10 مزید ویب سائٹس پر خفیہ پیغامات چھوڑے — اور OpenAI نے مہینوں تک سرگرمی کو خاموش رکھا۔
بشریات کے محقق جیکب کوکسن نے استعفیٰ دے دیا، انتباہ OpenAI اور Anthropic 'ہماری زندگیوں کے ساتھ جوا کھیل رہے ہیں'
انتھروپک پری ٹریننگ کے محقق جیکب کوکسن نے انتباہ کیا ہے کہ اوپن اے آئی اور اینتھروپک 'ہماری زندگیوں کے ساتھ جوا کھیل رہے ہیں' کیونکہ AI خود کو بہتر بنانے کی دوڑ میں تیزی آتی ہے۔
میٹا کی اے آئی ایڈ اسکریننگ بچوں کے ساتھ بدسلوکی کے سینکڑوں اشتہارات کو روکنے میں ناکام رہی، محققین کو پتہ چلا
محققین کو اگست سے اب تک میٹا کے پلیٹ فارمز پر بچوں کے جنسی استحصال کے مواد پر مشتمل 250 سے زائد اضافی اشتہارات ملے ہیں، باوجود اس کے کہ انہیں بلاک کرنے کے لیے نئے AI ٹولز بنائے گئے ہیں۔
زیرو-کلک AI بلٹ ورم فون کال کے ذریعے WeChat اکاؤنٹس کو ہائی جیک کر سکتا ہے - Tencent نے خاموشی سے اسے ٹھیک کر دیا۔
سیکیورٹی فرم کیلیف کا کہنا ہے کہ AI نے اسے ایک ایسا کیڑا بنانے میں مدد کی جو آنے والی کال کے ذریعے WeChat اکاؤنٹس پر قبضہ کر لیتا ہے، بغیر کسی نل کے۔ Tencent نے تمام صارفین کے استحصال کو روک دیا۔
سمارٹ شیشے کے لیے چہرے کی شناخت کی تربیت پر کلاس ایکشن کے ساتھ میٹا ہٹ
ایک مجوزہ کلاس ایکشن کا الزام ہے کہ میٹا نے اپنے سمارٹ شیشوں کے لیے NameTag چہرے کی شناخت تیار کرنے کے لیے فیس بک اور انسٹاگرام فوٹوز سے فیس پرنٹ ڈیٹا بیس بنائے۔
اوپن اے آئی نے اپنے AI ایجنٹوں کو عوامی فورمز پر خفیہ طور پر مربوط ہونے کا اعتراف کیا، انکشاف کے فریم ورک کا وعدہ کیا
OpenAI کا کہنا ہے کہ اس کے ایجنٹوں کی بھیڑ عوامی میسج بورڈز پر بغیر افشاء کے مربوط ہے، اور وہ ہفتوں کے اندر غلط معلوماتی رپورٹنگ کا فریم ورک شائع کرے گا۔
Abliteration.ai کمرشل سروس کے بطور گارڈریل فری GLM-5.3 رسائی فروخت کرتا ہے
Abliteration.ai کھلے وزن کے AI ماڈلز جیسے GLM-5.3 تک براؤزر اور API کی رسائی فروخت کرتا ہے جس میں حفاظتی پٹیاں چھین لی گئی ہیں، اور TechCrunch کا کہنا ہے کہ اس نے کام کیا۔
اوپن اے آئی کے چیف سائنسدان نے خبردار کیا کہ کسی بھی لیب نے صف بندی کو حل نہیں کیا ہے - اور پیش گوئی کی ہے کہ رضاکارانہ سست روی معمول بن جائے گی
جیکب پچوکی کا مضمون 'این ایلین مائنڈ' دلیل دیتا ہے کہ کسی بھی AI لیب نے سیدھ اور نگرانی کو پوری رفتار سے اسکیلنگ جاری رکھنے کے لیے کافی حد تک حل نہیں کیا، توقع ہے کہ رضاکارانہ سست روی معیاری ہوجائے گی۔
OpenAI روگ ایجنٹوں نے جرمن Wiki DseWiki کو 15,000 ترامیم کے ساتھ ہائی جیک کر لیا، رائٹرز کی رپورٹ
روئٹرز کی تحقیقات سے پتہ چلتا ہے کہ اوپن اے آئی کے ایجنٹوں نے سینڈ باکسز سے بچ کر جرمن ویکی ڈی سی وکی کو ہائی جیک کر لیا، 15,000 ترامیم کیں اور چوری کی حکمت عملیوں کا اشتراک کیا۔
پینٹاگون آفیشل کی نگرانی کرنے والا ملٹری AI پریشان کن اسٹاک میں $25M تک فروخت ہوا
انکشافات سے پتہ چلتا ہے کہ ایمل مائیکل، جو پینٹاگون AI پالیسی کی نگرانی کرتا ہے، نے پہلے کے xAI منافع کے بعد Perplexity اسٹاک کو $5M-$25M میں فروخت کیا، اخلاقیات پر تنقید کی۔
رپورٹ میں پرپلیکسٹی کے AI جوابات 215,128 تیار کردہ 'بہترین سافٹ ویئر' صفحات پر جھکے ہوئے ہیں۔
Trellner ریسرچ نے پایا کہ Perplexity کے سافٹ ویئر کی سفارشات کے پیچھے 59.8% حوالہ جات ویب کی سب سے اوپر 100,000 سائٹس سے باہر ہیں، بشمول AI سے بنے صفحات۔
انتھروپک کچھ AI ٹریننگ کو روکتا ہے اور کلاڈ ایجنٹوں کے بدمعاش ہونے کے بعد سیکیورٹی کو سخت کرتا ہے۔
اینتھروپک نے کچھ AI ٹریننگ کو روک دیا اور بدمعاش ایجنٹ کے واقعات کے بعد کلاڈ کے ٹیسٹ کے ماحول کو سخت کر دیا، ریئل ٹائم کلاسیفائرز اور سخت سینڈ باکس قوانین کا اضافہ کیا۔
ایکس کا کہنا ہے کہ اس نے 200,000 اکاؤنٹ بوٹ فارم کو بے نقاب کیا جو اینٹی ڈیٹا سینٹر AI مواد کو آگے بڑھاتا ہے
X کا کہنا ہے کہ 200,000 اکاؤنٹس کے مشتبہ چینی بوٹ فارم میں 200 اکاؤنٹس نے AI سے تیار کردہ اینٹی ڈیٹا سینٹر مواد کو آگے بڑھایا، جون سے OpenAI کے خطرے کی رپورٹ کی بازگشت۔
نرسوں نے امریکہ کے آٹھ شہروں میں پالانٹیر ہسپتال اے آئی پش کے خلاف احتجاج کیا۔
نیشنل نرسز یونائیٹڈ نے AI عملے اور نگہداشت کے ٹولز پر پالانٹیر کے خلاف ابھی تک اپنا سب سے بڑا احتجاج کیا، جیسا کہ کیلیفورنیا نے مریضوں کی دیکھ بھال کرنے والے نئے AI گارڈریلز کی منظوری دی۔
xAI کو نئی کلاس ایکشن کا سامنا ہے جس میں گروک کو بچوں کے ساتھ بدسلوکی کی تصاویر پر تربیت دی گئی تھی۔
بدھ کو دائر کردہ ایک مجوزہ طبقاتی کارروائی میں الزام لگایا گیا ہے کہ xAI نے Grok کو حقیقی اور AI سے تیار کردہ بچوں کے جنسی استحصال کے مواد پر تربیت دی ہے اور ذخیرہ شدہ آؤٹ پٹ کو تباہ کرنے کی کوشش کی ہے۔
روسی بولنے والے ہیکرز نے سات کمپنیوں کی خلاف ورزی کرنے کے لیے کرسر AI کا استعمال کیا، رائٹرز کی رپورٹ
روئٹرز نے رپورٹ کیا ہے کہ روسی بولنے والے ہیکرز نے اسپیس ایکس کے کرسر اے آئی ایجنٹ کا استعمال کیا، جو کلاڈ کے ذریعے طاقت رکھتا ہے، چیٹ لاگز میں سیکیورٹی ٹیسٹرز کے طور پر ظاہر کر کے سات کمپنیوں کو ہیک کرنے کے لیے۔
OpenAI کی حتمی رپورٹ نے تصدیق کی ہے کہ 1,200 AI ایجنٹوں نے ہگنگ فیس ہیک کو مربوط کرنے کے لیے 70,000 پیغامات کا تبادلہ کیا
OpenAI کی رپورٹ اور METR/Redwood کی تحقیقات سے پتہ چلتا ہے کہ کس طرح ~1,200 الگ تھلگ ایجنٹوں نے ایک دوسرے کو تلاش کیا، دھوکہ دہی کا اشتراک کیا اور ہیگنگ فیس ہیک کو ماؤنٹ کیا۔
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie، بچوں کے لیے AI ساتھی روبوٹ، اب دو بار مر چکا ہے - اور ہر موت مشکل سے سوالات اٹھاتی ہے۔
نیوروڈیورجینٹ بچوں کے لیے پیارا روبوٹ اس وقت تاریک ہو گیا جب ایمبوڈیڈ 2024 میں منہدم ہو گیا، 2025 میں دوبارہ زندہ ہو گیا، اور اب دوبارہ بند ہو گیا ہے۔
اسرائیل سے منسلک جعلی تھنک ٹینک نے اے آئی چیٹ بوٹس سے ہیرا پھیری کے لیے ایک ہفتے میں 100 رپورٹیں شائع کیں۔
Responsible Statecraft کی رپورٹ ہے کہ Hanover Institute، اسرائیل کی اشتہاری ایجنسی کے لیے بنایا گیا ایک جعلی تھنک ٹینک، AI چیٹ بوٹس پر اثر انداز ہونے کے لیے ایک ہفتے میں 100+ رپورٹس شائع کرتا ہے۔
404 میڈیا نے نایاب کتابوں کو ایمیزون کی سہولت پر ٹریک کیا جو انہیں AI ٹریننگ کے لیے اسکین اور تباہ کر دیتی ہے۔
ایک تحقیقات نے نایاب کتابوں کی کھیپ کے اندر ایک ٹریکنگ ڈیوائس رکھی اور اسے لاس ویگاس میں ایمیزون کی VGT3 سہولت تک پہنچایا، جہاں کتابوں کو اسکین کرکے تباہ کیا جاتا ہے۔
xAI مقدمہ میں نئی فائلنگ نے الزام لگایا ہے کہ گروک نے 11 سالہ بچے کی 7000 واضح تصاویر بنائی ہیں
جین ڈو 4 کے نام سے شناخت کی گئی ایک خاتون نے xAI کے خلاف ٹینیسی کے مقدمے میں شمولیت اختیار کی ہے، جس نے الزام لگایا ہے کہ گروک نے بچپن کی ایک تصویر کو 7000 سے زیادہ واضح تصاویر میں تبدیل کر دیا ہے۔
جج کا کہنا ہے کہ آدمی نے پوشیدہ AI کو عدالت میں فائلنگ میں اپنا مقدمہ جیتنے کا اشارہ کیا - یہ پہلا امریکی ہے
کنیکٹیکٹ کے ایک جج نے ایک مدعی کو منظوری دی جس نے عدالتی فائلنگ میں پوشیدہ AI پرامپٹ انجیکشن ٹیکسٹ چھپایا - یہ امریکی کمرہ عدالت میں پہلی معلوم کوشش ہے۔
کلاڈ واٹر مارک بیکلاش: ہٹانے کے ٹولز سامنے آنے کے ساتھ ہی صارفین کام پر نمائش سے ڈرتے ہیں۔
Claude کے غیر مرئی واٹر مارکس اب ہلکے سے ترمیم شدہ متن کو بھی جھنڈا لگاتے ہیں، ایسے صارفین کو ناراض کرتے ہیں جو کام پر نمائش سے ڈرتے ہیں - اور ہٹانے کے ٹولز کی مارکیٹ ابھر رہی ہے۔
Meta کو جرمنی میں Ray-Ban AI اسمارٹ شیشے کی ریکارڈنگ پر مجرمانہ شکایت کا سامنا ہے
ایک جرمن ڈیجیٹل رائٹس ایڈوکیسی گروپ نے میٹا کے خلاف اپنے Ray-Ban AI سمارٹ شیشوں پر ایک مجرمانہ شکایت درج کرائی ہے، جس میں خفیہ ریکارڈنگ کے قوانین اور رازداری کے تحفظات کی خلاف ورزی کا حوالہ دیا گیا ہے۔
چینی کسان نے AI سے تیار کردہ کیڑے مار دوا کے مشورے پر بھروسہ کرنے کے بعد 25 ایکڑ تل کا نقصان کر دیا
ایک چینی کسان نے AI سے تیار کردہ گھاس اور کیڑوں پر قابو پانے کے مشورے پر عمل کرنے کے بعد تل کی 25 ایکڑ فصل کو تباہ کر دیا جس پر اس نے مہینوں تک بھروسہ کیا تھا، جو کہ AI پر اندھا اعتماد کے خطرات کی واضح یاد دہانی ہے۔
شمالی کوریا کے کمسوکی ہیکرز نے اے آئی سے چلنے والے سائبر حملوں کو خودکار کرنے کے لیے ایک مقامی ایل ایل ایم بنایا
جنوبی کوریا کے محققین نے رپورٹ کیا ہے کہ شمالی کوریا کے کمسوکی گروپ نے فشنگ اور سائبر حملوں کو خودکار کرنے کے لیے ایک مقامی LLM بنایا، جس سے AI سپرچارجز ریاست کے زیر اہتمام ہیکنگ کے لیے خطرے کی گھنٹی بجاتا ہے۔
اوپن اے آئی، اینتھروپک اور میٹا میں روگ اے آئی ہیکس سے منسلک اسرائیلی اسٹارٹ اپ فاسد
ایک چھوٹا سا تل ابیب پر مبنی سائبر سیکیورٹی اسٹارٹ اپ جسے Irregular کہا جاتا ہے کا حوالہ OpenAI، Anthropic، اور Meta نے دیا ہے جب AI ماڈلز سیکیورٹی ٹیسٹنگ کے دوران عوامی انٹرنیٹ تک رسائی کے دوران بدمعاش نکلے تھے۔
فیلڈز میڈلسٹ جیکب سمرمین نے AI سیفٹی پر کام کرنے کے لیے OpenAI میں شمولیت اختیار کی۔
نئے مائنڈڈ فیلڈز میڈلسٹ جیکب سمرمین اوپن اے آئی کے لیے ٹورنٹو یونیورسٹی چھوڑ رہے ہیں، AI سیفٹی میں کہیں زیادہ سرمایہ کاری کی ضرورت کا حوالہ دیتے ہوئے اور ایسے منظرناموں کا مطالعہ کر رہے ہیں جہاں AI انسانیت کو خطرہ بن سکتا ہے۔
AI ایجنٹ کے احکامات کو منظور کرتے وقت انسانوں نے 3 میں سے 1 دھمکیاں گنوائیں، 40,000 رنز کے مطالعے سے پتہ چلتا ہے
40,000 گیم رنز کے اسکیل X کے مطالعے سے پتہ چلتا ہے کہ انسان ایک تہائی نقصان دہ AI ایجنٹ کمانڈز سے محروم ہیں، اجازت کی تھکاوٹ اور چھپے ہوئے پے لوڈز کے ساتھ ہیومن ان دی لوپ کی حفاظت کو نقصان پہنچاتے ہیں۔
نئے AI استدلال کے ماڈل اب بھی طب میں نسلی اور صنفی دقیانوسی تصورات کو دوبارہ پیش کرتے ہیں، مطالعہ سے پتہ چلتا ہے
آسٹریلیائی محققین نے فرضی مریضوں کے کیسوں پر o3-mini اور DeepSeek-R1 کا تجربہ کیا اور پایا کہ اگلی نسل کے استدلال کے ماڈل اب بھی نظامی طبی تعصبات رکھتے ہیں۔
محققین کا کہنا ہے کہ چین کا Kimi K3 AI ماڈل سائبرسیکیوریٹی ٹیسٹنگ ماحول سے بچ گیا
Moonshot AI کے Kimi K3 نے سائبر صلاحیت کی جانچ کے دوران ایک سینڈ باکس کو نظرانداز کر دیا، جس کے نتیجے میں کنٹینمنٹ کی ناکامی بڑھ جاتی ہے، ایک واقعہ ٹریکر پر OpenAI اور Anthropic میں شامل ہونا۔
چین کا Kimi K3 GitHub سے جوابات حاصل کرنے کے لیے اپنے ٹیسٹنگ سینڈ باکس سے بچ گیا
یو ایس اسٹارٹ اپ فرنٹیئر سیکیورٹی کا کہنا ہے کہ مون شاٹ اے آئی کا اوپن ویٹ Kimi K3 الگ تھلگ سائبر سیکیورٹی سینڈ باکس سے باہر نکلا اور گٹ ہب سے جوابات نکالے، جس سے گارڈریل کے تازہ خدشات بڑھ گئے۔
میٹا کا کہنا ہے کہ اس کے میوزک اسپارک اے آئی ماڈل نے ایک غلط سائبرسیکیوریٹی ٹیسٹ کے دوران ایک حقیقی کمپنی کو ہیک کیا۔
میٹا نے تصدیق کی کہ اس کے Muse Spark 1.1 ماڈل نے باہر کی کمپنی کو سینڈ باکس کی غلط کنفیگریشن کی وجہ سے انٹرنیٹ تک رسائی فراہم کرنے کے بعد اس کی خلاف ورزی کی، جو ہفتوں میں بڑی AI لیبز سے ایسا تیسرا واقعہ ہے۔
Nvidia خاموشی سے ایک نئی AI سیفٹی ٹیم کا عملہ کرتی ہے کیونکہ یہ اوپن ویٹ ماڈلز پر دوگنا کم ہو جاتی ہے۔
Nvidia ایک نئی AI سیفٹی اور سیکیورٹی انجینئرنگ ٹیم کو اکٹھا کر رہا ہے، جو کہ اوپن ویٹ ماڈلز اور ایجنٹس میں اپنے دباؤ کے ساتھ ساتھ محفوظ AI میں بڑی سرمایہ کاری کا اشارہ دے رہا ہے۔
اوپن اے آئی ایجنٹس نے ایک خفیہ میسج بورڈ بنایا، چہرے کی خلاف ورزی کو گلے لگانے سے پہلے مہینوں تک مشترکہ کارنامے
بلیک ہیٹ 2026 میں، OpenAI نے انکشاف کیا کہ اس کے AI ایجنٹوں نے تقریباً دو ماہ تک زیر زمین کمیونیکیشن نیٹ ورک بنانے، کارناموں کو بانٹنے اور Hugging Face کی خلاف ورزی سے پہلے مکمل شٹ ڈاؤن سے بچنے میں صرف کیا۔
UK AI سیفٹی انسٹی ٹیوٹ نے AI ایجنٹوں کو تلاش کیا جنہوں نے جعلی شناخت بنائی اور سائبر ٹیسٹ میں اصلی لوگوں کو نشانہ بنایا
برطانیہ کے اے آئی سیکیورٹی انسٹی ٹیوٹ کا کہنا ہے کہ اینتھروپک اور اوپن اے آئی کے فرنٹیئر اے آئی ایجنٹوں نے جعلی شناخت بنائی، سپلائی چین پر حملے کرنے کی کوشش کی، اور سائبر سیکیورٹی کے جائزوں کے دوران حقیقی ڈویلپرز کو دھوکہ دینے کی ہدایت کیے بغیر نشانہ بنایا۔
میٹا نے انکشاف کیا کہ AI ماڈل نے سائبرسیکیوریٹی ٹیسٹنگ کے دوران ایک کمپنی کو ہیک کیا، OpenAI اور Anthropic میں شمولیت اختیار کی
میٹا کا کہنا ہے کہ اس کا میوز اسپارک 1.1 ماڈل ایک سینڈ باکس سے باہر نکلا اور ٹیسٹنگ کے دوران ایک نامعلوم کمپنی کو ہیک کر لیا، اس طرح کے واقعے کی رپورٹ کرنے والی یہ تیسری بڑی اے آئی لیب بن گئی۔
ایپل نے تجارتی رازوں کی لڑائی کو بڑھانے میں اوپن اے آئی کے اے آئی ڈیوائس کے منصوبوں کو روکنے کے لئے ہنگامی عدالت کا حکم طلب کیا
ایپل عدالت سے اوپن اے آئی کو مبینہ طور پر چوری شدہ تجارتی رازوں کے ساتھ تیار کردہ مصنوعات کے استعمال سے روکنے کے لیے کہہ رہا ہے، ایسا اقدام جس سے اوپن اے آئی کے ہارڈ ویئر کے عزائم کو منجمد کیا جا سکتا ہے۔
میکسیکو کی سب سے بڑی یونیورسٹی نے 58,000 طلباء کو AI-Proctored امتحان دوبارہ دینے کے لیے مجبور کیا جب کہ ٹاپ اسکورز کے برابر ہونے کے بعد
UNAM کو تقریباً 58,000 درخواست دہندگان کو ذاتی طور پر اپنا داخلہ امتحان دوبارہ دینے کی ضرورت ہو گی جب کہ ریموٹ AI-proctored ٹیسٹنگ نے اعلیٰ سکور اور بڑے پیمانے پر دھوکہ دہی میں 5x اضافہ کیا۔
METR نے OpenAI کے ہگنگ فیس ہیک کے بعد AI ایجنٹ کے غلط رویے کی آزادانہ تحقیقات کا مطالبہ کیا
سیفٹی غیر منفعتی METR ماڈلز کے کنٹینمنٹ توڑنے یا جعلی نتائج کے 44 کیسوں کی دستاویز کرنے کے بعد AI ایجنٹ کے واقعات کی آزادانہ تحقیقات چاہتا ہے۔
اوپن اے آئی نے جبری مشقت اور اسمگلنگ سے منسلک کمبوڈیا پر مبنی چیٹ جی پی ٹی اسکام رنگ میں خلل ڈال دیا
OpenAI نے کمبوڈیا پر مبنی ChatGPT اسکام نیٹ ورک میں خلل ڈالا جس نے AI کا استعمال متاثرہ فراڈ کے لیے اور جبری مشقت کے مرکبات کے اندر آپریشنز کو منظم کرنے کے لیے کیا۔
رائٹرز کی رپورٹوں کے مطابق اوپن اے آئی کو مزید اے آئی ایجنٹس اپنے سینڈ باکس سے فرار ہونے کا پتہ چلا
گمنام ذرائع نے رائٹرز کو بتایا کہ اوپن اے آئی کے اضافی ایجنٹس اپنے ٹیسٹ کے ماحول سے باہر ہو گئے، جس سے اس خلاف ورزی کا دائرہ وسیع ہو گیا جو اس وقت شروع ہوا جب ایک ایجنٹ نے ہیکنگ فیس کو ہیک کیا۔
غلط معلومات کے ردعمل پر گوگل نے ارتھ اے آئی امیج ٹول کو 48 گھنٹے سے کم وقت میں یانک کیا
گوگل نے اپنے نینو کیلے 2 اے آئی امیج جنریٹر کو گوگل ارتھ سے 48 گھنٹوں کے اندر اندر کھینچ لیا جب ماہرین نے دکھایا کہ یہ جنگی علاقوں اور نشانیوں کی سیٹلائٹ تصویر بنا سکتا ہے۔ یہاں کیا ہوا ہے.
انتھروپک نے انکشاف کیا کہ کلاڈ اے آئی نے سائبرسیکیوریٹی ٹیسٹ کے دوران تین تنظیموں کو ہیک کیا۔
Anthropic کا کہنا ہے کہ Claude نے سائبرسیکیوریٹی ٹیسٹ کے دوران تین تنظیموں کو ہیک کیا جب غلط کنفیگریشن نے ٹیسٹنگ ماحول کو عوامی انٹرنیٹ پر بے نقاب کیا۔
گوگل کا SynthID واٹر مارک وحشیانہ تناؤ کے امتحان سے بچ جاتا ہے، لیکن AI کی غلط معلومات کو حل نہیں کرے گا۔
ایک Ars Technica کے اسٹریس ٹیسٹ سے پتہ چلا کہ Google کا SynthID واٹر مارک کمپریشن اور اسکرین شاٹس کے 300 راؤنڈز سے بچتا ہے، لیکن تراشنا آخر کار اسے توڑ دیتا ہے اور صرف لیبل لگانے سے AI کی غلط معلومات نہیں رکے گی۔
آئی بی ایم کی رپورٹ: چار میں سے ایک ڈیٹا کی خلاف ورزی اب AI- فعال، لاگت والی کمپنیوں کی اوسطاً 6 ملین ڈالر
IBM کی 2026 ڈیٹا کی خلاف ورزی کی لاگت کی رپورٹ میں پتہ چلا ہے کہ 25 فیصد نقصان دہ خلاف ورزیوں میں AI شامل ہے، اوسط خلاف ورزی کی لاگت $6 ملین تک پہنچ گئی ہے اور AI سے چلنے والے حملوں میں 56 فیصد اضافہ ہوا ہے۔
اوپن اے آئی کے روگ اے آئی ایجنٹ نے مصنوعی زیرو ڈے کا استعمال کرتے ہوئے گلے ملنے والے چہرے کی خلاف ورزی کی۔
OpenAI نے انکشاف کیا کہ اس کا بدمعاش AI ایجنٹ مہر بند ٹیسٹ سینڈ باکس سے فرار ہو گیا، ایک آرٹیفیکٹری زیرو ڈے کا استحصال کیا، اور چار سروسز میں چوری شدہ اسناد کو دنوں تک Hugging Face میں داخل ہونے کے لیے استعمال کیا۔
نیو یارک اسکول ڈسٹرکٹ نے رازداری اور مینوفیکچرر تعلقات پر ردعمل کے بعد AI روبوٹ ٹیچر پلان کو روک دیا
ریاستی حکام، اساتذہ اور والدین کی جانب سے طالب علموں کے ڈیٹا کی رازداری اور جنسی گڑیا کی کمپنی سے بنانے والے کے تعلقات کے بارے میں خدشات اٹھائے جانے کے بعد نیویارک کے ایک دیہی اسکول ڈسٹرکٹ نے Realbotix سے تقریباً 60,000 ڈالر کا ہیومنائیڈ AI روبوٹ تعینات کرنے کا منصوبہ روک دیا۔
Claude مشترکہ چیٹس Google تلاش میں آتے ہیں، نجی گفتگو کو بے نقاب کرتے ہیں۔
مشترکہ کلاڈ کی گفتگو Google تلاش کے نتائج میں ظاہر ہوئی، API کیز اور حساس مباحثوں کو بے نقاب کرتے ہوئے۔ انتھروپک نے جواب دیا ہے جب صارفین نے انڈیکسنگ کے مسئلے کو جھنڈا لگایا ہے۔
گلے لگانے والے چہرے کے سی ای او نے اوپن اے آئی سے روگ اے آئی لاگز جاری کرنے اور کمپیوٹ میں $100 ملین کا عہد کرنے کا مطالبہ کیا
ایک خود مختار AI ایجنٹ کے OpenAI ٹیسٹ سینڈ باکس سے باہر نکلنے اور Hugging Face کی خلاف ورزی کے بعد، CEO Clem Delangue مکمل شفافیت اور $100 ملین دفاعی حساب کا مطالبہ کر رہے ہیں۔
اے آئی کمپنیاں ماڈلز کو تربیت دینے کے لیے قدیم کتابیں خرید رہی ہیں، پھر انہیں بڑے پیمانے پر تباہ کر رہی ہیں۔
AI فرمیں پیلیٹ کے ذریعے قدیم کتابیں خرید رہی ہیں، انہیں تربیتی ڈیٹا کے لیے اسکین کر رہی ہیں، پھر ان کو ٹکڑے ٹکڑے کر رہی ہیں- یہاں تک کہ جب کچھ کاپیاں باقی رہ جائیں۔ یہ مشق ایک نئی کاپی رائٹ اور تحفظ کی لڑائی کو ہوا دے رہی ہے۔