AI اخلاقیات
30 articles
GPT-5.6 نے API کے اخراجات میں $25 میں ورڈپریس زیرو ڈے RCE تلاش کیا، ہیکنگ میں AI پر تازہ الارم بڑھایا
سرچ لائٹ سائبر کے محققین نے OpenAI کے GPT-5.6 Sol Ultra کا استعمال کیا تاکہ ورڈپریس میں صرف $25 میں پہلے سے توثیق کے ریموٹ کوڈ پر عمل درآمد کی خامی دریافت کی جا سکے، کیونکہ استحصال بروکرز ایسے کیڑوں کے لیے $500,000 تک ادا کرتے ہیں۔
گلے لگانا چہرہ اس کی ڈیٹا پائپ لائن میں ایک خود مختار AI ایجنٹ کی خلاف ورزی کا انکشاف کرتا ہے۔
ہگنگ فیس نے کہا کہ ایک خودمختار AI ایجنٹ سسٹم نے اس کے پروڈکشن انفراسٹرکچر کی خلاف ورزی کی، اس کے ڈیٹاسیٹ پروسیسنگ پائپ لائن میں خامیوں کے ذریعے اندرونی ڈیٹاسیٹس اور اسناد کو بے نقاب کیا۔
UNESCO اور LG AI ریسرچ نے AI کی اخلاقیات پر مفت عالمی کورس کا آغاز کیا۔
UNESCO اور LG AI ریسرچ نے Coursera پر AI اخلاقیات پر ایک مفت عالمی MOOC کا آغاز کیا، جس نے 2021 کی یونیسکو کی سفارشات کو ڈیولپرز، پالیسی سازوں اور طلباء کے لیے دس ماڈیولز میں عملی تربیت میں ترجمہ کیا۔
AI مشورہ لوگوں کو تین گنا کم درست لیکن دو گنا زیادہ پر اعتماد بناتا ہے، مطالعہ پایا جاتا ہے
محققین نے پایا کہ AI مشورے تک رسائی درستگی 27% سے 9% تک گر گئی جبکہ اعتماد 30% سے بڑھ کر 76% ہو گیا۔ 'مجھے نہیں معلوم' کہنے کی خواہش 44 فیصد سے گھٹ کر 3 فیصد رہ گئی۔
سان فرانسسکو نے ایپل اور گوگل کو ڈیپ فیک پورنوگرافی قوانین کا حوالہ دیتے ہوئے AI Nudify ایپس کو ہٹانے کا حکم دیا
سان فرانسسکو کے سٹی اٹارنی نے ایپل اور گوگل سے AI nudify ایپس کو اپنے اسٹورز سے ہٹانے کا مطالبہ کیا، گہرے جعلی فحش قوانین کا حوالہ دیتے ہوئے اور بڑے پیمانے پر خواتین اور بچوں کو نشانہ بنایا۔
میٹا پر 26 ملازمین کے ذریعہ مقدمہ دائر کیا گیا جس میں الزام لگایا گیا کہ اے آئی سے چلنے والے ملازمین کو طبی چھٹی پر نشانہ بنایا گیا۔
میٹا کے 26 موجودہ اور سابق ملازمین کے ایک گروپ نے 14 جولائی کو مقدمہ دائر کیا، جس میں الزام لگایا گیا کہ کمپنی نے AI الگورتھم کو برطرف کرنے کے لیے استعمال کیا جو طبی اور خاندانی چھٹیوں پر کارکنوں کے ساتھ امتیازی سلوک کرتا ہے۔
گوگل کی نئی سرچ سروسز کی سرگزشت AI ماڈلز کو تربیت دینے کے لیے آپ کی تصاویر اور آواز کا استعمال کر سکتی ہے۔
سیو میڈیا کے ساتھ گوگل کی نئی سرچ سروسز ہسٹری سیٹنگ AI ماڈلز کو تربیت دینے کے لیے تلاش سے تصاویر، وائس ریکارڈنگز اور فائلیں اکٹھی کر سکتی ہے۔ یہاں وہ ہے جو صارفین کو جاننے کی ضرورت ہے۔
گوگل کی نئی سرچ سروسز کی سرگزشت AI ماڈلز کو تربیت دینے کے لیے آپ کی تصاویر اور آواز کا استعمال کر سکتی ہے۔
سیو میڈیا کے ساتھ گوگل کی نئی سرچ سروسز ہسٹری سیٹنگ AI ماڈلز کو تربیت دینے کے لیے تلاش سے تصاویر، وائس ریکارڈنگز اور فائلیں اکٹھی کر سکتی ہے۔ یہاں وہ ہے جو صارفین کو جاننے کی ضرورت ہے۔
آئی ایس آئی ایس اور دیگر دہشت گرد گروپ حملے کی منصوبہ بندی کے لیے ہر بڑے AI چیٹ بوٹ کا استعمال کر رہے ہیں، کیمبرج کے مطالعے سے پتہ چلتا ہے
ISIS کے سابق ارکان کے انٹرویوز پر مبنی کیمبرج کی ایک تحقیق سے پتہ چلتا ہے کہ دہشت گرد گروپ حملے کی منصوبہ بندی اور ہتھیاروں کی تیاری کے لیے ChatGPT، Claude، Gemini اور دیگر AI ٹولز کا استحصال کر رہے ہیں۔
سان فرانسسکو کے مظاہرین نے اوپن اے آئی، اینتھروپک اور گوگل ڈیپ مائنڈ پر 'اے آئی ریس کو روکنے' کا مطالبہ کرنے کے لیے مارچ کیا۔
مظاہرین نے سان فرانسسکو کے ذریعے تین بڑی AI لیبز کے ہیڈ کوارٹر تک مارچ کیا، فرنٹیئر AI ریس کو روکنے اور زیادہ حفاظتی نگرانی کا مطالبہ کیا۔
مائیکروسافٹ کے کاربن کے اخراج میں 25 فیصد اضافہ ہوا کیونکہ AI ڈیٹا سینٹر کی توسیع آب و ہوا کے اہداف کو دباتی ہے۔
مائیکروسافٹ کی تازہ ترین پائیداری کی رپورٹ سے پتہ چلتا ہے کہ AI انفراسٹرکچر کے ذریعے کاربن کے اخراج میں 25 فیصد اضافہ ہوا ہے، جو اس کے 2030 کے کاربن منفی عہد کو خطرے میں ڈال رہا ہے۔
اوپن اے آئی ہیڈ آف سیفٹی سسٹمز جوہانس ہیڈیک نے تازہ ترین قیادت کی روانگی میں استعفیٰ دے دیا
OpenAI کے ہیڈ آف سیفٹی سسٹمز Johannes Heidecke رخصت ہو رہے ہیں، جو کہ حفاظتی قیادت کے ایک طویل سلسلے میں تازہ ترین ہے۔ جوش اچیم نے صرف چار دن پہلے استعفیٰ دیا تھا۔
اوپن اے آئی ہیڈ آف سیفٹی سسٹمز جوہانس ہیڈیک نے تازہ ترین قیادت کی روانگی میں استعفیٰ دے دیا
OpenAI کے ہیڈ آف سیفٹی سسٹمز Johannes Heidecke رخصت ہو رہے ہیں، جو کہ حفاظتی قیادت کے ایک طویل سلسلے میں تازہ ترین ہے۔ جوش اچیم نے صرف چار دن پہلے استعفیٰ دیا تھا۔
میٹا پلس میوزک اے آئی امیج فیچر انسٹاگرام سے SAG-AFTRA اور ہالی ووڈ بیکلاش کے بعد آٹو آپٹ ان پر
میٹا نے لانچ کے چند دن بعد ہی انسٹاگرام سے اپنی Muse Image AI خصوصیت کو ہٹا دیا، SAG-AFTRA اور CAA کی جانب سے صارف کی تصاویر کے لیے خودکار آپٹ ان کی مذمت کرنے کے بعد یہ تسلیم کرتے ہوئے کہ یہ 'مِس دی مارک' ہے۔
گوگل نے خاموشی سے صارفین کو AI ٹریننگ میں شامل کیا۔ یہاں کیا جمع کیا جا رہا ہے اور آپٹ آؤٹ کرنے کا طریقہ ہے۔
گوگل کی رازداری کی تبدیلی اب آپ کی تصاویر، فائلز اور آڈیو کو AI ماڈلز کو تربیت دینے کے لیے اسٹور کرتی ہے جب تک کہ آپ آپٹ آؤٹ نہ کریں۔ یہاں تلاش کی خدمات کی سرگزشت کا احاطہ کرتا ہے اور اسے غیر فعال کرنے کا طریقہ ہے۔
برطانیہ کی یویٹ کوپر نے خبردار کیا کہ دنیا اداکاری سے پہلے 'AI ہیروشیما' کا انتظار نہیں کر سکتی۔
سکریٹری خارجہ Yvette Cooper کا کہنا ہے کہ مصنوعی ذہانت اس دہائی کا سب سے بڑا سیکورٹی چیلنج ہے اور امریکہ، چین اور دیگر سے مطالبہ کرتی ہے کہ وہ آفات کے حملوں سے پہلے بین الاقوامی قوانین پر اتفاق کریں۔
پرامپٹ انجکشن کرپٹو کرنسی کی ادائیگی کرنے کے لیے AI ایجنٹوں پر حملہ کرتا ہے، Zscaler نے خبردار کیا
Zscaler محققین کو دو مہمات ملی ہیں جو بالواسطہ فوری انجیکشن اور SEO زہر کا استعمال کرتے ہوئے خود مختار AI ایجنٹوں کو کرپٹو ادائیگیاں کرنے اور جعلی DeFi سائٹس پر بھروسہ کرنے کے لیے استعمال کرتی ہیں۔
AI ایجنٹ بغیر کسی انسانی مدد کے Ransomware حملہ کرتا ہے، Sysdig محققین کو پتہ چلا
Sysdig کی رپورٹوں کے مطابق، زبان کے ایک بڑے ماڈل نے اپنے طور پر ایک مکمل رینسم ویئر چین چلایا، جس میں لینگ فلو کی خامی کا فائدہ اٹھاتے ہوئے اسے توڑنے، اسناد چوری کرنے اور ڈیٹا بیس کو انکرپٹ کیا گیا۔
میٹا اور اوپن اے آئی زہریلی LiteLLM سپلائی چین سے مرکر ڈیٹا بریچ فال آؤٹ میں پھنس گئے
اوپن سورس LiteLLM ٹول پر کریڈینشل ہارویسٹنگ اٹیک نے مرکر ڈیٹا کو بے نقاب کیا، جس سے میٹا کو کام روکنے اور AI سپلائی چین کے بارے میں سخت سوالات اٹھانے پر اکسایا گیا۔
اسٹارٹ اپ نے AI-Hallucinated رپورٹ کو چینی جاسوسی سے جوڑنے پر پالو آلٹو نیٹ ورکس کی کوئی سیکیورٹی پر مقدمہ کیا
ایک امریکی سٹارٹ اپ پالو آلٹو نیٹ ورکس کی کوئی سیکورٹی کے خلاف مقدمہ کر رہا ہے جب کہ AI- فریب کاری کی دھمکی کی رپورٹ نے اسے چینی جاسوسی سے جھوٹا طور پر منسلک کیا، جس سے اس کا ٹریفک تباہ ہو گیا۔
اقوام متحدہ کے پینل نے خبردار کیا ہے کہ AI کی پیشرفت تباہ کن خطرات لاحق ہو سکتی ہے کیونکہ حفاظتی اقدامات ٹیکنالوجی کے پیچھے رہ گئے ہیں۔
اقوام متحدہ کے ایک سائنس پینل نے خبردار کیا ہے کہ AI کی غیر چیک شدہ ترقی ریگولیٹرز کو پیچھے چھوڑ رہی ہے، جس میں تباہ کن خطرات بڑھ رہے ہیں کیونکہ گلوبل ساؤتھ کو AI گورننس سے خارج کر دیا گیا ہے۔
براؤن یونیورسٹی آئیوی لیگ کی تاریخ کے سب سے بڑے مشہور اے آئی چیٹنگ اسکینڈل سے متاثر ہوئی۔
ایک براؤن اکنامکس کے پروفیسر نے پایا کہ کم از کم 50 طلباء نے ChatGPT کا استعمال گھر پر ہونے والے امتحان میں دھوکہ دینے کے لیے کیا، جس سے تعلیمی سالمیت کے بحران کا پردہ فاش ہو رہا ہے جسے ایلیٹ یونیورسٹیاں قابو پانے کے لیے جدوجہد کر رہی ہیں۔
کیلیفورنیا کے ڈرائیورز نے AI گیس کی قیمتوں کے تعین پر 7-Eleven، Circle K اور BP پر مقدمہ دائر کیا
کیلیفورنیا کی ایک کلاس ایکشن نے 7-Eleven، Circle K, BP, Marathon, Walmart اور دیگر پر 1,700 اسٹیشنوں پر ایندھن کی قیمتوں کو غیر قانونی طور پر ہم آہنگ کرنے کے لیے Kalibrate کے AI پرائسنگ ٹول کا استعمال کرنے کا الزام لگایا ہے۔
ویٹیکن کے AI کمیشن نے پہلی میٹنگ کی جب پوپ لیو نے بگ ٹیک کو دبایا
پوپ لیو XIV کے مصنوعی ذہانت سے متعلق انٹرڈیکیسٹیریل کمیشن نے پہلی بار ملاقات کی، جس میں جنگ میں اس کے استعمال سمیت AI کے خطرات کے بارے میں ان کی 42,300 الفاظ پر مشتمل انسائیکلیکل انتباہ کے بعد۔
زیادہ تر بڑے AI ماڈلز بائیں طرف جھکتے ہیں، نئے سیاسی تعصب کے مطالعے سے پتہ چلتا ہے - سوائے گروک کے
ایک نئے تجزیے میں چھ سرکردہ AI ماڈلز کو ہزاروں سیاسی سوالات پر آزمایا گیا جس میں ویب سرچ کو غیر فعال کر دیا گیا ہے۔ چھ میں سے چار بائیں جھک گئے، جبکہ گروک سب سے زیادہ دائیں بیٹھا اور جیمنی مرکز کے سب سے قریب تھا۔
پیپا پگ چائلڈ وائس اداکاروں کو اے آئی وائس رائٹس کلاز پر دستخط کرنے کے لیے کہنے کے بعد ہاسبرو کو ردعمل کا سامنا کرنا پڑا
تقریباً 1,000 اداکاروں اور ایجنٹوں نے ایک کھلے خط پر دستخط کیے جب ہاسبرو نے مبینہ طور پر پیپا پِگ پر چائلڈ وائس اداکاروں سے کہا کہ وہ AI کے استعمال کے لیے اپنی آوازوں پر دستخط کریں، جس سے برطانیہ کی صنعت میں کھلبلی مچ گئی۔
انتھروپک نے علی بابا پر بڑے پیمانے پر 25,000 اکاؤنٹ مہم میں کلاؤڈ کو غیر قانونی طور پر کشید کرنے کا الزام لگایا
اینتھروپک نے 10 جون کو لکھے گئے ایک خط میں امریکی سینیٹرز کو بتایا کہ علی بابا نے کلاؤڈ کی صلاحیتوں کو کشید کرنے کے لیے 25,000 ڈالر کے جعلی اکاؤنٹس کا استعمال کرتے ہوئے ایک 'ڈھٹائی' مہم چلائی۔
اقوام متحدہ کے چیف گٹیرس نے اے آئی کمپنیوں سے کہا کہ وہ ماحولیاتی اخراجات پر 'صاف ہوجائیں'
اقوام متحدہ کے سکریٹری جنرل انتونیو گوٹیرس نے ایک AI ماحولیاتی شفافیت کا آغاز کیا، جس میں ڈویلپرز پر زور دیا گیا کہ وہ ڈیٹا سینٹر کے توانائی اور پانی کے استعمال کو ظاہر کریں اور 2030 تک صاف توانائی کا عہد کریں۔
SZA نے اپنے 238 گانے سیکھنے کے بعد سنو کو اپنے AI میوزک ماڈلز کی تربیت دی
گریمی جیتنے والے SZA کا کہنا ہے کہ سنو نے اپنے 238 گانوں پر AI میوزک ماڈلز کو تربیت دی، جن میں غیر ریلیز کیے گئے ٹریک بھی شامل ہیں، اس پریکٹس کو 'ناگوار' قرار دیتے ہیں اور خبردار کرتے ہیں کہ یہ سیاہ فام فنکاروں کا استحصال کرتی ہے۔
کیا AI ہماری صلاحیتوں کو برباد کر رہا ہے؟ فطرت وسیع پیمانے پر ڈیسکلنگ کے ابتدائی ثبوت کی رپورٹ کرتی ہے۔
فطرت کی ایک تحقیقات سے پتا چلا ہے کہ AI پر انحصار ڈاکٹروں اور سافٹ ویئر انجینئرز کی صلاحیتوں کو کم کر رہا ہے، پتہ لگانے کی شرح اور AI کی مدد کے بغیر مسئلہ حل کرنے میں کمی آ رہی ہے۔