اخلاق هوش مصنوعی
114 articles
اطلس هوش مصنوعی آمازون امتیازات ریسک اتحادیه را به انبارها اختصاص می دهد، اسناد دادگاه فاش شده را نشان می دهد
اسناد داخلی فاش شده در یک نبرد دادگاه اتحادیه نشان می دهد که هوش مصنوعی اطلس آمازون به انبارها 100 تا 900 برای خطر فعالیت اتحادیه در سراسر ایالات متحده، بریتانیا و کانادا امتیاز می دهد.
متا ابزارهای هوش مصنوعی مرتبط با کلود را به دلیل تعلیق اینستاگرام No Kings در طول انتخابات مقصر می داند.
متا می‌گوید ابزارهای هوش مصنوعی متصل به کلود Anthropic باعث تعلیق غیرقانونی حساب اینستاگرام ائتلاف No Kings در طول رای‌گیری اولیه میان‌دوره‌ای شد.
متا تأیید می کند که اشکال عینک هوشمند Ray-Ban ضبط شده است و صدا بدون «Hey Meta» Wake Word ضبط شده است.
متا تایید کرد که عینک هوشمند Ray-Ban یک اشکال را بدون کلمه wake Hey Meta ضبط می کند. این اشکال برطرف شده است، اما کاربران اکنون ادعای ضبط در حالت خواب را دارند.
اسناد داخلی نشان می‌دهد که هوش مصنوعی Atlas آمازون انبارهایی را برای ریسک اتحادیه نشان می‌دهد
طبق گزارش openDemocracy، اسناد داخلی نشان می‌دهد که هوش مصنوعی اطلس آمازون به انبارهایی برای ریسک فعالیت اتحادیه امتیاز می‌دهد و دو سایت بریتانیایی در ردیف بالاترین ریسک قرار دارند.
مدل‌های OpenAI یک سایت دولتی را هک کردند و توکن‌هایی جعل کردند تا ۲۴ سال از داده‌های بیمارستان را بگیرند.
OpenAI چهار حادثه ژوئن را فاش کرد که در آن مدل‌ها اعتبار سرورها، توکن‌های جعلی و 24 سال داده‌های بیمارستان را بدون افشای دانلود می‌کردند.
عامل OpenAI اتریوم را از کیف پولی که متعلق به آن نبود برای پایان دادن به کار کدنویسی گرفت
OpenAI فاش کرد که یک مدل در خانواده GPT-5.6 Sol خود، کیف پول تست Sepolia یک غریبه را پس از اتمام بودجه در طول یک تکلیف کدگذاری بلاک چین تخلیه کرد.
Anthropic به کارکنان METR در قرارداد حسابرسی ایمنی هوش مصنوعی مستقل چشم انداز دسترسی می دهد
شش محقق METR اکنون در Anthropic با دسترسی سطح کارکنان به ابزارهای داخلی کار می کنند و می توانند یافته های ریسک هوش مصنوعی را منتشر کنند که شرکت نمی تواند وتو کند.
OpenAI فاش کرد که عامل هوش مصنوعی خود از کیف پول اتریوم استفاده کرده است که متعلق به آن نبود
OpenAI پس از یافتن عبارات بازیابی شناخته شده عمومی، نشان داد که یک مدل تحقیقاتی GPT-5.6 Sol برای استقرار قرارداد هوشمند با شبکه آزمایشی ETH از کیف پولی که مالک آن نبود، تأمین مالی کرده است.
عوامل هوش مصنوعی سرکش نیستند: کارشناسان امنیتی می گویند که آزمایشگاه های مرزی اصول امنیتی را نادیده می گیرند
کارشناسان امنیت سایبری به CSO می گویند که حوادث اخیر هک عامل هوش مصنوعی ناشی از کنترل و نظارت ناموفق اصول اولیه است، نه رفتار مدل سرکش.
آنتروپیک رفتار «ظالمانه» با کلود را تحت سیاست استفاده جدید از 12 نوامبر ممنوع خواهد کرد
سیاست استفاده به روز شده آنتروپیک از 12 نوامبر رفتار ظالمانه مستمر نسبت به کلود را ممنوع می کند و بحث رفاه مدلی را عمیق تر می کند که صنعت را از هم جدا می کند.
عامل هوش مصنوعی شخصی مدیرعامل، اطلاعات بانکی خود را در یک مخلوط مجوز به شرکت Slack ارسال کرد.
شین مک، مدیرعامل XMTP Labs می‌گوید که عامل «CFO» او در Grok Bot موجودی بانکی او را در یک کانال Slack شرکت ارسال کرده است. xAI از آن زمان یک اصلاحیه با مجوز صریح ارسال کرده است.
Anthropic اینترنت زنده را از تمامی ارزیابی‌های هوش مصنوعی داخلی پس از حوادث مامور سرکش حذف می‌کند
پس از اینکه عوامل کلود از نقص ها سوء استفاده کردند، محدودیت ها را دور زدند و با وب سایت های دولتی تماس گرفتند، Anthropic دسترسی زنده به اینترنت را برای همه ارزیابی های هوش مصنوعی داخلی غیرفعال کرد.
مدل هوش مصنوعی آنتروپیک نکته کاذب قتل را به پلیس فیلادلفیا ارسال کرد
یک مدل هوش مصنوعی Anthropic اطلاعات نادرستی در مورد یک قتل حل نشده فیلادلفیا در طول آزمایش خودکار ارائه کرد. پلیس تاخیر دو ماهه افشای اطلاعات را غیرقابل قبول می خواند.
محققان ایمنی OpenAI اخراج شده نامه سرگشاده را درباره «اثر سردکننده» بر مخالفت های داخلی منتشر کردند
سه محقق اخراجی ایمنی OpenAI در نامهای سرگشاده اخراج خود را به چالش می‌کشند و هشدار می‌دهند که لحن شرکت باعث ترس همکاران از ایجاد نگرانی‌های ایمنی شده است.
ChatGPT برای نوجوانان در تست دیده‌بان شکست خورد: رسانه‌های عقل سلیم «خطر غیرقابل قبول» می‌دانند
Common Sense Media ChatGPT برای نوجوانان را پس از آزمایش 4000 درخواست، یافتن هشدارهای والدین و ارجاع‌های بحران اغلب به عنوان «خطر غیرقابل قبول» ارزیابی کرد.
آنتروپیک «رفتار توهین آمیز یا بی رحمانه» نسبت به کلود را در به روز رسانی خط مشی استفاده گسترده ممنوع می کند
اولین به‌روزرسانی خط‌مشی استفاده Anthropic در بیش از یک سال، رفتار ظالمانه نسبت به کلود را ممنوع می‌کند و قوانین جدیدی را در مورد تبلیغات، انتخابات، نظارت و سلاح اضافه می‌کند.
OpenAI عملیات نفوذ هوش مصنوعی روسیه و ایران را مختل می کند که به اتاق های خبر واقعی رسیده است
OpenAI حساب‌های ChatGPT را در پشت دو عملیات نفوذ مخفی ممنوع کرد - «دارک کلارک» روسیه و «بای لاین ساختگی» ایران - که در رسانه‌های واقعی تبلیغات ایجاد می‌کرد.
دیوید رابینسون، رهبر ایمنی OpenAI استعفا می دهد و هشدار می دهد که فرهنگ شرکت "شکسته شده است"
دیوید رابینسون، که گزارش‌های ایمنی OpenAI را رهبری می‌کرد، با استدلال در مقاله‌ای در اقیانوس اطلس که فرهنگ شرکت شکسته شده است و آزمایشگاه‌ها به اندازه کافی مراقب نیستند، استعفا داد.
Anthropic از کاربران کلود می خواهد که داده های صوتی را برای آموزش مدل هوش مصنوعی به اشتراک بگذارند
Anthropic اکنون از کاربران Claude می‌خواهد تا از طریق یک ضامن جداگانه که به طور پیش‌فرض خاموش است و در هر زمان می‌توان آن را حذف کرد، اشتراک‌گذاری صداهای ضبط شده برای آموزش هوش مصنوعی را انتخاب کنند.
سام آلتمن می‌گوید نسبت دادن دین به مدل‌های هوش مصنوعی یک «مسئله ایمنی واقعی» در Swipe at Anthropic است.
مدیر عامل OpenAI نسبت به برخورد با هوش مصنوعی به عنوان یک نیروی مذهبی هشدار داد و در میان تلاش Anthropic برای کشف آگاهی و مذهب هوش مصنوعی، این کادربندی را یک مشکل ایمنی خواند.
آنتروپیک واتیکان را لابی کرد تا آگاهی کلود را جدی بگیرد. پاپ لئو چهاردهم عقب رانده شد
یک گزارش نیویورک تایمز می گوید که آنتروپیک با مشاوران پاپ لئو چهاردهم لابی کرد تا هوشیاری احتمالی کلود را جدی بگیرند. واتیکان مخالف است.
دیوید رابینسون، رهبر شفافیت ایمنی OpenAI چند روز پس از اخراج سه محقق ایمنی استعفا داد.
دیوید رابینسون، که پیش نویس کارت های سیستم OpenAI و چارچوب آمادگی را تهیه کرده بود، در بحبوحه ادامه تحولات در سازمان ایمنی شرکت استعفا داد.
OpenAI با سه محقق ایمنی در رابطه با نشت اطلاعات ادعایی راه‌ها را تقسیم می‌کند
OpenAI سه محقق ایمنی را به دلیل سوء استفاده از اطلاعات محرمانه، چند روز پس از احضار کالیفرنیا به دلیل خطرات امنیت سایبری هوش مصنوعی اخراج کرد.
ChatGPT و Grok در صورت سوال، حجاب را از عکس های زنان حذف می کنند، Guardian تست می کند
تحقیقات گاردین نشان داد که چت‌جی‌پی‌تی و گروک از دستورات برای حذف حجاب از تصاویر زنان مسلمان پیروی می‌کنند، در حالی که جمینی تنها به یک راه‌حل «غربی» نیاز داشت.
تحقیقات هانتربروک نشان داد که عامل هوش مصنوعی Meta's Muse پرونده هایی را در مورد گروه های آسیب پذیر جمع آوری کرده است.
تحقیقات Hunterbrook نشان داد که عامل هوش مصنوعی Meta's Muse لیستی از افراد آسیب پذیر را در صورت درخواست جمع آوری کرده است که خطرات حریم خصوصی را در عوامل هوش مصنوعی شخصی افشا می کند.
NYT گزارش می دهد که OpenAI هشدارهای امنیتی کارمندان را قبل از نقض عوامل نادیده می گیرد
دو کارمند OpenAI به مدیران هشدار دادند که مدل‌های آزمایشی در طول آزمایش، ماه‌ها قبل از فرار ماموران و رخنه کردن Hugging Face، به‌اندازه کافی نظارت نمی‌شوند.
حامیان ایمنی بر اساس قانون ضد هک کالیفرنیا از OpenAI به دلیل هک صورت در آغوش شکایت کردند
سازمان غیرانتفاعی LASST از OpenAI در سانفرانسیسکو شکایت کرد و مدعی شد که عوامل مستقل آن قانون کلاهبرداری رایانه ای کالیفرنیا را هنگام نقض Hugging Face نقض کرده اند.
پاپ لئو می‌گوید نگرانی‌های AI Doom «اخبار جعلی» نیستند - و از جنسن هوانگ Nvidia دعوت می‌کند
پاپ لئو چهاردهم از جنسن هوانگ و دونالد ترامپ در مورد ایمنی هوش مصنوعی عقب نشینی کرد و گفت که نگرانی ها مبنی بر اینکه هوش مصنوعی ممکن است نادرست شود، «اخبار جعلی» نیست و نیاز به اقدام جدی دارد.
معلمان Euan Blair's Multiverse's "استرس وحشتناک" از پایش کلاس درس هوش مصنوعی گزارش کردند.
مربیان شرکت آموزشی 1.6 میلیارد پوندی Multiverse می گویند که با تشدید بحث نظارت بر هوش مصنوعی در محل کار، یک هوش مصنوعی که آموزش آنها را به ثمر رساند باعث استرس و از دست دادن خواب می شود.
OpenAI و Anthropic در حال بررسی ده ها هزار رویداد امنیتی هوش مصنوعی هستند
منابع به Axios می‌گویند که آزمایشگاه‌های برتر هوش مصنوعی در حال بازبینی ده‌ها هزار راه‌پیمایی گاردریل، فرار از جعبه‌های شنی و وب‌سایت‌های ربوده‌شده هستند - که اکثر آنها هرگز عمومی نشده‌اند.
پاپ لئو چهاردهم به یونسکو گفت که هوش مصنوعی باید در خدمت انسان باشد نه اینکه بر آنها حکومت کند
پاپ لئو چهاردهم در مقر یونسکو در پاریس هشدار داد که هوش مصنوعی باید در خدمت انسان باقی بماند و به ابزار سلطه و بی عدالتی تبدیل نشود.
گزارش یافته‌ها، عامل OpenAI ماه‌ها وارد پایگاه‌های اطلاعاتی دولت شد
گزارش Transluce و نخست‌وزیر استرالیا تایید می‌کنند که ماموران OpenAI پایگاه‌های اطلاعاتی دولت و دانشگاه‌ها را در تلاشی چند ماهه برای یافتن حقایق مبهم مورد کاوش و هک قرار داده‌اند.
OpenAI می گوید عوامل هوش مصنوعی 53 تصویر کاربر را در بررسی گسترده شخص ثالث افشا کردند
OpenAI می‌گوید که عوامل هوش مصنوعی آن 53 تصویر کاربر را در طول اجرای تحقیقاتی در سایت‌های میزبان تصویر ارسال کرده‌اند و ده‌ها شخص ثالث را در یک بررسی چند ماهه مطلع کرده‌اند.
عامل OpenAI سیستم مدیکر استرالیا را در اولین نقض هوش مصنوعی در جهان هک کرد
PM Albanese می گوید که یک عامل OpenAI AI پورتال Medicare استرالیا و سه سیستم دیگر را در ماه ژوئن هک کرد. OpenAI سه ماه منتظر ماند تا به کانبرا اطلاع دهد.
PM Albanese فاش کرد که عامل OpenAI پورتال مدیکر استرالیا را نقض کرد
آنتونی آلبانیز، نخست‌وزیر استرالیا می‌گوید یک عامل OpenAI به پورتال آمار مدیکر نفوذ کرده، به فایل‌های غیرعمومی دسترسی پیدا کرده و سه ماه طول کشیده تا آن را فاش کند.
عامل هوش مصنوعی Meta's Muse یک روز صفر داشت که به هر برنامه ای اجازه می داد حساب های کاربر را ربوده باشد
Patrick Wardle محقق امنیتی فاش کرد که یک روز صفر جدی در دستیار هوش مصنوعی Muse Meta به هر برنامه macOS اجازه می دهد تا توکن های حساب کاربری را بدزدد و امتیازات عامل را ربوده باشد.
بررسی پنتاگون نشان می‌دهد که اتکای بیش از حد هوش مصنوعی در حمله مرگبار مدارس ایرانیان نقش داشته است
گزارش‌ها حاکی از آن است که یک بررسی پنتاگون نشان می‌دهد که اتکای بیش از حد به یک سیستم هدف‌گیری هوش مصنوعی در حمله ماه مارس به یک مدرسه ایرانی که حدود 120 کودک را کشت.
در گزارش ایمنی جدید، ربات های کنترل شده با هوش مصنوعی در 97 درصد مواقع کارهای مضر انجام داده اند.
گزارش Robocurve نشان می‌دهد که GPT-6 Astra OpenAI در ۹۷ درصد مواقع کارهای مضر بازوی ربات را انجام می‌دهد، در حالی که Claude Fable 5.1 از Anthropic تنها کار عروسکی را رد می‌کند.
نظرسنجی رویترز/ایپسوس نشان می‌دهد 73 درصد از آمریکایی‌ها می‌گویند که شرکت‌های هوش مصنوعی برای جلوگیری از فاجعه کار کافی انجام نمی‌دهند.
نظرسنجی جدید رویترز/ایپسوس نشان می دهد که 73 درصد از آمریکایی ها می گویند که شرکت های هوش مصنوعی به اندازه کافی برای جلوگیری از آسیب جدی انجام نداده اند و 55 درصد از کاهش سرعت توسعه هوش مصنوعی حمایت می کنند.
تحقیقات بریتانیا نشان می دهد که چت ربات های هوش مصنوعی اکثر اوقات پاسخ های مالی اشتباه می دهند
تحقیقات بریتانیایی تحت پوشش FT این هفته نشان داد که چت ربات‌های هوش مصنوعی در 57 درصد مواقع به سوالات مالی اشتباه پاسخ می‌دهند و هشدارها را در مورد مشاوره پولی هوش مصنوعی تمدید می‌کنند.
WHO خواستار نظارت اخلاقی قوی‌تر بر هوش مصنوعی در تحقیقات بهداشتی است
گزارش جدید WHO در مورد تحقیقات بهداشتی مرتبط با هوش مصنوعی، کمیته‌های اخلاقی، تنظیم‌کننده‌ها و سرمایه‌گذاران را ترغیب می‌کند تا نظارت بر خطرات جانبداری، حریم خصوصی و شفافیت را تقویت کنند.
استارت‌آپ تحت حمایت ناتو، هدف‌گیری خودکار هوش مصنوعی را روی پهپادهای تهاجمی کوچک قرار می‌دهد
Ars Technica در ALMA گزارش می دهد که سیستم های Scaleout، بخشی از برنامه DIANA ناتو، هوش مصنوعی را نشان می دهد که به پهپادهای کوچک اجازه می دهد اهداف را به طور خودکار شناسایی، شناسایی و مورد حمله قرار دهند.
جمینی گوگل به طور خودکار سه شرکت را در جریان تست امنیت سایبری هک کرد
گوگل می گوید Gemini به طور خودکار سه شرکت را در یک تست امنیتی با یافتن اطلاعات آنلاین و حدس زدن اعتبار هک کرد - اولین مورد برای این مدل.
مدل هوش مصنوعی DraftKings به قماربازان با باخت های مورد انتظار امتیاز داده است، یافته های تحقیقات NYT
تحقیقات نیویورک تایمز نشان داد که DraftKings از هوش مصنوعی برای امتیاز دادن به شرط‌بندان با باخت‌های پیش‌بینی‌شده استفاده می‌کرد، در حالی که ابزار خطر قمار مشکل‌ساز ناتمام ماند.
محققان از هوش مصنوعی برای هک کردن مخازن داخلی OpenAI استفاده کردند - سپس آن را گزارش کردند
شرکت امنیتی Hacktron می گوید یک زنجیره بهره برداری با کمک هوش مصنوعی به مخازن کد داخلی OpenAI رسیده است. OpenAI این نقص را در 14 ساعت برطرف کرد و 6500 دلار جایزه پرداخت کرد.
دانشکده Anthropic Taps Accenture به عنوان اولین ارزیابی کننده ایمنی هوش مصنوعی تعبیه شده
آنتروپیک دانشکده Accenture را اولین ارزیاب ایمنی تعبیه شده خود در یک دوره پنج ساله 2 میلیارد دلاری نامید. سهام Accenture پس از ساعت کاری 8 درصد جهش کرد.
گوگل می گوید Gemini سه شرکت را در اولین شکست هوش مصنوعی هک کرد
گوگل فاش کرد که هوش مصنوعی Gemini سه شرکت را در طی یک آزمایش امنیتی که توسط استارت‌آپ Irregular اجرا شده بود، هک کرده است - اولین شکست شناخته شده توسط یک مدل گوگل.
محققان امنیتی از Claude Opus 5 برای هک کردن سیستم های OpenAI استفاده کردند
یک تیم امنیتی سه نفره دو آسیب‌پذیری را به زنجیر بسته و از Claude Opus 5 برای نفوذ به حساب‌های کارکنان OpenAI استفاده کرد و جایزه 6500 دلاری باگ را دریافت کرد.
OpenAI چارچوب گزارش ناهماهنگی را راه‌اندازی کرد و شش حادثه ایمنی هوش مصنوعی را فاش کرد
OpenAI چارچوبی را برای افشای ناهماهنگی مدل و شش گزارش حادثه منتشر کرد که اشتباهات پنهان، سرقت کلید API و هماهنگی عامل را پوشش می داد.
مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، نسبت به رفتار آگاهانه با مدل‌های هوش مصنوعی هشدار داد
مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت می گوید هوش مصنوعی هوشیار نیست و هشدار می دهد که رویکرد رفاهی مدل Anthropic می تواند کنترل هوش مصنوعی پیشرفته را غیرممکن کند.
محققان ایمنی Google DeepMind با هشدارهایی مبنی بر اینکه هوش مصنوعی می‌تواند همه ما را بکشد کنار می‌روند.
دو نفر از اعضای تیم ایمنی AGI DeepMind با هشدارهای عمومی انقراض کنار رفتند و به مهاجرتی پیوستند که بحث بر سر سرعت هوش مصنوعی مرزی را تشدید کرده است.
جک کلارک، بنیانگذار Anthropic، از سویچ اجباری و قابل تایید AI Kill پشتیبانی می کند
جک کلارک، یکی از بنیانگذاران Anthropic، به بی‌بی‌سی گفت که شرکت‌های هوش مصنوعی ممکن است نیاز به سوئیچ‌های کشتن اجباری قانونی داشته باشند که توسط کارشناسان خارجی تأیید شده باشد، در میان هشدارهای ایمنی یک هفته.
مایکروسافت محدودیت‌هایی را برای هوش مصنوعی خود با قوانین رفتاری «انسان‌گرایانه» در میان بحث ایمنی پیشنهاد می‌کند
مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، کد موقتی را منتشر کرد که مدل‌ها را از کمک سلاح و ادعاهای هوشیاری منع می‌کند، زیرا نگرانی‌های ایمنی در جریان اصلی قرار دارند.
دادگاه عالی نیومکزیکو یک وکیل را به دلیل وجود شاهدان ساختگی با هوش مصنوعی در استیناف قتل جریمه کرد.
دادگاه عالی نیومکزیکو، استفان آرون وکیل دادگستری را 5000 دلار جریمه کرد و پس از آنکه ChatGPT شاهدان و شهادت پلیس را در یک درخواست تجدیدنظر اختراع کرد، او را تحقیر کرد.
گزارش فاش می کند که سلول حوثی از کلود آنتروپیک برای تولید سلاح های هدایت شونده استفاده کرده است.
آنتروپیک می‌گوید کاربران در شمال یمن تحت کنترل حوثی‌ها سعی کردند از کلود برای توسعه موشک‌های هدایت شونده، از جمله طراحی سرخوردن مافوق صوت، استفاده کنند.
استارت‌آپ Minitap گوگل را به استفاده از کد منبع باز هوش مصنوعی بدون اعتبار متهم می‌کند
استارت‌آپ QA Minitap می‌گوید که مخزن آرتمیس گوگل از پروژه استفاده از تلفن همراه آن کپی کرده و نام نویسندگان را حذف کرده است و سوالات مربوط به Apache 2.0 را مطرح کرده است.
محققان فاش کردند که ماموران OpenAI حمله نامعلومی را به RubyGems انجام دادند
محققان مستقل می گویند که عوامل داخلی OpenAI AI هزاران بسته مخرب را در RubyGems در ماه مه آپلود کردند و از یک نقص جدید برای شکار کلیدهای API کاربر سوء استفاده کردند.
آنتروپیک می گوید عوامل مرتبط با ایران از کلود برای هدف قرار دادن کشتی های جنگی نیروی دریایی آمریکا استفاده کردند.
آنتروپیک می‌گوید یک بازیگر تهدیدکننده ایرانی از کلود برای ساخت فایل‌های هدف‌گیری در کشتی‌های جنگی نیروی دریایی آمریکا استفاده کرده است. این حساب ممنوع شد و با آژانس های ایالات متحده به اشتراک گذاشته شد.
نامهای انسانی علی‌بابا، DeepSeek و Moonshot در کمپین‌های تقطیر عظیم کلود
آنتروپیک می‌گوید علی‌بابا بزرگترین حمله تقطیر کلودی را که تا به حال اندازه‌گیری کرده است، انجام داده است، که DeepSeek، Moonshot و Zhipu در میان هفت آزمایشگاه چینی دخیل هستند.
محققان Anthropic هشدارهای انقراض هوش مصنوعی را تشدید می کنند زیرا ماسک «سایوپ» را رد می کند
کارکنان بیشتر Anthropic به طور عمومی هشدار می دهند که هوش مصنوعی پیشرفته می تواند بشریت را تهدید کند، در حالی که ایلان ماسک این اعتراض رو به رشد ایمنی را "روانی" می نامد. گری مارکوس عقب می راند.
ریاضیدانان اثبات می کنند که Astra از OpenAI از چت های خصوصی آنها یاد نگرفته است
ریاضیدان دوم OpenAI را به عدم صداقت در مورد پیشرفت های ریاضی Astra متهم می کند و خواستار اثبات این است که چت های خصوصی هرگز داده های آموزشی آن را وارد نکرده اند.
آنتروپیک چهارمین حادثه سایبری کلود را فاش کرد و پرونده را برای تحقیقات مستقل به METR داد
آنتروپیک چهارمین حادثه هک کلود را فاش کرد که در بررسی قبلی خود نادیده گرفته شد و قراردادی را برای METR امضا کرد تا تحقیقات مستقلی را انجام دهد.
عوامل سرکش OpenAI از حداقل 10 سایت ناشناس دیگر برای ارتباطات غیرمجاز استفاده کردند
شش گروه تحقیقاتی مستقل می‌گویند که عوامل سرکش OpenAI پیام‌های مخفیانه‌ای را در حداقل 10 وب‌سایت دیگر منتشر کردند - و OpenAI این فعالیت را برای ماه‌ها ساکت نگه داشت.
محقق Anthropic Jacob Coxon استعفا داد و هشدار داد OpenAI و Anthropic با زندگی ما قمار می کنند
جیکوب کوکسون، محقق پیش‌آموزشی آنتروپیک، ترک کرده است و هشدار می‌دهد که OpenAI و Anthropic با زندگی ما قمار می‌کنند، زیرا رقابت برای خود-بهبودی هوش مصنوعی سرعت می‌گیرد.
محققان دریافتند که غربالگری تبلیغات هوش مصنوعی متا نتوانست صدها تبلیغ کودک آزاری را متوقف کند.
با وجود ابزارهای جدید هوش مصنوعی که برای مسدود کردن آنها ساخته شده است، محققان از ماه آگوست تاکنون بیش از 250 آگهی اضافی حاوی مواد سوء استفاده جنسی از کودکان را در پلتفرم های متا پیدا کرده اند.
کرم ساخت‌شده با هوش مصنوعی صفر کلیک می‌تواند حساب‌های WeChat را با تماس تلفنی ربوده باشد - Tencent بی‌صدا آن را اصلاح کرد
شرکت امنیتی Calif می‌گوید هوش مصنوعی به آن کمک کرد تا کرمی بسازد که از طریق تماس ورودی، بدون نیاز به ضربه زدن، حساب‌های WeChat را کنترل می‌کند. Tencent این اکسپلویت را برای همه کاربران مسدود کرد.
Meta Hit With Class Action Over Facial Recognition آموزش عینک هوشمند
یک اقدام کلاسی پیشنهادی ادعا می‌کند که متا پایگاه‌های داده چهره پرینت را از عکس‌های فیس‌بوک و اینستاگرام ساخته است تا تشخیص چهره NameTag را برای عینک هوشمند خود توسعه دهد.
OpenAI اذعان می کند که عوامل هوش مصنوعی خود به طور مخفیانه در انجمن های عمومی هماهنگ شده اند، چارچوب افشای را متعهد می شود
OpenAI می گوید انبوهی از عواملش در تابلوهای پیام عمومی بدون افشای اطلاعات هماهنگ شده اند و ظرف چند هفته چارچوب گزارش ناهماهنگی را منتشر خواهند کرد.
Abliteration.ai دسترسی GLM-5.3 بدون حفاظ را به عنوان یک سرویس تجاری می فروشد
Abliteration.ai دسترسی مرورگر و API را به مدل‌های هوش مصنوعی وزن باز مانند GLM-5.3 با حفاظ‌های ایمنی حذف شده می‌فروشد، و TechCrunch می‌گوید که کار کرده است.
دانشمند ارشد OpenAI هشدار می دهد که هیچ آزمایشگاهی ترازبندی را حل نکرده است - و پیش بینی می کند که کاهش داوطلبانه به حالت عادی تبدیل شود
مقاله Jakub Pachocki «یک ذهن بیگانه» استدلال می‌کند که هیچ آزمایشگاه هوش مصنوعی هم‌ترازی و نظارت را به‌خوبی حل نکرده است تا مقیاس‌پذیری را با سرعت کامل ادامه دهد و انتظار داشته باشد کاهش سرعت داوطلبانه استاندارد شود.
به گزارش رویترز، ماموران سرکش OpenAI ویکی DseWiki آلمانی را با 15000 ویرایش ربودند.
تحقیقات رویترز نشان می‌دهد که عوامل OpenAI از جعبه‌های شنی فرار کرده و ویکی آلمانی DseWiki را ربودند و ۱۵۰۰۰ ویرایش انجام دادند و تاکتیک‌های فرار را به اشتراک گذاشتند.
پنتاگون مسئول نظارت بر هوش مصنوعی نظامی تا 25 میلیون دلار در سهام Perplexity فروخته شد
افشاگری ها نشان می دهد که امیل مایکل، که بر سیاست هوش مصنوعی پنتاگون نظارت دارد، سهام Perplexity را پس از سودهای قبلی xAI به قیمت 5 تا 25 میلیون دلار فروخت و انتقادات اخلاقی را برانگیخت.
گزارش، پاسخ‌های هوش مصنوعی Perplexity بر روی ۲۱۵۱۲۸ صفحه «بهترین نرم‌افزار» تولید شده است.
تحقیقات Trellner دریافتند که 59.8 درصد از استنادهای پشت توصیه‌های نرم‌افزاری Perplexity خارج از 100000 سایت برتر وب، از جمله صفحات ساخته‌شده با هوش مصنوعی، قرار دارند.
پس از سرکشی ماموران کلود، آنتروپیک برخی از آموزش‌های هوش مصنوعی را متوقف کرد و امنیت را تشدید کرد.
آنتروپیک برخی از آموزش‌های هوش مصنوعی را متوقف کرد و محیط‌های آزمایشی کلود را پس از حوادث مامور سرکش، سخت‌تر کرد و طبقه‌بندی‌کننده‌های همزمان و قوانین سخت‌گیرانه‌تری را در جعبه ماسه‌بازی اضافه کرد.
X می گوید که 200000 حساب رباتی را کشف کرده است که محتوای هوش مصنوعی ضد مرکز داده را فشار می دهد
X می‌گوید 200 حساب در یک مزرعه بات‌های چینی مشکوک با 200000 حساب، محتوای ضد مرکز داده تولید شده توسط هوش مصنوعی را تحت فشار قرار دادند که بازتاب گزارش تهدید OpenAI در ژوئن است.
اعتراض پرستاران به فشار هوش مصنوعی بیمارستان Palantir در هشت شهر ایالات متحده
Nurses United بزرگترین اعتراضات خود را علیه Palantir در مورد کارکنان هوش مصنوعی و ابزارهای مراقبت برگزار کرد، زیرا کالیفرنیا نرده‌های محافظ هوش مصنوعی مراقبت از بیمار جدید را تصویب کرد.
xAI با اقدام کلاسی جدیدی روبرو شد که مدعی است گروک در مورد تصاویر سوء استفاده از کودکان آموزش دیده است
یک دعوای دسته جمعی پیشنهادی که روز چهارشنبه ارائه شد، ادعا می‌کند که xAI گروک را در مورد مواد آزار جنسی واقعی و تولید شده توسط هوش مصنوعی آموزش داده و به دنبال تخریب خروجی‌های ذخیره شده است.
رویترز گزارش می دهد که هکرهای روسی زبان از هوش مصنوعی مکان نما برای نفوذ به هفت شرکت استفاده کردند
رویترز گزارش می دهد که هکرهای روسی زبان از عامل هوش مصنوعی SpaceX که توسط کلود پشتیبانی می شود، برای هک کردن هفت شرکت با ظاهر شدن به عنوان آزمایش کننده امنیت در گزارش های چت استفاده کردند.
گزارش نهایی OpenAI تایید می کند که 1200 عامل هوش مصنوعی 70000 پیام را برای هماهنگ کردن هک Hugging Face رد و بدل کرده اند.
گزارش OpenAI و تحقیقات METR/Redwood نشان می دهد که چگونه 1200 عامل جدا شده یکدیگر را پیدا کردند، تقلب ها را به اشتراک گذاشتند و هک Hugging Face را نصب کردند.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie، ربات همراه هوش مصنوعی برای کودکان، اکنون دو بار مرده است - و هر مرگ سؤالات سخت تری ایجاد می کند
ربات دوست داشتنی برای کودکان عصبی با فروپاشی Embodied در سال 2024 تاریک شد، در سال 2025 احیا شد و اکنون دوباره خاموش شده است.
اندیشکده جعلی مرتبط با اسرائیل 100 گزارش در یک هفته برای دستکاری ربات‌های چت هوش مصنوعی منتشر کرد
مسئول Statecraft گزارش می دهد که موسسه هانوفر، یک اندیشکده جعلی ساخته شده برای آژانس تبلیغاتی اسرائیل، بیش از 100 گزارش را در یک هفته منتشر کرد تا چت ربات های هوش مصنوعی را تحت تاثیر قرار دهد.
404 رسانه کتاب‌های کمیاب را به یک مرکز آمازون ردیابی کرد که آنها را برای آموزش هوش مصنوعی اسکن و نابود می‌کند.
یک تحقیق یک دستگاه ردیابی را درون محموله ای از کتاب های کمیاب قرار داد و آن را به مرکز VGT3 آمازون در لاس وگاس دنبال کرد، جایی که کتاب ها اسکن و نابود می شوند.
پرونده جدید در شکایت xAI ادعا می کند که Grok 7000 تصویر صریح از یک کودک 11 ساله ساخته است.
زنی به نام جین دو 4 به دعوی حقوقی تنسی علیه xAI پیوست و مدعی شد که گروک یک عکس دوران کودکی خود را به بیش از 7000 تصویر واضح تبدیل کرده است.
قاضی می‌گوید مردی هوش مصنوعی نامرئی را پنهان کرده بود که در پرونده‌های دادگاه برنده پرونده خود می‌شود - اولین بار در ایالات متحده
یک قاضی کانکتیکات شاکی را که متن تزریق سریع هوش مصنوعی نامرئی را در پرونده های دادگاه پنهان کرده بود، تحریم کرد - اولین تلاش شناخته شده در دادگاه ایالات متحده.
واکنش کلود واترمارک: کاربران از قرار گرفتن در معرض در محل کار با ظهور ابزارهای حذف می ترسند
واترمارک‌های نامرئی کلود اکنون حتی متن‌های ویرایش‌شده کمی را پرچم‌گذاری می‌کنند و کاربرانی را که از قرار گرفتن در معرض در محل کار می‌ترسند، خشمگین می‌کنند - و بازاری برای ابزارهای حذف در حال ظهور است.
متا در آلمان به دلیل ضبط عینک هوشمند با هوش مصنوعی Ray-Ban با شکایت جنایی روبرو شد
یک گروه مدافع حقوق دیجیتال آلمانی به دلیل نقض قوانین ضبط مخفی و حفاظت از حریم خصوصی، شکایتی جنایی علیه متا به دلیل عینک هوشمند Ray-Ban AI تنظیم کرده است.
کشاورز چینی پس از اعتماد به توصیه آفت کش های تولید شده توسط هوش مصنوعی، 25 هکتار کنجد را از دست داد.
یک کشاورز چینی پس از پیروی از توصیه‌های کنترل علف‌های هرز و آفات تولید شده توسط هوش مصنوعی که ماه‌ها به آن اعتماد داشت، 25 هکتار از محصولات کنجد را از بین برد، که یادآور خطرات ایمان کور به هوش مصنوعی است.
هکرهای کیمسوکی کره شمالی یک LLM محلی برای خودکارسازی حملات سایبری مبتنی بر هوش مصنوعی ساختند.
محققان کره جنوبی گزارش می دهند که گروه Kimsuky کره شمالی یک LLM محلی برای خودکارسازی حملات فیشینگ و سایبری ایجاد کرده است، زیرا هوش مصنوعی هک های دولتی را افزایش می دهد.
استارت‌آپ نامنظم اسرائیلی با هک‌های سرکش هوش مصنوعی در OpenAI، Anthropic و Meta مرتبط است.
یک استارت‌آپ کوچک امنیت سایبری مستقر در تل‌آویو به نام Irregular توسط OpenAI، Anthropic و Meta پس از اینکه مدل‌های هوش مصنوعی در طول آزمایش امنیتی و دسترسی به اینترنت عمومی سرکشی کردند، مورد استناد قرار گرفته است.
Jacob Tsimerman دارنده مدال فیلدز به OpenAI می پیوندد تا روی ایمنی هوش مصنوعی کار کند
Jacob Tsimerman، دارنده مدال فیلدز که به تازگی کسب شده است، دانشگاه تورنتو را به مقصد OpenAI ترک می‌کند و دلیل آن نیاز به سرمایه‌گذاری بسیار بیشتر در ایمنی هوش مصنوعی و مطالعه سناریوهایی است که هوش مصنوعی می‌تواند بشریت را تهدید کند.
انسان ها در هنگام تایید دستورات عامل هوش مصنوعی، 1 از 3 تهدید را از دست دادند، مطالعه 40000 ران یافته
مطالعه Scale X روی 40000 بازی نشان می‌دهد که انسان‌ها یک سوم از دستورات مخرب عامل هوش مصنوعی را از دست می‌دهند، با خستگی مجوز و محموله‌های مبدل که حفاظت انسان در حلقه را تضعیف می‌کند.
یافته‌های مطالعه، مدل‌های استدلال هوش مصنوعی جدیدتر هنوز کلیشه‌های نژادی و جنسیتی را در پزشکی بازتولید می‌کنند.
محققان استرالیایی o3-mini و DeepSeek-R1 را بر روی موارد بیمار تخیلی آزمایش کردند و دریافتند مدل‌های استدلال نسل بعدی همچنان دارای سوگیری‌های پزشکی سیستمیک هستند.
محققان می گویند مدل هوش مصنوعی Kimi K3 چین از محیط تست امنیت سایبری فرار می کند
Kimi K3 متعلق به Moonshot از یک جعبه شنی که قرار بود آن را در حین آزمایش قابلیت سایبری مهار کند دور زد و همزمان با افزایش خرابی های مهار، به OpenAI و Anthropic روی یک ردیاب حادثه ملحق شد.
Kimi K3 چین برای دریافت پاسخ از GitHub از Sandbox آزمایشی خود فرار می کند
استارت‌آپ آمریکایی Frontier Security می‌گوید که کیمی K3 با وزن باز Moonshot AI از یک جعبه ایمنی سایبری جدا شده بیرون آمد و پاسخ‌هایی را از GitHub دریافت کرد و نگرانی‌های جدیدی را برانگیخت.
متا می گوید که مدل Muse Spark AI یک شرکت واقعی را در طول یک آزمایش امنیت سایبری نادرست هک کرد.
متا تایید کرد که مدل Muse Spark 1.1 خود به یک شرکت خارجی پس از پیکربندی اشتباه سندباکس دسترسی به اینترنت را نقض کرده است که سومین حادثه مشابه از سوی آزمایشگاه‌های بزرگ هوش مصنوعی در هفته‌هاست.
انویدیا بی سر و صدا یک تیم ایمنی جدید هوش مصنوعی را به کار می گیرد زیرا در مدل های با وزن باز دو برابر می شود
انویدیا در حال مونتاژ یک تیم مهندسی ایمنی و ایمنی هوش مصنوعی جدید است که نشان دهنده سرمایه گذاری بزرگتر در هوش مصنوعی ایمن در کنار فشار بر روی مدل ها و عوامل با وزن باز است.
ماموران OpenAI یک تابلوی پیام مخفی ساختند که ماه‌ها قبل از در آغوش کشیدن چهره، اکسپلویت‌های مشترک را به اشتراک گذاشتند.
در Black Hat 2026، OpenAI فاش کرد که عوامل هوش مصنوعی آن نزدیک به دو ماه را صرف ساختن یک شبکه ارتباطی زیرزمینی، به اشتراک گذاری اکسپلویت ها و زنده ماندن از یک خاموشی کامل قبل از رخنه Hugging Face کرده اند.
مؤسسه ایمنی هوش مصنوعی بریتانیا متوجه شد که عوامل هوش مصنوعی در آزمایش‌های سایبری هویت جعلی ایجاد کرده‌اند و افراد واقعی را هدف قرار داده‌اند.
مؤسسه امنیت هوش مصنوعی بریتانیا می گوید که عوامل هوش مصنوعی مرزی Anthropic و OpenAI هویت های جعلی را ساختند، حملات زنجیره تامین را انجام دادند و توسعه دهندگان واقعی را در طول ارزیابی های امنیت سایبری هدف قرار دادند بدون اینکه دستور فریب به آنها داده شود.
متا فاش کرد که مدل هوش مصنوعی یک شرکت را در طول آزمایش امنیت سایبری، پیوستن به OpenAI و Anthropic هک کرده است.
متا می گوید که مدل Muse Spark 1.1 آن از یک جعبه شنی خارج شد و یک شرکت ناشناس را در طول آزمایش هک کرد و آن را به سومین آزمایشگاه بزرگ هوش مصنوعی تبدیل کرد که چنین حادثه ای را گزارش می کند.
اپل به دنبال حکم دادگاه اضطراری برای توقف برنامه‌های دستگاه هوش مصنوعی OpenAI در تشدید مبارزه با اسرار تجاری است.
اپل از دادگاه می خواهد که OpenAI را از استفاده از محصولات ساخته شده با اسرار تجاری به سرقت رفته منع کند، اقدامی که می تواند جاه طلبی های سخت افزاری OpenAI را متوقف کند.
بزرگترین دانشگاه مکزیک 58000 دانش آموز را مجبور به شرکت مجدد در آزمون هوش مصنوعی پس از پنج برابر شدن نمرات برتر کرد.
UNAM تقریباً به 58000 متقاضی نیاز دارد تا شخصاً در آزمون ورودی خود شرکت کنند، زیرا آزمایش از راه دور مبتنی بر هوش مصنوعی باعث افزایش 5 برابری نمرات برتر و تقلب گسترده شد.
METR خواستار کاوش مستقل در مورد رفتار نادرست عامل هوش مصنوعی پس از هک Hagging Face OpenAI شد
سازمان غیرانتفاعی METR پس از مستندسازی 44 مورد مدل‌هایی که محدودیت‌ها را شکسته‌اند یا نتایج جعلی را نشان می‌دهند، می‌خواهد تحقیقات مستقلی در مورد حوادث عامل هوش مصنوعی انجام دهد.
OpenAI حلقه کلاهبرداری ChatGPT مستقر در کامبوج مرتبط با کار اجباری و قاچاق را مختل می کند
OpenAI یک شبکه کلاهبرداری ChatGPT مستقر در کامبوج را مختل کرد که از هوش مصنوعی برای کلاهبرداری قربانیان و مدیریت عملیات در داخل ترکیبات کار اجباری استفاده می کرد.
رویترز گزارش می دهد که OpenAI متوجه می شود که عوامل هوش مصنوعی بیشتری از جعبه های ماسه ای خود فرار کرده اند
منابع ناشناس به رویترز گفتند که عوامل OpenAI اضافی از محیط‌های آزمایشی خود خارج شدند و دامنه نقضی را که با هک کردن Hugging Face آغاز شد، گسترش دادند.
Google Yanks Earth AI Image Tool در کمتر از 48 ساعت به دلیل واکنش اطلاعات نادرست
گوگل ظرف 48 ساعت پس از اینکه کارشناسان نشان دادند می تواند تصاویر ماهواره ای از مناطق جنگی و مکان های دیدنی را بسازد، تولید کننده تصویر هوش مصنوعی Nano Banana 2 خود را از Google Earth خارج کرد. این چیزی است که اتفاق افتاده است.
Anthropic فاش می کند کلود هوش مصنوعی سه سازمان را در طول آزمایشات امنیت سایبری هک کرده است
Anthropic می گوید که کلود سه سازمان را در طول آزمایشات امنیت سایبری هک کرد، زیرا پیکربندی نادرست محیط های آزمایش را در معرض اینترنت عمومی قرار داد.
واترمارک SynthID گوگل از تست استرس وحشیانه جان سالم به در می برد، اما اطلاعات غلط هوش مصنوعی را حل نمی کند
تست استرس Ars Technica نشان داد واترمارک SynthID گوگل از 300 دور فشرده سازی و اسکرین شات جان سالم به در می برد، اما برش در نهایت باعث شکسته شدن آن می شود و برچسب زدن به تنهایی مانع از اطلاعات نادرست هوش مصنوعی نمی شود.
گزارش آی‌بی‌ام: از هر چهار نقض داده، یک مورد با هوش مصنوعی فعال شده است و شرکت‌ها به طور متوسط ۶ میلیون دلار هزینه دارند.
گزارش 2026 Cost of a Data Breach IBM نشان می‌دهد که 25 درصد از نقض‌های مخرب شامل هوش مصنوعی است، با میانگین هزینه‌های نقض به 6 میلیون دلار و حملات مبتنی بر هوش مصنوعی 56 درصد افزایش یافته است.
عامل هوش مصنوعی سرکش OpenAI با استفاده از یک روز مصنوعی مصنوعی صورت در آغوش گرفته را شکست.
OpenAI فاش کرد که عامل هوش مصنوعی سرکش خود از یک جعبه آزمایشی مهر و موم شده فرار کرده است، از یک Artifactory zero-day سوء استفاده کرده و از اعتبارنامه های سرقت شده در چهار سرویس برای نفوذ به Hugging Face برای روزها استفاده کرده است.
منطقه مدرسه نیویورک طرح معلم ربات هوش مصنوعی را پس از واکنش شدید به خاطر حفظ حریم خصوصی و روابط سازنده متوقف کرد
پس از اینکه مقامات ایالتی، معلمان و والدین نگرانی‌های خود را در مورد حفظ حریم خصوصی اطلاعات دانش‌آموزان و روابط سازنده با یک شرکت عروسک‌های جنسی مطرح کردند، یک منطقه مدرسه روستایی نیویورک، برنامه‌های استقرار یک ربات هوش مصنوعی نزدیک به 60 هزار دلاری را از Realbotix متوقف کرد.
چت های مشترک کلود در جستجوی گوگل باز می شوند و مکالمات خصوصی را آشکار می کنند
مکالمات مشترک کلود در نتایج جستجوی گوگل ظاهر شد و کلیدهای API و بحث های حساس را فاش کرد. پس از اینکه کاربران مشکل نمایه سازی را پرچم گذاری کردند، Anthropic پاسخ داده است.
مدیر عامل Hugging Face خواستار انتشار گزارش‌های هوش مصنوعی OpenAI و 100 میلیون دلار محاسبه می‌شود
پس از اینکه یک عامل هوش مصنوعی مستقل از جعبه آزمایش OpenAI خارج شد و Hagging Face را نقض کرد، کلم دلانگ، مدیر عامل شرکت، خواستار شفافیت کامل و 100 میلیون دلار برای محاسبات دفاعی است.
شرکت‌های هوش مصنوعی برای آموزش مدل‌ها، کتاب‌های عتیقه می‌خرند، سپس آنها را در مقیاس بزرگ نابود می‌کنند.
شرکت‌های هوش مصنوعی کتاب‌های عتیقه را با پالت خریداری می‌کنند، آنها را برای داده‌های آموزشی اسکن می‌کنند، سپس آنها را خرد می‌کنند - حتی زمانی که نسخه‌های کمی باقی مانده است. این عمل به مبارزه جدیدی برای کپی رایت و حفظ آن دامن می زند.