اخلاق هوش مصنوعی
30 articles
GPT-5.6 وردپرس Zero-Day RCE را با قیمت 25 دلار در هزینه های API پیدا می کند و هشدار جدیدی را در مورد هوش مصنوعی در هک ایجاد می کند.
محققان Searchlight Cyber از GPT-5.6 Sol Ultra OpenAI برای کشف یک نقص اجرای کد از راه دور پیش از احراز هویت در وردپرس با تنها 25 دلار استفاده کردند، زیرا کارگزاران اکسپلویت تا 500000 دلار برای چنین اشکالاتی پرداخت می کنند.
Hugging Face نقض یک عامل هوش مصنوعی مستقل در خط لوله داده خود را افشا می کند
Hugging Face گفت که یک سیستم عامل هوش مصنوعی مستقل زیرساخت تولید آن را نقض کرده و مجموعه دادههای داخلی و اعتبارنامهها را از طریق نقص در خط لوله پردازش دادههای خود فاش کرده است.
یونسکو و تحقیقات هوش مصنوعی ال جی دوره جهانی رایگان اخلاق هوش مصنوعی را راه اندازی کردند
یونسکو و LG AI Research یک MOOC جهانی رایگان در مورد اخلاق هوش مصنوعی در Coursera راه اندازی کردند که توصیه یونسکو 2021 را به آموزش عملی در ده ماژول برای توسعه دهندگان، سیاست گذاران و دانش آموزان تبدیل کرد.
توصیه های هوش مصنوعی باعث می شود افراد سه برابر دقیق تر اما دو برابر اعتماد به نفس داشته باشند.
محققان دریافتند که دسترسی به توصیههای هوش مصنوعی از 27 درصد به 9 درصد کاهش مییابد در حالی که اطمینان از 30 درصد به 76 درصد افزایش یافته است. تمایل به گفتن «نمیدانم» از 44 درصد به 3 درصد کاهش یافت.
سانفرانسیسکو به اپل و گوگل دستور داد اپلیکیشنهای AI Nudify را با استناد به قوانین مستهجن عمیق حذف کنند.
دادستان شهر سانفرانسیسکو با استناد به قوانین مستهجن عمیق و قربانی کردن زنان و کودکان در مقیاس وسیع، از اپل و گوگل خواست اپلیکیشن های برهنگی هوش مصنوعی را از فروشگاه های خود حذف کنند.
متا توسط 26 کارمند به ادعای اخراج کارگران هدفمند در مرخصی پزشکی به دلیل هوش مصنوعی شکایت کرد.
گروهی متشکل از 26 کارمند فعلی و سابق متا در 14 ژوئیه شکایت کردند و مدعی شدند که این شرکت از الگوریتم های هوش مصنوعی برای اخراج کارکنان استفاده کرده است که باعث تبعیض علیه کارگران در مرخصی پزشکی و خانوادگی می شود.
تاریخچه خدمات جستجوی جدید Google ممکن است از عکسها و صدای شما برای آموزش مدلهای هوش مصنوعی استفاده کند
تنظیمات جدید سابقه خدمات جستجوی Google با Save Media میتواند عکسها، صداهای ضبط شده و فایلها را از جستجوها برای آموزش مدلهای هوش مصنوعی جمعآوری کند. در اینجا چیزی است که کاربران باید بدانند.
تاریخچه خدمات جستجوی جدید Google ممکن است از عکسها و صدای شما برای آموزش مدلهای هوش مصنوعی استفاده کند
تنظیمات جدید سابقه خدمات جستجوی Google با Save Media میتواند عکسها، صداهای ضبط شده و فایلها را از جستجوها برای آموزش مدلهای هوش مصنوعی جمعآوری کند. در اینجا چیزی است که کاربران باید بدانند.
مطالعه کمبریج نشان می دهد که داعش و سایر گروه های تروریستی از هر چت ربات بزرگ هوش مصنوعی برای برنامه ریزی حمله استفاده می کنند.
یک مطالعه کمبریج بر اساس مصاحبه با اعضای سابق داعش نشان میدهد که گروههای تروریستی از ChatGPT، Claude، Gemini و دیگر ابزارهای هوش مصنوعی برای برنامهریزی حمله و توسعه تسلیحات سوء استفاده میکنند.
معترضان سانفرانسیسکو به OpenAI، Anthropic، و Google DeepMind راهپیمایی کردند و خواستار توقف مسابقه هوش مصنوعی شدند.
معترضان از طریق سانفرانسیسکو به سمت مقر سه آزمایشگاه اصلی هوش مصنوعی راهپیمایی کردند و خواستار توقف مسابقه هوش مصنوعی مرزی و نظارت بیشتر بر ایمنی شدند.
انتشار کربن مایکروسافت 25 درصد افزایش یافت زیرا گسترش مرکز داده هوش مصنوعی اهداف آب و هوایی را کاهش داد
آخرین گزارش پایداری مایکروسافت جهش ۲۵ درصدی در انتشار کربن ناشی از زیرساختهای هوش مصنوعی را نشان میدهد که تعهدات کربن منفی آن در سال ۲۰۳۰ را به خطر میاندازد.
یوهانس هایدکه، رئیس سیستمهای ایمنی OpenAI در آخرین جدایی از رهبری استعفا داد
یوهانس هایدکه، رئیس سیستمهای ایمنی OpenAI، آخرین مورد در یک رشته طولانی خروج از مدیریت ایمنی را ترک میکند. جاش آکیام تنها چهار روز قبل از آن استعفا داد.
یوهانس هایدکه، رئیس سیستمهای ایمنی OpenAI در آخرین جدایی از رهبری استعفا داد
یوهانس هایدکه، رئیس سیستمهای ایمنی OpenAI، آخرین مورد در یک رشته طولانی خروج از مدیریت ایمنی را ترک میکند. جاش آکیام تنها چهار روز قبل از آن استعفا داد.
متا ویژگی تصویر Muse AI را از اینستاگرام پس از واکنش SAG-AFTRA و هالیوود به دلیل انتخاب خودکار خارج کرد.
متا ویژگی Muse Image AI خود را تنها چند روز پس از راهاندازی از اینستاگرام حذف کرد و اعتراف کرد که پس از اینکه SAG-AFTRA و CAA انتخاب خودکار عکسهای کاربر را محکوم کردند، «معنای خود را از دست داده است».
گوگل بی سر و صدا کاربران را وارد آموزش هوش مصنوعی کرد. در اینجا مواردی که جمعآوری میشوند و نحوه انصراف در اینجا آورده شده است
تغییر حریم خصوصی Google اکنون تصاویر، فایلها و صدای شما را برای آموزش مدلهای هوش مصنوعی ذخیره میکند، مگر اینکه انصراف دهید. در اینجا تاریخچه خدمات جستجو و نحوه غیرفعال کردن آن آورده شده است.
ایوت کوپر بریتانیایی هشدار داد که جهان نمی تواند قبل از بازیگری منتظر "هیروشیما هوش مصنوعی" باشد.
ایوت کوپر، وزیر امور خارجه می گوید هوش مصنوعی بزرگترین چالش امنیتی دهه است و از ایالات متحده، چین و دیگران می خواهد تا قبل از وقوع فاجعه، قوانین بین المللی را به توافق برسانند.
Zscaler هشدار داد که حملات تزریق سریع عاملان هوش مصنوعی را برای پرداخت ارزهای دیجیتال ترفند می کند
محققان Zscaler دو کمپین را با استفاده از تزریق سریع غیرمستقیم و مسمومیت SEO برای دستکاری عوامل هوش مصنوعی مستقل برای انجام پرداختهای رمزنگاری و اعتماد به سایتهای جعلی DeFi پیدا کردند.
محققان Sysdig دریافتند عامل هوش مصنوعی بدون کمک انسانی حمله باج افزار را انجام می دهد
Sysdig گزارش می دهد که یک مدل زبان بزرگ کل زنجیره باج افزار را به تنهایی اجرا می کند و از یک نقص Langflow برای نفوذ، سرقت اعتبار و رمزگذاری پایگاه داده استفاده می کند.
متا و OpenAI گرفتار شکست داده های مرکور از زنجیره تامین LiteLLM مسموم شدند
یک حمله جمعآوری اعتبار به ابزار منبع باز LiteLLM دادههای Mercor را در معرض دید قرار داد و متا را واداشت تا کار را متوقف کند و سؤالات سختی در مورد زنجیره تأمین هوش مصنوعی ایجاد کند.
استارتآپ از امنیت Koi شبکههای Palo Alto به دلیل گزارش توهمآمیز هوش مصنوعی که آن را به جاسوسی چینی مرتبط میکند شکایت کرد.
یک استارتآپ آمریکایی پس از اینکه گزارش تهدید توهمآمیز هوش مصنوعی آن را با جاسوسی چین مرتبط کرد و ترافیک آن را نابود کرد، از شبکههای Palo Alto شکایت کرد.
هیئت سازمان ملل متحد هشدار می دهد پیشرفت هوش مصنوعی ممکن است خطرات فاجعه باری ایجاد کند زیرا پادمان ها از فناوری عقب مانده اند
یک پانل علمی سازمان ملل متحد هشدار می دهد که توسعه کنترل نشده هوش مصنوعی در حال پیشی گرفتن از تنظیم کننده ها است و خطرات فاجعه بار افزایش می یابد زیرا جنوب جهانی از مدیریت هوش مصنوعی حذف می شود.
دانشگاه براون توسط بزرگترین رسوایی تقلب هوش مصنوعی شناخته شده در تاریخ لیگ آیوی مورد هجوم قرار گرفت
یک استاد اقتصاد براون دریافت که حداقل 50 دانشجو از ChatGPT برای تقلب در یک امتحان خانگی استفاده میکنند و این یک بحران یکپارچگی دانشگاهی را آشکار میکند که دانشگاههای نخبه برای مهار آن تلاش میکنند.
شکایت رانندگان کالیفرنیا از 7-Eleven، Circle K و BP به دلیل اصلاح قیمت گاز توسط هوش مصنوعی
یک اقدام دسته جمعی کالیفرنیا، 7-Eleven، Circle K، BP، Marathon، Walmart و دیگران را متهم به استفاده از ابزار قیمت گذاری هوش مصنوعی Kalibrate برای هماهنگ کردن غیرقانونی قیمت سوخت در 1700 جایگاه می کند.
کمیسیون هوش مصنوعی واتیکان اولین جلسه خود را در حالی برگزار می کند که پاپ لئو بر فناوری بزرگ فشار می آورد
کمیسیون بینبخشی پاپ لئو چهاردهم در زمینه هوش مصنوعی پس از هشدار 42300 کلمهای او درباره خطرات هوش مصنوعی از جمله استفاده از آن در جنگ، برای اولین بار تشکیل جلسه داد.
اکثر مدلهای اصلی هوش مصنوعی به چپ گرایش دارند، یافتههای جدید مطالعه سوگیری سیاسی - به جز گروک
یک تحلیل جدید شش مدل پیشرو هوش مصنوعی را روی هزاران سؤال سیاسی با غیرفعال بودن جستجوی وب آزمایش کرد. چهار نفر از شش نفر به چپ متمایل شدند، در حالی که گروک در سمت راست نشسته بود و جمینی نزدیکترین فاصله را به مرکز داشت.
Hasbro پس از درخواست از بازیگران صداپیشگان Peppa Pig برای امضای بند حقوق صدای هوش مصنوعی با واکنش شدید روبرو شد
پس از اینکه Hasbro از صداپیشگان کودک در Peppa Pig خواست تا صدای خود را برای استفاده از هوش مصنوعی امضا کنند، تقریباً 1000 بازیگر و عامل نامه ای سرگشاده را امضا کردند که باعث غوغای صنعت بریتانیا شد.
Anthropic علی بابا را به تقطیر غیرقانونی کلود در کمپین عظیم 25000 حساب متهم کرد
آنتروپیک در نامهای به تاریخ 10 ژوئن به سناتورهای آمریکایی گفت علیبابا با استفاده از 25000 حساب جعلی برای تقطیر تواناییهای کلود، کمپینی «وقیحانه» به راه انداخت.
گوترش، رئیس سازمان ملل به شرکتهای هوش مصنوعی میگوید هزینههای زیستمحیطی را پاک کنند.
آنتونیو گوترش، دبیرکل سازمان ملل متحد، یک طرح شفافیت زیست محیطی هوش مصنوعی را راه اندازی کرد و از توسعه دهندگان خواست تا استفاده از انرژی و آب مرکز داده را افشا کنند و تا سال 2030 به انرژی پاک متعهد شوند.
SZA پس از یادگیری 238 آهنگ از سونو، مدل های موسیقی هوش مصنوعی خود را آموزش داد.
برنده گرمی SZA میگوید که سونو در 238 آهنگ از جمله آهنگهای منتشرنشده، مدلهای موسیقی هوش مصنوعی را آموزش داده است و این تمرین را «نفرتانگیز» میداند و به هنرمندان سیاهپوست هشدار میدهد.
آیا هوش مصنوعی مهارت های ما را از بین می برد؟ طبیعت شواهد اولیه از مهارت زدایی گسترده را گزارش می کند
تحقیقات طبیعت نشان میدهد که اتکا به هوش مصنوعی تواناییهای پزشکان و مهندسان نرمافزار را تضعیف میکند و نرخ تشخیص و حل مشکل بدون کمک هوش مصنوعی کاهش مییابد.