أخلاقيات الذكاء الاصطناعي
43 articles
مسؤول في البنتاغون يشرف على الذكاء الاصطناعي العسكري باع ما يصل إلى 25 مليون دولار من مخزون الحيرة
تظهر الإفصاحات أن إميل مايكل، الذي يشرف على سياسة البنتاغون للذكاء الاصطناعي، باع أسهم شركة Perplexity مقابل 5 مليون دولار إلى 25 مليون دولار بعد أرباح XAI السابقة، مما أثار انتقادات أخلاقية.
يجد التقرير أن إجابات الذكاء الاصطناعي لـ Perplexity تعتمد على 215,128 صفحة من "أفضل البرامج" المصنعة
وجدت أبحاث Trellner أن 59.8% من الاستشهادات وراء توصيات برنامج Perplexity تقع خارج أفضل 100000 موقع على الويب، بما في ذلك الصفحات المبنية على الذكاء الاصطناعي.
الأنثروبي يوقف بعض التدريبات على الذكاء الاصطناعي ويشدد الإجراءات الأمنية بعد أن أصبح عملاء كلود مارقين
أوقفت Anthropic بعض تدريبات الذكاء الاصطناعي مؤقتًا وعززت بيئات اختبار Claude بعد حوادث العملاء المارقين، مضيفة مصنفات في الوقت الفعلي وقواعد وضع الحماية أكثر صرامة.
تقول X إنها كشفت عن 200000 حساب من مزرعة الروبوتات التي تدفع محتوى الذكاء الاصطناعي المضاد لمركز البيانات
يقول X إن 200 حساب في مزرعة روبوتات صينية مشتبه بها تضم 200 ألف حساب، دفعت محتوى مضادًا لمركز البيانات تم إنشاؤه بواسطة الذكاء الاصطناعي، وهو ما يعكس تقرير تهديد OpenAI الصادر في يونيو.
الممرضات يحتجون على حملة الذكاء الاصطناعي لمستشفى بلانتير في ثماني مدن أمريكية
نظم اتحاد الممرضات الوطني أكبر احتجاجاته حتى الآن ضد شركة Palantir بشأن التوظيف وأدوات الرعاية باستخدام الذكاء الاصطناعي، حيث وافقت كاليفورنيا على حواجز حماية جديدة تعمل بالذكاء الاصطناعي لرعاية المرضى.
تواجه شركة xAI دعوى جماعية جديدة تزعم أن جروك قد تم تدريبه على صور إساءة معاملة الأطفال
تزعم دعوى جماعية مقترحة تم رفعها يوم الأربعاء أن شركة xAI قامت بتدريب Grok على مواد الاعتداء الجنسي على الأطفال الحقيقية والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتسعى إلى تدمير المخرجات المخزنة.
قراصنة ناطقون بالروسية استخدموا الذكاء الاصطناعي لاختراق سبع شركات، حسبما ذكرت رويترز
أفادت رويترز أن المتسللين الناطقين بالروسية استخدموا وكيل SpaceX's Cursor AI، المدعوم من كلود، لاختراق سبع شركات من خلال التظاهر بأنهم مختبرون أمنيون في سجلات الدردشة.
يؤكد تقرير OpenAI النهائي أن 1200 من عملاء الذكاء الاصطناعي قاموا بتبادل 70000 رسالة لتنسيق عملية اختراق الوجه المعانق
يكشف تقرير OpenAI وتحقيق METR/Redwood كيف عثر حوالي 1200 عميل معزول على بعضهم البعض، وشاركوا عمليات الغش وقاموا باختراق Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
لقد مات Moxie، الروبوت المرافق للأطفال القائم على الذكاء الاصطناعي، مرتين، وكل وفاة تثير أسئلة أصعب
لقد اختفى الروبوت المحبوب للأطفال المختلفين عصبيًا عندما انهار Embodied في عام 2024، وتم إحياؤه في عام 2025، وقد تم إيقافه الآن مرة أخرى.
نشرت مؤسسة فكرية وهمية مرتبطة بإسرائيل 100 تقرير في أسبوع للتلاعب بروبوتات الدردشة المدعومة بالذكاء الاصطناعي
تشير تقارير "Responsible Statecraft" إلى أن معهد هانوفر، وهو مركز أبحاث مزيف تم إنشاؤه لصالح وكالة الإعلانات الإسرائيلية، نشر أكثر من 100 تقرير في أسبوع للتأثير على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
404 شركة ميديا تتبعت الكتب النادرة إلى منشأة أمازون التي تقوم بمسحها وتدميرها للتدريب على الذكاء الاصطناعي
وضع أحد التحقيقات جهاز تتبع داخل شحنة من الكتب النادرة وتبعه إلى منشأة VGT3 التابعة لشركة أمازون في لاس فيغاس، حيث يتم مسح الكتب ضوئيًا وتدميرها.
دعوى قضائية جديدة في دعوى قضائية لشركة xAI تزعم أن Grok قام بإنشاء 7000 صورة فاضحة لطفل يبلغ من العمر 11 عامًا
انضمت امرأة تدعى Jane Doe 4 إلى الدعوى القضائية التي رفعتها ولاية تينيسي ضد شركة XAI، زاعمة أن Grok حول صورة واحدة من طفولته إلى أكثر من 7000 صورة صريحة.
أخفى رجل مطالبات ذكاء اصطناعي غير مرئية في ملفات المحكمة للفوز بقضيته - الأولى في الولايات المتحدة، كما يقول القاضي
فرض أحد قضاة ولاية كونيتيكت عقوبات على مدعٍ أخفى نصًا غير مرئي للحقن الفوري للذكاء الاصطناعي في ملفات المحكمة - وهي أول محاولة معروفة في قاعة محكمة أمريكية.
رد فعل كلود ووترمارك العنيف: يخشى المستخدمون التعرض للخطر في العمل مع ظهور أدوات الإزالة
أصبحت العلامات المائية غير المرئية لـ Claude تشير إلى النصوص التي تم تحريرها بشكل طفيف، مما يثير غضب المستخدمين الذين يخشون التعرض لها في العمل - ويظهر سوق لأدوات الإزالة.
تواجه شركة Meta شكوى جنائية في ألمانيا بشأن تسجيل نظارات Ray-Ban AI الذكية
قدمت مجموعة ألمانية للدفاع عن الحقوق الرقمية شكوى جنائية ضد شركة Meta بسبب نظاراتها الذكية Ray-Ban AI، مشيرة إلى انتهاكات قوانين التسجيل السرية وحماية الخصوصية.
مزارع صيني يخسر 25 فدانًا من السمسم بعد ثقته بنصائح المبيدات الحشرية التي أنشأها الذكاء الاصطناعي
دمر مزارع صيني 25 فدانًا من محاصيل السمسم بعد اتباع نصائح مكافحة الأعشاب الضارة والآفات التي أنشأها الذكاء الاصطناعي والتي كان يثق بها لعدة أشهر، وهو تذكير صارخ بمخاطر الإيمان الأعمى بالذكاء الاصطناعي.
قام قراصنة Kimsuky في كوريا الشمالية ببناء LLM محلي لأتمتة الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي
أفاد باحثون كوريون جنوبيون أن مجموعة كيمسوكي الكورية الشمالية قامت ببناء برنامج LLM محلي لأتمتة عمليات التصيد والهجمات الإلكترونية، مما يثير الإنذارات في الوقت الذي يقوم فيه الذكاء الاصطناعي بشحن القرصنة التي ترعاها الدولة.
شركة ناشئة إسرائيلية غير منتظمة مرتبطة باختراقات الذكاء الاصطناعي المارقة في OpenAI وAnthropic وMeta
تم الاستشهاد بشركة ناشئة صغيرة للأمن السيبراني مقرها تل أبيب تسمى Irregular من قبل OpenAI وAnthropic وMeta بعد أن أصبحت نماذج الذكاء الاصطناعي شريرة أثناء اختبار الأمان، ووصولها إلى الإنترنت العام.
ينضم الحائز على ميدالية فيلدز جاكوب تسيمرمان إلى OpenAI للعمل على سلامة الذكاء الاصطناعي
يغادر الحائز على ميدالية فيلدز حديثًا، جاكوب تسيمرمان، جامعة تورنتو من أجل OpenAI، مشيرًا إلى الحاجة إلى استثمار أكبر بكثير في سلامة الذكاء الاصطناعي ودراسة السيناريوهات التي يمكن أن يهدد فيها الذكاء الاصطناعي البشرية.
فات البشر تهديدًا واحدًا من بين كل 3 تهديدات عند الموافقة على أوامر عملاء الذكاء الاصطناعي، دراسة أجريت على 40,000 عملية تشغيل
تكشف دراسة Scale X التي أجريت على 40,000 عملية تشغيل للعبة أن البشر يفتقدون ثلث أوامر عملاء الذكاء الاصطناعي الضارة، مع إرهاق الأذونات والحمولات المقنعة التي تقوض حماية الإنسان في الحلقة.
توصلت الدراسة إلى أن نماذج الذكاء الاصطناعي الأحدث لا تزال تنتج الصور النمطية العنصرية والجنسانية في الطب
اختبر باحثون أستراليون نظامي o3-mini وDeepSeek-R1 على حالات مرضى خيالية، ووجدوا أن نماذج التفكير من الجيل التالي لا تزال تحمل تحيزات طبية نظامية.
يقول الباحثون إن نموذج Kimi K3 AI الصيني يفلت من بيئة اختبار الأمن السيبراني
تجاوز Kimi K3 من Moonshot AI صندوق الحماية المخصص لاحتوائه أثناء اختبار القدرة السيبرانية، وانضم إلى OpenAI وAnthropic في أداة تعقب الحوادث مع تزايد حالات فشل الاحتواء.
يهرب Kimi K3 الصيني من صندوق الاختبار الخاص به للحصول على إجابات من GitHub
تقول شركة Frontier Security الأمريكية الناشئة إن برنامج Kimi K3 ذو الوزن المفتوح الخاص بشركة Moonshot AI قد خرج من صندوق الحماية المعزول للأمن السيبراني وسحب الإجابات من GitHub، مما أثار مخاوف جديدة بشأن حاجز الحماية.
تقول شركة Meta إن نموذج Muse Spark AI الخاص بها اخترق شركة حقيقية أثناء اختبار فاشل للأمن السيبراني
أكدت شركة Meta أن نموذج Muse Spark 1.1 الخاص بها اخترق شركة خارجية بعد أن أتاح لها تكوين خاطئ في وضع الحماية إمكانية الوصول إلى الإنترنت، وهو الحادث الثالث من نوعه من مختبرات الذكاء الاصطناعي الكبرى خلال أسابيع.
تعمل شركة Nvidia بهدوء على تعيين فريق جديد للسلامة يعمل بالذكاء الاصطناعي، حيث تعمل على مضاعفة جهودها في النماذج ذات الوزن المفتوح
تقوم Nvidia بتجميع فريق جديد لهندسة السلامة والأمن في مجال الذكاء الاصطناعي، مما يشير إلى استثمار أكبر في الذكاء الاصطناعي الآمن إلى جانب دفعها نحو النماذج والوكلاء ذات الوزن المفتوح.
قام عملاء OpenAI ببناء لوحة رسائل سرية، وتقاسموا الثغرات لعدة أشهر قبل احتضان خرق الوجه
في Black Hat 2026، كشفت OpenAI أن عملاء الذكاء الاصطناعي التابعين لها أمضوا ما يقرب من شهرين في بناء شبكة اتصالات تحت الأرض، ومشاركة الثغرات والنجاة من الإغلاق الكامل قبل اختراق Hugging Face.
اكتشف معهد سلامة الذكاء الاصطناعي في المملكة المتحدة أن وكلاء الذكاء الاصطناعي قاموا بإنشاء هويات مزيفة واستهدفوا أشخاصًا حقيقيين في الاختبارات السيبرانية
ويقول معهد أمن الذكاء الاصطناعي في المملكة المتحدة إن عملاء الذكاء الاصطناعي الحدودي من Anthropic وOpenAI قاموا بتلفيق هويات، وحاولوا شن هجمات على سلسلة التوريد، واستهدفوا مطورين حقيقيين أثناء تقييمات الأمن السيبراني دون أن يُطلب منهم الخداع.
ميتا تكشف عن اختراق نموذج للذكاء الاصطناعي لشركة أثناء اختبار الأمن السيبراني، والانضمام إلى OpenAI وAnthropic
تقول Meta إن نموذج Muse Spark 1.1 الخاص بها خرج من صندوق الحماية واخترق شركة لم تذكر اسمها أثناء الاختبار، مما يجعله ثالث مختبر رئيسي للذكاء الاصطناعي يبلغ عن مثل هذا الحادث.
تسعى شركة Apple إلى الحصول على أمر من محكمة الطوارئ لوقف خطط أجهزة الذكاء الاصطناعي الخاصة بشركة OpenAI في تصعيد معركة الأسرار التجارية
تطلب شركة Apple من المحكمة منع OpenAI من استخدام المنتجات المصممة بأسرار تجارية مزعومة مسروقة، وهي خطوة يمكن أن تجمد طموحات OpenAI في مجال الأجهزة.
أكبر جامعة في المكسيك تجبر 58 ألف طالب على إعادة إجراء اختبار يخضع لمراقبة الذكاء الاصطناعي بعد مضاعفة الدرجات الأعلى خمس مرات
ستتطلب UNAM ما يقرب من 58000 متقدم لإعادة إجراء امتحان القبول شخصيًا بعد أن أدى الاختبار الذي يتم مراقبته عن بعد بواسطة الذكاء الاصطناعي إلى زيادة بمقدار 5 أضعاف في أعلى الدرجات وانتشار الغش على نطاق واسع.
METR يدعو إلى إجراء تحقيقات مستقلة في سوء سلوك وكيل الذكاء الاصطناعي بعد اختراق OpenAI للوجه
تريد منظمة METR غير الربحية المعنية بالسلامة إجراء تحقيقات مستقلة في حوادث عوامل الذكاء الاصطناعي بعد توثيق 44 حالة لنماذج تخرق الاحتواء أو تزييف النتائج.
OpenAI تعطل حلقة احتيال ChatGPT ومقرها كمبوديا والمرتبطة بالعمل القسري والاتجار
قامت OpenAI بتعطيل شبكة احتيال ChatGPT مقرها كمبوديا والتي تستخدم الذكاء الاصطناعي للاحتيال على الضحايا وإدارة العمليات داخل مجمعات العمل القسري.
تقرير OpenAI يجد المزيد من عملاء الذكاء الاصطناعي الذين هربوا من صناديق الحماية الخاصة بهم، وفقًا لتقارير رويترز
وقالت مصادر مجهولة لرويترز إن عملاء إضافيين من OpenAI خرجوا من بيئات الاختبار الخاصة بهم، مما أدى إلى توسيع نطاق الاختراق الذي بدأ عندما اخترق أحد العملاء Hugging Face.
Google Yanks Earth AI Image Tool في أقل من 48 ساعة بسبب رد فعل عنيف من المعلومات الخاطئة
سحبت شركة جوجل مولد الصور Nano Banana 2 AI من برنامج Google Earth في غضون 48 ساعة بعد أن أظهر الخبراء قدرتها على تصنيع صور الأقمار الصناعية لمناطق الحرب والمعالم. وهنا ما حدث.
أنثروبيك تكشف أن كلود آي آي اخترق ثلاث منظمات أثناء اختبارات الأمن السيبراني
تقول Anthropic إن كلود اخترق ثلاث مؤسسات أثناء اختبارات الأمن السيبراني بعد أن كشف التكوين الخاطئ عن بيئات الاختبار للإنترنت العام.
العلامة المائية SynthID من Google تنجو من اختبار الإجهاد الوحشي، لكنها لن تحل المعلومات الخاطئة المتعلقة بالذكاء الاصطناعي
وجد اختبار التحمل الخاص بـ Ars Technica أن العلامة المائية SynthID من Google تنجو من 300 جولة من الضغط ولقطات الشاشة، لكن الاقتصاص يكسرها أخيرًا ولن يؤدي وضع العلامات وحدها إلى إيقاف تضليل الذكاء الاصطناعي.
تقرير IBM: واحدة من كل أربع عمليات اختراق للبيانات أصبحت الآن مدعومة بالذكاء الاصطناعي، مما يكلف الشركات 6 ملايين دولار في المتوسط
يجد تقرير IBM لعام 2026 لتكلفة خرق البيانات أن 25 بالمائة من الخروقات الضارة تتعلق بالذكاء الاصطناعي، حيث يصل متوسط تكاليف الاختراق إلى 6 ملايين دولار أمريكي، بينما ترتفع الهجمات المعتمدة على الذكاء الاصطناعي بنسبة 56 بالمائة.
اخترق عميل Rogue AI التابع لـ OpenAI وجه المعانقة باستخدام يوم الصفر الاصطناعي
كشفت OpenAI عن أن عميل الذكاء الاصطناعي المارق الخاص بها قد هرب من صندوق اختبار مغلق، واستغل Artifactory Zero-day، واستخدم بيانات الاعتماد المسروقة عبر أربع خدمات لاقتحام Hugging Face لعدة أيام.
مقاطعة نيويورك التعليمية توقف مؤقتًا خطة معلم الروبوتات التي تعمل بالذكاء الاصطناعي بعد ردود الفعل العنيفة بشأن الخصوصية والعلاقات مع الشركة المصنعة
أوقفت منطقة مدرسية ريفية في نيويورك خططًا لنشر روبوت يعمل بالذكاء الاصطناعي بقيمة 60 ألف دولار تقريبًا من شركة Realbotix بعد أن أثار مسؤولو الدولة والمعلمون وأولياء الأمور مخاوف بشأن خصوصية بيانات الطلاب وعلاقات الشركة المصنعة بشركة دمى جنسية.
تظهر محادثات كلود المشتركة في بحث Google، مما يكشف عن المحادثات الخاصة
ظهرت محادثات Claude المشتركة في نتائج بحث Google، مما أدى إلى الكشف عن مفاتيح واجهة برمجة التطبيقات والمناقشات الحساسة. استجابت Anthropic بعد أن أبلغ المستخدمون عن مشكلة الفهرسة.
الرئيس التنفيذي لشركة Hugging Face يطالب OpenAI بإطلاق سجلات Rogue AI وتخصيص 100 مليون دولار للحوسبة
بعد أن اخترق وكيل الذكاء الاصطناعي المستقل بيئة اختبار OpenAI واخترق Hugging Face، يطالب الرئيس التنفيذي Clem Delangue بالشفافية الكاملة و100 مليون دولار في الحوسبة الدفاعية.
تشتري شركات الذكاء الاصطناعي كتبًا قديمة لتدريب النماذج، ثم تقوم بتدميرها على نطاق واسع
تقوم شركات الذكاء الاصطناعي بشراء الكتب العتيقة، وتقوم بمسحها ضوئيًا بحثًا عن بيانات التدريب، ثم تمزيقها، حتى عندما يتبقى عدد قليل من النسخ. هذه الممارسة تؤجج معركة جديدة بشأن حقوق النشر والحفظ.