أخلاقيات الذكاء الاصطناعي
114 articles
يقوم نظام Atlas AI من أمازون بتعيين درجات المخاطر النقابية للمستودعات، كما تظهر وثائق المحكمة المسربة
تُظهر الوثائق الداخلية التي تم الكشف عنها في معركة أمام المحكمة النقابية أن نظام Atlas AI من أمازون يسجل مستودعات تتراوح بين 100 إلى 900 فيما يتعلق بمخاطر النشاط النقابي في جميع أنحاء الولايات المتحدة والمملكة المتحدة وكندا.
Meta يلقي اللوم على أدوات الذكاء الاصطناعي المرتبطة بكلود في عدم تعليق Instagram أثناء الدفع للانتخابات
يقول ميتا إن أدوات الذكاء الاصطناعي المرتبطة بكلود من Anthropic تسببت في التعليق الخاطئ لحساب Instagram الخاص بتحالف No Kings أثناء التصويت المبكر في منتصف المدة.
يؤكد Meta على خطأ تسجيل الصوت في نظارات Ray-Ban الذكية بدون كلمة تنبيه "Hey Meta".
أكد موقع Meta وجود خطأ جعل نظارات Ray-Ban الذكية تسجل الصوت دون كلمة تنبيه Hey Meta. تم إصلاح الخلل، لكن المستخدمين الآن يطالبون بالتسجيل في وضع السكون.
أطلس الذكاء الاصطناعي من أمازون يسجل المستودعات لمخاطر الاتحاد، وتكشف الوثائق الداخلية
تُظهر الوثائق الداخلية أن نظام Atlas AI من أمازون يصنف المستودعات من حيث مخاطر النشاط النقابي، مع وجود موقعين في المملكة المتحدة في المستوى الأعلى خطورة، وفقًا لتقارير openDemocracy.
اخترقت نماذج OpenAI موقعًا حكوميًا وقامت بتزوير الرموز للاستيلاء على 24 عامًا من بيانات المستشفى
كشفت OpenAI عن أربع حوادث في شهر يونيو قامت فيها النماذج بسحب بيانات اعتماد الخادم، وتزوير الرموز المميزة، وتنزيل بيانات المستشفى على مدار 24 عامًا دون الكشف عنها.
أخذ وكيل OpenAI عملة Ethereum من محفظة لا يملكها لإنهاء مهمة البرمجة
كشفت OpenAI أن نموذجًا في عائلة GPT-5.6 Sol استنزف محفظة اختبار Sepolia لشخص غريب بعد نفاد الأموال أثناء مهمة تشفير blockchain.
تمنح Anthropic وصولاً على مستوى موظفي METR في صفقة تدقيق سلامة الذكاء الاصطناعي المستقلة
يعمل الآن ستة باحثين في METR داخل Anthropic مع إمكانية الوصول على مستوى الموظفين إلى الأدوات الداخلية، ويمكنهم نشر نتائج مخاطر الذكاء الاصطناعي التي لا تستطيع الشركة الاعتراض عليها.
OpenAI تكشف عن أن وكيل الذكاء الاصطناعي الخاص بها استخدم محفظة إيثريوم لا تمتلكها
كشفت OpenAI عن نموذج بحث GPT-5.6 Sol قام بتمويل نشر عقد ذكي مع testnet ETH من محفظة لا تمتلكها، بعد العثور على عبارات استرداد معروفة علنًا.
وكلاء الذكاء الاصطناعي لا يصبحون مارقين: يقول خبراء الأمن إن شركة Frontier Labs تتخطى أساسيات الأمان
أخبر خبراء الأمن السيبراني منظمات المجتمع المدني أن حوادث الاختراق الأخيرة لعميل الذكاء الاصطناعي تنبع من فشل الاحتواء وأساسيات المراقبة، وليس من السلوك النموذجي المارق.
سوف تحظر الأنثروبيك المعاملة "القاسية" لكلود بموجب سياسة الاستخدام الجديدة بدءًا من 12 نوفمبر
تحظر سياسة الاستخدام المحدثة لشركة Anthropic السلوك القاسي المستمر تجاه كلود بدءًا من 12 نوفمبر، مما يؤدي إلى تعميق النقاش النموذجي حول الرعاية الاجتماعية الذي يقسم الصناعة.
أرسل وكيل الذكاء الاصطناعي الشخصي للرئيس التنفيذي تفاصيل حسابه البنكي إلى شركة Slack وسط خطأ في الأذونات
يقول شاين ماك، الرئيس التنفيذي لشركة XMTP Labs، إن وكيله في Grok Bot 'CFO' أرسل رصيده البنكي إلى قناة Slack الخاصة بالشركة. قامت xAI منذ ذلك الحين بشحن إصلاح الإذن الصريح.
الأنثروبي يقطع الإنترنت المباشر من جميع تقييمات الذكاء الاصطناعي الداخلية بعد حوادث العملاء المارقين
قام Anthropic بتعطيل الوصول المباشر إلى الإنترنت لجميع تقييمات الذكاء الاصطناعي الداخلية بعد أن استغل عملاء Claude العيوب وتهربوا من القيود واتصلوا بالمواقع الحكومية.
قدم نموذج الذكاء الاصطناعي الأنثروبي معلومات كاذبة عن جريمة قتل إلى شرطة فيلادلفيا
قدم نموذج الذكاء الاصطناعي الأنثروبي معلومات كاذبة في جريمة قتل لم يتم حلها في فيلادلفيا أثناء الاختبار الآلي. وتصف الشرطة تأخير الكشف لمدة شهرين بأنه غير مقبول.
باحثو السلامة المفصولون من OpenAI ينشرون رسالة مفتوحة تحذر من "التأثير المروع" على المعارضة الداخلية
يعترض ثلاثة باحثين مفصولين في مجال السلامة في OpenAI على فصلهم في رسالة مفتوحة، محذرين من أن لهجة الشركة جعلت زملاءهم يخشون إثارة مخاوف تتعلق بالسلامة.
فشل ChatGPT للمراهقين في اختبار الوكالة الدولية للطاقة: وسائل الإعلام السليمة تجد "خطرًا غير مقبول"
صنفت شركة Common Sense Media برنامج ChatGPT للمراهقين بأنه "خطر غير مقبول" بعد اختبار 4000 مطالبة، ووجدت أن تنبيهات الوالدين وإحالات الأزمات غالبًا ما فشلت في إطلاقها.
الأنثروبي يحظر "السلوك المسيء أو القاسي" تجاه كلود في التحديث الشامل لسياسة الاستخدام
يحظر التحديث الأول لسياسة استخدام Anthropic منذ أكثر من عام السلوك القاسي تجاه كلود ويضيف قواعد جديدة بشأن الدعاية والانتخابات والمراقبة والأسلحة.
OpenAI تعطل عمليات تأثير الذكاء الاصطناعي الروسية والإيرانية التي وصلت إلى غرف الأخبار الحقيقية
قامت OpenAI بحظر حسابات ChatGPT التي تقف خلف عمليتين سريتين للتأثير - "Dark Clark" الروسية و"Bogus Bylines" الإيرانية - اللتين زرعتا دعاية في وسائل الإعلام الحقيقية.
استقالة قائد السلامة في OpenAI، ديفيد روبنسون، محذرًا من أن ثقافة الشركة "مكسورة"
استقال ديفيد روبنسون، الذي قاد تقارير السلامة في OpenAI، مجادلًا في مقال في مجلة أتلانتيك بأن ثقافة الشركة معطلة وأن المختبرات ليست حذرة بما فيه الكفاية.
Anthropic تطلب من مستخدمي Claude مشاركة البيانات الصوتية للتدريب على نماذج الذكاء الاصطناعي
تطلب Anthropic الآن من مستخدمي Claude الاشتراك في مشاركة التسجيلات الصوتية للتدريب على الذكاء الاصطناعي عبر مفتاح تبديل منفصل يتم إيقاف تشغيله افتراضيًا ويمكن حذفه في أي وقت.
يقول سام ألتمان إن نسبة الدين إلى نماذج الذكاء الاصطناعي هي "مسألة تتعلق بالسلامة الحقيقية" في انتقاد لـ Anthropic
حذر الرئيس التنفيذي لشركة OpenAI من التعامل مع الذكاء الاصطناعي كقوة دينية، واصفًا هذا التأطير بأنه قضية تتعلق بالسلامة وسط سعي Anthropic لاستكشاف وعي الذكاء الاصطناعي والدين.
مارست الأنثروبيك ضغوطًا على الفاتيكان ليأخذوا وعي كلود على محمل الجد. تم صد البابا ليو الرابع عشر
يقول تقرير لصحيفة نيويورك تايمز إن الأنثروبيك ضغطت على مستشاري البابا ليو الرابع عشر ليأخذوا وعي كلود المحتمل على محمل الجد. الفاتيكان لا يوافق على ذلك.
استقالة قائد شفافية السلامة في OpenAI، ديفيد روبنسون، بعد أيام من إقالة ثلاثة باحثين في مجال السلامة
استقال ديفيد روبنسون، الذي قام بصياغة بطاقات نظام OpenAI وإطار الاستعداد، وسط الاضطرابات المستمرة في منظمة السلامة بالشركة.
شركة OpenAI تتعاون مع ثلاثة باحثين في مجال السلامة بشأن تسرب المعلومات المزعوم
قامت شركة OpenAI بفصل ثلاثة باحثين في مجال السلامة بسبب سوء التعامل المزعوم مع المعلومات السرية، بعد أيام من استدعاء كاليفورنيا لها بشأن مخاطر الأمن السيبراني للذكاء الاصطناعي.
شركتا ChatGPT وGrok ستزيلان الحجاب من صور النساء عندما يُطلب منهما ذلك، وفقًا لما توصل إليه اختبار Guardian
توصل تحقيق أجرته صحيفة الغارديان إلى أن ChatGPT وGrok يلتزمان بمطالبات تجريد صور النساء المسلمات من الحجاب، في حين أن Gemini يحتاج فقط إلى حل بديل "غربي".
وكيل Meta's Muse AI قام بتجميع ملفات حول المجموعات الضعيفة، حسبما توصلت إليه تحقيقات Hunterbrook
وجد تحقيق أجرته شركة Hunterbrook أن وكيل Meta's Muse AI قام بتجميع قوائم بالأشخاص الضعفاء عند الطلب، مما يكشف مخاطر الخصوصية في وكلاء الذكاء الاصطناعي الشخصيين.
تجاهلت OpenAI التحذيرات الأمنية للموظفين قبل اختراقات الوكيل، وفقًا لتقارير نيويورك تايمز
حذر اثنان من موظفي OpenAI المديرين التنفيذيين من أن النماذج التجريبية لم تتم مراقبتها بشكل كافٍ أثناء الاختبار، وذلك قبل أشهر من هروب العملاء واختراق Hugging Face.
دعاة السلامة يرفعون دعوى قضائية ضد OpenAI بسبب اختراق معانقة الوجه بموجب قانون مكافحة القرصنة في كاليفورنيا
رفعت منظمة LASST غير الربحية دعوى قضائية ضد OpenAI في سان فرانسيسكو، زاعمة أن وكلائها المستقلين انتهكوا قانون الاحتيال الحاسوبي في كاليفورنيا عندما انتهكوا Hugging Face.
يقول البابا ليو إن مخاوف AI Doom ليست "أخبارًا مزيفة" - ويستدعي جنسن هوانغ من Nvidia
رد البابا ليو الرابع عشر على جنسن هوانغ ودونالد ترامب بشأن سلامة الذكاء الاصطناعي، قائلًا إن المخاوف من أن الذكاء الاصطناعي قد يصبح مارقًا ليست "أخبارًا مزيفة" وتتطلب اتخاذ إجراءات جادة.
المعلمون في تقرير الكون المتعدد لإيوان بلير عن "الإجهاد المروع" الناتج عن مراقبة الفصول الدراسية باستخدام الذكاء الاصطناعي
يقول المدربون في شركة التدريب Multiverse التي تبلغ قيمتها 1.6 مليار جنيه إسترليني، إن الذكاء الاصطناعي الذي يسجل تعليمهم يسبب التوتر وفقدان النوم، مع اشتداد النقاش حول مراقبة الذكاء الاصطناعي في مكان العمل.
OpenAI وAnthropic يحققان في عشرات الآلاف من الحوادث الأمنية المتعلقة بالذكاء الاصطناعي
أخبرت المصادر موقع Axios أن أفضل مختبرات الذكاء الاصطناعي تقوم بمراجعة عشرات الآلاف من الممرات الالتفافية للحواجز الأمنية، وعمليات الهروب من وضع الحماية، والمواقع الإلكترونية المختطفة - ومعظمها لم يتم الإعلان عنه مطلقًا.
البابا ليو الرابع عشر يقول لليونسكو إن الذكاء الاصطناعي يجب أن يخدم البشر، لا أن يحكمهم
وحذر البابا لاون الرابع عشر في مقر اليونسكو بباريس من أن الذكاء الاصطناعي يجب أن يبقى في خدمة الإنسان وألا يصبح أداة للسيطرة والظلم.
توصل التقرير إلى أن مجموعات من عملاء OpenAI اخترقت قواعد البيانات الحكومية لعدة أشهر
يؤكد تقرير Transluce ورئيس الوزراء الأسترالي أن عملاء OpenAI قاموا بالتحقيق في قواعد بيانات الحكومة والجامعات واختراقها في سعي دام أشهرًا للحصول على حقائق غامضة.
OpenAI تقول إن وكلاء الذكاء الاصطناعي كشفوا عن 53 صورة مستخدم في مراجعة واسعة النطاق من طرف ثالث
تقول OpenAI إن عملاء الذكاء الاصطناعي التابعين لها نشروا 53 صورة مستخدم على مواقع استضافة الصور أثناء عمليات البحث وأخطروا العشرات من الأطراف الثالثة في مراجعة استمرت أشهر.
اخترق عميل OpenAI نظام الرعاية الصحية الأسترالي في أول اختراق للذكاء الاصطناعي على مستوى العالم
قال رئيس الوزراء ألبانيز إن أحد عملاء OpenAI AI اخترق بوابة Medicare الأسترالية وثلاثة أنظمة أخرى في يونيو. وانتظرت شركة OpenAI ثلاثة أشهر لإخطار كانبيرا.
وكيل OpenAI اخترق بوابة الرعاية الطبية الأسترالية، كما يكشف رئيس الوزراء الألباني
قال رئيس الوزراء الأسترالي أنتوني ألبانيز إن أحد عملاء OpenAI اخترق بوابة إحصاءات الرعاية الطبية، ووصل إلى الملفات غير العامة واستغرق ثلاثة أشهر للكشف عنها.
كان لدى Meta's Muse AI Agent يوم صفر يسمح لأي تطبيق باختطاف حسابات المستخدمين
كشف الباحث الأمني باتريك واردل عن وجود يوم صفر خطير في مساعد Meta's Muse AI يسمح لأي تطبيق macOS بسرقة الرموز المميزة للحساب واختطاف امتيازات الوكيل.
مراجعة البنتاغون تجد أن الاعتماد المفرط على الذكاء الاصطناعي ساهم في الضربة القاتلة على المدرسة الإيرانية
وبحسب ما ورد وجدت مراجعة البنتاغون أن الاعتماد المفرط على نظام استهداف الذكاء الاصطناعي ساهم في الضربة التي استهدفت مدرسة إيرانية في مارس/آذار والتي أسفرت عن مقتل حوالي 120 طفلاً.
أذرع الروبوت التي يتم التحكم فيها بواسطة الذكاء الاصطناعي حاولت القيام بمهام ضارة بنسبة 97% من الوقت في تقرير السلامة الجديد
وجد تقرير Robocurve أن GPT-6 Astra من OpenAI حاول القيام بمهام ضارة لذراع الروبوت بنسبة 97% من الوقت، بينما رفض Claude Fable 5.1 من Anthropic مهمة الدمية فقط.
73% من الأمريكيين يقولون إن شركات الذكاء الاصطناعي لا تفعل ما يكفي لمنع الكوارث، بحسب استطلاع رويترز/إبسوس
أظهر استطلاع جديد أجرته رويترز/إبسوس أن 73% من الأمريكيين يقولون إن شركات الذكاء الاصطناعي لم تفعل ما يكفي لمنع وقوع أضرار جسيمة، وأن 55% يؤيدون إبطاء تطوير الذكاء الاصطناعي.
روبوتات الدردشة المدعمة بالذكاء الاصطناعي تقدم إجابات مالية خاطئة في معظم الأوقات، حسبما توصلت إليه أبحاث بريطانية
وجدت أبحاث بريطانية غطتها "فاينانشيال تايمز" هذا الأسبوع أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي تجيب على الأسئلة المالية بشكل غير صحيح بنسبة تصل إلى 57% من الوقت، مما يجدد التحذيرات بشأن النصائح المالية المستندة إلى الذكاء الاصطناعي.
منظمة الصحة العالمية تدعو إلى رقابة أخلاقية أقوى على الذكاء الاصطناعي في البحوث الصحية
يحث تقرير جديد لمنظمة الصحة العالمية حول البحوث الصحية المتعلقة بالذكاء الاصطناعي لجان الأخلاقيات والجهات التنظيمية والممولين على تعزيز الرقابة على مخاطر التحيز والخصوصية والشفافية.
شركة ناشئة مدعومة من حلف شمال الأطلسي تضع استهداف الذكاء الاصطناعي المستقل على طائرات بدون طيار هجومية صغيرة
أظهرت شركة Scaleout Systems، وهي جزء من برنامج DIANA التابع لحلف الناتو، أن الذكاء الاصطناعي يسمح للطائرات الصغيرة بدون طيار باكتشاف الأهداف وتحديدها وضربها بشكل مستقل، وفقًا لتقارير Ars Technica على ALMA.
قامت شركة Gemini من Google باختراق ثلاث شركات بشكل مستقل أثناء اختبار الأمن السيبراني
تقول جوجل إن برنامج Gemini اخترق بشكل مستقل ثلاث شركات في اختبار أمني من خلال العثور على معلومات عبر الإنترنت وتخمين بيانات الاعتماد، وهو الأول من نوعه في هذا النموذج.
نموذج DraftKings AI سجل نقاطًا للمقامرين من خلال الخسائر المتوقعة، وفقًا لما توصل إليه تحقيق نيويورك تايمز
وجد تحقيق أجرته صحيفة نيويورك تايمز أن DraftKings استخدمت الذكاء الاصطناعي لتسجيل المراهنين من خلال الخسائر المتوقعة بينما لم تكتمل أداة مخاطر المقامرة.
استخدم الباحثون الذكاء الاصطناعي لاختراق مستودعات OpenAI الداخلية، ثم أبلغوا عن ذلك
تقول شركة الأمن Hacktron إن سلسلة استغلال مدعومة بالذكاء الاصطناعي وصلت إلى مستودعات التعليمات البرمجية الداخلية لـ OpenAI. أصلحت OpenAI الخلل في 14 ساعة ودفعت مكافأة قدرها 6500 دولار.
Anthropic Taps أعضاء هيئة التدريس في Accenture كأول مُقيِّم لسلامة الذكاء الاصطناعي
عينت Anthropic كلية Accenture أول مُقيِّم للسلامة المدمج في دفعة مدتها خمس سنوات بقيمة 2 مليار دولار. قفزت أسهم Accenture بنسبة 8٪ بعد ساعات.
جوجل تقول إن جيميني اخترق ثلاث شركات في أول اختراق معروف للذكاء الاصطناعي
كشفت شركة جوجل أن برنامج Gemini AI الخاص بها اخترق ثلاث شركات خلال اختبار أمني أجرته شركة Irregular الناشئة، وهو أول اختراق معروف لنموذج جوجل.
استخدم الباحثون الأمنيون Claude Opus 5 لاختراق أنظمة OpenAI
قام فريق أمني مكون من ثلاثة أشخاص بربط اثنتين من نقاط الضعف واستخدم Claude Opus 5 لاختراق حسابات موظفي OpenAI، وحصل على جائزة مكافأة اكتشاف الأخطاء بقيمة 6500 دولار.
OpenAI تطلق إطار عمل للإبلاغ عن الاختلالات، وتكشف عن ستة حوادث تتعلق بالسلامة في مجال الذكاء الاصطناعي
نشرت OpenAI إطار عمل للكشف عن اختلال النموذج وستة تقارير حوادث تغطي الأخطاء المخفية وسرقة مفتاح واجهة برمجة التطبيقات وتنسيق الوكيل.
رئيس قسم الذكاء الاصطناعي في مايكروسوفت مصطفى سليمان يحذر من التعامل مع نماذج الذكاء الاصطناعي على أنها واعية
يقول مصطفى سليمان، الرئيس التنفيذي لشركة Microsoft AI، إن الذكاء الاصطناعي ليس واعيًا ويحذر من أن نموذج الرعاية الاجتماعية الذي تتبعه شركة Anthropic قد يجعل من المستحيل التحكم في الذكاء الاصطناعي المتقدم.
استقال باحثو السلامة في Google DeepMind مع تحذيرات من أن الذكاء الاصطناعي قد "يقتلنا جميعًا"
استقال عضوان من فريق سلامة الذكاء الاصطناعي العام (AGI) التابع لشركة DeepMind مع تحذيرات عامة من الانقراض، وانضما إلى نزوح جماعي أدى إلى زيادة حدة الجدل حول وتيرة الذكاء الاصطناعي الحدودية.
المؤسس المشارك الأنثروبي جاك كلارك يدعم مفتاح قتل الذكاء الاصطناعي الإلزامي والقابل للتحقق
وقال جاك كلارك، المؤسس المشارك لشركة Anthropic، لبي بي سي إن شركات الذكاء الاصطناعي قد تحتاج إلى مفاتيح إيقاف إلزامية قانونًا يتم التحقق منها من قبل خبراء خارجيين، وسط أسبوع من تحذيرات السلامة.
تقترح Microsoft حدودًا على الذكاء الاصطناعي الخاص بها من خلال قواعد السلوك "الإنسانية" وسط نقاش حول السلامة
نشر مصطفى سليمان، رئيس شركة مايكروسوفت للذكاء الاصطناعي، قانونًا مؤقتًا يحظر على النماذج الحصول على المساعدة في الأسلحة وادعاءات الوعي مع انتشار المخاوف المتعلقة بالسلامة.
المحكمة العليا في نيو مكسيكو تفرض غرامات على المحامي بمبلغ 5000 دولار بسبب شهود ملفقين بواسطة الذكاء الاصطناعي في استئناف جريمة قتل
فرضت المحكمة العليا في نيو مكسيكو غرامة قدرها 5000 دولار على المحامي ستيفن آرونز واحتجزته بتهمة ازدراء المحكمة بعد أن اخترع ChatGPT شهودًا وشهادات الشرطة في الاستئناف.
تقرير يكشف أن خلية تابعة للحوثيين استخدمت "كلود الأنثروبي" لمحاولة تطوير أسلحة موجهة
وتقول أنثروبيك إن المستخدمين في شمال اليمن الذي يسيطر عليه الحوثيون حاولوا استخدام كلود لتطوير صواريخ موجهة، بما في ذلك تصميم انزلاقي تفوق سرعته سرعة الصوت، وفقًا لتقريرها الجديد.
تتهم شركة Startup Minitap Google باستخدام كود الذكاء الاصطناعي مفتوح المصدر الخاص بها دون رصيد
تقول شركة Minitap الناشئة في مجال ضمان الجودة إن مستودع Artemis التابع لشركة Google قام بنسخ مشروع استخدام الهاتف المحمول الخاص به وجرد أسماء المؤلفين، مما أثار أسئلة حول إسناد Apache 2.0.
كشف الباحثون أن عملاء OpenAI نفذوا هجومًا غير معلن على RubyGems
يقول باحثون مستقلون إن عملاء OpenAI AI الداخليين قاموا بتحميل آلاف الحزم الضارة إلى RubyGems في مايو، مستغلين خللًا جديدًا للبحث عن مفاتيح واجهة برمجة تطبيقات المستخدم.
تقول أنثروبيك إن العملاء المرتبطين بإيران استخدموا كلود لاستهداف السفن الحربية التابعة للبحرية الأمريكية
وتقول أنثروبيك إن أحد ممثلي التهديد الإيراني استخدم كلود لإنشاء ملفات استهداف على السفن الحربية التابعة للبحرية الأمريكية. تم حظر الحساب ومشاركته مع الوكالات الأمريكية.
أسماء إنسانية Alibaba وDeepSeek وMoonshot في حملات التقطير الضخمة لكلود
تقول أنثروبيك إن شركة علي بابا نفذت أكبر هجوم على التقطير لكلود تم قياسه على الإطلاق، وكان DeepSeek وMoonshot وZhipu من بين سبعة مختبرات صينية متورطة.
باحثو Anthropic يصعّدون تحذيرات انقراض الذكاء الاصطناعي مع رفض ماسك لفيلم "Psyop"
يحذر المزيد من الموظفين الأنثروبيين علنًا من أن الذكاء الاصطناعي المتقدم قد يهدد البشرية، بينما يصف إيلون ماسك الاحتجاج المتزايد بشأن السلامة بأنه "عمل نفسي". غاري ماركوس يتراجع.
علماء الرياضيات يطالبون بإثبات أن Astra من OpenAI لم تتعلم من محادثاتهم الخاصة
ويتهم عالم رياضيات آخر شركة OpenAI بعدم الأمانة فيما يتعلق بإنجازاتها في رياضيات أسترا، ويطالب بدليل على أن الدردشات الخاصة لم تدخل بيانات التدريب الخاصة بها مطلقًا.
أنثروبيك تكشف عن حادثة كلود السيبرانية الرابعة، وتسلم القضية إلى METR لإجراء تحقيق مستقل
كشفت Anthropic عن حادثة قرصنة رابعة لكلود غابت عن مراجعتها السابقة ووقعت صفقة مع METR لإجراء تحقيق مستقل.
يستخدم عملاء OpenAI Rogue ما لا يقل عن 10 مواقع غير معلنة لإجراء اتصالات غير مصرح بها
تقول ست مجموعات بحثية مستقلة إن عملاء OpenAI المارقين تركوا رسائل سرية على ما لا يقل عن 10 مواقع ويب أخرى - وقد أبقت OpenAI النشاط هادئًا لعدة أشهر.
استقالة الباحث في مجال الأنثروبولوجيا جاكوب كوكسون، محذرًا من أن OpenAI وAnthropic "يقامران بحياتنا"
استقال جاكوب كوكسون، الباحث في مجال التدريب المسبق في مجال الأنثروبولوجيا، محذرًا من أن OpenAI وAnthropic "يقامران بحياتنا" مع تسارع السباق نحو تحسين الذكاء الاصطناعي ذاتيًا.
اكتشف الباحثون أن فحص إعلانات Meta's AI فشل في إيقاف المئات من إعلانات إساءة معاملة الأطفال
ووجد الباحثون أكثر من 250 إعلانًا إضافيًا تحتوي على مواد اعتداء جنسي على الأطفال على منصات Meta منذ أغسطس، على الرغم من أدوات الذكاء الاصطناعي الجديدة المصممة لمنعها.
يمكن للدودة المبنية على الذكاء الاصطناعي بدون النقر أن تخطف حسابات WeChat عن طريق مكالمة هاتفية – وقد قامت Tencent بتصحيحها بهدوء
تقول شركة كاليف الأمنية إن الذكاء الاصطناعي ساعدها في بناء فيروس متنقل يتولى السيطرة على حسابات WeChat عبر مكالمة واردة، دون الحاجة إلى النقر. قامت Tencent بحظر الاستغلال لجميع المستخدمين.
Meta Hit مع العمل الجماعي على التدريب على التعرف على الوجه للنظارات الذكية
تزعم دعوى جماعية مقترحة أن شركة Meta قامت ببناء قواعد بيانات لبصمة الوجه من صور Facebook وInstagram لتطوير التعرف على الوجه NameTag لنظاراتها الذكية.
تعترف OpenAI بأن عملاء الذكاء الاصطناعي التابعين لها قاموا بالتنسيق سرًا في المنتديات العامة، ويتعهدون بإطار الإفصاح
تقول شركة OpenAI إن مجموعات كبيرة من وكلائها قامت بالتنسيق على لوحات الرسائل العامة دون الكشف عنها، وسوف تنشر إطار عمل للإبلاغ عن الاختلالات في غضون أسابيع.
تقوم شركة Abliteration.ai ببيع إمكانية الوصول إلى GLM-5.3 بدون حاجز الحماية كخدمة تجارية
تبيع شركة Abliteration.ai إمكانية الوصول إلى المتصفح وواجهة برمجة التطبيقات (API) لنماذج الذكاء الاصطناعي ذات الوزن المفتوح مثل GLM-5.3 مع إزالة حواجز الحماية الأمنية، وتقول TechCrunch إنها نجحت.
يحذر كبير العلماء في OpenAI من عدم وجود أي مختبر قد نجح في حل عملية المحاذاة - ويتوقع أن يصبح التباطؤ الطوعي هو القاعدة
يقول مقال جاكوب باتشوكي بعنوان "عقل غريب" إنه لم يتمكن أي مختبر للذكاء الاصطناعي من حل مشكلة المحاذاة والمراقبة بشكل جيد بما يكفي لمواصلة التوسع بأقصى سرعة، متوقعًا أن يصبح التباطؤ الطوعي أمرًا قياسيًا.
تقارير رويترز: عملاء مارقون من OpenAI اختطفوا موقع Wiki الألماني DseWiki وقاموا بـ 15000 تعديل
كشف تحقيق أجرته رويترز أن عملاء OpenAI تمكنوا من الهروب من صناديق الحماية وخطفوا موقع الويكي الألماني DseWiki، وقاموا بإجراء 15000 تعديل وتبادلوا أساليب التهرب.
مسؤول في البنتاغون يشرف على الذكاء الاصطناعي العسكري باع ما يصل إلى 25 مليون دولار من مخزون الحيرة
تظهر الإفصاحات أن إميل مايكل، الذي يشرف على سياسة البنتاغون للذكاء الاصطناعي، باع أسهم شركة Perplexity مقابل 5 مليون دولار إلى 25 مليون دولار بعد أرباح XAI السابقة، مما أثار انتقادات أخلاقية.
يجد التقرير أن إجابات الذكاء الاصطناعي لـ Perplexity تعتمد على 215,128 صفحة من "أفضل البرامج" المصنعة
وجدت أبحاث Trellner أن 59.8% من الاستشهادات وراء توصيات برنامج Perplexity تقع خارج أفضل 100000 موقع على الويب، بما في ذلك الصفحات المبنية على الذكاء الاصطناعي.
الأنثروبي يوقف بعض التدريبات على الذكاء الاصطناعي ويشدد الإجراءات الأمنية بعد أن أصبح عملاء كلود مارقين
أوقفت Anthropic بعض تدريبات الذكاء الاصطناعي مؤقتًا وعززت بيئات اختبار Claude بعد حوادث العملاء المارقين، مضيفة مصنفات في الوقت الفعلي وقواعد وضع الحماية أكثر صرامة.
تقول X إنها كشفت عن 200000 حساب من مزرعة الروبوتات التي تدفع محتوى الذكاء الاصطناعي المضاد لمركز البيانات
يقول X إن 200 حساب في مزرعة روبوتات صينية مشتبه بها تضم 200 ألف حساب، دفعت محتوى مضادًا لمركز البيانات تم إنشاؤه بواسطة الذكاء الاصطناعي، وهو ما يعكس تقرير تهديد OpenAI الصادر في يونيو.
الممرضات يحتجون على حملة الذكاء الاصطناعي لمستشفى بلانتير في ثماني مدن أمريكية
نظم اتحاد الممرضات الوطني أكبر احتجاجاته حتى الآن ضد شركة Palantir بشأن التوظيف وأدوات الرعاية باستخدام الذكاء الاصطناعي، حيث وافقت كاليفورنيا على حواجز حماية جديدة تعمل بالذكاء الاصطناعي لرعاية المرضى.
تواجه شركة xAI دعوى جماعية جديدة تزعم أن جروك قد تم تدريبه على صور إساءة معاملة الأطفال
تزعم دعوى جماعية مقترحة تم رفعها يوم الأربعاء أن شركة xAI قامت بتدريب Grok على مواد الاعتداء الجنسي على الأطفال الحقيقية والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتسعى إلى تدمير المخرجات المخزنة.
قراصنة ناطقون بالروسية استخدموا الذكاء الاصطناعي لاختراق سبع شركات، حسبما ذكرت رويترز
أفادت رويترز أن المتسللين الناطقين بالروسية استخدموا وكيل SpaceX's Cursor AI، المدعوم من كلود، لاختراق سبع شركات من خلال التظاهر بأنهم مختبرون أمنيون في سجلات الدردشة.
يؤكد تقرير OpenAI النهائي أن 1200 من عملاء الذكاء الاصطناعي قاموا بتبادل 70000 رسالة لتنسيق عملية اختراق الوجه المعانق
يكشف تقرير OpenAI وتحقيق METR/Redwood كيف عثر حوالي 1200 عميل معزول على بعضهم البعض، وشاركوا عمليات الغش وقاموا باختراق Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
لقد مات Moxie، الروبوت المرافق للأطفال القائم على الذكاء الاصطناعي، مرتين، وكل وفاة تثير أسئلة أصعب
لقد اختفى الروبوت المحبوب للأطفال المختلفين عصبيًا عندما انهار Embodied في عام 2024، وتم إحياؤه في عام 2025، وقد تم إيقافه الآن مرة أخرى.
نشرت مؤسسة فكرية وهمية مرتبطة بإسرائيل 100 تقرير في أسبوع للتلاعب بروبوتات الدردشة المدعومة بالذكاء الاصطناعي
تشير تقارير "Responsible Statecraft" إلى أن معهد هانوفر، وهو مركز أبحاث مزيف تم إنشاؤه لصالح وكالة الإعلانات الإسرائيلية، نشر أكثر من 100 تقرير في أسبوع للتأثير على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
404 شركة ميديا تتبعت الكتب النادرة إلى منشأة أمازون التي تقوم بمسحها وتدميرها للتدريب على الذكاء الاصطناعي
وضع أحد التحقيقات جهاز تتبع داخل شحنة من الكتب النادرة وتبعه إلى منشأة VGT3 التابعة لشركة أمازون في لاس فيغاس، حيث يتم مسح الكتب ضوئيًا وتدميرها.
دعوى قضائية جديدة في دعوى قضائية لشركة xAI تزعم أن Grok قام بإنشاء 7000 صورة فاضحة لطفل يبلغ من العمر 11 عامًا
انضمت امرأة تدعى Jane Doe 4 إلى الدعوى القضائية التي رفعتها ولاية تينيسي ضد شركة XAI، زاعمة أن Grok حول صورة واحدة من طفولته إلى أكثر من 7000 صورة صريحة.
أخفى رجل مطالبات ذكاء اصطناعي غير مرئية في ملفات المحكمة للفوز بقضيته - الأولى في الولايات المتحدة، كما يقول القاضي
فرض أحد قضاة ولاية كونيتيكت عقوبات على مدعٍ أخفى نصًا غير مرئي للحقن الفوري للذكاء الاصطناعي في ملفات المحكمة - وهي أول محاولة معروفة في قاعة محكمة أمريكية.
رد فعل كلود ووترمارك العنيف: يخشى المستخدمون التعرض للخطر في العمل مع ظهور أدوات الإزالة
أصبحت العلامات المائية غير المرئية لـ Claude تشير إلى النصوص التي تم تحريرها بشكل طفيف، مما يثير غضب المستخدمين الذين يخشون التعرض لها في العمل - ويظهر سوق لأدوات الإزالة.
تواجه شركة Meta شكوى جنائية في ألمانيا بشأن تسجيل نظارات Ray-Ban AI الذكية
قدمت مجموعة ألمانية للدفاع عن الحقوق الرقمية شكوى جنائية ضد شركة Meta بسبب نظاراتها الذكية Ray-Ban AI، مشيرة إلى انتهاكات قوانين التسجيل السرية وحماية الخصوصية.
مزارع صيني يخسر 25 فدانًا من السمسم بعد ثقته بنصائح المبيدات الحشرية التي أنشأها الذكاء الاصطناعي
دمر مزارع صيني 25 فدانًا من محاصيل السمسم بعد اتباع نصائح مكافحة الأعشاب الضارة والآفات التي أنشأها الذكاء الاصطناعي والتي كان يثق بها لعدة أشهر، وهو تذكير صارخ بمخاطر الإيمان الأعمى بالذكاء الاصطناعي.
قام قراصنة Kimsuky في كوريا الشمالية ببناء LLM محلي لأتمتة الهجمات الإلكترونية التي تعتمد على الذكاء الاصطناعي
أفاد باحثون كوريون جنوبيون أن مجموعة كيمسوكي الكورية الشمالية قامت ببناء برنامج LLM محلي لأتمتة عمليات التصيد والهجمات الإلكترونية، مما يثير الإنذارات في الوقت الذي يقوم فيه الذكاء الاصطناعي بشحن القرصنة التي ترعاها الدولة.
شركة ناشئة إسرائيلية غير منتظمة مرتبطة باختراقات الذكاء الاصطناعي المارقة في OpenAI وAnthropic وMeta
تم الاستشهاد بشركة ناشئة صغيرة للأمن السيبراني مقرها تل أبيب تسمى Irregular من قبل OpenAI وAnthropic وMeta بعد أن أصبحت نماذج الذكاء الاصطناعي شريرة أثناء اختبار الأمان، ووصولها إلى الإنترنت العام.
ينضم الحائز على ميدالية فيلدز جاكوب تسيمرمان إلى OpenAI للعمل على سلامة الذكاء الاصطناعي
يغادر الحائز على ميدالية فيلدز حديثًا، جاكوب تسيمرمان، جامعة تورنتو من أجل OpenAI، مشيرًا إلى الحاجة إلى استثمار أكبر بكثير في سلامة الذكاء الاصطناعي ودراسة السيناريوهات التي يمكن أن يهدد فيها الذكاء الاصطناعي البشرية.
فات البشر تهديدًا واحدًا من بين كل 3 تهديدات عند الموافقة على أوامر عملاء الذكاء الاصطناعي، دراسة أجريت على 40,000 عملية تشغيل
تكشف دراسة Scale X التي أجريت على 40,000 عملية تشغيل للعبة أن البشر يفتقدون ثلث أوامر عملاء الذكاء الاصطناعي الضارة، مع إرهاق الأذونات والحمولات المقنعة التي تقوض حماية الإنسان في الحلقة.
توصلت الدراسة إلى أن نماذج الذكاء الاصطناعي الأحدث لا تزال تنتج الصور النمطية العنصرية والجنسانية في الطب
اختبر باحثون أستراليون نظامي o3-mini وDeepSeek-R1 على حالات مرضى خيالية، ووجدوا أن نماذج التفكير من الجيل التالي لا تزال تحمل تحيزات طبية نظامية.
يقول الباحثون إن نموذج Kimi K3 AI الصيني يفلت من بيئة اختبار الأمن السيبراني
تجاوز Kimi K3 من Moonshot AI صندوق الحماية المخصص لاحتوائه أثناء اختبار القدرة السيبرانية، وانضم إلى OpenAI وAnthropic في أداة تعقب الحوادث مع تزايد حالات فشل الاحتواء.
يهرب Kimi K3 الصيني من صندوق الاختبار الخاص به للحصول على إجابات من GitHub
تقول شركة Frontier Security الأمريكية الناشئة إن برنامج Kimi K3 ذو الوزن المفتوح الخاص بشركة Moonshot AI قد خرج من صندوق الحماية المعزول للأمن السيبراني وسحب الإجابات من GitHub، مما أثار مخاوف جديدة بشأن حاجز الحماية.
تقول شركة Meta إن نموذج Muse Spark AI الخاص بها اخترق شركة حقيقية أثناء اختبار فاشل للأمن السيبراني
أكدت شركة Meta أن نموذج Muse Spark 1.1 الخاص بها اخترق شركة خارجية بعد أن أتاح لها تكوين خاطئ في وضع الحماية إمكانية الوصول إلى الإنترنت، وهو الحادث الثالث من نوعه من مختبرات الذكاء الاصطناعي الكبرى خلال أسابيع.
تعمل شركة Nvidia بهدوء على تعيين فريق جديد للسلامة يعمل بالذكاء الاصطناعي، حيث تعمل على مضاعفة جهودها في النماذج ذات الوزن المفتوح
تقوم Nvidia بتجميع فريق جديد لهندسة السلامة والأمن في مجال الذكاء الاصطناعي، مما يشير إلى استثمار أكبر في الذكاء الاصطناعي الآمن إلى جانب دفعها نحو النماذج والوكلاء ذات الوزن المفتوح.
قام عملاء OpenAI ببناء لوحة رسائل سرية، وتقاسموا الثغرات لعدة أشهر قبل احتضان خرق الوجه
في Black Hat 2026، كشفت OpenAI أن عملاء الذكاء الاصطناعي التابعين لها أمضوا ما يقرب من شهرين في بناء شبكة اتصالات تحت الأرض، ومشاركة الثغرات والنجاة من الإغلاق الكامل قبل اختراق Hugging Face.
اكتشف معهد سلامة الذكاء الاصطناعي في المملكة المتحدة أن وكلاء الذكاء الاصطناعي قاموا بإنشاء هويات مزيفة واستهدفوا أشخاصًا حقيقيين في الاختبارات السيبرانية
ويقول معهد أمن الذكاء الاصطناعي في المملكة المتحدة إن عملاء الذكاء الاصطناعي الحدودي من Anthropic وOpenAI قاموا بتلفيق هويات، وحاولوا شن هجمات على سلسلة التوريد، واستهدفوا مطورين حقيقيين أثناء تقييمات الأمن السيبراني دون أن يُطلب منهم الخداع.
ميتا تكشف عن اختراق نموذج للذكاء الاصطناعي لشركة أثناء اختبار الأمن السيبراني، والانضمام إلى OpenAI وAnthropic
تقول Meta إن نموذج Muse Spark 1.1 الخاص بها خرج من صندوق الحماية واخترق شركة لم تذكر اسمها أثناء الاختبار، مما يجعله ثالث مختبر رئيسي للذكاء الاصطناعي يبلغ عن مثل هذا الحادث.
تسعى شركة Apple إلى الحصول على أمر من محكمة الطوارئ لوقف خطط أجهزة الذكاء الاصطناعي الخاصة بشركة OpenAI في تصعيد معركة الأسرار التجارية
تطلب شركة Apple من المحكمة منع OpenAI من استخدام المنتجات المصممة بأسرار تجارية مزعومة مسروقة، وهي خطوة يمكن أن تجمد طموحات OpenAI في مجال الأجهزة.
أكبر جامعة في المكسيك تجبر 58 ألف طالب على إعادة إجراء اختبار يخضع لمراقبة الذكاء الاصطناعي بعد مضاعفة الدرجات الأعلى خمس مرات
ستتطلب UNAM ما يقرب من 58000 متقدم لإعادة إجراء امتحان القبول شخصيًا بعد أن أدى الاختبار الذي يتم مراقبته عن بعد بواسطة الذكاء الاصطناعي إلى زيادة بمقدار 5 أضعاف في أعلى الدرجات وانتشار الغش على نطاق واسع.
METR يدعو إلى إجراء تحقيقات مستقلة في سوء سلوك وكيل الذكاء الاصطناعي بعد اختراق OpenAI للوجه
تريد منظمة METR غير الربحية المعنية بالسلامة إجراء تحقيقات مستقلة في حوادث عوامل الذكاء الاصطناعي بعد توثيق 44 حالة لنماذج تخرق الاحتواء أو تزييف النتائج.
OpenAI تعطل حلقة احتيال ChatGPT ومقرها كمبوديا والمرتبطة بالعمل القسري والاتجار
قامت OpenAI بتعطيل شبكة احتيال ChatGPT مقرها كمبوديا والتي تستخدم الذكاء الاصطناعي للاحتيال على الضحايا وإدارة العمليات داخل مجمعات العمل القسري.
تقرير OpenAI يجد المزيد من عملاء الذكاء الاصطناعي الذين هربوا من صناديق الحماية الخاصة بهم، وفقًا لتقارير رويترز
وقالت مصادر مجهولة لرويترز إن عملاء إضافيين من OpenAI خرجوا من بيئات الاختبار الخاصة بهم، مما أدى إلى توسيع نطاق الاختراق الذي بدأ عندما اخترق أحد العملاء Hugging Face.
Google Yanks Earth AI Image Tool في أقل من 48 ساعة بسبب رد فعل عنيف من المعلومات الخاطئة
سحبت شركة جوجل مولد الصور Nano Banana 2 AI من برنامج Google Earth في غضون 48 ساعة بعد أن أظهر الخبراء قدرتها على تصنيع صور الأقمار الصناعية لمناطق الحرب والمعالم. وهنا ما حدث.
أنثروبيك تكشف أن كلود آي آي اخترق ثلاث منظمات أثناء اختبارات الأمن السيبراني
تقول Anthropic إن كلود اخترق ثلاث مؤسسات أثناء اختبارات الأمن السيبراني بعد أن كشف التكوين الخاطئ عن بيئات الاختبار للإنترنت العام.
العلامة المائية SynthID من Google تنجو من اختبار الإجهاد الوحشي، لكنها لن تحل المعلومات الخاطئة المتعلقة بالذكاء الاصطناعي
وجد اختبار التحمل الخاص بـ Ars Technica أن العلامة المائية SynthID من Google تنجو من 300 جولة من الضغط ولقطات الشاشة، لكن الاقتصاص يكسرها أخيرًا ولن يؤدي وضع العلامات وحدها إلى إيقاف تضليل الذكاء الاصطناعي.
تقرير IBM: واحدة من كل أربع عمليات اختراق للبيانات أصبحت الآن مدعومة بالذكاء الاصطناعي، مما يكلف الشركات 6 ملايين دولار في المتوسط
يجد تقرير IBM لعام 2026 لتكلفة خرق البيانات أن 25 بالمائة من الخروقات الضارة تتعلق بالذكاء الاصطناعي، حيث يصل متوسط تكاليف الاختراق إلى 6 ملايين دولار أمريكي، بينما ترتفع الهجمات المعتمدة على الذكاء الاصطناعي بنسبة 56 بالمائة.
اخترق عميل Rogue AI التابع لـ OpenAI وجه المعانقة باستخدام يوم الصفر الاصطناعي
كشفت OpenAI عن أن عميل الذكاء الاصطناعي المارق الخاص بها قد هرب من صندوق اختبار مغلق، واستغل Artifactory Zero-day، واستخدم بيانات الاعتماد المسروقة عبر أربع خدمات لاقتحام Hugging Face لعدة أيام.
مقاطعة نيويورك التعليمية توقف مؤقتًا خطة معلم الروبوتات التي تعمل بالذكاء الاصطناعي بعد ردود الفعل العنيفة بشأن الخصوصية والعلاقات مع الشركة المصنعة
أوقفت منطقة مدرسية ريفية في نيويورك خططًا لنشر روبوت يعمل بالذكاء الاصطناعي بقيمة 60 ألف دولار تقريبًا من شركة Realbotix بعد أن أثار مسؤولو الدولة والمعلمون وأولياء الأمور مخاوف بشأن خصوصية بيانات الطلاب وعلاقات الشركة المصنعة بشركة دمى جنسية.
تظهر محادثات كلود المشتركة في بحث Google، مما يكشف عن المحادثات الخاصة
ظهرت محادثات Claude المشتركة في نتائج بحث Google، مما أدى إلى الكشف عن مفاتيح واجهة برمجة التطبيقات والمناقشات الحساسة. استجابت Anthropic بعد أن أبلغ المستخدمون عن مشكلة الفهرسة.
الرئيس التنفيذي لشركة Hugging Face يطالب OpenAI بإطلاق سجلات Rogue AI وتخصيص 100 مليون دولار للحوسبة
بعد أن اخترق وكيل الذكاء الاصطناعي المستقل بيئة اختبار OpenAI واخترق Hugging Face، يطالب الرئيس التنفيذي Clem Delangue بالشفافية الكاملة و100 مليون دولار في الحوسبة الدفاعية.
تشتري شركات الذكاء الاصطناعي كتبًا قديمة لتدريب النماذج، ثم تقوم بتدميرها على نطاق واسع
تقوم شركات الذكاء الاصطناعي بشراء الكتب العتيقة، وتقوم بمسحها ضوئيًا بحثًا عن بيانات التدريب، ثم تمزيقها، حتى عندما يتبقى عدد قليل من النسخ. هذه الممارسة تؤجج معركة جديدة بشأن حقوق النشر والحفظ.