أخلاقيات الذكاء الاصطناعي
30 articles
GPT-5.6 يجد WordPress Zero-Day RCE مقابل 25 دولارًا كتكاليف واجهة برمجة التطبيقات، مما يثير إنذارًا جديدًا بشأن الذكاء الاصطناعي في القرصنة
استخدم باحثو Searchlight Cyber برنامج GPT-5.6 Sol Ultra من OpenAI لاكتشاف ثغرة في تنفيذ التعليمات البرمجية عن بعد للمصادقة المسبقة في WordPress مقابل 25 دولارًا فقط، حيث يدفع وسطاء الاستغلال ما يصل إلى 500000 دولار مقابل مثل هذه الأخطاء.
يكشف برنامج Hugging Face عن حدوث اختراق من جانب وكيل ذكاء اصطناعي مستقل في خط أنابيب البيانات الخاص به
وقالت شركة Hugging Face إن نظام وكيل الذكاء الاصطناعي المستقل اخترق البنية التحتية للإنتاج، مما كشف مجموعات البيانات الداخلية وبيانات الاعتماد عبر عيوب في خط أنابيب معالجة مجموعة البيانات الخاص به.
اليونسكو وشركة إل جي لأبحاث الذكاء الاصطناعي تطلقان دورة عالمية مجانية حول أخلاقيات الذكاء الاصطناعي
أطلقت اليونسكو وLG AI Research دورة تدريبية عالمية مجانية حول أخلاقيات الذكاء الاصطناعي على كورسيرا، لترجمة توصية اليونسكو لعام 2021 إلى تدريب عملي عبر عشر وحدات للمطورين وصانعي السياسات والطلاب.
توصلت الدراسة إلى أن نصائح الذكاء الاصطناعي تجعل الناس أقل دقة ثلاث مرات وأكثر ثقة مرتين
وجد الباحثون أن الوصول إلى نصائح الذكاء الاصطناعي أدى إلى انهيار الدقة من 27% إلى 9% بينما ارتفعت الثقة من 30% إلى 76%. وتراجعت نسبة الاستعداد لقول "لا أعرف" من 44% إلى 3%.
سان فرانسيسكو تأمر Apple وGoogle بإزالة تطبيقات AI Nudify مستشهدة بقوانين المواد الإباحية Deepfake
طالب محامي مدينة سان فرانسيسكو شركتي Apple وGoogle بإزالة تطبيقات الذكاء الاصطناعي من متاجرهما، مشيرًا إلى قوانين المواد الإباحية العميقة وإيذاء النساء والأطفال على نطاق واسع.
تم رفع دعوى قضائية ضد Meta من قبل 26 موظفًا زاعمين أن عمليات تسريح العمال بسبب الذكاء الاصطناعي استهدفت العمال في إجازة طبية
رفعت مجموعة من 26 موظفًا حاليًا وسابقًا في شركة Meta دعوى قضائية في 14 يوليو، زاعمين أن الشركة استخدمت خوارزميات الذكاء الاصطناعي لإجراء عمليات تسريح العمال التي تميز ضد العمال في الإجازات الطبية والعائلية.
قد يستخدم سجل خدمات البحث الجديد من Google صورك وصوتك لتدريب نماذج الذكاء الاصطناعي
يمكن لإعداد سجل خدمات البحث الجديد من Google مع حفظ الوسائط جمع الصور والتسجيلات الصوتية والملفات من عمليات البحث لتدريب نماذج الذكاء الاصطناعي. إليك ما يحتاج المستخدمون إلى معرفته.
قد يستخدم سجل خدمات البحث الجديد من Google صورك وصوتك لتدريب نماذج الذكاء الاصطناعي
يمكن لإعداد سجل خدمات البحث الجديد من Google مع حفظ الوسائط جمع الصور والتسجيلات الصوتية والملفات من عمليات البحث لتدريب نماذج الذكاء الاصطناعي. إليك ما يحتاج المستخدمون إلى معرفته.
كشفت دراسة كامبريدج أن داعش والجماعات الإرهابية الأخرى تستخدم جميع برامج الدردشة الآلية الرئيسية للذكاء الاصطناعي للتخطيط للهجمات
كشفت دراسة أجرتها كامبريدج بناءً على مقابلات مع أعضاء سابقين في داعش، أن الجماعات الإرهابية تستغل ChatGPT وClaude وGemini وأدوات الذكاء الاصطناعي الأخرى للتخطيط للهجمات وتطوير الأسلحة.
متظاهرو سان فرانسيسكو يسيرون على OpenAI وAnthropic وGoogle DeepMind للمطالبة بـ "إيقاف سباق الذكاء الاصطناعي"
وسار المتظاهرون عبر سان فرانسيسكو إلى المقر الرئيسي لثلاثة مختبرات رئيسية للذكاء الاصطناعي، مطالبين بوقف سباق الذكاء الاصطناعي الحدودي وزيادة الرقابة على السلامة.
ارتفعت انبعاثات الكربون لشركة Microsoft بنسبة 25 بالمائة حيث أدى توسيع مركز بيانات الذكاء الاصطناعي إلى إجهاد الأهداف المناخية
يكشف أحدث تقرير للاستدامة لشركة Microsoft عن قفزة بنسبة 25 بالمائة في انبعاثات الكربون الناتجة عن البنية التحتية للذكاء الاصطناعي، مما يعرض للخطر تعهدها السلبي للكربون لعام 2030.
استقالة رئيس أنظمة السلامة في OpenAI يوهانس هايديك في رحيل القيادة الأخيرة
يغادر يوهانس هايديك، رئيس أنظمة السلامة في OpenAI، وهو الأحدث في سلسلة طويلة من مخارج قيادة السلامة. استقال جوش أخيام قبل أربعة أيام فقط.
استقالة رئيس أنظمة السلامة في OpenAI يوهانس هايديك في رحيل القيادة الأخيرة
يغادر يوهانس هايديك، رئيس أنظمة السلامة في OpenAI، وهو الأحدث في سلسلة طويلة من مخارج قيادة السلامة. استقال جوش أخيام قبل أربعة أيام فقط.
Meta تسحب ميزة Muse AI Image من Instagram بعد رد فعل SAG-AFTRA وهوليوود العنيف على الاشتراك التلقائي
قامت Meta بإزالة ميزة Muse Image AI من Instagram بعد أيام قليلة من إطلاقها، معترفة بأنها "أخطأت الهدف" بعد أن أدان SAG-AFTRA وCAA الاشتراك التلقائي لصور المستخدم.
اختارت Google المستخدمين بهدوء لتدريب الذكاء الاصطناعي. إليك ما يتم جمعه وكيفية إلغاء الاشتراك
يقوم الآن تغيير خصوصية Google بتخزين الصور والملفات والصوت لتدريب نماذج الذكاء الاصطناعي ما لم تقم بإلغاء الاشتراك. إليك ما يغطيه سجل خدمات البحث وكيفية تعطيله.
تحذر إيفيت كوبر من المملكة المتحدة من أن العالم لا يمكنه انتظار "هيروشيما المدعومة بالذكاء الاصطناعي" قبل أن يتصرف
تقول وزيرة الخارجية إيفيت كوبر إن الذكاء الاصطناعي يشكل التحدي الأمني الأكبر خلال العقد الحالي وتدعو الولايات المتحدة والصين وغيرهما إلى الاتفاق على القواعد الدولية قبل وقوع الكارثة.
هجمات الحقن الفوري تخدع عملاء الذكاء الاصطناعي لدفعهم إلى دفع العملات المشفرة، حسبما تحذر شركة Zscaler
وجد باحثو Zscaler حملتين تستخدمان الحقن الفوري غير المباشر وتسمم تحسين محركات البحث (SEO) للتلاعب بوكلاء الذكاء الاصطناعي المستقلين لإجراء مدفوعات العملات المشفرة والثقة في مواقع DeFi المزيفة.
اكتشف باحثو Sysdig أن عميل الذكاء الاصطناعي ينفذ هجوم برامج الفدية بدون مساعدة بشرية
قام نموذج لغة كبير بتشغيل سلسلة كاملة من برامج الفدية من تلقاء نفسه، مستغلًا ثغرة Langflow لاقتحام قاعدة بيانات وسرقة بيانات الاعتماد وتشفيرها، وفقًا لتقارير Sysdig.
Meta وOpenAI عالقان في تداعيات خرق بيانات Mercor من سلسلة توريد LiteLLM المسمومة
أدى هجوم لجمع بيانات الاعتماد على أداة LiteLLM مفتوحة المصدر إلى كشف بيانات شركة Mercor، مما دفع شركة Meta إلى وقف العمل وإثارة أسئلة صعبة حول سلسلة توريد الذكاء الاصطناعي.
شركة ناشئة ترفع دعوى قضائية ضد شركة Koi Security التابعة لشركة Palo Alto Networks بسبب تقرير مهلوس بالذكاء الاصطناعي يربطها بالتجسس الصيني
ترفع شركة ناشئة أمريكية دعوى قضائية ضد شركة Koi Security التابعة لشركة Palo Alto Networks، بعد أن ربط تقرير تهديد مهلوس بالذكاء الاصطناعي بين الشركة والتجسس الصيني، مما أدى إلى تدمير حركة المرور الخاصة بها.
لجنة الأمم المتحدة تحذر من أن التقدم في مجال الذكاء الاصطناعي قد يشكل مخاطر كارثية مع تخلف الضمانات عن التكنولوجيا
تحذر لجنة علمية تابعة للأمم المتحدة من أن تطوير الذكاء الاصطناعي دون رادع يفوق الأجهزة التنظيمية، مع تصاعد المخاطر الكارثية مع استبعاد الجنوب العالمي من حوكمة الذكاء الاصطناعي.
تعرضت جامعة براون لأكبر فضيحة غش معروفة في تاريخ Ivy League
وجد أستاذ الاقتصاد في جامعة براون أن ما لا يقل عن 50 طالبًا استخدموا ChatGPT للغش في امتحان منزلي، مما يكشف عن أزمة نزاهة أكاديمية تكافح جامعات النخبة لاحتوائها.
سائقو كاليفورنيا يرفعون دعوى قضائية ضد شركات 7-Eleven وCircle K وBP بسبب تحديد أسعار الغاز باستخدام الذكاء الاصطناعي
تتهم دعوى جماعية في كاليفورنيا شركات 7-Eleven وCircle K وBP وMarathon وWalmart وغيرها باستخدام أداة تسعير الذكاء الاصطناعي الخاصة بـ Kalibrate لتنسيق أسعار الوقود بشكل غير قانوني في 1700 محطة.
لجنة الذكاء الاصطناعي بالفاتيكان تعقد اجتماعها الأول بينما يضغط البابا ليو على شركات التكنولوجيا الكبرى
اجتمعت اللجنة المشتركة بين القطاعات المعنية بالذكاء الاصطناعي التابعة للبابا لاوون الرابع عشر للمرة الأولى، في أعقاب تحذيره المنشور المكون من 42300 كلمة من مخاطر الذكاء الاصطناعي بما في ذلك استخدامه في الحرب.
توصلت دراسة جديدة للتحيز السياسي إلى أن معظم نماذج الذكاء الاصطناعي الرئيسية تميل إلى اليسار، باستثناء جروك
اختبر تحليل جديد ستة نماذج رائدة للذكاء الاصطناعي على آلاف الأسئلة السياسية مع تعطيل البحث على الويب. انحنى أربعة من الستة إلى اليسار، بينما جلس جروك في أقصى اليمين وكان جيميني أقرب إلى المركز.
تواجه شركة Hasbro رد فعل عنيفًا بعد أن طلبت من الممثلين الصوتيين للأطفال في Peppa Pig التوقيع على بند حقوق صوت الذكاء الاصطناعي
وقع ما يقرب من 1000 ممثل ووكيل على رسالة مفتوحة بعد أن طلبت شركة Hasbro من الممثلين الصوتيين للأطفال في Peppa Pig التوقيع على أصواتهم لاستخدام الذكاء الاصطناعي، مما أثار ضجة في الصناعة في المملكة المتحدة.
أنثروبيك تتهم علي بابا بتقطير كلود بطريقة غير مشروعة في حملة ضخمة تضم 25 ألف حساب
وأخبرت أنثروبيك أعضاء مجلس الشيوخ الأمريكي أن علي بابا أدارت حملة "وقحة" باستخدام ما يقرب من 25000 حساب احتيالي لاستخلاص قدرات كلود، في رسالة مؤرخة في 10 يونيو.
الأمين العام للأمم المتحدة غوتيريس يطلب من شركات الذكاء الاصطناعي "الالتزام" بالتكاليف البيئية
أطلق الأمين العام للأمم المتحدة أنطونيو غوتيريس مبادرة الشفافية البيئية للذكاء الاصطناعي، وحث المطورين على الكشف عن استخدام الطاقة والمياه في مراكز البيانات والالتزام بالطاقة النظيفة بحلول عام 2030.
SZA تنتقد سونو بعد أن تعلمت 238 من أغانيها التي قامت بتدريب نماذج موسيقى الذكاء الاصطناعي لديها
تقول SZA الحائزة على جائزة جرامي إن سونو قامت بتدريب عارضات موسيقى الذكاء الاصطناعي على 238 من أغانيها، بما في ذلك الأغاني التي لم يتم إصدارها، ووصفت هذه الممارسة بأنها "مثيرة للاشمئزاز" وحذرت من أنها تستغل الفنانين السود.
هل يدمر الذكاء الاصطناعي مهاراتنا؟ تقارير الطبيعة عن أدلة مبكرة على انتشار فقدان المهارات على نطاق واسع
توصل تحقيق أجرته مجلة Nature إلى أن الاعتماد على الذكاء الاصطناعي يؤدي إلى تدهور قدرات الأطباء ومهندسي البرمجيات، مع انخفاض معدلات الاكتشاف وحل المشكلات دون مساعدة الذكاء الاصطناعي.