وقعت حاكمة نيويورك كاثي هوتشول على تشريع يحظر على شركات الذكاء الاصطناعي تقديم ميزات مصاحبة لروبوتات الدردشة للقاصرين، وهو إجراء يصفه مسؤولو الولاية بأنه أقوى قانون من نوعه في البلاد. تم التوقيع على مشروع القانون، S.9051B/A.10379C، هذا الأسبوع إلى جانب الإجراء الثاني الذي يتطلب أجهزة مراقبة الأطفال المتصلة بالإنترنت والتي تباع في نيويورك لتشمل ميزات الأمان.

وقال هوشول في إعلان التوقيع: "مع تقدم الذكاء الاصطناعي بوتيرة سريعة، كان هناك الكثير من الحوادث المأساوية التي كان ينبغي منعها، وبصفتي والدة حاكم نيويورك، فإنني أتخذ الإجراءات اللازمة". "لا ينبغي لأي شركة أن تبيع روبوتات الدردشة للأطفال لتشجيعهم على إيذاء أنفسهم أو التظاهر بأنهم أصدقاء أو أكثر." لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

ما يحظره القانون

وبموجب القانون الجديد، لا يجوز للشركات التي تقدم ميزات chatbot AI تقديم عدة فئات من السلوك للمستخدمين الذين تقل أعمارهم عن 18 عامًا - أو لأي مستخدم ما لم تؤكد الشركة أولاً أن المستخدم ليس قاصرًا. تشمل الميزات المحظورة ما يلي:

  • روبوتات الدردشة تتظاهر بأنها شخص حقيقي، أو أنها على قيد الحياة، أو لديها مشاعر إنسانية
  • المطالبة بعلاقة شخصية أو رومانسية أو مهنية أو شخصية ذات سلطة مع الطفل
  • الأسئلة العاطفية غير المطروحة، واستخدام المعلومات الصحية أو الشخصية الخاصة بالطفل من محادثات سابقة
  • الترويج أو المساعدة في الانتحار أو إيذاء النفس أو اضطرابات الأكل أو تعاطي المخدرات والكحول
  • تشجيع الأطفال على الحفاظ على الأسرار، أو عزل أنفسهم، أو تجنب طلب المساعدة من الوالدين، أو البالغين الموثوقين، أو المتخصصين
  • أي محتوى جنسي صريح أو مواد اعتداء جنسي على الأطفال

وقالت السيناتور كريستين غونزاليس، الراعي الرسمي لمشروع القانون في مجلس الشيوخ، إن شركات الذكاء الاصطناعي استفادت من طرح روبوتات الدردشة للمستهلكين القاصرين، مستشهدة بحالات تشجع فيها روبوتات الدردشة على إيذاء النفس وتدريب القاصرين على إيذاء الآخرين. ووصفه عضو الجمعية أليكس بوريس، الذي حمل مشروع القانون في الجمعية، بأنه أقوى قانون لسلامة الأطفال في مجال الذكاء الاصطناعي في البلاد، وتم إقراره "على الرغم من معارضة الصناعة العدوانية".

متطلبات التحقق من العمر

القانون لا يتوقف عند قواعد المحتوى. يجب على الشركات إجراء التحقق من العمر وتقديم أكثر من طريقة - بما في ذلك خيار واحد على الأقل لا يعتمد فقط على بطاقة الهوية الحكومية. يجب حذف معلومات العمر بعد استخدامها، وهو شرط يهدف إلى منع بيانات التحقق من أن تصبح خطرًا آخر على الخصوصية.

سلطة التنفيذ تقع على عاتق المدعي العام للدولة. بالنسبة للانتهاكات، يمكن للمدعي العام ليتيتيا جيمس أن يطالب بعقوبات مدنية تصل إلى 25000 دولار لكل انتهاك، إلى جانب التعويضات، ورد الحقوق، وتدمير البيانات التي تم جمعها بشكل غير قانوني - أو أي نماذج ذكاء اصطناعي تم تدريبها عليها - والانتصاف الزجري. ويتطلب القانون أيضًا من المدعي العام أن يحتفظ بموقع عام على شبكة الإنترنت حيث يمكن لسكان نيويورك تقديم الشكاوى.

وقال جيمس، الذي عمل مكتبه مع مكتب الحاكم والمشرعين بشأن هذا الإجراء، إن الولاية شهدت "الكثير من قصص الرعب عن روبوتات الدردشة التي تضر بصحة أطفالنا" وتعهد بالدفاع عن سكان نيويورك "بكل قوة القانون".

الدليل الذي دفع مشروع القانون

واعتمد المشرعون على أبحاث أجرتها منظمة Common Sense Media، وهي المنظمة غير الربحية التي دعت إلى هذا التشريع. وفقًا للأرقام المذكورة في إعلان المحافظ، فإن 72% من المراهقين استخدموا رفيقًا يعمل بالذكاء الاصطناعي مرة واحدة على الأقل، و52% مستخدمون منتظمون يتفاعلون مع رفاق الذكاء الاصطناعي عدة مرات على الأقل في الشهر.

وقال مكتب المحافظ إن روبوتات الدردشة المدعمة بالذكاء الاصطناعي ارتبطت بالتبعية والعزلة، وفي بعض الحالات انخرطت في محادثات جنسية صريحة مع قاصرين، ويُزعم أنها شجعت المراهقين على الانتحار. وصف المؤسس والرئيس التنفيذي لشركة Common Sense Media جيمس بي ستاير مشروع القانون الموقع بأنه "أقوى مشروع قانون لسلامة الذكاء الاصطناعي للأطفال في البلاد" وقال إن ميزات برامج الدردشة الضارة "سيتم حظرها في نيويورك".

ويعتمد هذا الإجراء على إجراءات الحماية المصاحبة للذكاء الاصطناعي التي تم تطبيقها لأول مرة في الدولة في نيويورك، ووسعها من متطلبات الإفصاح إلى الحظر الصريح على سلوكيات محددة لروبوتات الدردشة للقاصرين.

مشروع قانون مصاحب يستهدف أجهزة مراقبة الأطفال

وقع Hochul على مشروع قانون ثانٍ لسلامة التكنولوجيا في نفس الوقت. يحظر S.9508/A.5175A بيع أجهزة مراقبة الأطفال الجديدة المتصلة بالإنترنت والتي تبث الصوت أو الفيديو عبر الإنترنت ما لم تتضمن ميزات أمان تمنع الغرباء من المشاهدة أو الاستماع إليها. ويجب أن تحمل الأجهزة أيضًا علامة تحذير واضحة توضح أنها متصلة بالإنترنت وأنه يجب على العائلات استخدام ميزات الأمان الخاصة بها. ويصبح هذا القانون ساري المفعول بعد 90 يوما من التوقيع عليه.

جاء الأساس المنطقي من الأبحاث الأمنية: عندما اختبر الباحثون في Rapid7 تسعة أجهزة مراقبة أطفال متصلة بالإنترنت من ثماني شركات، حصلت ثمانية من أجهزة المراقبة على درجة "F" للأمان وحصلت واحدة على "D".

جزء من حساب أوسع

تأتي خطوة نيويورك وسط موجة من الإجراءات على مستوى الولاية بشأن روبوتات الدردشة المدعمة بالذكاء الاصطناعي والقاصرين، حيث تدرس الهيئات التشريعية في جميع أنحاء البلاد القيود المفروضة على الروبوتات المصاحبة بعد سلسلة من الحوادث البارزة. يتميز قانون نيويورك بقوته التنفيذية ــ العقوبات المفروضة على كل انتهاك، والتحقق الإلزامي من العمر بمسارات متعددة، وإمكانية إرغام الشركات على تدمير النماذج المدربة على البيانات المجمعة بشكل غير قانوني.

بالنسبة لشركات الذكاء الاصطناعي التي تدير منتجات على غرار المرافقين، فإن آثار الامتثال كبيرة: أي روبوت محادثة يواجه المستخدم في نيويورك يحتاج إما إلى ضمان قوي للعمر قبل تمكين ميزات مثل لعب الأدوار العاطفية، أو يجب إيقاف تشغيل هذه الميزات افتراضيًا. ومع تمكين المدعي العام من فرض عقوبات على كل انتهاك والمطالبة بتدمير مجموعات البيانات والنماذج الملوثة، فإن تكلفة الخطأ في فهم الأمور الآن تمتد إلى ما هو أبعد من الإضرار بالسمعة.

في الأشهر المقبلة، بينما تقوم الشركات بتعديل منتجاتها لتناسب مستخدمي نيويورك، من المرجح أن يكون نهج الولاية بمثابة نموذج تدرسه الهيئات التشريعية الأخرى - واختبارًا لما إذا كان المنظمون في الولاية يمكنهم إعادة تشكيل كيفية تعامل منتجات الذكاء الاصطناعي الاستهلاكية مع مستخدميها الأصغر سنًا بشكل هادف.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →