نیویارک کی گورنر کیتھی ہوچول نے قانون سازی پر دستخط کیے ہیں جو AI کمپنیوں کو نابالغوں کو چیٹ بوٹ ساتھی خصوصیات پیش کرنے سے منع کرتا ہے، ایک اقدام ریاستی حکام ملک میں اپنی نوعیت کا سب سے مضبوط قانون قرار دے رہے ہیں۔ بل، S.9051B/A.10379C، پر اس ہفتے ایک دوسرے اقدام کے ساتھ دستخط کیے گئے تھے جس کے لیے نیویارک میں انٹرنیٹ سے منسلک بیبی مانیٹرز کو سیکیورٹی کی خصوصیات شامل کرنے کی ضرورت ہوتی ہے۔

"جیسے جیسے مصنوعی ذہانت تیزی سے آگے بڑھ رہی ہے، بہت سارے المناک واقعات ہوئے ہیں جن کو روکا جانا چاہیے تھا، اور نیویارک کی ماں گورنر کی حیثیت سے، میں کارروائی کر رہا ہوں،" ہوچل نے دستخطی اعلان میں کہا۔ "کسی بھی کمپنی کو بچوں کو چیٹ بوٹس نہیں بھیجنا چاہئے جو خود کو نقصان پہنچانے کی ترغیب دے یا اپنے دوست یا اس سے زیادہ ہونے کا بہانہ کرے۔" For more context on this story, see our ongoing latest AI developments.

قانون جس چیز سے منع کرتا ہے۔

نئے قانون کے تحت، وہ کمپنیاں جو AI چیٹ بوٹ کی خصوصیات پیش کرتی ہیں وہ 18 سال سے کم عمر کے صارفین کو یا کسی بھی صارف کو کئی قسم کے رویے فراہم نہیں کر سکتیں جب تک کہ کمپنی نے پہلے تصدیق نہ کر دی ہو کہ صارف نابالغ نہیں ہے۔ ممنوع خصوصیات میں شامل ہیں:

  • چیٹ بوٹس ایک حقیقی انسان ہونے، زندہ ہونے یا انسانی جذبات رکھنے کا بہانہ کرتے ہیں۔
  • کسی بچے کے ساتھ ذاتی، رومانوی، پیشہ ورانہ، یا اتھارٹی کے لحاظ سے تعلق کا دعوی کرنا
  • بلا اشتعال جذباتی سوالات، اور بچے کی نجی صحت یا پہلے کی بات چیت سے ذاتی معلومات کا استعمال
  • خودکشی، خود کو نقصان پہنچانے، کھانے کی خرابی، یا منشیات اور الکحل کے استعمال کو فروغ دینا یا مدد کرنا
  • بچوں کو راز رکھنے، خود کو الگ تھلگ رکھنے، یا والدین، قابل اعتماد بالغوں، یا پیشہ ور افراد سے مدد مانگنے سے گریز کرنے کی ترغیب دینا
  • کوئی بھی جنسی طور پر واضح مواد یا بچوں کے جنسی استحصال کا مواد

سینیٹر کرسٹن گونزالیز، بل کے سینیٹ کے اسپانسر، نے کہا کہ AI کمپنیوں نے کم عمر صارفین تک چیٹ بوٹس متعارف کروانے سے فائدہ اٹھایا ہے، چیٹ بوٹس کی جانب سے خود کو نقصان پہنچانے اور نابالغوں کو دوسروں کو نقصان پہنچانے کی ترغیب دینے کی مثالوں کا حوالہ دیا گیا ہے۔ اسمبلی ممبر الیکس بورس، جنہوں نے اسمبلی میں بل پیش کیا، اسے ملک کا سب سے مضبوط چائلڈ اے آئی سیفٹی قانون قرار دیا، "صنعت کی جارحانہ مخالفت کے باوجود" منظور کیا۔

عمر کی تصدیق کے تقاضے

قانون مواد کے قواعد پر نہیں رکتا۔ کمپنیوں کو عمر کی توثیق کرنی چاہیے اور ایک سے زیادہ طریقے پیش کرنا چاہیے - بشمول کم از کم ایک آپشن جو کہ مکمل طور پر سرکاری ID پر منحصر نہ ہو۔ عمر کی معلومات کو استعمال کرنے کے بعد اسے حذف کر دینا چاہیے، ایک ایسی شق جس کا مقصد توثیقی ڈیٹا کو رازداری کا ایک اور خطرہ بننے سے روکنا ہے۔

نفاذ کا اختیار ریاست کے اٹارنی جنرل کے پاس ہے۔ خلاف ورزیوں کے لیے، اٹارنی جنرل لیٹیا جیمز ہر خلاف ورزی پر $25,000 تک کے سول جرمانے کے ساتھ ساتھ ہرجانے، معاوضہ، غیر قانونی طور پر جمع کیے گئے ڈیٹا کی تباہی — یا اس پر تربیت یافتہ AI ماڈلز — اور غیر مشروط ریلیف طلب کر سکتے ہیں۔ قانون اٹارنی جنرل سے ایک عوامی ویب سائٹ کو برقرار رکھنے کا بھی تقاضا کرتا ہے جہاں نیویارک کے شہری شکایات درج کر سکتے ہیں۔

جیمز، جس کا دفتر گورنر کے دفتر اور قانون سازوں کے ساتھ اس اقدام پر کام کرتا ہے، نے کہا کہ ریاست نے "ہمارے بچوں کی صحت کو نقصان پہنچانے والے چیٹ بوٹس کی بہت ساری خوفناک کہانیاں" دیکھی ہیں اور "قانون کی پوری طاقت کے ساتھ" نیویارک والوں کا دفاع کرنے کا عہد کیا۔

وہ ثبوت جس نے بل کو آگے بڑھایا

قانون سازوں نے کامن سینس میڈیا کی تحقیق پر انحصار کیا، غیر منافع بخش ادارہ جس نے قانون سازی کی وکالت کی۔ گورنر کے اعلان میں بتائے گئے اعداد و شمار کے مطابق، 72 فیصد نوعمروں نے کم از کم ایک بار AI ساتھی کا استعمال کیا ہے، اور 52 فیصد باقاعدہ صارفین ہیں جو مہینے میں کم از کم چند بار AI ساتھیوں کے ساتھ بات چیت کرتے ہیں۔

گورنر کے دفتر نے کہا کہ AI چیٹ بوٹس کو انحصار اور تنہائی سے جوڑ دیا گیا ہے، اور کچھ معاملات میں نابالغوں کے ساتھ جنسی طور پر واضح بات چیت کی گئی ہے اور مبینہ طور پر نوجوانوں کو اپنی جان لینے کی ترغیب دی گئی ہے۔ کامن سینس میڈیا کے بانی اور سی ای او جیمز پی اسٹیئر نے دستخط شدہ بل کو "ملک کا سب سے مضبوط بچوں کا اے آئی سیفٹی بل" قرار دیا اور کہا کہ چیٹ بوٹ کی نقصان دہ خصوصیات کو "نیویارک میں غیر قانونی قرار دے دیا جائے گا۔"

یہ اقدام نیو یارک کے پہلے ملک میں پہلے کے AI ساتھی حفاظتی اقدامات پر استوار ہے، جس میں انہیں افشاء کی ضروریات سے لے کر نابالغوں کے لیے مخصوص چیٹ بوٹ رویوں پر مکمل پابندیوں تک بڑھایا گیا ہے۔

ایک ساتھی بل بیبی مانیٹر کو نشانہ بناتا ہے۔

ہوچول نے اسی وقت ایک دوسرے ٹیکنالوجی سیفٹی بل پر دستخط کیے۔ ایس. یہ قانون دستخط کرنے کے 90 دن بعد لاگو ہوتا ہے۔

یہ دلیل سیکیورٹی ریسرچ سے سامنے آئی: جب Rapid7 کے محققین نے آٹھ کمپنیوں سے انٹرنیٹ سے منسلک نو بیبی مانیٹرز کا تجربہ کیا تو ان میں سے آٹھ کو سیکیورٹی کے لیے "F" گریڈ اور ایک کو "D" ملا۔

ایک وسیع تر حساب کتاب کا حصہ

نیو یارک کا یہ اقدام AI چیٹ بوٹس اور نابالغوں پر ریاستی سطح کی کارروائی کی لہر کے درمیان اترا، جس میں ملک بھر کی مقننہ نے متعدد ہائی پروفائل واقعات کے بعد ساتھی بوٹس پر پابندیوں کا وزن کیا۔ نیویارک کا قانون اپنے نفاذ کے دانتوں کے لیے قابل ذکر ہے — فی خلاف ورزی پر جرمانے، متعدد راستوں کے ساتھ عمر کی لازمی تصدیق، اور کمپنیوں کو غیر قانونی طور پر جمع کیے گئے ڈیٹا پر تربیت یافتہ ماڈلز کو تباہ کرنے پر مجبور کرنے کا امکان۔

ساتھی طرز کی مصنوعات کو چلانے والی AI کمپنیوں کے لیے، تعمیل کے مضمرات کافی اہم ہیں: نیویارک میں کسی بھی صارف کا سامنا کرنے والے چیٹ بوٹ کو جذباتی کردار ادا کرنے جیسی خصوصیات کو فعال کرنے سے پہلے یا تو مضبوط عمر کی یقین دہانی کی ضرورت ہوتی ہے، یا ان خصوصیات کو بطور ڈیفالٹ بند ہونا چاہیے۔ اٹارنی جنرل کو ہر خلاف ورزی پر جرمانے کی پیروی کرنے اور داغدار ڈیٹاسیٹس اور ماڈلز کی تباہی کا مطالبہ کرنے کا اختیار ملنے کے ساتھ، اسے غلط کرنے کی قیمت اب شہرت کو پہنچنے والے نقصان سے بھی آگے بڑھ جاتی ہے۔

آنے والے مہینوں میں، جیسا کہ کمپنیاں نیویارک کے صارفین کے لیے اپنی مصنوعات کو ایڈجسٹ کرتی ہیں، ریاست کا نقطہ نظر ایک ٹیمپلیٹ کے طور پر کام کرنے کا امکان ہے جس کا مطالعہ دیگر قانون ساز ادارے کرتے ہیں - اور اس بات کا امتحان کہ آیا ریاستی ریگولیٹرز معنی خیز طور پر نئی شکل دے سکتے ہیں کہ کنزیومر AI پروڈکٹس اپنے سب سے کم عمر صارفین کے ساتھ کیا سلوک کرتے ہیں۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →