מושלת ניו יורק, Kathy Hochul, חתמה על חקיקה האוסרת על חברות בינה מלאכותית להציע תכונות נלוויות של צ'טבוט לקטינים, צעד שפקידי מדינה מכנים החוק החזק מסוגו במדינה. הצעת החוק, S.9051B/A.10379C, נחתמה השבוע לצד צעד שני המחייב צגי תינוקות מחוברים לאינטרנט הנמכרים בניו יורק לכלול תכונות אבטחה.
"ככל שהבינה המלאכותית מתקדמת בקצב מהיר, היו יותר מדי תקריות טרגיות שהיו צריכים למנוע, וכמושלת אמא של ניו יורק, אני נוקטת פעולה", אמר הוצ'ול בהודעת החתימה. "אף חברה לא צריכה לרכל צ'אטבוטים לילדים המעודדים פגיעה עצמית או מעמידים פנים שהם חברים או יותר". For more context on this story, see our ongoing artificial intelligence updates.
מה החוק אוסר
על פי החוק החדש, חברות המציעות תכונות צ'טבוט של AI אינן רשאיות לספק מספר קטגוריות של התנהגות למשתמשים מתחת לגיל 18 - או לכל משתמש אלא אם החברה אישרה תחילה שהמשתמש אינו קטין. התכונות האסורות כוללות:
- צ'טבוטים המעמידים פנים שהם אדם אמיתי, שהם חיים או שיש להם רגשות אנושיים
- טענה לקשר אישי, רומנטי, מקצועי או דמות סמכותית עם ילד
- שאלות רגשיות ללא הנחיה, ושימוש בבריאות הפרטית של הילד או במידע אישי משיחות קודמות
- קידום או סיוע בהתאבדות, פגיעה עצמית, הפרעות אכילה או שימוש בסמים ואלכוהול
- עידוד ילדים לשמור סודות, לבודד את עצמם או להימנע מלבקש עזרה מהורים, מבוגרים מהימנים או אנשי מקצוע
- כל תוכן מיני בוטה או חומר התעללות מינית בילדים
הסנאטורית קריסטן גונזלס, נותנת החסות של החוק בסנאט, אמרה שחברות בינה מלאכותית הרוויחו מהפצת צ'אטבוטים לצרכנים קטינים, תוך שהיא מציינת מקרים של צ'טבוטים המעודדים פגיעה עצמית ומדריכות קטינים לפגוע באחרים. חבר האסיפה אלכס בורס, שנשא את הצעת החוק באסיפה, כינה אותה חוק בטיחות הבינה המלאכותית לילדים החזק ביותר במדינה, עבר "למרות התנגדות תוקפנית בתעשייה".
דרישות אימות גיל
החוק לא עוצר בכללי תוכן. חברות חייבות לבצע אימות גיל ולהציע יותר משיטה אחת - כולל לפחות אפשרות אחת שאינה תלויה רק בתעודת זהות ממשלתית. יש למחוק מידע גיל לאחר השימוש בו, הוראה שמטרתה למנוע מנתוני אימות להפוך לסיכון פרטיות נוסף.
סמכות האכיפה היא בידי היועץ המשפטי לממשלה. בגין הפרות, התובעת הכללית לטיליה ג'יימס יכולה לדרוש עונשים אזרחיים של עד 25,000 דולר לכל הפרה, יחד עם פיצויים, השבתם, השמדת נתונים שנאספו שלא כדין - או כל מודל בינה מלאכותית שהוכשרה עליהם - וסעד של צו מניעה. החוק גם מחייב את היועץ המשפטי לממשלה לנהל אתר אינטרנט ציבורי שבו יכולים תושבי ניו יורק להגיש תלונות.
ג'יימס, שמשרדו עבד עם משרד המושל והמחוקקים על הצעד, אמר כי המדינה ראתה "יותר מדי סיפורי זוועה של צ'אטבוטים שפוגעים בבריאות ילדינו" והתחייבה להגן על תושבי ניו יורק "במלוא כוחו של החוק".
העדויות שהניעו את הצעת החוק
מחוקקים נשענים על מחקר של Common Sense Media, העמותה שדגלה בחקיקה. לפי נתונים שצוטטו בהודעת המושל, 72 אחוזים מבני הנוער השתמשו במלווה בינה מלאכותית לפחות פעם אחת, ו-52 אחוזים הם משתמשים קבועים המקיימים אינטראקציה עם שותפי בינה מלאכותית לפחות כמה פעמים בחודש.
משרד המושל אמר שצ'אטבוטים של AI נקשרו לתלות ולבידוד, ובמקרים מסוימים עסקו בשיחות מיניות מפורשות עם קטינים ועודדו לכאורה בני נוער לקחת את חייהם. מייסד ומנכ"ל Common Sense Media, ג'יימס פ. שטייר, כינה את הצעת החוק החתומה "חוק בטיחות הבינה המלאכותית לילדים החזק ביותר במדינה" ואמר כי תכונות צ'טבוט מזיקות "יוצאו מחוץ לחוק בניו יורק".
האמצעי מתבסס על אמצעי ההגנה הקודמים של ניו יורק ל-AI הראשון בארץ, ומרחיב אותם מדרישות גילוי לאיסור מוחלט על התנהגויות צ'טבוט ספציפיות לקטינים.
הצעת חוק נלווית מכוונת למוניטורים לתינוקות
הוכול חתם במקביל על הצעת חוק בטיחות טכנולוגית שנייה. S.9508/A.5175A אוסר מכירה של צגי תינוקות חדשים המחוברים לאינטרנט המשדרים אודיו או וידאו דרך האינטרנט, אלא אם כן הם כוללים תכונות אבטחה המונעות מאנשים זרים לצפות או להאזין. המכשירים חייבים גם לשאת תווית אזהרה ברורה המסבירה שהם מתחברים לאינטרנט ושמשפחות צריכות להשתמש בתכונות האבטחה שלהם. החוק הזה נכנס לתוקף 90 יום לאחר החתימה.
הרציונל הגיע ממחקר אבטחה: כאשר חוקרים ב-Rapid7 בדקו תשעה מוניטורים לתינוקות המחוברים לאינטרנט משמונה חברות, שמונה מהמוניטורים קיבלו ציון "F" לאבטחה ואחד קיבל "D".
חלק מחשבון רחב יותר
המהלך של ניו יורק נוחת בתוך גל של פעולות ברמת המדינה על צ'טבוטים וקטינים בינה מלאכותית, כאשר בתי המחוקקים ברחבי המדינה שוקלים את ההגבלות על בוטים נלווים לאחר סדרה של תקריות בעלות פרופיל גבוה. החוק בניו יורק בולט בשיני האכיפה שלו - עונשים לכל הפרה, אימות גיל חובה עם מספר מסלולים, והאפשרות לאלץ חברות להשמיד דגמים שהוכשרו על פי נתונים שנאספו שלא כדין.
עבור חברות בינה מלאכותית המפעילות מוצרים בסגנון נלווה, השלכות התאימות הן משמעותיות: כל צ'טבוט הפונה למשתמש בניו יורק צריך הבטחת גיל חזקה לפני הפעלת תכונות כמו משחק תפקידים רגשי, או שתכונות אלה חייבות להיות כבויות כברירת מחדל. עם סמכות היועץ המשפטי לממשלה להטיל עונשים על כל הפרה ולדרוש הרס של מערכי נתונים ומודלים נגועים, העלות של הטעות משתרעת כעת הרבה מעבר לפגיעה במוניטין.
בחודשים הקרובים, כאשר חברות מתאימות את המוצרים שלהן למשתמשים בניו יורק, הגישה של המדינה עשויה לשמש תבנית שבית מחוקקים אחרים חוקרים - ומבחן האם הרגולטורים במדינה יכולים לעצב מחדש באופן משמעותי את האופן שבו מוצרי AI צרכניים מתייחסים למשתמשים הצעירים ביותר שלהם.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
