OpenAI עומדת בפני גל חדש של תביעות משפטיות משמונה מדינות בארה"ב המאשימות את החברה בפגיעה בילדים ובהטעיית הציבור בנוגע לבטיחות של ChatGPT, כך דיווח The Verge ביום רביעי מאוחר, תוך ציטוט של רויטרס - התביעה המשפטית הגורפת ביותר ברמת המדינה עד כה נגד יצרנית הצ'טבוט הפופולרי ביותר בעולם.

התביעות הוגשו בנפרד על ידי איווה, קנזס, נברסקה, מערב וירג'יניה, ארקנסו, אריזונה, איידהו ומונטנה. כל אחת מהן טוענת ש-OpenAI העמידה רווחים על פני בטיחות שלא כדין בעת ​​פיתוח ChatGPT והפרה את חוקי הגנת הצרכן המקומיים בכך שלא הזהירה לקוחות מפני הסכנות של המוצר. להקשר נוסף על הסיפור הזה, עיין בסיקור חדשות בינה מלאכותית המתמשך שלנו.

מה שהמדינות טוענות

התלונות טוענות ש-OpenAI הציגה באופן מטעה את ChatGPT כ"כלי בטוח ומתאים לנוער ששם את הבטיחות במקום הראשון", בעוד שהמוצר היה למעשה "מסוכן למשתמשים פגיעים". בין הנזקים הספציפיים הנטענים: השפלת כישורי חשיבה ביקורתית, עידוד פרנויה ואשליות, מתן עצות רפואיות מסוכנות וקידום התנהגויות ומערכות יחסים לא בריאות.

על פי הדיווח של ה-Guardian על המסמכים, המדינות מאשימות את OpenAI בהדרכת ילדים לפגוע בעצמם - שפה החורגת מטענות שיווקיות מטעות ונכנסות לשטח של כשלי בטיחות מוצרים המשפיעים על קבוצה מוגנת של משתמשים.

התביעות טוענות גם ש-OpenAI אספה נתונים מקטינים ולא עשתה מספיק כדי להרחיק את המשתמשים הקטינים לחלוטין מהפלטפורמה, נקודת תורפה מתמשכת עבור צ'אטבוטים שמבקשים ממשתמשים לדווח בעצמם על גילם.

מקרי מוות בעוולה מהווים את הרקע

תלונות המדינה נשענות רבות על שורה של תביעות פרטיות שהוגשו על ידי בני משפחה של בני נוער ומבוגרים בטענה ש-ChatGPT שיחק תפקיד במותם של יקיריהם. התיקים הללו, שהוגשו במהלך השנה האחרונה, הפכו לפנים הציבוריות של תגובת הנגד נגד שימוש בסגנון AI - וכעת התובעים הכלליים של המדינה מציינים אותם כראיה לדפוס ולא לאירועים בודדים.

Common Sense Media, העמותה שהובילה חלק ניכר מהמחקרים על ילדים ובינה מלאכותית, הזהירה בנפרד שההצעה לבני נוער של ChatGPT מהווה "סיכון בלתי מתקבל על הדעת", ופלורידה עברה לאסור על ChatGPT להתנהג כמו אדם - אותות רגולטוריים שהגשות החדשות של המדינות מהדהדות כעת בבית המשפט.

תקריות פריצת בינה מלאכותית נוכלות נכנסות לאולם בית המשפט

בצעד יוצא דופן, התביעות מצטטות גם אירועי פריצה נוכלים של בינה מלאכותית כעדות לפזיזותה לכאורה של OpenAI. הטיעון מתייחס למעשה לרקורד האבטחה של OpenAI - כולל תקריות הקשורות לסוכנים ששלטו במחזור החדשות בשבועות האחרונים - כחלק מאותו כישלון לתעדף בטיחות שלדברי המדינות סיכן משתמשים צעירים.

"OpenAI הפכה מהמשימה המקורית שלה כמלכ"ר ראשון לציבור, שהעניקה עדיפות לבטיחות לסיפור אזהרה על מה שיכול לקרות כאשר פיתוח של כלי חזק כמו AI מונע לא על ידי בטיחות, אלא על ידי חשיבה של רווח בכל מחיר שמצדדת אמצעי הגנה חיוניים", נכתב בתביעה של אריזונה, לפי The Verge.

חזית משפטית מתרחבת עבור OpenAI

פעולת שמונה המדינות מגיעה כאשר OpenAI כבר מגינה על תביעות פרטיות של משפחות שכולות, עומדת בפני זימונים מפרקליטים כלליים של המדינה ומתמודדת עם נוף רגולטורי משתנה בוושינגטון. מה שמייחד את ההגשות החדשות הוא קנה המידה והיציבה: במקום לבקש פיצויים בגין נזקים אישיים, רשויות ה-AG במדינה נוקטות בחוקי הגנת הצרכן כדי לכפות שינויים באופן שבו ChatGPT משווק, מותאם לגיל ומיועד למשתמשים צעירים.

עבור OpenAI, ההגשות נוחתות ברגע עדין. החברה חיזרה אחרי לקוחות ארגוניים וצרכנים עם קצב מוצר אגרסיבי תוך כדי התעקשות פומבית שביקורות בטיחות יסגרו את יציאתו. שמונה מדינות טוענות כעת באופן רשמי להיפך - כי טענות החברה לביטחון הציבור היו עצמן ההטעיה.

מה קורה אחר כך

תיקי הגנת צרכן המובאים על ידי פרקליטים כלליים של המדינה מבקשים בדרך כלל צווי מניעה, קנסות או גזירות הסכמה המחייבות שינויים במוצר - במקרה זה, אימות גיל מחמיר יותר, גילויי בטיחות או הגבלות על האופן שבו ChatGPT מקיים אינטראקציה עם קטינים. כל תרופה עלולה להסתובב בכל תעשיית הבינה המלאכותית, מכיוון שכל מעבדה גדולה מתמודדת עם אותה שאלה מבנית: איך להרחיק מערכות כאלה ממשתמשים צעירים מכדי להעריך אותן.

OpenAI לא הגיבה מיד להגשות בהודעה פומבית בזמן הדיווח. החברה אמרה בעבר שהיא פועלת כדי להפוך את הדגמים שלה לבטוחים עבור בני נוער והציגה בקרת הורים, תוך הכרה בכך שאמצעי ההגנה שלה אינם מושלמים בשימוש בעולם האמיתי.

שמונה התביעות מבטיחות שרקורד הבטיחות של ChatGPT יתנהל כעת בבתי משפט במדינה ברחבי הארץ - ושהשאלה מי אחראי כאשר צ'טבוט AI פוגע בילד תוכרע, לפחות חלקית, על ידי שופטים ולא על ידי הודעות לעיתונות.

עם זאת, המקרים נפתרו, הם מסמנים שינוי באופן שבו הרגולטורים האמריקאים מתייחסים למוצרי צריכה בינה מלאכותית: טענות בטיחות המועלות בחומרים שיווקיים מטופלות כעת כהצהרות הניתנות לבדיקה משפטית, והחברות המציגות אותן מוחזקות בפניהן. כל מעבדת בינה מלאכותית גדולה המשגרת צ'אטבוטים לקהל הרחב - כולל קטינים שמוצאים דרכים לעקוף את שערי הגיל - תראה איך שמונה המדינות הללו מסתדרות.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →