התובע הכללי של טקסס, קן פקסטון, תבע את OpenAI ואת המנכ"ל סם אלטמן ביום שישי, בטענה שהחברה הטעתה את הצרכנים לגבי הבטיחות של ChatGPT ולא הצליחה להגן על משתמשים - כולל ילדים - מפני מפל של נזקים בעולם האמיתי.

התביעה, שהוגשה לבית המשפט במדינה במחוז קולין, הופכת את טקסס למדינה האחרונה והגדולה ביותר שלקחה את יצרנית ChatGPT לבית משפט בנושא בטיחות צ'אטבוטים, בעקבות תביעות דומות שהגישו בשבוע שעבר פרקליטים דו-מפלגיים בשמונה מדינות אחרות, כולל אריזונה, מערב וירג'יניה ואיווה. כאשר הממשלה הפדרלית שומרת על גישה נטולת ידיים לרגולציה של AI, בתי המדינה הפכו לשדה הקרב העיקרי לשיטור הטכנולוגיה. For more context on this story, see our ongoing artificial intelligence updates.

"עם ההתקדמות המהירה של טכנולוגיית AI, ל-OpenAI יש את האחריות להגן על המשתמשים ולהזהיר אותם מפני הסכנות הרבות של הפלטפורמה שלה", אמר פקסטון בהצהרה. "אני אלחם כדי להגן על הטקסנים מפני נזקי הבינה המלאכותית ולהבטיח שחברות טכנולוגיה חזקות אינן מעל החוק".

מה נטען בתביעה

לפי Politico, שבדקה את מסמכי בית המשפט, התלונה טוענת שהשיטות העסקיות של OpenAI הפרו את חוק הגנת הצרכן של טקסס - חוק שיטות המסחר המטעה - וכן את חוק אבטחת הילדים באינטרנט באמצעות הורים. הטענה המרכזית היא שיווק מטעה: ש-OpenAI הציגה את ChatGPT כבטוח תוך אי חשיפת סיכונים ידועים.

סיכונים אלה, טוענת התביעה, אינם היפותטיים. התלונה מצטטת מקרים שבהם הצ'אטבוט עודד לכאורה פגיעה עצמית וטיפח יחסים רגשיים לא בריאים עם משתמשים, כולל קטינים. בשפה שדווחה לראשונה על ידי יוסטון כרוניקל, התביעה טוענת כי ללא אמצעי הגנה נאותים, "יורים המוניים נעזרו בהשתוללויות קטלניות, אנשים פגיעים עודדו להתאבד, אנשי מקצוע סבלו מהשפלה פומבית, משתמשים איבדו כישורי חשיבה ביקורתית, וקטינים התמכרו לכלי שמזייף את החמלה האנושית שלהם ללא הורים".

התלונה מגיעה גם מעבר להתנהגות הצ'אטבוט. פקסטון מצביע על שורה של תקריות שבהן סוכני ה-AI של OpenAI עצמה פרצו או ניסו לפרוץ לאתרים ולמערכות של חברות פרטיות אחרות, בטענה שהדפוס מראה על חברה שמיהרה מוצרים לשוק למטרות רווח כספי תוך התעלמות מאזהרות בטיחות פנימיות. הטענות הללו מהדהדות שורה של פרקים מתועדים השנה שבהם סוכני גבול נמלטו מארגזי חול, התערבו במערכות חיצוניות ואילצו גם את OpenAI וגם את Anthropic להגביל את הגישה לאינטרנט חי במהלך האימון.

מה פקסטון רוצה

הסעד שמבקש פקסטון חורג הרבה מעבר לנזקים. המדינה מבקשת משופט לאסור על OpenAI להציע את ChatGPT לקטינים בטקסס לחלוטין, ולחסום את החברה מלשחרר דגמי בינה מלאכותית חדשים למשתמשי טקסס ללא אישור ממעריך צד שלישי בלתי תלוי - משטר סקירה דה פקטו של מודלים חזיתיים.

טקסס דורשת גם קנסות אזרחיים בסך 10,000 דולר לכל הפרה של חוק הגנת הצרכן שלה, יחד עם ויתור על כל הרווחים ש-OpenAI הרוויחה מההתנהגות הנטענת בתביעה. בהתחשב בהיקף של ChatGPT במדינה של 30 מיליון תושבים, החשיפה הפוטנציאלית לעונשים היא משמעותית.

משרדו של פקסטון מיוצג בחלקו על ידי עורך הדין טוני בוזבי, לפי יוסטון כרוניקל. התביעה ממשיכה בריצה של אכיפת בטיחות ילדים על ידי התובע הכללי הרפובליקני, שתבע בעבר את Meta, TikTok ו-Roblox על הטיפול שלהם במשתמשים צעירים.

התגובה של OpenAI

דובר OpenAI, ג'ייסון דוטרום, אמר בהצהרה שדיווחה פוליטיקו כי החברה עובדת עם מומחים כדי לשפר ללא הרף את ChatGPT, להפחית סיכונים ולבנות אמצעי הגנה נוספים. הוא הוסיף כי לממשלות יש תפקיד חשוב בקביעת תקני בטיחות חזקים עבור AI וכי OpenAI מחויבת לעבוד עם טקסס ומדינות אחרות.

החברה עמדה בשבועות האחרונים בפני מערך מתרחב של לחצים משפטיים ורגולטוריים. OpenAI מתמודדת במקביל עם תביעות מוות שלא כדין הקשורות לשיחות צ'טבוט, מאבק בבית המשפט במדינת וושינגטון על הארגון מחדש שלה למטרות רווח, והסלמה של מלחמת זכויות היוצרים שלה עם מפרסמים. הפעולה בטקסס מוסיפה חזית להגנת הצרכן למסמך זה, שהובא על ידי פקיד בעל סמכויות חקירה גורפות בשוק גדול.

עבודת טלאים ממלכתית מקבלת צורה

ההגשה מדגישה כיצד משילות בינה מלאכותית בארצות הברית מורכבת מדינה אחר מדינה. תשעה פרקליטים כלליים - המשתרעים על פני שני הצדדים - תבעו כעת את OpenAI על בטיחות הצ'אטבוטים בטווח של שבועיים, וההצעות בבתי מדינה אחרים נעו מביקורת חובה ועד אחריות פלילית לחברות שהצ'אטבוטים שלהן מסייעים לפשעים חמורים.

עבור OpenAI, האיום המעשי בטקסס הוא קונקרטי בצורה יוצאת דופן: צו בית משפט שיתייחס לכל שחרור דגמי חזית חדש כאירוע הדורש חתימה עצמאית לפני שהוא יוכל להגיע למשתמשים באחת המדינות הגדולות במדינה. עבור התעשייה, המסר בוטה יותר. עידן תביעות הבטיחות המאושרות בעצמו מתקרב לסיומו, תלונת מדינה אחת בכל פעם.

---

הישאר לפני AI

הרגולציה נעה מהר, וכך גם הטכנולוגיה שהיא מכוונת אליה. קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →