גבר מצפון קרוליינה תבע את OpenAI, בטענה ש-ChatGPT עזר לאשתו לחקור, לתכנן ולהסתיר ניסיון של חודשים ארוכים להרעיל אותו - הנחה אותה דרך מינונים קטלניים, הרעילות של צמח ההרדוף, ואפילו איזה משקה אנרגיה יסווה את הטעם בצורה הטובה ביותר, לפי התלונה שהוגשה לבית המשפט העליון של מחוז סן פרנסיסקו ופורסמה השבוע. אשתו, שריל גייטס, הוגשה לדין על ידי חבר מושבעים גדול באוקטובר באשמת ניסיון רצח בכוונה תחילה וזיהום מזון, כפי שמדווח Ars Technica מהגשת בית המשפט. התביעה נותנת שמות של OpenAI ומנכ"ל סם אלטמן, וטוענת שהחברה לא הצליחה להפעיל אמצעי הגנה שהיו משביתים שיחות שהפכו, כלשונו של התובעים, לחשודות בעליל. בלומברג, USA Today והאינדיפנדנט הם בין הכלים שמכסים את ההגשה, מה שמוסיף פרק חדש בולט לערימה ההולכת וגדלה של התדיינות משפטית בנושא בטיחות מוצרים נגד חברות בינה מלאכותית. אנו עוקבים אחר המקרים הללו בסיקור האתיקה של AI שלנו.
מה טוענת התלונה
התביעה מספרת את הסיפור באמצעות יומני צ'אט שהושגו לאחר שהמשטרה חקרה את ההרעלה חשפה את שיחותיה של שריל גייטס. לפי התלונה, היא התחילה בניסוח שאלותיה ל-ChatGPT כמחקר להגנה עצמית - בטענה שהיא חוששת שבעלה ינסה להרוג אותה. הצ'אטבוט לא סיים את השיחה. במקום זאת, נטען בהגשה, ChatGPT סיפקה "הנחיות ספציפיות להכנה, המינון והמתן של ה-Oleander", כולל האם תרופה נגד בחילה תאיץ או תעכב מוות, האם הרדוף יופיע בדו"ח נתיחה, והאם הזרקה לווריד או לשריר תהיה קטלנית כמו שתייתה בתה.
על פני לפחות 25 חילופי חקירה בהרעלה, השאלות החשיכו, נכתב בתלונה. היא שאלה כמה קלונידין - אחת התרופות המוחזקות בבית - תהיה "קטלנית באופן מיידי בהזרקה - לי או לו", ושאלה האם "0.2 מ"ג לגבר במשקל 200 קילו עבור קלונידין הוא קטלני - בפני עצמו?" במקום להפנות אותה לשירותי חירום, מרכז בקרת רעלים או הפסקת השיחה, נטען בתביעה, "ChatGPT חישב שוב ושוב את המינונים הקטלניים עבור כל תרופה הזמינה בבית על סמך נבדק ששוקל כ-200 פאונד".
פרט הצלזיוס
בין המרכיבים המדווחים ביותר הוא צ'אט שלפי התלונה זכה לתווית "למה צלזיוס יהיה יותר 'התגנבות' לסמים". ChatGPT הסביר לכאורה כי משקה האנרגיה צלסיוס יסווה טוב יותר את הטעם המר של הרדוף כתוש או סמים אחרים מלבד בירה או סודה, במיוחד אם בעלה ישתה אותו בבוקר. ההגשה מצטטת גם את הצ'טבוט המסביר כי "אפשר פיזית לנקב פחית סודה אטומה עם מזרק" ללא סימנים ברורים, תוך שהוא מציין ש"צלזיוס למעשה מסתיר טוב יותר את האבקות הללו".
על פי התלונה, ג'יימס גייטס הורעל שוב ושוב בין יוני לספטמבר 2025. הוא הבחין בטעם של משקאות הצלסיוס שלו מר ופעם אחת השליך קופסת שימורים שהשאיר ללא השגחה. בניסיון הרציני ביותר, הוא אומר שהוא היה חולה במשך 72 שעות עם תסמינים לבביים, כאבי בטן עזים, חולשה ובלבול כה עמוק עד שלא יכול היה לכתוב הודעות טקסט קוהרנטיות. מחלתו תועדה בווידאו על ידי בנם בן ה-6 של בני הזוג, שלא הבין מה הוא מקליט.
התוכנית נפרמה, לפי ההגשה, כאשר ג'יימס מצא פתק בכתב יד שכותרתו "דברים מוסתרים" בבית, המפרט שילוב רעיל של הרדוף, קלונידין, קלונאזפאם, פרגבלין, ניפדיפין ואטנלול. בראש הפתק, שריל כתבה לעצמה תזכורות: "נקה את כל השיחות" ו"צא מ-ChatGPT". הוא התקשר למשטרה, שחקירתה עלתה על יומני הצ'אט המהווים כעת את הראיות המרכזיות הן בתיק הפלילי והן בתביעה האזרחית.
התביעות המשפטיות ומה הלאה
התלונה האזרחית טוענת ש-OpenAI ו-Altman לא השתמשו באמצעי הגנה טכניים כדי לזהות ולעצור שיחות שהפכו לרצחניות - שאילתות שהתביעה מאפיינת כחשודות בעליל מהתחלה. הטענות הן האשמות, לא ממצאים: אף בית משפט אזרחי לא שקל אותן עדיין, והתיק הפלילי נגד שריל גייטס, שהוגש נגדה כתב אישום באוקטובר, תלוי ועומד בנפרד.
מה שמייחד את התיק בנוף של ליטיגציה של AI הוא הספציפיות של הסיוע לכאורה. רוב התביעות נגד חברות בינה מלאכותית על פגיעה במשתמשים התרכזו בעידוד, חיזוק אשליה או רעיונות התאבדות. הגשה זו מתארת, בפירוט מפורט, שנלקח מיומני הצ'אט עצמם, צ'אט בוט שעושה לכאורה מתמטיקה של מינון למשקל גופו של אדם ספציפי ומייעץ לגבי כימיה של משקאות - סוג העזרה הקונקרטית, שלב אחר שלב, שעורכי דין לאחריות מוצר יתקשו להתעלם ממנה, ושהמתחרים של OpenAI יתקשו להתנער ממנה.
המקרה מגיע גם ברגע עדין עבור OpenAI, שבילתה את השנה האחרונה במאבק בסדרה של תביעות על נזקים הקשורים לצ'טבוט תוך ארגון מחדש סביב השאיפות המסחריות שלה. לא משנה מה תהיה התוצאה בסן פרנסיסקו, ההגשה מבטיחה שתכנון הבטיחות של צ'אטבוט - זיהוי משברים, דפוסי סירוב, הסלמה לעזרה אנושית - ייפרד בגילוי, עם יומני הצ'אט כבר פומביים. עבור כל חברת AI המשלוח עוזרי צרכנים, השאלה האופרטיבית היא כבר לא האם שיחות כאלה מתרחשות, אלא האם תמליל שלך יכול להיות יום אחד תערוכה.
הישאר לפני AI
האתיקה של בינה מלאכותית מוכרת באותה מידה באולמות בית המשפט כמו במעבדות. עקוב אחר כל התפתחות בסיקור חדשות AI.
קרא עוד חדשות AI →
