Η xAI αντιμετωπίζει μια προτεινόμενη ομαδική αγωγή που για πρώτη φορά κατηγορεί την εταιρεία ότι εκπαιδεύει τα μοντέλα Grok της σε υλικό σεξουαλικής κακοποίησης παιδιών, τόσο πραγματικό όσο και δημιουργημένο από AI. Η καταγγελία, που κατατέθηκε την Τετάρτη και αναφέρθηκε από την Ars Technica, επιδιώκει την καταστροφή οποιουδήποτε τέτοιου υλικού που είναι αποθηκευμένο στους διακομιστές της εταιρείας και σαρωτικές αλλαγές στον τρόπο με τον οποίο ο Grok χειρίζεται σεξουαλικό περιεχόμενο.
Οι ισχυρισμοί παραμένουν αναπόδεικτοι ισχυρισμοί που διατυπώνονται σε αστικές διαφορές. Η X, η οποία κατέχει την xAI, δεν απάντησε στο αίτημα της Ars Technica να σχολιάσει την κατάθεση. For more context on this story, see our ongoing artificial intelligence updates.
Ο Ενάγων και οι Ισχυρισμοί
Η ενάγουσα, που ταυτοποιήθηκε ως Jane Doe, ισχυρίζεται στην καταγγελία ότι ήταν θύμα προσχολικής ηλικίας στις αρχές της δεκαετίας του 2000, όταν δημιουργήθηκαν και πωλήθηκαν στο διαδίκτυο εικόνες της κακοποίησής της. Αυτές οι εικόνες έχουν καταγραφεί εδώ και καιρό σε λίστες κατακερματισμού που διατηρούνται από το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC) και το Καναδικό Κέντρο για την Προστασία των Παιδιών (CCCP), οργανώσεις που παρακολουθούν γνωστό υλικό κατάχρησης για να επιτρέψουν τον εντοπισμό και την αφαίρεσή του.
Σύμφωνα με την καταγγελία, το CCCP ειδοποίησε την Doe ότι είχε εντοπίσει υλικό κατάχρησης που δημιουργήθηκε από AI και την απεικόνιζε στην πλατφόρμα του xAI. Οι δικηγόροι της αναφέρουν σε ένα δελτίο τύπου ότι το υλικό που ταιριάζει με τις καταχωρίσεις της στη λίστα κατακερματισμού NCMEC «αποτελούσε μέρος του συνόλου δεδομένων xAI που χρησιμοποιήθηκε για τη δημιουργία των δυνατοτήτων δημιουργίας εικόνας και βίντεο της Grok». Η καταγγελία ισχυρίζεται επίσης ότι τα μηνύματα που βρέθηκαν σε διαδικτυακά φόρουμ έδειχναν τους παραβάτες να συζητούν για τη δημιουργία εικόνων κακοποίησης της Doe και άλλων γνωστών θυμάτων κακοποίησης παλαιού τύπου.
Η νομική θεωρία: Δεδομένα εκπαίδευσης, όχι μόνο αποτελέσματα
Αυτό που διακρίνει αυτήν την κατάθεση από προηγούμενες αγωγές κατά του xAI είναι η εστίασή της στο ίδιο το μοντέλο και όχι σε αυτό που δημιούργησαν μεμονωμένοι χρήστες. Η καταγγελία υποστηρίζει ότι επειδή οι όροι υπηρεσίας του Grok αντιμετωπίζουν τις δημόσιες θέσεις στο X και τις εκροές του Grok ως δεδομένα εκπαίδευσης από προεπιλογή, οτιδήποτε δημοσιεύεται δημόσια τροφοδοτείται απευθείας στον αγωγό που χρησιμοποιείται για την εκπαίδευση και τη βελτίωση του μοντέλου.
Η κατάθεση αναγνωρίζει ότι η xAI φιλτράρει βίαιο περιεχόμενο από τα εκπαιδευτικά της δεδομένα, αλλά υποστηρίζει ότι οι όροι της εταιρείας δεν προσδιορίζουν εάν το υλικό σεξουαλικής κακοποίησης παιδιών, οι μη συναινετικές προσωπικές εικόνες ή άλλο περιεχόμενο για ενηλίκους εμπίπτουν σε εξαιρούμενες κατηγορίες. Υποστηρίζει επίσης ότι ακόμη και όταν αφαιρούνται προσβλητικές εικόνες, η επιρροή ενός εκπαιδευτικού παραδείγματος σε ένα ήδη εκπαιδευμένο μοντέλο είναι τεχνικά δύσκολο να εξαλειφθεί πλήρως — και ότι η xAI δεν έχει ισχυριστεί δημόσια ότι το έχει κάνει.
Τι επιδιώκει η μήνυση
Εάν η προτεινόμενη τάξη είναι πιστοποιημένη, θα αντιπροσωπεύει κάθε άτομο του οποίου οι παιδικές εικόνες φέρεται να χρησιμοποιήθηκαν για τη δημιουργία υλικού κατάχρησης με τον Grok. Η μήνυση επικαλείται τους ομοσπονδιακούς νόμους για την παιδική πορνογραφία και τον νόμο της Μάσα, που δίνει στους επιζώντες υλικού κακοποίησης το δικαίωμα να κάνουν μήνυση για την παραγωγή, την κατοχή και τη διανομή του.
«Και τα τρία είναι εγκλήματα και η xAI τα έκανε και τα τρία», είπε η Margaret E. Mabie, μία από τις δικηγόρους του Doe, στο δελτίο τύπου που επικαλείται η Ars Technica.
Πέρα από χρηματικές αποζημιώσεις, η Doe ζητά από το δικαστήριο να διατάξει την xAI να καταστρέψει όλο το υλικό κατάχρησης που δημιουργείται από το Grok που μπορεί να αποθηκεύει και να χρησιμοποιεί για εκπαίδευση, και να αποτρέπει το μοντέλο από τη δημιουργία σεξουαλικών αποτελεσμάτων οποιουδήποτε είδους - μια απαίτηση που θα αποκλείει όχι μόνο τις εικόνες κατάχρησης αλλά και τις μη συναινετικές προσωπικές εικόνες και περιεχόμενο για ενηλίκους που προωθεί ο Elon Musk ως δημόσιο περιεχόμενο.
"Η Doe έζησε σχεδόν δύο δεκαετίες γνωρίζοντας ότι οι εικόνες του χειρότερου πράγματος που της συνέβη ποτέ κυκλοφορούν μεταξύ των αρπακτικών στο διαδίκτυο και ότι μπορούν να ξαναβγούν στην επιφάνεια ανά πάσα στιγμή", δήλωσε η Sarah London, άλλη δικηγόρος της Doe, στο δελτίο τύπου. «Η xAI πρέπει να θεωρηθεί υπεύθυνη για τη συνειδητή εκπαίδευση των μοντέλων της σε εικόνες της φρικτής κακοποίησης που υπέστη».
Ένας αυξανόμενος νομικός απολογισμός
Η κατάθεση είναι το πιο πρόσφατο μέτωπο σε μια διευρυνόμενη νομική μάχη σχετικά με τις δυνατότητες εικόνας και βίντεο του Grok. Σε μια ξεχωριστή υπόθεση στο Τενεσί, μια γυναίκα που ταυτοποιήθηκε ως Jane Doe 4 συμμετείχε σε μια μήνυση που ισχυριζόταν ότι χρησιμοποιήθηκε μια φωτογραφία παιδικής ηλικίας με την Grok για να δημιουργήσει χιλιάδες σαφείς εικόνες της — ισχυρισμούς που κάλυπτε το AI Buzz Wire νωρίτερα αυτόν τον μήνα. Οι ρυθμιστικές αρχές και τα δικαστήρια εξετάζουν πόσο εκτείνονται τα προβλήματα και ορισμένοι χρήστες του Grok έχουν συλληφθεί για υλικό που παρήγαγαν.
Ταυτόχρονα, το xAI έχει προσβάλει τους χρήστες του. Το Politico ανέφερε αυτή την εβδομάδα ότι η εταιρεία μηνύει ορισμένους από τους δικούς της χρήστες, ακόμη και όταν αυξάνονται οι αγωγές θυμάτων, μια στρατηγική που ελέγχει εάν οι πλατφόρμες ή οι άνθρωποι που τις παρακινούν φέρουν νομική ευθύνη για το τι παράγει ένα μοντέλο AI.
Η νέα καταγγελία θέτει το ζήτημα της εκπαίδευσης-δεδομένων στο επίκεντρο αυτού του αγώνα. Εάν τα δικαστήρια αποδεχτούν το επιχείρημα ότι το εκπαιδευτικό σύνολο ενός μοντέλου μπορεί να δημιουργήσει ευθύνη για ό,τι επιτρέπει στους χρήστες να παράγουν, οι συνέπειες θα έφταναν πολύ πέρα από το xAI — αγγίζοντας κάθε εταιρεία παραγωγής εικόνων και βίντεο, της οποίας οι όροι τροφοδοτούν το περιεχόμενο των χρηστών ξανά στην εκπαίδευση. Προς το παρόν, οι ισχυρισμοί είναι ακριβώς αυτό: οι ισχυρισμοί σε μια κατάθεση xAI δεν έχει απαντήσει ακόμη στο δικαστήριο.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
