Μια γυναίκα που προσδιορίζεται σε δικαστικές καταθέσεις ως η Jane Doe 4 συμμετείχε σε μήνυση κατά του xAI του Elon Musk για τον ρόλο που φέρεται να έπαιξε το chatbot της εταιρείας Grok στη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών, ανέφερε το TechCrunch το Σάββατο, επικαλούμενο δημοσίευμα στην Washington Post.
Η γυναίκα υποστήριξε ότι ο πατριός της χρησιμοποίησε τον Γκροκ για να χειραγωγήσει μια φωτογραφία που τραβήχτηκε όταν ήταν 11 ετών για να δημιουργήσει περισσότερες από 7.000 ασαφείς εικόνες της, σύμφωνα με την έκθεση. Είπε επίσης ότι ο πατριός της βρέθηκε νεκρός από αυτοκτονία δύο ημέρες αφότου αποκαλύφθηκαν οι εικόνες σε έφοδο των αρχών επιβολής του νόμου. For more context on this story, see our ongoing more AI stories.
«Η απεριόριστη πρόσβαση σε αυτά τα εργαλεία εξαπλώνεται τόσο γρήγορα», είπε η γυναίκα. «Καταλαμβάνει την καθημερινότητα και τη μετατρέπει σε σεξουαλική κακοποίηση παιδιών».
Η υπόθεση είναι μία από τις πιο σοβαρές καταγγελίες μέχρι σήμερα που αφορά ένα mainstream chatbot AI και τη δημιουργία σεξουαλικών εικόνων ενός πραγματικού παιδιού και κλιμακώνει μια αγωγή που έχει γίνει επίκεντρο της συζήτησης για τα προστατευτικά κιγκλιδώματα για τη δημιουργία εικόνων AI.
Οι βασικοί ισχυρισμοί της αγωγής
Η μήνυση υποβλήθηκε αρχικά από τρεις έφηβους από το Τενεσί που κατηγόρησαν το xAI - το οποίο είναι τώρα μέρος του SpaceX - ότι δεν έλαβε βασικές προφυλάξεις για να αποτρέψει τη χρήση του Grok για τη δημιουργία σαφών εικόνων πραγματικών ανθρώπων, συμπεριλαμβανομένων ανηλίκων. Οι ενάγοντες ζητούν το καθεστώς ομαδικής αγωγής, το οποίο θα επέτρεπε σε άλλους που ισχυρίζονται παρόμοια βλάβη να συμμετάσχουν στην υπόθεση.
Η κατάθεση της Jane Doe 4 προσθέτει ένα επώνυμο σύνολο από τρομακτικές λεπτομέρειες: μια φωτογραφία παιδικής ηλικίας, ένα εργαλείο τεχνητής νοημοσύνης που φέρεται να χρησιμοποιείται για τη δημιουργία χιλιάδων καταχρηστικών παραγώγων και μια οικογενειακή τραγωδία που εκτυλίχθηκε μέσα σε λίγες μέρες από την ανακάλυψη του υλικού από τις αρχές.
Η TechCrunch είπε ότι επικοινώνησε με το xAI για σχολιασμό. Οι ισχυρισμοί είναι αξιώσεις σε εν εξελίξει αστική δίκη και δεν έχουν αποδειχθεί στο δικαστήριο. Εάν εσείς ή κάποιος που γνωρίζετε βρίσκεται σε κρίση, μπορείτε να επικοινωνήσετε με το 988 Suicide and Crisis Lifeline στις Ηνωμένες Πολιτείες μέσω κλήσης ή μηνύματος στο 988.
Ένα μοτίβο πίεσης στον Γκροκ
Η μήνυση προσγειώνεται εν μέσω ενός έτους εντεινόμενου ελέγχου των δυνατοτήτων δημιουργίας εικόνων του Grok. Νωρίτερα αυτό το έτος, το X πλημμύρισε με εκατομμύρια σεξουαλικές εικόνες που δημιουργήθηκαν από το Grok, ένα επεισόδιο που προκάλεσε ευρεία κριτική για τις διασφαλίσεις γύρω από το εργαλείο. Το επεισόδιο βοήθησε να τροφοδοτήσει ένα κύμα νομοθεσίας σε κρατικό επίπεδο που στόχευε τις αποκαλούμενες εφαρμογές "γυμνοποίησης" και τις μη συναινετικές συνθετικές εικόνες. Η απαγόρευση τέτοιων εργαλείων της Μινεσότα τέθηκε σε ισχύ αφού ένας δικαστής απέρριψε το αίτημα της xAI για διαταγή για να εμποδίσει την επιβολή της.
Το διακύβευμα της υπόθεσης του Τενεσί εκτείνεται πέρα από το xAI. Οι ενάγοντες υποστηρίζουν ότι οι εταιρείες που αναπτύσσουν εργαλεία δημιουργίας εικόνων σε κλίμακα έχουν καθήκον να δημιουργήσουν τεχνικές διασφαλίσεις που αποτρέπουν τη σεξουαλικότητα πραγματικών, αναγνωρίσιμων ανθρώπων - και ιδιαίτερα παιδιών - πριν τα προϊόντα φτάσουν στο κοινό. Αυτό το επιχείρημα, εάν γίνει αποδεκτό από ένα δικαστήριο, θα μπορούσε να δημιουργήσει ένα νομικό πρότυπο που φτάνει σε κάθε πάροχο μοντέλων δημιουργίας εικόνων.
Το άλυτο πρόβλημα του κλάδου
Για τις εταιρείες τεχνητής νοημοσύνης, η αποτροπή της κακής χρήσης γεννητριών εικόνας εναντίον πραγματικών ανθρώπων έχει αποδειχθεί πεισματικά δύσκολη. Τα εργαλεία υδατογράφησης και προέλευσης — όπως αυτά που η Anthropic άρχισε να προσθέτει στα αποτελέσματα του Claude για συμμόρφωση με τους κανόνες διαφάνειας της ΕΕ — μπορούν να βοηθήσουν στην εκ των υστέρων αναγνώριση συνθετικού περιεχομένου, αλλά δεν σταματούν εξαρχής την παραγωγή καταχρηστικού υλικού. Τα φίλτρα εισόδου και εξόδου μπορούν να μπλοκάρουν γνωστά μοτίβα, αλλά οι αποφασισμένοι χρήστες βρίσκουν συνεχώς λύσεις και τα μοντέλα εικόνων ανοιχτού βάρους έχουν καταστήσει αδύνατη την πλήρη ανάκληση ορισμένων δυνατοτήτων.
Οι ισχυρισμοί στην υπόθεση xAI υποδεικνύουν το πιο σοβαρό τέλος αυτού του φάσματος: τον ισχυρισμό ότι μια φωτογραφία ενός παιδιού θα μπορούσε να μετατραπεί σε χιλιάδες ξεκάθαρες εικόνες χρησιμοποιώντας ένα εργαλείο που λειτουργεί από μια από τις πιο εξέχουσες εταιρείες τεχνητής νοημοσύνης στον κόσμο, η οποία εμπορεύεται το Grok σε εκατομμύρια συνδρομητές ως καταναλωτικό προϊόν.
Οι νομικοί εμπειρογνώμονες που παρακολουθούν την υπόθεση λένε ότι η προσφορά ομαδικής αγωγής θα ελέγξει εάν τα δικαστήρια αντιμετωπίζουν τις αποτυχίες να αποτρέψουν τέτοια κατάχρηση ως ελάττωμα προϊόντος για το οποίο ευθύνονται οι εταιρείες τεχνητής νοημοσύνης ή ως κακή χρήση από μεμονωμένους χρήστες που δεν εμπίπτει στην ευθύνη των εταιρειών.
Τι ακολουθεί
Ο άμεσος στόχος των εναγόντων είναι η πιστοποίηση κλάσης, η οποία θα διεύρυνε δραματικά τη δεξαμενή των πιθανών εναγόντων έναντι του xAI. Από την πλευρά της, η xAI υποστήριξε σε σχετική δίκη ότι η ευθύνη για την κακή χρήση ανήκει στους χρήστες και όχι στο εργαλείο. Η προσθήκη του Jane Doe 4, με την έντονη περιγραφή της υποτιθέμενης βλάβης σε ένα παιδί, αυξάνει τη δημόσια και πολιτική πίεση γύρω από αυτήν την άμυνα.
Η υπόθεση εκτυλίσσεται καθώς οι ρυθμιστικές αρχές στις Ηνωμένες Πολιτείες και την Ευρώπη συζητούν για τις υποχρεώσεις διαφάνειας και τα πρότυπα ασφαλείας για τη γενετική τεχνητή νοημοσύνη, και καθώς συσσωρεύονται στοιχεία ότι η κακή χρήση της δημιουργίας εικόνων δεν περιορίζεται σε εργαλεία περιθωρίου. Είτε η απάντηση φτάσει στο δικαστήριο, στη νομοθεσία ή στις μηχανολογικές επιλογές των ίδιων των εταιρειών τεχνητής νοημοσύνης, το κεντρικό ερώτημα της αγωγής - πόση πρόληψη βλάβης πρέπει να ενσωματωθεί πριν αποσταλεί ένα προϊόν τεχνητής νοημοσύνης - παραμένει το πιο άβολο ανοιχτό πρόβλημα του κλάδου.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
