Περισσότερες από 250 πρόσθετες διαφημίσεις που περιείχαν υλικό σεξουαλικής κακοποίησης παιδιών κυκλοφόρησαν στις πλατφόρμες της Meta τις εβδομάδες αφότου η εταιρεία παρουσίασε νέα εργαλεία τεχνητής νοημοσύνης σχεδιασμένα να ανιχνεύουν και να αποκλείουν ακριβώς αυτό το είδος περιεχομένου, σύμφωνα με έρευνα του μη κερδοσκοπικού Tech Transparency Project που κοινοποιήθηκε στο WIRED και δημοσιεύτηκε την Τρίτη. Το εύρημα υπονομεύει τον ισχυρισμό της εταιρείας ότι ο έλεγχος διαφημίσεων με τεχνητή νοημοσύνη είχε σε μεγάλο βαθμό κλείσει το χάσμα και έρχεται καθώς οι νομοθέτες λένε ότι σκοπεύουν να το διερευνήσουν.

Τα νέα στοιχεία επεκτείνουν μια προηγούμενη αποκάλυψη. Τον περασμένο μήνα, η Meta διέγραψε περίπου 50 διαφημίσεις που δημοσιεύτηκαν στο Facebook, το Instagram και τα Threads που περιελάμβαναν απευθείας υλικό σεξουαλικής κακοποίησης παιδιών, μετά από προηγούμενη αναφορά του WIRED. Εκείνη την εποχή, η εταιρεία είπε ότι οι περισσότερες από τις καταχρηστικές διαφημίσεις είχαν δημοσιευτεί πριν αναπτύξει τα νέα εργαλεία ανίχνευσης AI. Αντί της αναμενόμενης πτώσης, οι ερευνητές λένε ότι βρήκαν εκατοντάδες περισσότερες από τις διαφημίσεις τις τελευταίες εβδομάδες — συμπεριλαμβανομένων κάποιων πανομοιότυπων με αυτές που μόλις είχε αφαιρέσει η Meta. Για συνεχή κάλυψη της ασφάλειας της πλατφόρμας και τις τελευταίες ειδήσεις AI, ακολουθήστε το AI Buzz Wire.

Η κλίμακα της αποτυχίας

Συνολικά, οι ερευνητές στο Tech Transparency Project έχουν τεκμηριώσει περισσότερες από 350 από τις καταχρηστικές διαφημίσεις βίντεο που προβάλλονται στις πλατφόρμες της Meta από τα τέλη του περασμένου έτους, σε Facebook, Instagram, Messenger, Threads και το ευρύτερο διαφημιστικό δίκτυο της Meta. Σε αντίθεση με το αρχικό σύνολο των 53 διαφημίσεων που εντόπισε η ομάδα, η νεότερη παρτίδα περιελάμβανε εικόνες αληθινών παιδιών και όχι καθαρά συνθετικές. Το WIRED επιβεβαίωσε ότι μια εικόνα πηγής προήλθε από τον επίσημο ιστότοπο μιας ευρωπαϊκής βασιλικής οικογένειας. Οι ερευνητές λένε ότι μια επίσημα δημοσιευμένη φωτογραφία ενός ανήλικου μέλους της οικογένειας μετατράπηκε σε βίντεο που απεικονίζει μια σεξουαλική πράξη. Οι ερευνητές δεν κατονομάζουν το βασιλικό πρόσωπο για να προστατεύσει το θύμα και λένε ότι επικοινώνησαν με αξιωματούχους στη σχετική χώρα.

Η Katie Paul, διευθύντρια του γκρουπ, είπε στο WIRED ότι το πρόβλημα δεν περιορίζεται στις εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη. «Αυτό για το οποίο μιλάμε εδώ δεν είναι απλώς υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργείται από AI», είπε, σημειώνοντας ότι πολλές εικόνες φαίνεται να έχουν ληφθεί από τον ανοιχτό ιστό πριν χρησιμοποιηθούν στις διαφημίσεις. «Υπάρχει μεγάλη ζημιά που μπορεί να προέλθει από όλο αυτό, ενώ ο Meta μαζεύει χρήματα στη διαδικασία». Οι ερευνητές εντόπισαν τις πραγματικές ταυτότητες τεσσάρων ανηλίκων των οποίων οι εικόνες χρησιμοποιήθηκαν στις διαφημίσεις.

Διοχέτευση σε εφαρμογές γυμνισμού

Οι διαφημίσεις ακολουθούν ένα σταθερό μοτίβο, σύμφωνα με την αναφορά. Πολλοί μιλούν σε μια αβλαβή εικόνα ενός προεφηβικού ή έφηβου κοριτσιού - οι ερευνητές βρήκαν μόνο μια με ένα αγόρι - επικαλύπτεται με κείμενο που δηλώνει ότι η εικόνα δεν είναι απλώς μια φωτογραφία και ότι δεν υπάρχει "κανένας περιορισμός" στο τι μπορεί να γίνει με αυτήν. Όταν αναπαράγεται το σύντομο βίντεο, το πρόσωπο του παιδιού μεταμορφώνεται σε ένα ρητό βίντεο. Κάνοντας κλικ οδηγεί σε εφαρμογές ανταλλαγής προσώπων τεχνητής νοημοσύνης και "γυμνοποίησης" που είναι διαθέσιμες στα καταστήματα εφαρμογών της Apple και της Google, πολλές από τις οποίες συνδέονται με Κινέζους προγραμματιστές. Το WIRED εντόπισε ξεχωριστά εκατοντάδες σχετικές διαφημίσεις γυμνισμού που απεικονίζουν ενήλικες στις πλατφόρμες της Meta.

Αργή κριτικές και αποκαλύψεις που λείπουν

Οι πολιτικές της Meta αναφέρουν ότι η εταιρεία ελέγχει όλες τις διαφημίσεις που προβάλλονται στις πλατφόρμες της και οι διαφημίσεις παραβίασαν τους κανόνες της για την εκμετάλλευση παιδιών, την εκμετάλλευση ενηλίκων και το γυμνό. Στην πράξη, ανέφεραν οι ερευνητές, η Meta χρειαζόταν μερικές φορές έως και μια εβδομάδα για να ελέγξει τις ζωντανές διαφημίσεις που είχαν αναφερθεί μέσω των εργαλείων της ίδιας της εταιρείας — κατά τη διάρκεια των οποίων οι διαφημίσεις συγκέντρωναν εκατοντάδες επιπλέον προβολές, σύμφωνα με στιγμιότυπα οθόνης που εξετάστηκαν από το WIRED. Όταν ορισμένες από τις διαφημίσεις καταργήθηκαν, τα αρχεία κατάργησής τους αρχικά δεν αποκάλυπταν ότι παραβίαζαν τις πολιτικές της εταιρείας για τη σεξουαλική κακοποίηση παιδιών. αυτές οι λεπτομέρειες εμφανίστηκαν μόνο αφού το WIRED ρώτησε τη Meta για την ασυμφωνία.

Οι ερευνητές ανέφεραν κάθε διαφήμιση που βρήκαν στο National Center for Missing and Exploited Children's CyberTipline και μέσω των εργαλείων αναφοράς της Meta. Η βιβλιοθήκη διαφημίσεων της Meta δείχνει ότι οι διαφημίσεις εμφανίστηκαν συλλογικά σε περισσότερους από 29.000 λογαριασμούς σε χώρες της Ευρωπαϊκής Ένωσης και σε περίπου 7.000 λογαριασμούς στο Ηνωμένο Βασίλειο, με περισσότερους από 250 να εμφανίζονται στις Ηνωμένες Πολιτείες, 120 στην Αυστραλία και 80 στην Ινδία — στοιχεία που πιθανώς υποτιμούν τη συνολική προσέγγιση χρηστών, καθώς ορισμένες χώρες δεν διαθέτουν αναλυτικά δεδομένα απόδοσης διαφημίσεων.

Το Meta απαντά

Ο Μέτα απώθησε τη σημασία των ευρημάτων. «Δεν ανεχόμαστε εφαρμογές γυμνισμού ή οποιοδήποτε είδος εκμετάλλευσης παιδιών, είτε πραγματική είτε δημιουργημένη από τεχνητή νοημοσύνη», είπε στο WIRED η εκπρόσωπος της εταιρείας Tracy Clayton, προσθέτοντας ότι η εταιρεία στο παρελθόν έχει αφαιρέσει εκατοντάδες χιλιάδες διαφημίσεις για παραβίαση των πολιτικών γυμναστικής της. Ο Meta είπε ότι πολλές από τις διαφημίσεις που βρήκαν οι ερευνητές είχαν ήδη αφαιρεθεί, ότι οι περισσότερες έλαβαν λιγότερες από 200 εμφανίσεις και ότι εισέπραξε κάτω από 5.000 $ σε πληρωμές διαφημίσεων. Η εταιρεία είπε επίσης ότι τα βίντεο που δημιουργήθηκαν από την τεχνητή νοημοσύνη περιελάμβαναν ενήλικες ενώ τα κλιπ που αφορούσαν ανηλίκους ήταν σύντομα ή θολά, καθιστώντας τον εντοπισμό πιο δύσκολο και ότι αναφέρει περιεχόμενο παιδικής εκμετάλλευσης στο NCMEC.

Οι νομοθέτες και οι ρυθμιστικές αρχές κινούνται

Πολλοί νομοθέτες και ρυθμιστικές αρχές λένε τώρα ότι ερευνούν ή εξετάζουν τις διαφημίσεις μετά την αναφορά του WIRED. Ο γερουσιαστής της Βιρτζίνια, Mark Warner, ο οποίος έστειλε στον διευθύνοντα σύμβουλο της Meta Mark Zuckerberg μια επιστολή μετά την προηγούμενη αναφορά, είπε ότι είναι "απογοητευτικό το γεγονός ότι η Meta συνεχίζει να προβάλλει διαφημίσεις με υλικό σεξουαλικής κακοποίησης παιδιών και μη συναινετικές προσωπικές εικόνες αφότου τους γνωστοποιήθηκε". Ο γενικός εισαγγελέας του Μίσιγκαν είπε ότι το γραφείο "εξετάζει ενεργά το θέμα", ο γενικός εισαγγελέας της Φλόριντα δημοσίευσε ότι το γραφείο του ερευνά και η ρυθμιστική αρχή eSafety της Αυστραλίας δήλωσε ότι είναι "ιδιαίτερα ανήσυχη" και ζήτησε πληροφορίες από τη Meta σε ανώτερο επίπεδο.

Ο έλεγχος προσθέτει πίεση σε μια εταιρεία που ήδη πληρώνει έως και 16,7 δισεκατομμύρια δολάρια για να διευθετήσει αγωγές που ισχυρίζονται ότι τα κοινωνικά της δίκτυα βλάπτουν παιδιά και προσφεύγει σε δικαστική απόφαση του Νέου Μεξικού που θα της απαιτούσε να βελτιώσει τις διαδικασίες αναφοράς CSAM. Το ευρύτερο ερώτημα για τον κλάδο της τεχνητής νοημοσύνης είναι εάν η αυτοματοποιημένη εποπτεία μπορεί να συμβαδίσει με την κατάχρηση που η ίδια υποβοηθείται όλο και περισσότερο από την τεχνητή νοημοσύνη - και στοιχεία ότι ένα σύστημα ανίχνευσης απέτυχε να συλλάβει εκατοντάδες διαφημίσεις παραβίασης εβδομάδες μετά την αναφορά ως επιδιόρθωση θα τροφοδοτηθεί απευθείας σε αυτές τις συζητήσεις.

Μείνε μπροστά από την τεχνητή νοημοσύνη

Ακολουθήστε τις τελευταίες εξελίξεις της τεχνητής νοημοσύνης και τις έκτακτες ειδήσεις για την τεχνητή νοημοσύνη καθώς οι ρυθμιστικές αρχές και οι πλατφόρμες παλεύουν με βλάβες που προέρχονται από την τεχνητή νοημοσύνη.

Διαβάστε περισσότερα νέα AI →