Ο εισαγγελέας της πόλης του Σαν Φρανσίσκο διέταξε την Apple και την Google να αφαιρέσουν τις εφαρμογές γυμνοποίησης τεχνητής νοημοσύνης από τα καταστήματα εφαρμογών τους, προειδοποιώντας ότι οι πλατφόρμες παραβιάζουν τους νόμους της Καλιφόρνια που απαγορεύουν υπηρεσίες που δημιουργούν βαθιά ψεύτικη πορνογραφία. Η ζήτηση κλιμακώνει μια αυξανόμενη αντιπαράθεση σχετικά με τα εργαλεία AI που μετατρέπουν τις συνηθισμένες φωτογραφίες πραγματικών ανθρώπων σε ξεκάθαρες εικόνες, μια κρίση που έχει θύματα δυσανάλογα τις γυναίκες και τα παιδιά.

Η κλίμακα του προβλήματος

Οι εφαρμογές γυμνισμού χρησιμοποιούν γενετική τεχνητή νοημοσύνη για να διευκολύνουν την αφαίρεση ρούχων από φωτογραφίες πραγματικών ανθρώπων, την αλλαγή των χαρακτηριστικών τους, την τοποθέτηση τους σε σεξουαλικές θέσεις και την εναλλαγή προσώπων σε γυμνά σώματα άλλων ανθρώπων. Η τεχνολογία έχει πολλαπλασιαστεί γρήγορα σε καταστήματα εφαρμογών για κινητά και τα αποτελέσματα χρησιμοποιούνται για εκφοβισμό, εξευτελισμό και απειλή των θυμάτων με καταστροφικές συνέπειες.

Ο εισαγγελέας της πόλης του Σαν Φρανσίσκο, Ντέιβιντ Τσίου, είπε στο Wired ότι το γραφείο του ήταν απολύτως τρομοκρατημένο από το πόσο πανταχού παρούσα έχει γίνει η τεχνολογία γυμνισμού, θυματοποιώντας κυρίως γυναίκες και παιδιά σε ανησυχητική κλίμακα καθώς περισσότερα εργαλεία πλημμύρισαν την αγορά. Οι εικόνες, είπε, χρησιμοποιούνται για να καταστρέψουν τη φήμη, να βλάψουν την ψυχική υγεία και να αφαιρέσουν τα θύματα της αυτονομίας, με ορισμένους στόχους να γίνονται αυτοκτονικοί.

Τι απαιτούν τα γράμματα

Το γραφείο του Chiu έστειλε επίσημες επιστολές και στις δύο εταιρείες προειδοποιώντας ότι τα καταστήματα εφαρμογών τους παραβιάζουν τους νόμους της Καλιφόρνια που απαγορεύουν τις υπηρεσίες υποστήριξης που δημιουργούν βαθιά ψεύτικη πορνογραφία, σύμφωνα με το Wired. Ζήτησε από την Google να αφαιρέσει πέντε εφαρμογές και την Apple να αφαιρέσει οκτώ. Οι συγκεκριμένες εφαρμογές δεν ονομάστηκαν στις δημόσιες αναφορές για να αποφευχθεί η οδήγηση ανθρώπων προς αυτές, αλλά το Wired σημείωσε ότι μια εφαρμογή με σημαία είχε συγκεντρώσει περισσότερες από ένα εκατομμύριο λήψεις και είχε διαφημίσει ανοιχτά λειτουργίες για σεξουαλοποίηση εικόνων γυναικών ή παραγωγή δωρεάν και χωρίς λογοκρισία βίντεο.

Το γραφείο του Chiu εκτίμησε ότι η Apple και η Google πιθανότατα έχουν κερδίσει εκατομμύρια δολάρια σε χρεώσεις επιτρέποντας στις επιβλαβείς εφαρμογές να παραμείνουν στα καταστήματά τους αντί να αναλάβουν ισχυρότερα μέτρα ή να αναπτύξουν καλύτερα συστήματα ανίχνευσης. Ο δικηγόρος της πόλης χαρακτήρισε την κατάσταση ως επωφελούμενο από μια δημόσια ενόχληση, υποστηρίζοντας ότι είναι απαράδεκτο να επιτρέπεται σε τέτοιες εφαρμογές να παραμένουν διαθέσιμες.

Η Google απαντά, η Apple παραμένει σιωπηλή

Σε μια δήλωση στην Ars Technica, ο εκπρόσωπος της Google, Dan Jackson, επιβεβαίωσε ότι οι πέντε εφαρμογές που επισημάνθηκαν από τον Chiu είχαν τεθεί σε αναστολή από το Google Play store για παραβίαση των πολιτικών για επιβλαβές περιεχόμενο. Ο Τζάκσον είπε ότι το Google Play δεν επιτρέπει εφαρμογές που περιέχουν σεξουαλικό περιεχόμενο και ότι η εταιρεία λαμβάνει συνεχώς προληπτικά μέτρα για τον εντοπισμό και την κατάργηση εφαρμογών με επιβλαβές περιεχόμενο. Όταν αναφέρονται παραβιάσεις, είπε ο Τζάκσον, η Google διερευνά και λαμβάνει γρήγορα μέτρα, η οποία περιλαμβάνει την αναστολή εκατοντάδων εφαρμογών που παραβιάζουν και τον περιορισμό των σχετικών όρων αναζήτησης όπως το nudify στο κατάστημά της.

Η απάντηση της Apple ήταν σαφώς διαφορετική. Ενώ η εταιρεία έχει αφαιρέσει ορισμένες εφαρμογές που είχαν επισημανθεί από ερευνητές στο παρελθόν, κατά τα άλλα παρέμεινε ιδιαίτερα σιωπηλή εν μέσω κλήσεων προς τις εφαρμογές γυμνισμού της αστυνομίας πιο επιθετικά στο App Store της. Ο κατασκευαστής iPhone δεν έδωσε αμέσως μια λεπτομερή δημόσια απάντηση στα αιτήματα του εισαγγελέα της πόλης.

Το παιχνίδι ανίχνευσης γάτας και ποντικιού

Η πρόκληση της αστυνόμευσης αυτών των εφαρμογών επιδεινώνεται από τις εξελισσόμενες τακτικές τους. Το Wired ανέφερε ότι οι ερευνητές προειδοποίησαν πρόσφατα ότι ορισμένες επιβλαβείς εφαρμογές έχουν βελτιωθεί στο να αποφεύγουν τις αφαιρέσεις από το κατάστημα εφαρμογών διαφημίζοντας μόνο λειτουργίες εναλλαγής προσώπων, ενώ συγκαλύπτουν τις ικανότητές τους γυμναστικής. Σε μια προεκτύπωση του Μαΐου, οι ερευνητές εντόπισαν 420 εφαρμογές που διατίθενται στο εμπόριο ως γενικά εργαλεία ανταλλαγής προσώπων και δοκίμασαν 155 από αυτές. Σε πάνω από το 70 τοις εκατό των περιπτώσεων, οι εφαρμογές θα μπορούσαν να χρησιμοποιηθούν για τη σεξουαλοποίηση εικόνων, αποδεικνύοντας πόσο εύκολα κρύβεται επιβλαβής λειτουργικότητα πίσω από το αβλαβές μάρκετινγκ.

Αυτό το κενό ανίχνευσης σημαίνει ότι ακόμη και όταν τα καταστήματα εφαρμογών αναζητούν προληπτικά εργαλεία γυμνοποίησης, πολλά ξεφεύγουν παρουσιάζοντας τον εαυτό τους ως αβλαβές λογισμικό ψυχαγωγίας ή επεξεργασίας φωτογραφιών. Τα ευρήματα των ερευνητών υποδηλώνουν ότι ο πραγματικός αριθμός των προβληματικών εφαρμογών που κυκλοφορούν είναι πιθανότατα πολύ υψηλότερος από τους δεκατρείς που επισημαίνονται από το γραφείο του Chiu.

Το προηγούμενο Grok

Η καταστολή της εφαρμογής nudify διασταυρώνεται επίσης με μια ευρύτερη συζήτηση σχετικά με το επιβλαβές περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη. Αυτή την εβδομάδα, η xAI κατέθεσε μήνυση επιβεβαιώνοντας ότι είχε βρει περιπτώσεις υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκαν από το Grok και μη συναινετικών προσωπικών εικόνων που στόχευαν ενήλικες. Για να αντιμετωπίσει την κακή χρήση, η xAI μήνυσε τον χρήστη που φέρεται να είναι υπεύθυνος για την ώθηση του Grok να δημιουργήσει το παράνομο περιεχόμενο.

Η υπόθεση Grok εγείρει ένα πιο ακανθώδες ερώτημα για τα καταστήματα εφαρμογών: εάν τα chatbots AI που μπορεί να παρακινηθούν να παράγουν παράνομο περιεχόμενο θα πρέπει τα ίδια να υπόκεινται σε κατάργηση. Η Apple φέρεται να είπε στους γερουσιαστές τον Απρίλιο ότι είχε απειλήσει ιδιωτικά να αφαιρέσει τον Grok από το App Store, σύμφωνα με το NBC News, αλλά η εφαρμογή xAI παραμένει διαθέσιμη σήμερα. Όσο είναι δυνατή η χρήση του Grok για τη δημιουργία παράνομου περιεχομένου, τα καταστήματα εφαρμογών πιθανότατα θα συνεχίσουν να αντιμετωπίζουν πιέσεις να αναλάβουν δράση, όπως ακριβώς ζήτησε ο Chiu για αυτόνομες εφαρμογές γυμνισμού.

Ένα σημείο καμπής για τη λογοδοσία της πλατφόρμας

Η παραγγελία του Σαν Φρανσίσκο αντιπροσωπεύει μία από τις πιο επιθετικές κυβερνητικές παρεμβάσεις μέχρι σήμερα με στόχο τα καταστήματα εφαρμογών σε επιβλαβές περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη. Επικαλούμενος τους νόμους της Καλιφόρνια για την βαθιά ψεύτικη πορνογραφία, ο Chiu δοκιμάζει κατά πόσον οι κρατικοί νόμοι μπορούν να υποχρεώσουν τους χειριστές πλατφορμών να αναλάβουν την ευθύνη για τα εργαλεία τεχνητής νοημοσύνης που διανέμονται μέσω των αγορών τους.

Το αποτέλεσμα θα μπορούσε να αποτελέσει προηγούμενο για τον τρόπο με τον οποίο άλλες δικαιοδοσίες προσεγγίζουν το πρόβλημα και εάν το βάρος της αστυνόμευσης των μη συναινετικών εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη βαρύνει τους προγραμματιστές, τους χειριστές πλατφόρμας ή και τα δύο. Για τα εκατομμύρια των ανθρώπων, κυρίως γυναίκες και κορίτσια, που έχουν στοχοποιηθεί από αυτά τα εργαλεία, το διακύβευμα εκτείνεται πολύ πέρα ​​από τη ρυθμιστική θεωρία.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Για συνεχή κάλυψη της ηθικής της τεχνητής νοημοσύνης, της λογοδοσίας της πλατφόρμας και των ρυθμιστικών μαχών για επιβλαβή συνθετικά μέσα, ακολουθήστε το AI Buzz Wire για να αναφέρετε τα ζητήματα που διαμορφώνουν τον αντίκτυπο της τεχνητής νοημοσύνης στην κοινωνία.

Διαβάστε περισσότερα νέα για την ηθική της τεχνητής νοημοσύνης →