Το OpenAI διακόπτει το δίκτυο απάτης ChatGPT που βασίζεται στην Καμπότζη που συνδέεται με την καταναγκαστική εργασία και την εμπορία ανθρώπων

Το OpenAI διέκοψε ένα συντονισμένο δίκτυο απάτης με γνώμονα το ChatGPT που λειτουργεί από το Poipet της Καμπότζης, η εταιρεία αποκάλυψε σε μια αναφορά που περιγράφει λεπτομερώς πώς εγκληματικές ομάδες ενσωματώνουν τώρα εμπορικά μοντέλα τεχνητής νοημοσύνης στις καθημερινές λειτουργίες των ενώσεων καταναγκαστικής εργασίας.

Η αποκάλυψη, που δημοσιεύτηκε στις 31 Ιουλίου με τίτλο «Διαταραχή της Εγκληματικής Επιχείρησης Απάτης», περιγράφει ένα συνδικάτο που χρησιμοποιούσε το ChatGPT όχι μόνο για να εξαπατήσει τα θύματα σε όλο τον κόσμο, αλλά και για να διαχειριστεί τις εσωτερικές λειτουργίες μιας επιχείρησης που συνδέεται με το trafficking. Η υπόθεση προσφέρει ένα παράθυρο στο πώς τα μεγάλα γλωσσικά μοντέλα επαναπροσδιορίζονται ως επιχειρησιακή υποδομή για το οργανωμένο έγκλημα. Για συνεχείς αναφορές σχετικά με την κακή χρήση και τα προστατευτικά κιγκλιδώματα της τεχνητής νοημοσύνης, ακολουθήστε τις τελευταίες εξελίξεις AI στο AI Buzz Wire.

Πώς λειτουργούσε το δίκτυο

Σύμφωνα με τα ευρήματα του OpenAI, η εγκληματική επιχείρηση βασίστηκε στο ChatGPT για τη μετάφραση της προσέγγισης των θυμάτων, τη δημιουργία δόλιων επενδυτικών διεπαφών και τη σύνταξη ψεύτικων νομικών ειδοποιήσεων. Οι φορείς εκμετάλλευσης στόχευαν άτομα μέσω πλατφορμών ανταλλαγής μηνυμάτων, συμπεριλαμβανομένων των WhatsApp και Telegram, κάνοντας ποδήλατο σε έναν κύκλο ζωής τριών σταδίων εξαπάτησης.

Το σχέδιο τυπικά ξεκίνησε με ρομαντικές πρωτοβουλίες σχεδιασμένες για την οικοδόμηση εμπιστοσύνης, στη συνέχεια στράφηκε προς ψεύτικες επενδυτικές πλατφόρμες κρυπτονομισμάτων και τελικά κλιμακώθηκε σε απειλές πλαστών προστίμων επιβολής του νόμου όταν προηγούμενες παρουσιάσεις απέτυχαν. Οι χειριστές δεν περιορίστηκαν σε έναν κλάδο απάτης - συνδύασαν ρομαντικές ρυθμίσεις με ψεύτικα γραφεία συναλλαγών χρυσού και επαναδρομολόγησαν στόχους σε κανάλια τζόγου, μεγιστοποιώντας τον αριθμό των διαδρομών προς μια πληρωμή.

Αυτό που ξεχώρισε αυτή τη λειτουργία ήταν η κλίμακα και η πειθαρχία της χρήσης της AI. Αντί να εκτελέσει μια χούφτα μεμονωμένες προτροπές, το συνδικάτο συστηματοποίησε μοντέλα παραγωγής για να παράγει πειστικές, τοπικές επικοινωνίες σε υψηλή ένταση σε πολλές γλώσσες.

Η διάσταση της καταναγκαστικής εργασίας

Τα πιο ανησυχητικά ευρήματα δεν προήλθαν από την απάτη που αντιμετωπίζει το θύμα αλλά από την εσωτερική δραστηριότητα της ομάδας. Τα αρχεία καταγραφής που ανακτήθηκαν κατά τη διάρκεια της έρευνας αποκάλυψαν ότι οι χειριστές χρησιμοποιούσαν το ChatGPT για διοικητικές εργασίες εντός φυσικών ενώσεων απάτης που βρίσκονται κοντά στα σύνορα Ταϊλάνδης-Καμπότζης.

Αυτά τα αρχεία καταγραφής περιελάμβαναν τη μετάφραση των επικοινωνιών διαχείρισης, την καταγραφή των χρεών των εργαζομένων, την τεκμηρίωση των καθυστερήσεων παραμονής για βίζα και την παρακολούθηση των πειθαρχικών προστίμων. Ορισμένες συμμετοχές αναφέρονταν σε αναγκαστική κράτηση, δραπέτευσαν εργαζόμενους και δίκτυα εμπορίας ανθρώπων. Η λεπτομέρεια ευθυγραμμίζεται με τις πολυετείς αναφορές για απάτες της Νοτιοανατολικής Ασίας, οι οποίες συχνά δελεάζουν άτομα που αναζητούν εργασία με δόλιες διοικητικές προσφορές προτού κατασχέσουν διαβατήρια και τους εξαναγκάσουν σε εργασία για εγκλήματα στον κυβερνοχώρο υπό την απειλή βίας.

Με άλλα λόγια, τα μοντέλα τεχνητής νοημοσύνης έκαναν διπλό καθήκον: όπλα εναντίον εξωτερικών θυμάτων ενώ ταυτόχρονα χρησίμευαν ως λογισμικό διαχείρισης για ένα αιχμάλωτο εργατικό δυναμικό.

Απάντηση του OpenAI

Η OpenAI είπε ότι εντόπισε και έκοψε τους λογαριασμούς που σχετίζονται με την επιχείρηση, εμποδίζοντας την πρόσβαση του συνδικάτου στα μοντέλα του. Η εταιρεία χαρακτήρισε τη διακοπή ως μέρος μιας ευρύτερης προσπάθειας για τον εντοπισμό και την εξάρθρωση δικτύων που κάνουν κατάχρηση της πλατφόρμας της για οικονομικό έγκλημα και παραβιάσεις των ανθρωπίνων δικαιωμάτων.

Η υπόθεση υπογραμμίζει μια αυξανόμενη πρόκληση για τους παρόχους τεχνητής νοημοσύνης. Οι κακόβουλοι παράγοντες δεν αντιμετωπίζουν πλέον τα εμπορικά γλωσσικά μοντέλα απλώς ως εξωτερικά όπλα – τα αναπτύσσουν ως λειτουργικό ενδιάμεσο λογισμικό, εντάσσοντάς τα στον μηχανισμό back-office των εγκληματικών επιχειρήσεων. Η ανίχνευση αυτού του είδους κακοποίησης απαιτεί να κοιτάξουμε πέρα ​​από τις προφανείς προτροπές που αντιμετωπίζουν τα θύμα.

Ένα νέο πρόβλημα ανίχνευσης

Η ανάλυση ασφαλείας της λειτουργίας υποδηλώνει ότι το απλό φιλτράρισμα λέξεων-κλειδιών σε προτροπές που σχετίζονται με απάτη δεν είναι πλέον αρκετό. Οι περιπτώσεις διοικητικής χρήσης — μετάφραση σημειωμάτων, παρακολούθηση χρεών, καταγραφή συμμετοχής — διαβάζονται ως εγκόσμιες μεμονωμένα και είναι πολύ πιο δύσκολο να επισημανθούν από τα σενάρια απροκάλυπτης απάτης.

Σύμφωνα με την κάλυψη της διαταραχής, η ανίχνευση κατάχρησης αυτής της φύσης απαιτεί ολοένα και περισσότερο ανταλλαγή πληροφοριών μεταξύ πλατφορμών και ανάλυση συμπεριφοράς διοικητικών προτροπών, όπου οι εγκληματικές επιχειρήσεις αφήνουν διακριτά λειτουργικά αποτυπώματα ακόμη και όταν τα μεμονωμένα αιτήματα φαίνονται ευνοϊκά. Μια προτροπή που ζητά από ένα μοντέλο να "μεταφράσει αυτό το μήνυμα διαχειριστή" δεν είναι εγγενώς ύποπτη — αλλά εκατοντάδες τέτοια μηνύματα, που προέρχονται από λογαριασμούς που συνδέονται με μια γνωστή ένωση, σχηματίζουν ένα μοτίβο.

Η μεγαλύτερη εικόνα

Η επιχείρηση της Καμπότζης είναι το πιο πρόσφατο μήνυμα ότι η επιφάνεια κατάχρησης της γενετικής τεχνητής νοημοσύνης έχει επεκταθεί πολύ πέρα ​​από τα deepfakes και τα ανεπιθύμητα μηνύματα. Καθώς η τεχνολογία ωριμάζει, η κακή χρήση με την υψηλότερη αξία μπορεί να είναι η λιγότερο ορατή: η τεχνητή νοημοσύνη λειτουργεί αθόρυβα τα logistics μιας παράνομης επιχείρησης, από τη μετάφραση θυμάτων έως τη διαχείριση εργατικού δυναμικού.

Για το OpenAI και τους ανταγωνιστές του, αυτή η αλλαγή εγείρει δύσκολα ερωτήματα σχετικά με το πόσο πρέπει να εκτείνονται οι ευθύνες παρακολούθησης. Οι πάροχοι μπορούν να αναστείλουν τους λογαριασμούς, αλλά οι υποκείμενες ενώσεις, τα δίκτυα διακίνησης και οι συνθήκες καταναγκαστικής εργασίας παραμένουν. Η διακοπή του ψηφιακού επιπέδου βοηθά, αλλά δεν διαλύει τη φυσική υποδομή που υποστηρίζει αυτές τις λειτουργίες.

Η γνωστοποίηση έρχεται επίσης εν μέσω μιας ευρύτερης ρυθμιστικής στιγμής. Με τους νέους κανόνες διαφάνειας να τίθενται σε ισχύ και την αυξανόμενη πίεση στις εταιρείες τεχνητής νοημοσύνης να λογοδοτήσουν για τον τρόπο χρήσης των μοντέλων τους, περιπτώσεις όπως αυτή είναι πιθανό να διαμορφώσουν τόσο τις προτεραιότητες επιβολής όσο και τους παρόχους τεχνικών διασφαλίσεων που ενσωματώνουν στα μελλοντικά συστήματα.

Αναδεικνύει επίσης μια άβολη ασυμμετρία. Οι ίδιες γλωσσικές δυνατότητες που κάνουν το ChatGPT πολύτιμο για νόμιμες επιχειρήσεις — μετάφραση, σύνταξη, σύνοψη — είναι ακριβώς αυτές που το κάνουν ελκυστικό για εγκληματικές επιχειρήσεις που δραστηριοποιούνται πέρα ​​από τα σύνορα και τις γλώσσες. Ένα μοντέλο που μπορεί να βοηθήσει μια μικρή επιχείρηση να προσεγγίσει πελάτες σε δώδεκα χώρες μπορεί εξίσου εύκολα να βοηθήσει ένα συνδικάτο απάτης να στοχεύσει θύματα σε κάθε ήπειρο. Η διαφορά δεν έγκειται στην τεχνολογία αλλά στην υποδομή που είναι τυλιγμένη γύρω από αυτήν, και εκεί οι πάροχοι έχουν τη λιγότερη ορατότητα.

Τι ακολουθεί

Η αποκάλυψη του OpenAI είναι αξιοσημείωτη τόσο για τη διαφάνειά του όσο και για την ίδια τη διαταραχή. Δημοσιεύοντας λεπτομέρειες σχετικά με τον τρόπο λειτουργίας του δικτύου, η εταιρεία προσφέρει ένα πρότυπο που άλλοι πάροχοι και υπηρεσίες επιβολής του νόμου μπορούν να χρησιμοποιήσουν για να εντοπίσουν παρόμοια κατάχρηση. Αλλά η υπόθεση καθιστά επίσης σαφές ότι οι αναστολές λογαριασμών, όσο και αν είναι απαραίτητες, είναι ένα αντιδραστικό μέτρο εναντίον ενός αντιπάλου που μπορεί να δημιουργήσει νέες ταυτότητες και να μεταφέρει τις επιχειρήσεις με σχετική ευκολία.

Για τις ομάδες ασφαλείας και τους παρόχους τεχνητής νοημοσύνης, το βασικό είναι ότι η άμυνα έναντι αυτής της κατηγορίας κατάχρησης θα απαιτήσει συνεχή επένδυση στον εντοπισμό προτύπων, την κοινή χρήση δεδομένων μεταξύ των εταιρειών και τη συνεργασία με τις αρχές που μπορούν να δράσουν ενάντια στις ίδιες τις φυσικές ενώσεις. Το ψηφιακό επίπεδο και το φυσικό επίπεδο, όπως δείχνει αυτή η περίπτωση, δεν είναι πλέον διαχωρισμένα.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Για περισσότερα σχετικά με τους κινδύνους για την ασφάλεια, τα ηθικά διλήμματα και τις πολιτικές συζητήσεις σχετικά με την τεχνητή νοημοσύνη, παρακολουθήστε τις έκτακτες ειδήσεις AI από το AI Buzz Wire.

Διαβάστε περισσότερα νέα AI →