Η OpenAI είπε την Πέμπτη ότι απαγόρευσε δύο μυστικές επιχειρήσεις επιρροής —μία προερχόμενη από τη Ρωσία και μία στο Ιράν— που χρησιμοποιούσαν το ChatGPT για να διευθύνουν εξελιγμένες οντότητες «ψευδούς μετώπου» που είχαν σχεδιαστεί για να ξεπλένουν γεωπολιτική προπαγάνδα σε πραγματικά μέσα ενημέρωσης. Η εταιρεία είπε ότι η εκστρατεία με προέλευση τη Ρωσία είναι η πιο εκτεταμένη επιχείρηση επιρροής που έχει διακόψει από τότε που άρχισε να δημοσιεύει αναφορές απειλών πριν από δυόμισι χρόνια.
Η αποκάλυψη, που δημοσιεύτηκε στον ιστότοπο του OpenAI, είναι η πιο πρόσφατη καταχώριση σε μια σειρά αναφορών σχετικά με τον τρόπο με τον οποίο οι κυβερνητικοί παράγοντες κάνουν κατάχρηση εμπορικών μοντέλων τεχνητής νοημοσύνης. Υπογραμμίζει επίσης, όπως σημειώσαμε στην τελευταία μας συλλογή ειδήσεων AI (https://aibuzzwire.news), ένα μοτίβο που έχει παρατηρήσει το OpenAI στις 30 μυστικές επιχειρήσεις που έχει αποκαλύψει από τις αρχές του 2024: οι καμπάνιες που καταφέρνουν να τοποθετήσουν το περιεχόμενό τους σε γνήσιες εκδόσεις προσεγγίζουν πολύ μεγαλύτερο κοινό από εκείνους που βασίζονται σε ψεύτικους λογαριασμούς στα μέσα κοινωνικής δικτύωσης.
Πρώτα η κατηγορία 5: Επιχείρηση "Dark Clark"
Η ρωσική επιχείρηση, την οποία το OpenAI ονόμασε «Dark Clark», επικεντρώθηκε σε έναν αυτοαποκαλούμενο ερευνητικό οργανισμό στη Λατινική Αμερική που ονομάζεται Κέντρο Κοινωνικών Ερευνών (SRC). Σύμφωνα με το OpenAI, οι χειριστές έλεγχαν τη δεξαμενή σκέψης μέσω ενός κατασκευασμένου προσώπου που ονομαζόταν «Mia Clark», ενώ ντόπιοι υπάλληλοι στη Λατινική Αμερική έκαναν συνεντεύξεις και συνέτασσαν ερευνητικές εργασίες χωρίς να γνωρίζουν ότι εργάζονταν για μια ρωσική ομάδα.
Χρησιμοποιώντας την κλίμακα Breakout - μια μέτρηση 1 προς 6 της πιθανής προσέγγισης μιας επιχείρησης επιρροής που αναπτύχθηκε στο Brookings - το OpenAI αξιολόγησε τον Dark Clark στην Κατηγορία 5, την υψηλότερη βαθμολογία που έχει αποδώσει σε οποιαδήποτε λειτουργία από τότε που ξεκίνησε η αναφορά του. Η εκστρατεία καταγωγής Ιράν έφτασε στην κατηγορία 4.
Μεγάλο μέρος της χρήσης ChatGPT των χειριστών πήγε σε εσωτερικές αναφορές σε έναν άγνωστο χειριστή, είπε το OpenAI, που περιγράφει εκστρατείες για την υποβάθμιση της Ουκρανίας, την υπονόμευση της στρατολόγησης για τις ένοπλες δυνάμεις της Ουκρανίας και την παρέμβαση στην εσωτερική πολιτική στην Αργεντινή και τη Βολιβία. Οι πάροχοι ειδοποιήθηκαν ως επί το πλείστον στα ρωσικά και βασίστηκαν σε VPN για πρόσβαση στην υπηρεσία, η οποία εμποδίζει την κυκλοφορία από τη Ρωσία.
Οι ερευνητές του OpenAI επιβεβαίωσαν αρκετές από τις ισχυριζόμενες εκστρατείες της επιχείρησης μέσω ανοιχτών πηγών. Το ένα αφορούσε ψεύτικα email που υποτίθεται ότι προέρχονταν από την περιφερειακή διεύθυνση εκπαίδευσης της Λίμα, τα οποία έδιναν εντολή σε σχολεία της περουβιανής πρωτεύουσας να διοργανώσουν εκδηλώσεις προς τιμήν του Στέπαν Μπαντέρα —της αμφιλεγόμενης ουκρανικής εθνικιστικής φιγούρας— σε μια ημέρα εθνικής διαφορετικότητας. Περουβιανά και πολωνικά πρακτορεία κάλυψαν τη διαμάχη που ακολούθησε, και ένας Πολωνός βουλευτής του Ευρωπαϊκού Κοινοβουλίου αναφέρθηκε στην κάλυψη της. Στον Ισημερινό, οι χειριστές χρησιμοποίησαν μια ψεύτικη διεύθυνση ηλεκτρονικού ταχυδρομείου για να ξεγελάσουν τα σχολεία ώστε να δεσμευτούν πίστη στον Πρόεδρο Daniel Noboa και τον πρώην επικεφαλής της Blackwater Erik Prince. το κόλπο προκάλεσε κάλυψη από τα μέσα ενημέρωσης και δημόσια διάψευση από τον υπουργό Παιδείας του Ισημερινού.
Η επιχείρηση διέδωσε επίσης κατασκευασμένες ηχογραφήσεις, συμπεριλαμβανομένης μιας που αποδίδεται σε έναν εργαζόμενο στην κρατική εταιρεία ύδρευσης της Βολιβίας EPSAS που ισχυρίζεται ότι η κυβέρνηση θα διέκοψε την παροχή στη Λα Παζ και μια άλλη που αποδίδεται στον πρόξενο της Ουκρανίας στον Ισημερινό. Οι έλεγχοι στοιχείων και στις δύο χώρες κατέρριψαν τους ισχυρισμούς. Ερευνητές ανοιχτού κώδικα έχουν συνδέσει στο παρελθόν παρόμοια δραστηριότητα με την "Πολιτολογία" ή την "La Compania", οντότητες που περιγράφονται ως διάδοχοι της λειτουργίας του αείμνηστου Yevgeniy Prigozhin, και οι αναφορές των ίδιων των χειριστών υποστήριζαν εκστρατείες που στοχεύουν τον Πρόεδρο της Αργεντινής Javier Milei που ταιριάζουν με αυτό το δημόσιο ρεπορτάζ.
Επτά ψεύτικοι δημοσιογράφοι: Επιχείρηση "Bogus Bylines"
Η ιρανική επιχείρηση ακολούθησε διαφορετική διαδρομή στο οικοσύστημα των μέσων ενημέρωσης. Οι χειριστές του, οι οποίοι οδήγησαν το ChatGPT στα περσικά, χρησιμοποίησαν το μοντέλο για να βελτιώσουν μακροχρόνια αγγλόφωνα άρθρα σχετικά με τη σύγκρουση ΗΠΑ-Ιράν και στη συνέχεια τα δημοσίευσαν σε συντάκτες σε μικρές και μεσαίες διαδικτυακές εκδόσεις χρησιμοποιώντας επτά κατασκευασμένες προσωπικότητες δημοσιογράφων: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, E. Τζόνσον.
Το OpenAI εντόπισε σχεδόν 100 άρθρα που δημοσιεύθηκαν ή δημοσιεύθηκαν υπό αυτές τις γραμμές σε περίπου δώδεκα καταστήματα παγκοσμίως, τα περισσότερα επικεντρωμένα σε διεθνείς υποθέσεις και στη Μέση Ανατολή. Η επιχείρηση δημιούργησε επίσης παρτίδες σχολίων στα μέσα κοινωνικής δικτύωσης, αν και το OpenAI είπε ότι αυτά είχαν μικρή πραγματική δέσμευση - και σημείωσε ότι οι χειριστές χρησιμοποίησαν έναν παραπλανητικό υπολογισμό στις εσωτερικές τους αναφορές για να διογκώσουν τον προφανή αντίκτυπό τους στα μέσα κοινωνικής δικτύωσης. Η εταιρεία είπε ότι η δραστηριότητα φαινόταν συνεπής με έναν εμπορικό παράγοντα που διεξήγαγε μια εκστρατεία επιρροής για προσλήψεις και ότι μοιράστηκε πληροφορίες με τις αρμόδιες αρχές.
Παλιά βιοτεχνία, νέα εργαλεία
Αυτό που εντυπωσιάζει περισσότερο τους ερευνητές, έγραψε το OpenAI, είναι πόσο πολύ έμοιαζαν και οι δύο λειτουργίες με εκστρατείες επιρροής από την εποχή πριν από την AI. Τα πλαστά πρόσωπα δημοσιογράφων μοιάζουν οικογενειακά με την «Alice Donovan», μια πλασματική ρεπόρτερ που πρωτοστατεί στη ρωσική στρατιωτική υπηρεσία πληροφοριών της οποίας οι όποιες δημοσιεύσεις εμφανίστηκαν σε δυτικές εκδόσεις το 2016 και το 2017. Το ακούσιο τοπικό προσωπικό του SRC απηχεί το «PeaceData», τον ιστότοπο ψεύτικων ειδήσεων που επέλεξε 20 πραγματικούς δημοσιογράφους σε 2.
Η τεχνητή νοημοσύνη δεν επινόησε αυτές τις τεχνικές – τις έκανε φθηνότερες, πιο γρήγορες και πιο εύρυθμες. Οι χειριστές χρησιμοποίησαν μοντέλα για να προσαρμόσουν τα ψεύτικα στο τοπικό λεξιλόγιο και το θεσμικό στυλ, να μεταφράσουν σενάρια σε τοπικές ισπανικές παραλλαγές και να παράγουν εκλεπτυσμένα μηνύματα ηλεκτρονικού ταχυδρομείου για συντάκτες. Ωστόσο, το OpenAI υποστήριξε ότι η κρυφή, πρόσωπο με πρόσωπο φύση των ψεύτικο μέτωπο επιχειρήσεων τις καθιστά επίσης ευάλωτες στην έκθεση: τόσο η Alice Donovan όσο και η PeaceData έκλεισαν αφού κατονομάστηκαν δημόσια.
Διαβάζοντας τα στοιχεία με προσοχή
Το OpenAI φρόντισε να επιφυλάξει τα δικά του ευρήματα. Οι χειριστές διεκδικούσαν τακτικά τα εύσημα για γεγονότα με τα οποία δεν είχαν καμία σχέση και ορισμένα πλαστά που ανέφεραν ότι φύτευαν δεν μπορούσαν να βρεθούν σε ανοιχτές πηγές. Αυτό που θα μπορούσε να επαληθεύσει το OpenAI - μέσω ελέγχων στοιχείων, επίσημων αρνήσεων και δημοσιευμένων άρθρων που ταιριάζουν με τις περιγραφές των χειριστών - υποδηλώνει πραγματική διείσδυση των μέσων ενημέρωσης και του πολιτικού λόγου σε τουλάχιστον τέσσερις χώρες.
Για τον κλάδο της τεχνητής νοημοσύνης, η έκθεση είναι μια υπενθύμιση ότι οι πιο αποτελεσματικές χρήσεις μοντέλων στην παραπληροφόρηση είναι συχνά οι λιγότερο ορατές: σύνταξη εσωτερικών αναφορών, βελτιστοποίηση προτάσεων, στίλβωση μεταφράσεων. Οι οντότητες που βρίσκονται στην καλύτερη θέση για τον εντοπισμό αυτών των καμπανιών, όπως έδειξαν προηγούμενες περιπτώσεις του OpenAI, είναι συχνά οι πλατφόρμες των οποίων τα δικά τους εργαλεία χρησιμοποιούνται για την εκτέλεσή τους.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
