Η OpenAI είπε την Πέμπτη ότι διέκοψε μια επιχείρηση επιρροής που συνδέεται με το Ιράν, η οποία χρησιμοποίησε το ChatGPT για να τοποθετήσει σχεδόν 100 άρθρα που δημιουργήθηκαν από την τεχνητή νοημοσύνη κάτω από πλαστά υπογράμματα δυτικών δημοσιογράφων σε πραγματικές εκδόσεις σε όλο τον κόσμο, συμπεριλαμβανομένων αρκετών καταστημάτων των Ηνωμένων Πολιτειών.
Η εκστρατεία, την οποία το OpenAI αποκαλεί επιχείρηση "ψευδούς μετώπου", περιγράφεται λεπτομερώς σε μια έκθεση που δημοσίευσε η εταιρεία στις 8 Οκτωβρίου και σε επακόλουθες αναφορές από την Washington Post, το CNN, το NPR και το Radio Free Europe/Radio Liberty. Είναι μια από τις πιο ξεκάθαρες τεκμηριωμένες περιπτώσεις μέχρι σήμερα ενός ξένου δικτύου επιρροής που χρησιμοποιεί ένα mainstream εμπορικό chatbot όχι μόνο για τη σύνταξη προπαγάνδας, αλλά για τη διαχείριση της πλήρους ροής εργασιών σύνταξης της εμφύτευσής της σε νόμιμα μέσα. For more context on this story, see our ongoing breaking AI news.
Ένας δημοσιογράφος που δεν υπήρξε ποτέ
Στο επίκεντρο της επιχείρησης ήταν μια περσόνα ονόματι Ervin B. Hoskins, που παρουσιάστηκε ως Αμερικανός ανεξάρτητος δημοσιογράφος. Σύμφωνα με το RFE/RL, άρθρα που αποδίδονται στον Χόσκινς χαρακτήριζαν τις Ηνωμένες Πολιτείες ως τον επιτιθέμενο στη συνεχιζόμενη σύγκρουση με το Ιράν, παρουσίαζαν το Ισραήλ ως αναξιόπιστο σύμμαχο και πλαισίωναν το Ιράν ως προκλητικό αουτσάιντερ. Ο Hoskins, επιβεβαίωσε το OpenAI, δεν υπήρξε ποτέ.
Ήταν ένα από τα επτά κατασκευασμένα πρόσωπα δημοσιογράφων, όλα που υποτίθεται ότι προέρχονταν από δυτικές χώρες, που χρησιμοποιούσαν οι χειριστές για να δημοσιεύουν και να δημοσιεύουν άρθρα. «Εντοπίσαμε σχεδόν 100 άρθρα που δημοσιεύθηκαν ή διανεμήθηκαν υπό τις γραμμές της επιχείρησης σε περίπου δώδεκα διαδικτυακά καταστήματα σε όλο τον κόσμο», ανέφερε στην έκθεσή του η OpenAI, περιγράφοντας τους στόχους ως μικρομεσαίες εταιρείες που γενικά επικεντρώνονται στις διεθνείς υποθέσεις, τη γεωπολιτική και τη Μέση Ανατολή.
Η Washington Post, η οποία ανέφερε για πρώτη φορά τη διείσδυση της εκστρατείας στα αμερικανικά μέσα ενημέρωσης, διαπίστωσε ότι μια μικρή εβδομαδιαία εφημερίδα της Φλόριντα δημοσίευσε ένα από τα ψεύτικα άρθρα. Άλλες τοποθετήσεις με σημαία εμφανίστηκαν σε καταστήματα, συμπεριλαμβανομένου του Middle East Monitor, το οποίο είπε στο CNN ότι είχε αφαιρέσει τα εν λόγω άρθρα και ότι επανεξετάζει τη διαδικασία υποβολής του.
Πώς χρησιμοποιήθηκε το ChatGPT
Σύμφωνα με την αποκάλυψη του OpenAI, οι χειριστές χρησιμοποίησαν το ChatGPT τόσο στα Φαρσί όσο και στα Αγγλικά σε ολόκληρο το πρόγραμμα τοποθέτησης: επεξεργάζοντας προσχέδια άρθρων μεγάλης μορφής, προσαρμόζοντας τις εκθέσεις στις απαιτήσεις σύνταξης μεμονωμένων εκδόσεων, προετοιμάζοντας μηνύματα επικοινωνίας προς τους συντάκτες και δημιουργώντας παρτίδες σχολίων στα μέσα κοινωνικής δικτύωσης σχεδιασμένα να μοιάζουν με ανεξάρτητες αντιδράσεις αναγνωστών.
Ένα παράδειγμα που ανιχνεύθηκε από ερευνητές: ένα άρθρο με τίτλο "Jared Kushner and the Privatization of America's Iran Strategy", που δημοσιεύτηκε στις 12 Ιουνίου από το PeaceVoice, μια υπηρεσία διανομής op-ed που διευθύνεται από το Oregon Peace Institute. Τις επόμενες μέρες το ίδιο άρθρο αναδημοσιεύτηκε από τους CounterPunch και LA Progressive, σύμφωνα με το RFE/RL.
Η OpenAI είπε ότι η δραστηριότητα δημοσίευσης αυξήθηκε μετά την έναρξη της σύγκρουσης μεταξύ των Ηνωμένων Πολιτειών και του Ιράν στις αρχές του έτους. Η εταιρεία είπε ότι απαγόρευσε τους λογαριασμούς ChatGPT που εμπλέκονται στην καμπάνια και βαθμολόγησε την ικανότητα της επιχείρησης να τοποθετεί περιεχόμενο σε εξωτερικά εκδοτικά μέσα ως Κατηγορία 4 στην κλίμακα λειτουργίας επιρροής έξι σημείων, σύμφωνα με ρεπορτάζ του CNN.
Το Attribution παραμένει ανοιχτό
Συγκεκριμένα, η OpenAI είπε ότι δεν μπορούσε να εντοπίσει τον συγκεκριμένο παράγοντα πίσω από την εκστρατεία ή να επιβεβαιώσει την κατεύθυνση από την ιρανική κυβέρνηση. Η εκτίμησή του, όπως αναφέρθηκε από το CNN, έδειχνε μια εμπορική επιχείρηση επιρροής για ενοικίαση και όχι μια άμεση κρατική - μια δομή που κάνει την απόδοση πιο δύσκολη και τη διαταραχή λιγότερο οριστική. Η απαγόρευση των λογαριασμών διέκοψε αυτό που μπορούσε να παρατηρήσει το OpenAI. δεν διαπίστωσε ότι το ευρύτερο δίκτυο διαλύθηκε.
Η Τζέσικα Μπραντ, η οποία ηγήθηκε του Γραφείου του Διευθυντή του Κέντρου Κακόβουλης Επιρροής Εξωτερικών Εθνικών Πληροφοριών από το 2023 έως το 2025, είπε στο CNN ότι η επιχείρηση έδειξε πώς η τεχνητή νοημοσύνη βοηθά τους ξένους παράγοντες να αποκρύψουν τη συμμετοχή τους και να δρομολογήσουν μηνύματα μέσω αυθεντικών καναλιών.
Η ιρανική εκστρατεία δεν ήταν η μόνη δραστηριότητα που επισήμανε το OpenAI. Η έκθεση της εταιρείας κάλυψε επίσης τη διακοπή των λειτουργιών επιρροής που συνδέονται με τη Ρωσία που χρησιμοποιούσαν το ChatGPT, όπως ανέφερε το The Record from Recorded Future News. Ξεχωριστά, η RFE/RL σημείωσε ότι η Anthropic είχε προηγουμένως διαταράξει τις ιρανικές προσπάθειες για κατάχρηση των μοντέλων του Claude για προπαγάνδα και παρακολούθηση αντιφρονούντων.
Η δημοσίευση δεν αποτελεί πλέον απόδειξη συγγραφής
Για τα δημοσιογραφικά γραφεία, η υπόθεση προσγειώνεται σε μια άβολη αλήθεια: ένα byline, ένας συνεκτικός ρυθμός, μια αληθοφανής βιογραφία και ένα μοντέρνο βήμα δεν υπονοούν πλέον ότι υπάρχει ένας συνεισφέρων. Οι συντάκτες που βασίζονται σε υποβολές ανεξάρτητων επαγγελματιών —ιδιαίτερα γραφεία σχολίων και σχολίων, τα οποία εκ σχεδίασης δημοσιεύουν εξωτερικές προοπτικές— αντιμετωπίζουν τώρα ένα πρόβλημα επαλήθευσης που δεν μπορούν να λύσουν τα φίλτρα ανεπιθύμητης αλληλογραφίας και η ευρετική ποιότητα γραφής.
Οι πρακτικές απαντήσεις που επισημαίνονται στην κάλυψη της αναφοράς περιλαμβάνουν ισχυρότερο έλεγχο ταυτότητας συντελεστών, τεκμηριωμένα ιστορικά προώθησης, έλεγχο των γραμμών που εμφανίζονται σε πολλά σημεία πώλησης σε σύντομα παράθυρα και εργαλεία προέλευσης που συνδέουν τις υποβολές με επαληθεύσιμες ταυτότητες.
Τα οικονομικά έχουν επίσης σημασία. Μια επιχείρηση που κάποτε απαιτούσε ένα επιτελείο συγγραφέων μπορεί τώρα να εκτελεστεί από μια μικρή ομάδα που διευθύνει ένα chatbot, με το μοντέλο να χειρίζεται τα πάντα, από τη μετάφραση μέχρι τον τόνο που ταιριάζει με το στιλ μιας στοχευόμενης έκδοσης. Η έκθεση του OpenAI υποδηλώνει ότι το εμπόδιο στη διεξαγωγή μιας καμπάνιας τοποθέτησης πολλαπλών προσώπων, πολλαπλών καταστημάτων έχει πέσει στο σημείο όπου ένα κατάστημα για ενοικίαση μπορεί να το κάνει ως εμπορική υπηρεσία.
Κανένα από τα μέσα που κατονομάζονται στο ρεπορτάζ δεν ήταν μεγάλοι κεντρικοί ειδησεογραφικοί οργανισμοί, αλλά αρκετά είχαν πραγματικό κοινό. Αυτό είναι το ζητούμενο, λένε οι ερευνητές: η τοποθέτηση σε οποιαδήποτε αξιόπιστη δημοσίευση μεταφέρει ένα μήνυμα σε ευρύτερη κυκλοφορία μέσω της διανομής, της συγκέντρωσης και της αναζήτησης — αυτό ακριβώς που πέτυχε η καμπάνια πριν διακοπεί.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
