Το ψεύτικο αμερικανικό thinktank που αποκαλύφθηκε για πρώτη φορά την περασμένη εβδομάδα έχει πλέον ποσοτικοποιηθεί από τον Guardian: 124 αναφορές και 560.000 λέξεις σε εννέα ημέρες, χτισμένο σε μια εμπορική πλατφόρμα που υπόσχεται να βελτιστοποιήσει το περιεχόμενο έτσι ώστε να το αναφέρουν τα chatbots AI - με μια διαδρομή χρηματοδότησης της ισραηλινής κυβέρνησης που τεκμηριώνεται στα αρχεία του Υπουργείου Δικαιοσύνης των ΗΠΑ. Είναι το πιο ξεκάθαρο δημόσιο παράδειγμα παραγόντων που συνδέονται με το κράτος που στοχεύουν το ίδιο το επίπεδο απάντησης της τεχνητής νοημοσύνης: όχι τους αναγνώστες, αλλά τα μοντέλα που μιλούν όλο και περισσότερο για αυτούς. Είναι το είδος της ιστορίας που παρακολουθεί η κάλυψη της βιομηχανίας AI καθώς η χειραγώγηση chatbot γίνεται βιομηχανική. (Καλύψαμε την αρχική ανακάλυψη του ιστότοπου [εδώ] (https://aibuzzwire.news/en/article/israel-hanover-institute-fake-think-tank-llm-poisoning-chatbots).)
Μια δεξαμενή σκέψης που δεν υπάρχει
Ο ιστότοπος δημοσιεύεται με το όνομα Ινστιτούτο Δημόσιας Πολιτικής του Ανόβερου. Σύμφωνα με τον Τζέισον Γουίλσον του Guardian, το ινστιτούτο προφανώς δεν υφίσταται ως νομική οντότητα σε καμία δικαιοδοσία, δεν έχει φυσική διεύθυνση και δεν φέρει επώνυμο προσωπικό και καμία από τις αναφορές του. Οι δικοί του όροι χρήσης διέπονται από τους νόμους της «πολιτείας στην οποία είναι εγκατεστημένο το Ινστιτούτο» — μιας πολιτείας που αρνείται να κατονομάσει το έγγραφο.
Η κλίμακα της παραγωγής ήταν βιομηχανική. Μεταξύ 6 Αυγούστου και 14 Αυγούστου, το Ινστιτούτο του Ανόβερου δημοσίευσε 124 εκθέσεις συνολικού ύψους περισσότερες από 560.000 λέξεις, κατά μέσο όρο περίπου 4.500 λέξεις η καθεμία. Μόνο στις 12 και 13 Αυγούστου παρήγαγε 73 αναφορές που αντιστοιχούσαν σε σχεδόν 354.000 λέξεις. Τίποτα δεν έχει δημοσιευτεί από τότε που εμφανίστηκαν τα πρώτα δημοσιεύματα των μέσων ενημέρωσης για τον ιστότοπο.
Σχεδιασμένο για το επίπεδο απάντησης chatbot
Αυτό που χαρακτηρίζει την επιχείρηση ως νέα είναι η στόχευσή της. Όλοι εκτός από έναν από τους 124 τίτλους ανοίγουν με μια ερώτηση που μοιάζει με αυτή που μπορεί να πληκτρολογήσει ένας χρήστης σε ένα chatbot — «Είναι ο αντισιωνισμός αντισημιτισμός;», «Έδιωξε το Ισραήλ Παλαιστίνιους από τη γη τους;», «Το Ισραήλ πραγματοποιεί γενοκτονία στη Γάζα;» Οι εκθέσεις παρουσιάζουν τη θέση του Ισραήλ σχετικά με τα βασανιστήρια Παλαιστινίων αιχμαλώτων, τα εγκλήματα πολέμου και την πείνα στη Γάζα ως ουδέτερη έρευνα, διαμορφωμένη για μηχανική ανάκτηση.
Οι μηχανικοί τεκμηριώνονται σε επίσημες αρχειοθετήσεις. Η εταιρεία παραγωγής πολυμέσων της Νέας Υόρκης Piro Inc κατοχύρωσε τον ιστότοπο στο Υπουργείο Δικαιοσύνης των ΗΠΑ αυτόν τον μήνα βάσει του Νόμου για την Εγγραφή ξένων πρακτόρων (Fara), έναν νόμο του 1938 που απαιτεί αποκάλυψη εργασίας για ξένες κυβερνήσεις, ως υλικό που διανέμει για την ισραηλινή κυβέρνηση. Ο Guardian αναφέρει ότι η προσπάθεια χρηματοδοτείται από δεκάδες εκατομμύρια δολάρια από την ισραηλινή κυβέρνηση, μέσω τρίτων, συμπεριλαμβανομένου του ευρωπαϊκού διαφημιστικού ομίλου Havas Media. Μια σύμβαση μεταξύ της Havas και μιας άλλης αμερικανικής εταιρείας που εργάζεται για την καμπάνια τη δεσμεύει στην "ανάπτυξη ιστότοπων και περιεχομένου για την παροχή αποτελεσμάτων πλαισίωσης GPT σε συνομιλίες GPT".
Αφού αναφέρθηκε για πρώτη φορά η ύπαρξη του ιστότοπου στις 14 Αυγούστου, το ινστιτούτο πρόσθεσε αθόρυβα μια σελίδα χρηματοδότησης που περιείχε μια ενδεικτική διόρθωση: «Μια προηγούμενη έκδοση αυτής της σελίδας έλεγε ότι το Ινστιτούτο λειτουργούσε χωρίς εξωτερική χρηματοδότηση και αυτό ίσχυε όταν γράφτηκε». Ο Guardian επικοινώνησε με την Piro Inc, τη Havas Media και την ισραηλινή κυβερνητική διαφημιστική εταιρεία LaPam για σχόλια.
Γιατί τα chatbots είναι το νέο πεδίο μάχης
Η στρατηγική έχει όνομα στον κλάδο του μάρκετινγκ — βελτιστοποίηση μηχανών παραγωγής, ή GEO — και είναι ο διάδοχος κλάδος της βελτιστοποίησης μηχανών αναζήτησης. Όταν ένα chatbot απαντά σε μια ερώτηση, βασίζεται στο σώμα εκπαίδευσης και τις πηγές ανάκτησης. Περιεχόμενο που είναι ογκώδες, μορφοποιημένο με ερωτήσεις και έχει στιλ ως έγκυρη έρευνα είναι πιο πιθανό να εμφανιστεί, να αναφερθεί ή να απορροφηθεί στην απάντηση ενός μοντέλου. Ένα ψεύτικο thinktank είναι σχεδόν το ιδανικό τεχνούργημα GEO: θεσμική αξιοπιστία χωρίς ίδρυμα.
Ο συγχρονισμός αντανακλά την απόγνωση όσο και την επιτήδευση. Ο Guardian σημειώνει ότι η εκστρατεία έρχεται καθώς η θέση του Ισραήλ στην κοινή γνώμη των ΗΠΑ έχει καταρρεύσει και καθώς Ισραηλινοί αξιωματούχοι ενημερώνουν τα μέσα ενημέρωσης ότι τα χρήματα που δαπανήθηκαν για τη δημόσια διπλωματία "Hasbara" στο εξωτερικό έχουν σπαταληθεί.
Το Ινστιτούτο του Ανόβερου δεν είναι μια μεμονωμένη περίπτωση. Την ίδια μέρα που ο Guardian δημοσίευσε την έρευνά του, το OpenAI ανακοίνωσε ότι είχε διακόψει μια νέα μυστική εκστρατεία επιρροής στη Ρωσία χρησιμοποιώντας AI - την τελευταία από μια σειρά καταργήσεων που η εταιρεία έχει αποδώσει σε παράγοντες που συνδέονται με το κράτος. Δύο ξεχωριστές λειτουργίες, δύο ήπειροι, μία κοινή γνώση: η επιρροή στα μοντέλα είναι πλέον φθηνότερη και πιο ανθεκτική από το να επηρεάζεις ανθρώπους άμεσα.
Το χάσμα διακυβέρνησης
Για τους ρυθμιστές, η θήκη αποκαλύπτει μια τρύπα στα υπάρχοντα πλαίσια. Η αποκάλυψη του Fara κατέγραψε την επέμβαση σε χαρτί, αλλά μόνο αφού το περιεχόμενο ήταν ζωντανό και δυνητικά καταποθεί. Οι διατάξεις περί διαφάνειας του νόμου για την τεχνητή νοημοσύνη της ΕΕ και τα εθελοντικά πλαίσια που διέπουν την προέλευση των δεδομένων εκπαίδευσης δεν σχεδιάστηκαν για έναν κόσμο όπου ο φθηνότερος δρόμος προς τις πεποιθήσεις ενός πληθυσμού διατρέχει τα chatbot του.
Για τα εργαστήρια τεχνητής νοημοσύνης, το λειτουργικό ερώτημα είναι άμεσο: πώς τα συστήματα ανάκτησης και οι αγωγοί εκπαίδευσης διακρίνουν την έρευνα από τις φάρμες περιεχομένου που φορούν ερευνητικά ρούχα; Ο όγκος, η μορφοποίηση και οι σίγουρες αναφορές - τα σήματα εξουσίας - είναι ακριβώς αυτά που παρήγαγε μαζικά το Ινστιτούτο του Ανόβερου. Μέχρι να γίνουν καλύτερα τα μοντέλα στην προέλευση, οι μισές λέξεις είναι ήδη εκεί έξω και καμία αποκάλυψη δεν υποβάλλεται αφού το γεγονός τις ανακαλέσει.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
