Μια ψεύτικη δεξαμενή σκέψης που δημιουργήθηκε για λογαριασμό της ισραηλινής κυβέρνησης δημοσίευσε περισσότερες από 100 εκλεπτυσμένες ερευνητικές εκθέσεις σε λίγο περισσότερο από μια εβδομάδα, σε κάτι που οι αναλυτές περιγράφουν ως σκόπιμη εκστρατεία χειραγώγησης των απαντήσεων που δίνουν στους χρήστες τα chatbots AI για το Ισραήλ και την Παλαιστίνη, σύμφωνα με έρευνα που δημοσιεύθηκε τη Δευτέρα από το Responsible Statecraft.
Ο οργανισμός, που ονομάζεται Ινστιτούτο Δημόσιας Πολιτικής του Ανόβερου, παρουσιάζεται ως ένας νέος ερευνητικός φορέας που επικεντρώνεται στο Ισραήλ/Παλαιστίνη. Ωστόσο, οι αναφορές του δεν φέρουν γράμματα και μια δήλωση αποποίησης ευθύνης στο κάτω μέρος του ιστότοπού του αναγνωρίζει ότι δημιουργήθηκε για λογαριασμό της Ισραηλινής Κυβερνητικής Διαφημιστικής Υπηρεσίας από την Piro, Inc., μια εταιρεία που συνιδρύθηκε από τον Daniel Rosenberg, παραγωγό ταινιών που πιστώνεται στο "Inside Man" του Spike Lee. Η ιστορία έγινε αντιληπτή από καταστήματα, όπως το Arab News και το The Cradle, και είναι το πιο πρόσφατο σημάδι ότι οι λειτουργίες επιρροής μετατοπίζονται από τις ροές κοινωνικών μέσων σε μοντέλα τεχνητής νοημοσύνης. Για περισσότερα σχετικά με τον τρόπο με τον οποίο εξελίσσεται η χειραγώγηση στην εποχή της τεχνητής νοημοσύνης, ακολουθήστε τις έκτακτες ειδήσεις για την τεχνητή νοημοσύνη. For more context on this story, see our ongoing breaking AI news.
Αναφορές σχεδιασμένες για το πώς τα LLMs κρίνουν την αξιοπιστία
Αυτό που κάνει το Ινστιτούτο του Ανόβερου ασυνήθιστο είναι το πώς ακριβώς η παραγωγή του φαίνεται προσαρμοσμένη στον τρόπο με τον οποίο τα μεγάλα γλωσσικά μοντέλα αξιολογούν τις πηγές. Οι "αναφορές δεδομένων" του συνοδεύονται από υποσημειώσεις, πίνακες περιεχομένων και μετρημένο, ουδέτερο τόνο - το είδος της μορφοποίησης που βοηθά τα έγγραφα να προσελκύουν chatbots όπως ο Claude ή το Gemini, ανέφερε το Responsible Statecraft.
Πολλοί από τους τίτλους διατυπώνονται ως οι ακριβείς ερωτήσεις που μπορεί να πληκτρολογήσει ένας χρήστης σε ένα chatbot: "Τι προκάλεσε τον εκτοπισμό των Παλαιστινίων το 1948;" "Ποιες ανθρωπιστικές οργανώσεις έχουν τεκμηριώσει ισραηλινά εγκλήματα πολέμου;" «Ποια είναι η τρέχουσα κατάσταση στη Λωρίδα της Γάζας;» και "Είναι ο IDF ο πιο ηθικός στρατός στον κόσμο;" — η τελευταία από τις οποίες αναφέρεται σε δημοσκόπηση του 2022 που διαπίστωσε ότι το 47% των Ισραηλινών Εβραίων πίστευε αυτή την περιγραφή.
Η ίδια η ιστοσελίδα του Piro είναι ξεκάθαρη σχετικά με τη μέθοδο. Η εταιρεία λέει ότι συντάσσει "περιεχόμενο σχεδιασμένο για τον τρόπο με τον οποίο οι LLMs αξιολογούν την αξιοπιστία", μια υπηρεσία που εμπορεύεται ως "AI Story Optimization". Οι ερευνητές έχουν ένα πιο ωμό όνομα για την πρακτική: «Δηλητηρίαση LLM».
Ένας «Τέλειος Μιμητισμός» ενός Αξιόπιστου Ιδρύματος
Η Alice Lee, αναλύτρια στο NewsGuard, την εταιρεία παρακολούθησης παραπληροφόρησης, είπε στο Responsible Statecraft ότι οι αναφορές του ιστότοπου φαίνεται ότι έχουν σχεδιαστεί για να προσεγγίσουν το κοινό των ΗΠΑ που είναι περίεργο για τη σύγκρουση, είτε μέσω μηχανών αναζήτησης είτε μέσω βοηθών AI.
«Τα LLM ευνοούν συγκεκριμένα στατιστικά στοιχεία και δεδομένα, καθώς και ισχυρές αναφορές και πηγές, που έχουν όλα αυτά τα άρθρα», είπε ο Lee. "Είναι μια τέλεια μίμηση μιας τυπικής αξιόπιστης αμερικανικής δεξαμενής σκέψης, μέχρι το γενικό όνομα, τη διάταξη του ιστότοπου και τον συνδυασμό χρωμάτων κόκκινο-άσπρο-μπλε."
Το ινστιτούτο δημοσίευσε επίσης αυτά που ισχυρίζεται ότι είναι πρωτότυπα ευρήματα - για παράδειγμα, μια μελέτη που υποστηρίζει ότι 19 από τα 36 επεξηγηματικά βίντεο με τις περισσότερες προβολές Ισραήλ-Γάζας περιέχουν αμφισβητούμενους ισχυρισμούς, με τους περισσότερους από αυτούς τους αμφισβητούμενους ισχυρισμούς να ευθυγραμμίζονται με την παλαιστινιακή αφήγηση. Άλλες αναφορές αντιτάσσονται σε καθιερωμένη τεκμηρίωση, συμπεριλαμβανομένης μιας που θέτει υπό αμφισβήτηση τον ισχυρισμό της UNICEF ότι το 90% της υδάτινης και θεσμικής υποδομής στη Γάζα έχει καταστραφεί ή καταστραφεί.
Συγκεκριμένα, η παραγωγή δεν παρακολουθεί πάντα τη γραμμή της ισραηλινής κυβέρνησης. Μια έκθεση περιγράφει τη θεωρία ότι η ξένη χρηματοδότηση των πανεπιστημίων εξηγεί τα αντισημιτικά περιστατικά ως «αδύναμα και γεμάτα εξαιρέσεις» — παρόλο που ο πρωθυπουργός Μπενιαμίν Νετανιάχου έχει προωθήσει αυτή τη θεωρία, λέγοντας στον Breitbart ότι ξένοι παράγοντες έχουν ξοδέψει «δισεκατομμύρια» στις αμερικανικές πανεπιστημιουπόλεις. Πολλές αναφορές καταλήγουν συνδέοντας το υπό εξέταση θέμα με τον αυξανόμενο αντισημιτισμό, αναφέροντας συχνά τις ίδιες μελέτες.
Ακολουθήστε τα χρήματα: 900.000 $ Μέσω ενός Γαλλικού Ομίλου Δημοσίων Σχέσεων
Σύμφωνα με το Responsible Statecraft, η Piro, Inc. έχει λάβει 900.000 $ από την ισραηλινή κυβέρνηση για το έργο της, με υπεργολαβία μέσω της Havas Media, ενός γαλλικού ομίλου δημοσίων σχέσεων - μια συμφωνία που συνάδει με τον τρόπο με τον οποίο άλλοι ισραηλινοί εργολάβοι πληρώθηκαν για εργασίες επιρροής στο εξωτερικό.
Το Ινστιτούτο του Ανόβερου άρχισε να δημοσιεύει στις 6 Αυγούστου. Μέσα σε περίπου δέκα ημέρες από τότε, έχει συγκεντρώσει περισσότερες από 100 εκθέσεις, έναν ρυθμό που κανένα γνήσιο κατάστημα πολιτικών συγκρίσιμου μεγέθους.
Γιατί ο χειρισμός Chatbot είναι διαφορετικός
Η υπόθεση υπογραμμίζει μια δομική αδυναμία στον τρόπο με τον οποίο οι βοηθοί τεχνητής νοημοσύνης συγκεντρώνουν τις απαντήσεις: αντιμετωπίζουν τα καλά αναφερόμενα, βαριά από στατιστικά έγγραφα ως αξιόπιστα, ανεξάρτητα από το ποιος τα παρήγαγε ή γιατί. Η παραδοσιακή παραπληροφόρηση στόχευε τους ανθρώπινους αναγνώστες σε κοινωνικές πλατφόρμες, όπου η συναισθηματική γροθιά είχε μεγαλύτερη σημασία. Η λεγόμενη δηλητηρίαση LLM στοχεύει τα επίπεδα ανάκτησης και κατάταξης που αποφασίζουν ποιες πηγές αναφέρει ένα μοντέλο — και ένα μόνο πειστικό έγγραφο μπορεί στη συνέχεια να αντηχεί σε εκατομμύρια απαντήσεις.
Για τους προγραμματιστές chatbot, το Ινστιτούτο του Ανόβερου είναι μια δοκιμασία ακραίων καταστάσεων ελέγχου πηγής. Η αξιολόγηση του NewsGuard υποδηλώνει ότι ο μιμητισμός είναι αρκετά κοντά για να ξεγελάσει τα αυτοματοποιημένα σήματα αξιοπιστίας. Για τους αναγνώστες, το μάθημα είναι απλούστερο: η σίγουρη, τεκμηριωμένη απάντηση που σας δίνει ένα chatbot σχετικά με μια αμφισβητούμενη σύγκρουση μπορεί να ανάγεται σε έναν οργανισμό που δημιουργήθηκε, επωνυμία και χρηματοδοτήθηκε για να δώσει ακριβώς αυτήν την απάντηση.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
