Ο Meta κατηγόρησε τα εργαλεία τεχνητής νοημοσύνης που συνδέονται με τον Anthropic's Claude για την άδικη αναστολή του κύριου λογαριασμού του No Kings Coalition στο Instagram, ένα σφάλμα που έριξε εκτός σύνδεσης την παρουσία του κινήματος διαμαρτυρίας στα μέσα κοινωνικής δικτύωσης για ώρες κατά τη διάρκεια μιας εθνικής ημέρας δράσης με στόχο την ενίσχυση της πρόωρης προσέλευσης των ψηφοφόρων ενόψει των ενδιάμεσων εκλογών του Νοεμβρίου.
Η αναστολή, η οποία ξεκίνησε το απόγευμα του Σαββάτου, αποδόθηκε αρχικά σε συνήθεις αυτοματοποιημένες προστασίες. Μια μέρα αργότερα, η Meta πρόσφερε έναν διαφορετικό και πιο ασυνήθιστο λογαριασμό: σύμφωνα με αναφορές από το Bloomberg και τον The Guardian, οι μηχανικοί της εταιρείας διαπίστωσαν ότι τα εργαλεία που συνδέονται με τον Claude της Anthropic τραβούσαν αναρτήσεις, προφίλ και hashtags από τον λογαριασμό με περίπου τέσσερις φορές τον συνηθισμένο ρυθμό - μοτίβα επισκεψιμότητας που τα συστήματα της Meta παρέκαμψαν ως αυτοματοποιημένη δραστηριότητα και ανταποκρίνονταν στο bot. For more context on this story, see our ongoing AI trends.
Ώρες σιωπής κατά τη διάρκεια μιας Εθνικής Ημέρας Δράσης
Το λουκέτο δύσκολα θα μπορούσε να έρθει σε πιο ευαίσθητη στιγμή. Το Σάββατο, οι διοργανωτές οργάνωσαν σχεδόν 3.000 εκδηλώσεις «No Kings: Vote Early» σε όλες τις Ηνωμένες Πολιτείες, σύμφωνα με στοιχεία που επικαλείται το The Deep Dive, μέρος του κινήματος υπέρ της δημοκρατίας που έχει τραβήξει εκατομμύρια Αμερικανούς στους δρόμους τα τελευταία χρόνια.
Οι διαχειριστές έχασαν την πρόσβαση στον λογαριασμό περίπου στις 1:30 μ.μ. Eastern, δήλωσε εκπρόσωπος του συνασπισμού. Ο ίδιος ο λογαριασμός εμφανίστηκε ξανά δημόσια μετά από περίπου 90 λεπτά, αλλά οι άνθρωποι πίσω από αυτόν παρέμειναν κλειδωμένοι έξω από το backend του για σχεδόν τέσσερις ώρες, ανακτώντας την πλήρη πρόσβαση στις 5:33 μ.μ. Ανατολικός.
Ο Ezra Levin, συνιδρυτής της οργανωτικής ομάδας Indivisible, περιέγραψε την κατάσταση ωμά. "Το ανέστειλαν. Δεν είχαμε πρόσβαση σε αυτό", είπε.
Η εξήγηση του Meta άλλαξε — Δύο φορές
Η πρώτη δημόσια απάντηση του Meta ήρθε το Σάββατο, όταν ο εκπρόσωπος Andy Stone έγραψε στο X ότι τα αυτοματοποιημένα συστήματα της πλατφόρμας μερικές φορές ενεργούν "όταν οι λογαριασμοί δημοσιεύουν, μοιράζονται ή σχολιάζουν σε πολύ υψηλές συχνότητες". Αναγνώρισε ότι «αυτή η αυτοματοποιημένη ενέργεια έγινε ξεκάθαρα κατά λάθος», προσθέτοντας, «Τώρα όλα λειτουργούν όπως θα έπρεπε και ζητούμε ειλικρινά συγγνώμη».
Μέχρι την Κυριακή, η εταιρεία είχε αναθεωρήσει τον απολογισμό των γεγονότων της. Σε μια εκτενέστερη δήλωση, ο Stone είπε ότι ένας μεγάλος όγκος προφίλ ανάγνωσης δραστηριότητας, αναρτήσεων και hashtag σε «έντονες εκρήξεις» είχε ως αποτέλεσμα το εργαλείο AI της Meta να ταξινομήσει την επισκεψιμότητα ως αυτοματοποιημένα ρομπότ. "Αυτή η δραστηριότητα έκανε τις αυτοματοποιημένες προστασίες μας να αποσυνδέσουν εσφαλμένα τον λογαριασμό No Kings Instagram", είπε ο Stone, σημειώνοντας ότι μια αυτοματοποιημένη επανεξέταση μια ώρα αργότερα αναγνώρισε το λάθος και επανέφερε τον λογαριασμό, αν και το ξεμπλέξιμο της πρόσβασης διαχειριστή χρειάστηκε επιπλέον χρόνο.
Η σύνδεση του Claude αναφέρθηκε για πρώτη φορά από το Bloomberg την Κυριακή. Αυτό που ο Meta δεν έχει εξηγήσει είναι ποιος χειριζόταν τα εργαλεία ή γιατί ρωτούσαν τον λογαριασμό τόσο επιθετικά. Η εταιρεία δεν απάντησε σε αυτή την ερώτηση στις δημόσιες δηλώσεις της.
Οι διοργανωτές αποκαλούν την απάντηση ανεπαρκή
Ο συνασπισμός δεν πείστηκε από την εξήγηση του bot-traffic. Σε μια ανάρτηση στο Instagram την Κυριακή, η ομάδα είπε ότι τα μέλη της είχαν «αναρτήσει μόνο λίγες φορές και μεταδόθηκαν ζωντανά σε χιλιάδες» κατά τη διάρκεια της ημέρας της δράσης – σχεδόν το προφίλ μιας αυτοματοποιημένης λειτουργίας ανεπιθύμητης αλληλογραφίας.
«Έχουμε ανακτήσει την πρόσβαση στους λογαριασμούς μας, αλλά η Meta εξακολουθεί να μας οφείλει μια εξήγηση», έγραψε η No Kings Coalition. «Ο περιορισμός των επικοινωνιών σχετικά με την ψηφοφορία εν μέσω εκλογών είναι απαράδεκτος».
Το επεισόδιο προκάλεσε γρήγορα πολιτικές αντιδράσεις. Ο γερουσιαστής Μπέρνι Σάντερς πρότεινε στο X ότι πίσω από την αναστολή κρύβεται η «δισεκατομμυριούχος ιδιοκτησία των μέσων ενημέρωσης», ενώ ο γερουσιαστής του Κονέκτικατ Κρις Μέρφι ζήτησε να διεξαχθεί έρευνα για το τι συνέβη.
Όταν η κυκλοφορία AI μοιάζει με κατάχρηση
Πέρα από την άμεση πολιτική, το περιστατικό δείχνει μια αυξανόμενη γραμμή σφάλματος στο πώς οι μεγάλες πλατφόρμες ελέγχουν τα συστήματά τους. Η αυτοματοποιημένη επιβολή εξαρτάται από ταξινομητές που διακρίνουν την ανθρώπινη συμπεριφορά από τη συμπεριφορά των ρομπότ - μια διάκριση που γίνεται όλο και πιο δύσκολο να διατηρηθεί καθώς πράκτορες τεχνητής νοημοσύνης, scrapers και εργαλεία τρίτων αναζητούν τις κοινωνικές πλατφόρμες σε ταχύτητες μηχανών για νόμιμους λόγους.
Ο απολογισμός του Meta για την αναστολή υποδηλώνει ότι οι άμυνές του λειτούργησαν όπως σχεδιάστηκαν ενάντια σε κίνηση που φαινόταν πραγματικά αυτοματοποιημένη και απέτυχε ακριβώς με τον τρόπο που προειδοποιούσαν εδώ και καιρό οι επικριτές της αυτοματοποιημένης εποπτείας: γρήγορα, αδιαφανή και ενάντια στον λάθος στόχο, με τη διόρθωση να φτάνει μόνο μετά την πρόκληση βλάβης.
Για το Anthropic, το επεισόδιο είναι μια υπενθύμιση ότι το αποτύπωμα ενός μοντέλου εκτείνεται πολύ πέρα από τα δικά του προϊόντα. Ο Claude είναι προσβάσιμος από εφαρμογές τρίτων μέσω του API της Anthropic και, όπως υποδεικνύουν οι αναφορές για το περιστατικό, ο Meta έδειξε εργαλεία "συνδεδεμένα" με το μοντέλο και όχι οτιδήποτε έτρεχε το ίδιο το Anthropic. Η μεταγενέστερη χρήση, με άλλα λόγια, μπορεί να βάλει το όνομα ενός κατασκευαστή μοντέλων σε έναν ανεπιθύμητο τίτλο χωρίς δική του άμεση δράση.
Τι θα συμβεί στη συνέχεια
Ο Meta ζήτησε συγγνώμη δύο φορές και αποκατέστησε τον λογαριασμό, αλλά ο συνασπισμός απαιτεί πληρέστερη λογιστική και η εταιρεία μέχρι στιγμής αρνήθηκε να κατονομάσει τους χειριστές των εργαλείων που συνδέονται με τον Claude ή να διευκρινίσει ποιες διασφαλίσεις, εάν υπάρχουν, ισχύουν για τις πολιτικές οργανώσεις κατά τη διάρκεια της εκλογικής περιόδου.
Με τα μέσα της εβδομάδας να πλησιάζουν και την πρόωρη ψηφοφορία σε εξέλιξη σε πολλές πολιτείες, ομάδες πλατφορμών και εκλογικοί αξιωματούχοι θα παρακολουθούν εάν η Meta - και άλλες πλατφόρμες που βασίζονται σε παρόμοιες αυτοματοποιημένες άμυνες - προσαρμόζουν τα κατώφλια τους για να αποφύγουν να μπλέξουν οργανώσεις πολιτών σε φίλτρα bot. Το αν οι ρυθμιστικές αρχές θα ενδιαφερθούν περισσότερο μπορεί να εξαρτάται από το πόσο ικανοποιητικά απαντά η Meta στην ερώτηση που συνεχίζουν να ρωτούν οι διοργανωτές: τι ακριβώς συνέβη και ποιος ήταν πίσω από την κίνηση που τα προκάλεσε όλα.
Η αναφορά από τον Guardian, το Bloomberg και το The Deep Dive συνέβαλε σε αυτό το άρθρο.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
