Ο στρατός των Ηνωμένων Πολιτειών έφτασε πιο κοντά σε μια άμεση αντιπαράθεση με την Κίνα από ό,τι σχεδόν οποιοσδήποτε αντιλήφθηκε αυτήν την άνοιξη - και σύμφωνα με αποκλειστική εκπομπή του CNN που δημοσιεύθηκε την Παρασκευή, μια ψευδαίσθηση AI ήταν ο λόγος.
Η έκθεση περιγράφει λεπτομερώς πώς ένα έγγραφο πληροφοριών που δημιουργήθηκε με τη βοήθεια ενός chatbot πυροδότησε μια αλυσίδα γεγονότων που είχαν οπλίσει το προσωπικό των ΗΠΑ που ετοιμαζόταν να επιβιβαστεί σε κινεζικό πλοίο στη Μέση Ανατολή, με την πεποίθηση ότι το πλοίο μετέφερε στοιχεία ενός προγράμματος πυρηνικών όπλων. Στρατιωτικά αεροσκάφη ήταν ήδη στον αέρα, σύμφωνα με πηγές που γνωρίζουν την επιχείρηση. For more context on this story, see our ongoing more AI stories.
Η αποστολή ακυρώθηκε μόνο λίγο πριν από την προγραμματισμένη αναχαίτιση, όταν οι αξιωματούχοι έσκαψαν βαθύτερα την έκθεση και ανακάλυψαν ότι ο κεντρικός ισχυρισμός της - αυτός που είχε κινητοποιήσει τον αμερικανικό στρατό - ήταν λάθος.
Μια πηγή που γνωρίζει το επεισόδιο περιέγραψε την αναφορά πληροφοριών στο CNN ως «εντελώς ψευδή». Επίσης, είπε η πηγή, «σχεδόν ξεκίνησε έναν πόλεμο». Οποιαδήποτε επιχείρηση των ΗΠΑ εναντίον κινεζικού σκάφους θα μπορούσε να έχει εξελιχθεί σε ένοπλη σύγκρουση μεταξύ των δύο εθνών.
Πώς η αξίωση ενός Chatbot έγινε στρατιωτική επιχείρηση
Το επεισόδιο ξεκίνησε αυτή την άνοιξη, εν μέσω του πολέμου με το Ιράν, όταν μια αναφορά πληροφοριών άρχισε να κυκλοφορεί στον αμερικανικό στρατό. Το έγγραφο ισχυριζόταν ότι ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα του προγράμματος πυρηνικών όπλων και αμέσως σήμανε συναγερμό.
Σύμφωνα με το CNN, η έκθεση συντάχθηκε από έναν αναλυτή στη διοίκηση ειδικών επιχειρήσεων των ΗΠΑ, ο οποίος είχε ρωτήσει ένα chatbot σχετικά με την αναφορά πληροφοριών σχετικά με το μανιφέστο του πλοίου - αναφορά που προήλθε από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ Ειρηνικός, με έδρα τη Χαβάη. Παραμένει ασαφές εάν το chatbot ήταν ένα εμπορικά διαθέσιμο προϊόν ή ένα κυβερνητικό εργαλείο των ΗΠΑ. Ένας πρώην υψηλόβαθμος αξιωματούχος των ΗΠΑ, εξοικειωμένος με τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούν στρατιωτικοί και αναλυτές πληροφοριών, πρόσφερε στο CNN μια ωμή αξιολόγηση των εσωτερικών προσφορών της κυβέρνησης: «Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα του εμπορικού υλικού που φοράει κραγιόν».
Το chatbot συνδύασε πληροφορίες ανοιχτού κώδικα με πληροφορίες μυστικών σημάτων που κατείχε η κυβέρνηση και κατέληξε στο μοιραίο συμπέρασμα για το φορτίο του πλοίου. Στη συνέχεια, ο αναλυτής χρησιμοποίησε την τεχνητή νοημοσύνη για δεύτερη φορά για να συσκευάσει τα ευρήματα σε μια τυπική αναφορά πληροφοριών - όπως συνηθίζουν να εμπιστεύονται οι στρατιωτικοί αξιωματούχοι - και τη διέδωσε.
Τέσσερις πηγές που γνωρίζουν το επεισόδιο μίλησαν στο CNN. Σύμφωνα με δύο από αυτούς, ένοπλα μέλη του αμερικανικού στρατού ετοιμάζονταν να επιβιβαστούν στο πλοίο όταν το ρεπορτάζ διαλύθηκε. Το CNN δεν μπόρεσε να μάθει ποιο ήταν στην πραγματικότητα το εσφαλμένο φορτίο. Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν στο αίτημα του CNN για σχολιασμό.
Μια στρατηγική επιτάχυνσης συναντά έναν έλεγχο πραγματικότητας
Το παραλίγο να χαθεί σε μια στιγμή που το Πεντάγωνο πιέζει να ενσωματώσει την τεχνητή νοημοσύνη σε σχεδόν κάθε πτυχή της δουλειάς του - αναλύοντας τεράστιους όγκους ακατέργαστων πληροφοριών, επιλέγοντας στόχους για χτυπήματα και χειριζόμενους πιο κοσμικές εργασίες όπως ο προϋπολογισμός, η εφοδιαστική και οι αλυσίδες εφοδιασμού.
Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ δημοσίευσε τη «Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης» του υπουργείου, μια προσπάθεια να επιταχύνει την υιοθέτηση της στρατιωτικής τεχνητής νοημοσύνης.
«Θα απελευθερώσουμε πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι ηγεόμαστε στη στρατιωτική τεχνητή νοημοσύνη», δήλωσε ο Χέγκσεθ σε μια ομιλία που ανακοινώνει τη στρατηγική.
Το συνοδευτικό σημείωμα προχωρά περαιτέρω, ζητώντας από το τμήμα να διαθέσει την τεχνητή νοημοσύνη μέσω πολλών προγραμμάτων με στόχο «εκδημοκρατισμό του πειραματισμού και του μετασχηματισμού της τεχνητής νοημοσύνης σε όλο το Υπουργείο, θέτοντας τα κορυφαία μοντέλα τεχνητής νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων πολιτικών και στρατιωτικών μας προσωπικού, σε όλα τα επίπεδα ταξινόμησης».
Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, είπαν στο CNN πολλοί Αμερικανοί αξιωματούχοι, με διαφορετικά τμήματα της κυβέρνησης να χρησιμοποιούν διαφορετικά εργαλεία υπό διαφορετικές παραγγελίες και πρότυπα ασφαλείας. Δεν υπάρχει ενιαίο σύνολο προτύπων για την επαλήθευση των πληροφοριών που παράγονται από αυτά τα εργαλεία και η αξιοπιστία των διαφόρων συστημάτων ποικίλλει ευρέως.
Η στόχευση είναι εκεί που ζει ο κίνδυνος
Οι αναλυτές φοβούνταν εδώ και καιρό ότι η τεχνητή νοημοσύνη θα μπορούσε να συμβάλει σε έναν καταστροφικό λάθος υπολογισμό εάν τα έθνη-κράτη ενεργήσουν με φτωχά ή κατεστραμμένα δεδομένα. Το επεισόδιο του κινεζικού πλοίου είναι μια τεκμηριωμένη περίπτωση ακριβώς αυτού του τρόπου αστοχίας που διαμορφώνεται σε πραγματικό χρόνο — και των διασφαλίσεων που απέτυχαν να το πιάσουν μέχρι την τελευταία στιγμή.
«Η τεχνητή νοημοσύνη στη στόχευση είναι σίγουρα κάτι που εντείνεται και δεν υπάρχει πραγματική καθοδήγηση για το πώς η ύπαρξη ενός ανθρώπου στο βρόχο θα αποτρέψει απώλειες αμάχων ή αδελφοκτονίες», είπε στο CNN μια άλλη πηγή που γνωρίζει τις τρέχουσες πολιτικές του στρατού.
Σύμφωνα με το ρεπορτάζ του CNN, το είδος της ψευδαίσθησης που προκάλεσε τον ψευδή ισχυρισμό δεν ήταν ένα μεμονωμένο περιστατικό σε όλη την κοινότητα πληροφοριών από τότε που τα εργαλεία τεχνητής νοημοσύνης άρχισαν να πολλαπλασιάζονται μέσω της κυβέρνησης. Αρκετές πηγές επεσήμαναν επίσης έναν πολιτισμικό κίνδυνο: οι νεότεροι αναλυτές, που περιγράφονται ως ιθαγενείς αυτών των εργαλείων, είναι πιο πιθανό να τα εμπιστεύονται χωρίς κριτική και η πίεση για ταχύτερη παραγωγή νοημοσύνης αφήνει περισσότερα περιθώρια για λάθη.
«Το AI σάς επιτρέπει να φτάσετε σε μια κακή ιδέα πιο γρήγορα», είπε μια πηγή.
Ένας πιο άμεσος κίνδυνος από την υπερευφυΐα
Για εβδομάδες, η Ουάσιγκτον κατακλύζεται από μια συζήτηση σχετικά με τον μακροπρόθεσμο κίνδυνο τεχνητής νοημοσύνης, μετά από μια σειρά τρομερών δημόσιων προειδοποιήσεων από μηχανικούς και στελέχη τεχνολογίας της Silicon Valley σχετικά με τα συστήματα που ενδέχεται να απελευθερωθούν από τους ανθρώπινους περιορισμούς. Η έκθεση του CNN υπογραμμίζει έναν διαφορετικό και πιο άμεσο κίνδυνο: τα ανθρώπινα όντα να λαμβάνουν καταστροφικές αποφάσεις με βάση ανακριβή ή παραπλανητική παραγωγή τεχνητής νοημοσύνης — αυτή τη στιγμή, εν μέσω πραγματικών γεωπολιτικών εντάσεων.
Δεν ακούστηκαν πυροβολισμοί αυτή την άνοιξη και η επιβίβαση δεν έγινε ποτέ. Αλλά το επεισόδιο αποτελεί το πιο ξεκάθαρο παράδειγμα ότι τα λάθη που δημιουργούνται από μηχανή, αφού ξεπλυθούν σε επίσημες αναφορές, μπορούν να ταξιδέψουν μέσα από τον πιο ισχυρό στρατιωτικό εξοπλισμό του κόσμου μέχρι το χείλος της ένοπλης σύγκρουσης μεταξύ πυρηνικών δυνάμεων — χωρίς να υπάρχει μόνιμο πρότυπο επαλήθευσης για να σταματήσει η επόμενη.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
