Ο αμερικανικός στρατός παραλίγο να επιβιβαστεί σε κινεζικό πλοίο πάνω από την έκθεση πληροφοριών με παραισθήσεις AI

Ο αμερικανικός στρατός έφτασε επικίνδυνα κοντά στο να αναχαιτίσει ένα κινεζικό σκάφος με βάση μια αναφορά πληροφοριών που δημιουργήθηκε με τη βοήθεια ενός chatbot AI και αποδείχθηκε εντελώς ψευδής, σύμφωνα με αποκλειστική εκπομπή του CNN που δημοσιεύθηκε την Πέμπτη.

Το επεισόδιο, που περιγράφεται στο CNN από τέσσερις πηγές που γνωρίζουν το θέμα, ξεκίνησε νωρίτερα αυτή την άνοιξη - εν μέσω του πολέμου με το Ιράν - όταν μια αναφορά κυκλοφόρησε στον αμερικανικό στρατό που ισχυριζόταν ότι ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε στοιχεία ενός προγράμματος πυρηνικών όπλων. Η αναφορά σήμανε αμέσως τον κώδωνα του κινδύνου και ο στρατός τέθηκε σε δράση με σχέδια να αναχαιτίσει το σκάφος. Για τακτική κάλυψη ιστοριών όπως αυτή, ακολουθήστε τις ειδήσεις AI καθώς εξελίσσονται.

Αεροπλάνα στον Αέρα, Έτοιμο το Boarding Party

Σύμφωνα με δύο πηγές του CNN, ένοπλα μέλη του αμερικανικού στρατού ετοιμάζονταν να επιβιβαστούν στο πλοίο. Στρατιωτικά αεροσκάφη ήταν ήδη στον αέρα, είπε μια πηγή.

Μόνο λίγο πριν από τη σχεδιαζόμενη επιχείρηση οι αξιωματούχοι έσκαψαν βαθύτερα την έκθεση - που συντάχθηκε από έναν αναλυτή διοίκησης ειδικών επιχειρήσεων - και ανακάλυψαν ότι είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης και ότι το chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε αναγνωρίσει εσφαλμένα το υλικό που μετέφερε το πλοίο. Το CNN ανέφερε ότι δεν ήταν σε θέση να μάθει τι ήταν στην πραγματικότητα το εσφαλμένο φορτίο.

Μια πηγή περιέγραψε την αναφορά ως «εντελώς ψευδή». Επίσης, είπε η πηγή, "σχεδόν ξεκίνησε έναν πόλεμο" - καθώς οποιαδήποτε επιχείρηση των ΗΠΑ εναντίον κινεζικού σκάφους θα μπορούσε να κινδυνεύσει να εξελιχθεί σε ένοπλη σύγκρουση μεταξύ των δύο εθνών.

Πώς δημιουργήθηκε η ψευδής αναφορά

Ο αναλυτής είχε ρωτήσει ένα chatbot σχετικά με αναφορές πληροφοριών σχετικά με το μανιφέστο του πλοίου που προήλθε από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, με έδρα τη Χαβάη. Το CNN ανέφερε ότι δεν ήταν σαφές εάν το chatbot ήταν ένα εμπορικά διαθέσιμο προϊόν ή ένα κυβερνητικό εργαλείο των ΗΠΑ.

Το bot συνδύασε πληροφορίες ανοιχτού κώδικα με πληροφορίες μυστικών σημάτων σε κρατικές εκμεταλλεύσεις και κατέληξε στο μοιραίο συμπέρασμα σχετικά με το υλικό στο πλοίο. Στη συνέχεια, ο αναλυτής χρησιμοποίησε την τεχνητή νοημοσύνη για δεύτερη φορά - για να συσκευάσει τα ευρήματα σε μια τυπική αναφορά πληροφοριών, του είδους που εμπιστεύονται οι στρατιωτικοί αξιωματούχοι - και τη διέδωσε σε όλο το σύστημα.

Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν στο αίτημα του CNN για σχολιασμό.

Στρατιωτικός αγώνας για την υιοθέτηση της τεχνητής νοημοσύνης

Το παραλίγο να χαθεί σε μια στιγμή που αξιωματούχοι από τον στρατό και την κοινότητα των πληροφοριών των ΗΠΑ πιέζουν να συνδυάσουν την τεχνητή νοημοσύνη σε σχεδόν κάθε πτυχή της δουλειάς τους - από την ανάλυση τεράστιων όγκων ακατέργαστων πληροφοριών και την επιλογή στόχων για χτυπήματα, έως τις απλές εφαρμογές όπως ο προϋπολογισμός, η επιμελητεία και οι αλυσίδες εφοδιασμού.

Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ κυκλοφόρησε τη «Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης» του υπουργείου, με σκοπό να επιταχύνει την υιοθέτηση της τεχνητής νοημοσύνης από τον στρατό. «Θα απελευθερώσουμε πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι ηγεόμαστε στη στρατιωτική τεχνητή νοημοσύνη», δήλωσε ο Χέγκσεθ σε μια ομιλία που ανακοινώνει τη στρατηγική.

Η στρατηγική απαιτεί ρητά τον εκδημοκρατισμό της πρόσβασης, δίνοντας εντολή στο τμήμα να θέσει "τα κορυφαία παγκοσμίως μοντέλα τεχνητής νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων πολιτικού και στρατιωτικού προσωπικού μας, σε όλα τα επίπεδα ταξινόμησης".

Δεν υπάρχει ενιαίο σύνολο κανόνων

Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, είπαν στο CNN πολλοί Αμερικανοί αξιωματούχοι, με διαφορετικά τμήματα της κυβέρνησης να χρησιμοποιούν διαφορετικά εργαλεία υπό διαφορετικές παραγγελίες και πρότυπα ασφαλείας. Δεν υπάρχει ένα σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από αυτά τα εργαλεία και η αξιοπιστία των διαφόρων συστημάτων ποικίλλει πολύ.

«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα του εμπορικού υλικού που φορούν κραγιόν», δήλωσε στο CNN ένας πρώην ανώτερος αξιωματούχος των ΗΠΑ που γνωρίζει τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούν οι στρατιωτικοί και οι αναλυτές πληροφοριών.

Η στόχευση τεχνητής νοημοσύνης «ανεβαίνει» με μικρή καθοδήγηση

Πηγές ανέφεραν ότι ο στρατός στρέφεται γρήγορα στην τεχνητή νοημοσύνη για να βοηθήσει στη στόχευση - μια περιοχή που ενέχει τον προφανή κίνδυνο θανατηφόρων λαθών. «Η τεχνητή νοημοσύνη στη στόχευση είναι σίγουρα κάτι που αυξάνεται και δεν υπάρχει πραγματική καθοδήγηση για το πώς η ύπαρξη ενός ανθρώπου στο βρόχο θα αποτρέψει απώλειες αμάχων ή αδελφοκτονίες», είπε στο CNN μια άλλη πηγή που γνωρίζει τις τρέχουσες πολιτικές του στρατού.

Οι αναλυτές έχουν προειδοποιήσει εδώ και καιρό ότι η τεχνητή νοημοσύνη θα μπορούσε να συμβάλει σε έναν καταστροφικό λάθος υπολογισμό εάν τα εθνικά κράτη βασίζονται σε φτωχά ή κατεστραμμένα δεδομένα - ακριβώς το είδος του εσφαλμένου υπολογισμού που θα μπορούσε να οδηγήσει τις Ηνωμένες Πολιτείες να πυροβολήσουν ένα κινεζικό πλοίο με βάση ανακριβείς πληροφορίες.

Σύμφωνα με το CNN, το είδος της ψευδαίσθησης πίσω από την ψευδή αναφορά πλοίου δεν ήταν ένα μεμονωμένο περιστατικό σε όλη την κοινότητα πληροφοριών από τότε που αυτά τα εργαλεία άρχισαν να πολλαπλασιάζονται μέσω της κυβέρνησης.

'Το AI σας επιτρέπει να φτάσετε σε μια κακή ιδέα πιο γρήγορα'

Για εβδομάδες, οι υπεύθυνοι χάραξης πολιτικής της Ουάσιγκτον συζητούν έντονα την τεχνητή νοημοσύνη μετά από μια σειρά τρομερών προειδοποιήσεων από τη Silicon Valley σχετικά με την πιθανότητα η τεχνητή νοημοσύνη να απελευθερωθεί από τους ανθρώπινους περιορισμούς. Ωστόσο, το επεισόδιο του κινεζικού πλοίου υπογραμμίζει έναν διαφορετικό και πιο άμεσο κίνδυνο: τα ανθρώπινα όντα λαμβάνουν καταστροφικές αποφάσεις με βάση ανακριβείς ή παραπλανητικές πληροφορίες που δημιουργούνται από συστήματα τεχνητής νοημοσύνης.

Αρκετές πηγές είπαν στο CNN ότι οι νεότεροι αναλυτές ειδικότερα - οι ιθαγενείς αυτών των εργαλείων - είναι πιο πιθανό να τα εμπιστεύονται χωρίς κριτική και ότι η τεχνητή νοημοσύνη έχει εντείνει την πίεση στους αναλυτές να παράγουν και να διαδίδουν πληροφορίες γρηγορότερα, ανοίγοντας την πόρτα για λάθη.

«Η τεχνητή νοημοσύνη σάς επιτρέπει να φτάσετε σε μια κακή ιδέα πιο γρήγορα», είπε μια από τις πηγές.

Το επεισόδιο είναι πιθανό να πυροδοτήσει μια ήδη έντονη συζήτηση σχετικά με το πόσο γρήγορα ο στρατός των ΗΠΑ θα πρέπει να αναδιπλώσει την τεχνητή νοημοσύνη στις πιο ευαίσθητες ροές εργασίας του και ποια βήματα επαλήθευσης θα πρέπει να είναι υποχρεωτικά προτού οι αναφορές με τη βοήθεια AI μπορούν να μετακινήσουν στρατεύματα, αεροσκάφη και ένοπλο προσωπικό σε μια πιθανή επιχείρηση μάχης. Προς το παρόν, οι λεπτομέρειες υποδεικνύουν ότι οι διασφαλίσεις που υπάρχουν είναι ένα συνονθύλευμα - και ότι σε αυτή την περίπτωση, η διαφορά μεταξύ μιας συνηθισμένης αναφοράς πληροφοριών και ενός διεθνούς περιστατικού οφείλεται σε αξιωματούχους που έτυχε να κάνουν διπλό έλεγχο.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Για περισσότερες αναφορές σχετικά με την πολιτική τεχνητής νοημοσύνης, την εθνική ασφάλεια και τα μοντέλα που διαμορφώνουν και τα δύο, διαβάστε περισσότερα νέα AI.