Μια ανασκόπηση του Υπουργείου Άμυνας των ΗΠΑ κατέληξε στο συμπέρασμα ότι η υπερβολική εξάρτηση από την τεχνητή νοημοσύνη συνέβαλε στην επίθεση με πυραύλους τον Μάρτιο σε σχολείο στο Ιράν που φέρεται να σκότωσε περίπου 120 παιδιά, σύμφωνα με τα ευρήματα της επιθεώρησης όπως αναφέρθηκαν από το Bloomberg τη Δευτέρα και συνοψίστηκαν από το Yahoo News και άλλα μέσα.
Το εύρημα είναι η πρώτη φορά που το Πεντάγωνο αποδίδει επίσημα ένα θανατηφόρο αποτέλεσμα μάχης εν μέρει στην εξάρτηση από ένα σύστημα τεχνητής νοημοσύνης και βρίσκεται στη μέση μιας εντεινόμενης συζήτησης σχετικά με το πόση εξουσία στόχευσης πρέπει να εκχωρήσει ο αμερικανικός στρατός στη μηχανική κρίση. Για περισσότερες αναφορές όπως αυτή, ανατρέξτε στην [ κάλυψη ηθικής τεχνητής νοημοσύνης] (https://aibuzzwire.news).
Τι συνέβη τον Μάρτιο
Το χτύπημα σημειώθηκε στις αρχές Μαρτίου 2026, όταν ανάλυση βίντεο που δημοσιεύτηκε από την Bellingcat και επαληθεύτηκε από το NPR και το BBC έδειξε έναν αμερικανικό πύραυλο κρουζ Tomahawk να χτυπά δίπλα σε ένα σχολείο θηλέων στην ιρανική πόλη Lamerd. Μέσα σε λίγες μέρες, οι New York Times ανέφεραν ότι μια προκαταρκτική αμερικανική έρευνα διαπίστωσε ότι το χτύπημα ήταν αποτέλεσμα αμερικανικού πυραύλου και ιρανικές πηγές ανέφεραν τον απολογισμό των νεκρών σε δεκάδες, οι περισσότεροι από τους οποίους ήταν παιδιά.
Η νέα ανασκόπηση του Πενταγώνου, που περιγράφεται σε έρευνα του Bloomberg που δημοσιεύθηκε τη Δευτέρα, προχωρά περαιτέρω: φέρεται να εντοπίζει την αποτυχία στον αγωγό στόχευσης και καταλήγει στο συμπέρασμα ότι η υπερβολική εξάρτηση από την τεχνητή νοημοσύνη συνέβαλε στο χτύπημα. Το Yahoo News συνόψισε την ανασκόπηση ότι συνδέει ένα σύστημα στόχευσης τεχνητής νοημοσύνης με το χτύπημα που σκότωσε 120 παιδιά από το Ιράν. Πολλά καταστήματα έχουν αναγνωρίσει το εν λόγω σύστημα ως λογισμικό που παρέχεται από την Palantir, αν και το Πεντάγωνο δεν έχει επιβεβαιώσει δημόσια τα στοιχεία του προμηθευτή.
Μέσα στην αλυσίδα Kill
Οι Los Angeles Times, σε μια παράλληλη έρευνα που δημοσιεύθηκε τη Δευτέρα, εντόπισαν αυτό που αποκάλεσε την «αλυσίδα φονικών» των ΗΠΑ που κατέστρεψε το σχολείο - τη σειρά συλλογής δεδομένων, τον διορισμό στόχων με τη βοήθεια μηχανής και την ανθρώπινη σήμανση που κατέληξε σε εκτόξευση πυραύλου. Η αναφορά υπογραμμίζει μια δυσάρεστη πραγματικότητα του σύγχρονου πολέμου ακριβείας: το πλήρωμα που εκτοξεύει ένα Tomahawk μπορεί να μην δει ποτέ τον στόχο. Εκτελούν ένα πακέτο δεδομένων στόχου που συναρμολογείται ανάντη, όπου τα αλγοριθμικά εργαλεία διαμορφώνουν όλο και περισσότερο αυτό που ορίζεται και πόσο σίγουροι είναι οι υποστηρικτικοί αναλυτές.
Με άλλα λόγια, το κεντρικό εύρημα της ανασκόπησης - η υπερβολική εξάρτηση - δεν αφορά ένα ρομπότ που πατά τη σκανδάλη. Πρόκειται για το ότι οι άνθρωποι εμπιστεύονται την απόδοση μιας μηχανής αρκετά ώστε να παρακάμψουν τον σκεπτικισμό που είχε σχεδιαστεί να απαιτεί η διαδικασία.
Επίβλεψη που διαλύθηκε
Το πλαίσιο για την αποτυχία αναφέρθηκε πριν από μήνες. Το Politico αποκάλυψε τον Μάρτιο ότι ο αρχηγός του Πενταγώνου είχε περικόψει γραφεία που δεν συνέβαλαν στους «θανατοποιητικούς» στόχους του, συμπεριλαμβανομένου του Κέντρου Αριστείας Πολιτικής Προστασίας, και ότι το προσωπικό των ομάδων μετριασμού ζημιών πολιτών μειώθηκε περίπου κατά 90%, συρρικνώνοντας συνολικά σε λιγότερα από 20 άτομα. Η ProPublica ανέφερε ότι η ομάδα απωλειών πολιτών της Κεντρικής Διοίκησης μειώθηκε από δέκα άτομα σε ένα.
Σε αυτό το πλαίσιο, τα ευρήματα της ανασκόπησης έμοιαζαν λιγότερο με σφάλμα λογισμικού και περισσότερο σαν αποτυχία συστήματος: ένα εργαλείο τεχνητής νοημοσύνης του οποίου τα σφάλματα δεν αμφισβητήθηκαν μέσα σε μια συσκευή στόχευσης της οποίας τα ανθρώπινα δίχτυα ασφαλείας είχαν κοπεί μέχρι το κόκκαλο.
Ένα μοτίβο για το οποίο το Πεντάγωνο γνώριζε ήδη
Το χτύπημα του Ιράν δεν ήταν μια μεμονωμένη παραλίγο ατυχία που σχετίζεται με την τεχνητή νοημοσύνη στον αμερικανικό στρατό. Ξεχωριστές αναφορές των Gizmodo και Futurism τεκμηρίωσαν ένα περιστατικό στο οποίο ο στρατός παραλίγο να επιβιβαστεί - και ενδεχομένως να πυροβολήσει - σε ένα κινεζικό σκάφος αφού ένα σύστημα AI παρουσίασε παραισθήσεις πυρηνικών όπλων σε αυτό, ένα λάθος που θα μπορούσε να προκαλέσει μια κλιμάκωση μεγάλης δύναμης. Σε εκείνη την περίπτωση, η ανθρώπινη παρέμβαση απέτρεψε την καταστροφή. Στο Ιράν δεν έγινε καμία τέτοια παρέμβαση.
Οι ερευνητές της τεχνητής νοημοσύνης και οι μελετητές στρατιωτικής ηθικής προειδοποιούν εδώ και χρόνια ότι τα αποτελέσματα των μηχανών που εισάγονται σε αποφάσεις υψηλού στοιχήματος δημιουργούν μεροληψία αυτοματισμού - την τεκμηριωμένη ανθρώπινη τάση να εμπιστεύεται υπερβολικά τα συστήματα εμπιστοσύνης. Η αναθεώρηση του ίδιου του Πενταγώνου αποτελεί πλέον επίσημη παραδοχή ότι αυτή η μεροληψία συνέβαλε σε έναν από τους πιο θανατηφόρους αριθμούς αμάχων του πολέμου.
Τι ακολουθεί
Η αναθεώρηση είναι πιθανό να εντείνει την πίεση στην Ουάσιγκτον για τις θεσμοθετημένες απαιτήσεις ανθρώπινης χρήσης στη στόχευση με δυνατότητα τεχνητής νοημοσύνης, την ίδια στιγμή που η κυβέρνηση πιέζει να επιταχύνει την υιοθέτηση της στρατιωτικής τεχνητής νοημοσύνης. Περιπλέκει επίσης το πεδίο των πωλήσεων των προμηθευτών αμυντικής τεχνολογίας των οποίων τα προϊόντα εμπλέκονται τώρα σε μια επίσημη αναθεώρηση σφαλμάτων - και δίνει στο Κογκρέσο μια συγκεκριμένη, τεκμηριωμένη μελέτη περίπτωσης που θα αναφέρεται σε ακροάσεις για την πολιτική για αυτόνομα όπλα.
Πολλά ερωτήματα παραμένουν αναπάντητα. Οι περιλήψεις της ανασκόπησης που έχουν δημοσιευτεί μέχρι στιγμής δεν διευκρινίζουν ποια έκδοση μοντέλου χρησιμοποιήθηκε, εάν η αποτυχία ήταν ψευδαίσθηση, εσφαλμένη ταξινόμηση του κτιρίου ή κατεστραμμένα δεδομένα εισόδου - διακρίσεις που έχουν τεράστια σημασία για το πώς ο στρατός πρέπει να ρυθμίζει τα εργαλεία τεχνητής νοημοσύνης. Ούτε είναι σαφές εάν τα αποτελέσματα του συστήματος εξετάστηκαν από οποιονδήποτε αναλυτή πριν οριστικοποιηθεί το πακέτο-στόχος.
Η κοινή γνώμη είναι ήδη επιφυλακτική: δημοσκόπηση των Reuters/Ipsos που δημοσιεύθηκε αυτή την εβδομάδα έδειξε ότι το 73% των Αμερικανών λέει ότι οι εταιρείες τεχνητής νοημοσύνης δεν κάνουν αρκετά για να αποτρέψουν καταστροφικά αποτελέσματα και η ανησυχία για την τεχνητή νοημοσύνη στα οπλικά συστήματα είναι σταθερά μεγαλύτερη από την ανησυχία για την τεχνητή νοημοσύνη των καταναλωτών. Αυτό που θα συμβεί με τις συστάσεις της ανασκόπησης — και εάν κάποιος λογοδοτήσει — θα σηματοδοτήσει εάν το εύρημα αλλάζει την πρακτική ή γίνεται άλλη μια αναφορά περιστατικού που κατατίθεται και ξεχαστεί.
---
Λάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
