Εκπρόσωποι από το OpenAI και το Meta Platforms είπαν σε ομοσπονδιακό δικαστικό πάνελ την Πέμπτη ότι τα deepfakes που δημιουργούνται από την τεχνητή νοημοσύνη έχουν εξελιχθεί τόσο πολύ που η επαλήθευση της αυθεντικότητας των αποδεικτικών στοιχείων ήχου και βίντεο στο δικαστήριο θα γίνει πιο δύσκολη, ανέφερε το Reuters.
Οι ειδικοί στην τεχνολογία παρουσίασαν τις ανησυχίες τους σε μια συνάντηση στη Βοστώνη της Συμβουλευτικής Επιτροπής Δικαστικής Διάσκεψης των ΗΠΑ για τους Κανόνες Αποδεικτικών Στοιχείων — το όργανο που είναι υπεύθυνο για τη σύσταση αλλαγών στους ομοσπονδιακούς κανόνες που διέπουν τα στοιχεία που μπορούν να αποδεχθούν τα δικαστήρια. Η επιτροπή εργάζεται από το 2023 για τον τρόπο αντιμετώπισης των κινδύνων από κατασκευασμένα αποδεικτικά στοιχεία που δημιουργούνται από AI στις αίθουσες δικαστηρίων. For more context on this story, see our ongoing AI news.
Τα εργαστήρια AI λένε ότι η ανίχνευση δεν έχει επιστημονικό μέλλον
Η Shira Anderson, σύμβουλος πολιτικής στο OpenAI, είπε στην επιτροπή ότι οι εικόνες τεχνητής νοημοσύνης συνεχίζουν να βελτιώνονται σε ποιότητα και είπε ότι δεν πιστεύει ότι θα υπάρξει επιστημονική μέθοδος ανίχνευσης στο μέλλον - μια εντυπωσιακή παραδοχή από μια εταιρεία που κατασκευάζει τα συστήματα παραγωγής που παράγουν αυτό το περιεχόμενο.
Ο Devin Norder, διευθυντής διαχείρισης προϊόντων στη Meta, είπε στο πάνελ ότι τα μέσα που δημιουργούνται από πρόσφατα μοντέλα τεχνητής νοημοσύνης δεν μπορούν να διακρίνονται από τον άνθρωπο από το αυθεντικό περιεχόμενο και ότι η δημιουργία τέτοιων μέσων απαιτεί πλέον ελάχιστο κόστος και χρόνο.
Και οι δύο εταιρείες έχουν αναπτύξει εργαλεία προέλευσης και επαλήθευσης για οπτικό περιεχόμενο και οι νέοι νόμοι στην Καλιφόρνια και την Ευρωπαϊκή Ένωση απαιτούν υδατοσήμανση των μέσων που δημιουργούνται από AI. Όμως ο Άντερσον προειδοποίησε την επιτροπή ότι κάθε εταιρεία χρησιμοποιεί το δικό της σύστημα, που σημαίνει ότι δεν υπάρχει καθολική μέθοδος για την αξιόπιστη ανίχνευση όλων των υδατογραφημάτων ή την επαλήθευση της αυθεντικότητας του οπτικού περιεχομένου σε όλο το οικοσύστημα.
Τα δικαστήρια δεν έχουν νιώσει ακόμα το κύμα
Ο πρόεδρος της επιτροπής, ο περιφερειακός δικαστής των ΗΠΑ Jesse Furman του Μανχάταν, πρόσφερε ένα αντίβαρο στον συναγερμό: ενώ τα ακαδημαϊκά σχόλια προβλέπουν ότι τα δικαστήρια θα ασχοληθούν με τα deepfakes, το θέμα δεν έχει εμφανιστεί ακόμη συχνά σε πραγματικές υποθέσεις.
Μια έρευνα που διεξήχθη από το Ομοσπονδιακό Δικαστικό Κέντρο τον Μάρτιο υπογράμμισε αυτό το κενό. Μόνο 15 από τους 931 δικαστές που απάντησαν αντιμετώπισαν μια υπόθεση όπου ένα μέρος αμφισβήτησε αποδεικτικά στοιχεία με το σκεπτικό ότι ήταν ψεύτικα.
Αυτό το χάσμα μεταξύ πρόβλεψης και πρακτικής είναι το βασικό δίλημμα της επιτροπής. Σύμφωνα με τους ομοσπονδιακούς κανόνες αποδεικτικών στοιχείων 901 και 902, το υπάρχον πρότυπο για την επικύρωση αποδεικτικών στοιχείων είναι —όπως το έθεσε η ίδια η έκθεση της επιτροπής— ήπιο: ένα μέρος χρειάζεται μόνο να προσκομίσει αποδεικτικά στοιχεία επαρκή για να υποστηρίξει μια διαπίστωση ότι το στοιχείο είναι αυτό που ισχυρίζεται ο εισηγητής. Το Deepfakes δοκιμάζει το στρες αυτό το πρότυπο, επειδή οι παραδοσιακές οδοί για τον έλεγχο ταυτότητας εγγραφών (μαρτυρία μαρτύρων, τεκμηρίωση συστήματος) προϋποθέτουν ότι η πλαστογραφία σε κλίμακα είναι δύσκολη, δαπανηρή και ανιχνεύσιμη.
Η έκθεση της ίδιας της επιτροπής έχει πλαισιώσει το πρόβλημα με ασυνήθιστη ωμότητα. Η έκθεσή του Δεκεμβρίου 2025 εξέτασε τι συμβαίνει όταν ένα βίντεο ή ήχος που προσφέρεται σε δοκιμαστική έκδοση είναι ψεύτικο, καταλήγοντας στο συμπέρασμα ότι αποτελεί άμεση αμφισβήτηση των απαιτήσεων γνησιότητας σύμφωνα με τους Κανόνες 901 και 902, ακριβώς επειδή το υπάρχον πρότυπο γνησιότητας είναι ήπιο. Πώς - και εάν - να σκληρύνει αυτό το πρότυπο είναι το ερώτημα που η επιτροπή κυκλοφόρησε εδώ και τρία χρόνια και καθίσταται πιο επείγον εάν, όπως προειδοποίησαν οι εκπρόσωποι του εργαστηρίου, η επιστήμη ανίχνευσης δεν φτάσει ποτέ την επιστήμη της γενιάς.
Τι μπορούν να κάνουν οι ασκούμενοι τώρα
Μέχρι να αλλάξουν οι κανόνες, το πρακτικό βάρος πέφτει στους δικαστές και τους δικαστές. Τα εργαλεία προέλευσης - διαπιστευτήρια κρυπτογραφικού περιεχομένου που ενσωματώνονται κατά τη δημιουργία - εξαπλώνονται μέσω των εφαρμογών κάμερας και του δημιουργικού λογισμικού, αν και βοηθούν μόνο τα μέσα που τα μεταφέρουν. Η διασταύρωση ενόρκως του ατόμου που κατέγραψε μια ηχογράφηση, οι απαιτήσεις ανακάλυψης για πρωτότυπα αρχεία και μεταδεδομένα παραγωγής και ο πιο προσεκτικός έλεγχος των αποσπασμάτων χωρίς πηγή που κυκλοφορούν στις κοινωνικές πλατφόρμες είναι οι τρέχουσες άμυνες. Το μήνυμα της συμβουλευτικής επιτροπής αυτή την εβδομάδα ήταν ουσιαστικά ότι αυτά τα κενά θα χρειαστούν μια επίσημη βάση σε επίπεδο κανόνων, επειδή τα άτυπα υποθέτουν μια ανιχνευσιμότητα που λένε οι OpenAI και Meta δεν υπάρχει πλέον.
Γιατί η μαρτυρία των εργαστηρίων έχει σημασία
Είναι αξιοσημείωτο ότι οι εταιρείες των οποίων τα προϊόντα δημιουργούν τον κίνδυνο είναι αυτές που προειδοποιούν τη δικαιοσύνη σχετικά. Το OpenAI και το Meta έχουν άμεσα εμπορικά και φημισμένα συμφέροντα για τον τρόπο με τον οποίο εφαρμόζονται οι κανόνες: οι αυστηρές απαιτήσεις ελέγχου ταυτότητας θα μπορούσαν να επιβάλουν τριβές στις νόμιμες χρήσεις των μέσων τεχνητής νοημοσύνης, ενώ οι χαλαροί θα μπορούσαν να κάνουν τα εργαλεία τους φορείς απάτης στο δικαστήριο. Το μήνυμά τους προς την επιτροπή ήταν ουσιαστικά ότι τα πρότυπα προέλευσης - υδατογράφηση, διαπιστευτήρια περιεχομένου, τεκμηρίωση αλυσίδας φύλαξης - είναι η εφαρμόσιμη διαδρομή, επειδή η ανίχνευση από μόνη της δεν θα κλιμακωθεί.
Η τριετής αναθεώρηση της επιτροπής αναμένεται να ενημερώσει εάν οι ομοσπονδιακοί κανόνες αποδεικτικών στοιχείων χρειάζονται τροποποίηση για την εποχή της τεχνητής νοημοσύνης. Οποιαδήποτε αλλαγή θα κινηθεί μέσω της διαδικασίας θέσπισης κανόνων της Δικαστικής Διάσκεψης, συμπεριλαμβανομένων των δημοσίων σχολίων, πριν πάει στο Κογκρέσο.
Η ευρύτερη ρυθμιστική εικόνα
Η ακρόαση προσγειώνεται εν μέσω μιας έκρηξης πολιτικής δραστηριότητας που σχετίζεται με deepfake. Η Καλιφόρνια και η ΕΕ έχουν θεσπίσει εντολές υδατογράφησης. Η Δανία έχει θεσπίσει νομοθεσία που απαγορεύει την κοινή χρήση πλαστών τεχνητής νοημοσύνης χωρίς συναίνεση. Τα δικαστήρια των ΗΠΑ έχουν ήδη δει κατασκευές που δημιουργούνται από την τεχνητή νοημοσύνη να εμφανίζονται στα αρχεία και οι δικαστές έχουν επιβάλει κυρώσεις σε δικηγόρους για υποβολή ψεύτικων παραπομπών που δημιουργούνται από chatbots.
Προς το παρόν, το ομοσπονδιακό δικαστικό σώμα επιλέγει προσεκτική μελέτη έναντι των γρήγορων αλλαγών κανόνων. Αλλά η μαρτυρία των εταιρειών που κατασκευάζουν την τεχνολογία υποδηλώνει ότι η ίδια η βιομηχανία δεν αναμένει ότι τα εργαλεία ανίχνευσης θα συμβαδίσουν – κάτι που μετατοπίζει το βάρος προς τα πρότυπα προέλευσης, τις διαδικαστικές διασφαλίσεις όπως τις απαιτήσεις ζωντανής μαρτυρίας και τελικά την κρίση των δικαστών και των ενόρκων για το τι να πιστέψει.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
