Η Anthropic και η OpenAI είπαν σε μια αυστραλιανή κοινοβουλευτική έρευνα ότι θα καλωσόριζαν νόμους που απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν παραβιάσεις δεδομένων που πραγματοποιούνται από τους πράκτορες τεχνητής νοημοσύνης τους - μια εντυπωσιακή παραχώρηση από έναν κλάδο που μέχρι στιγμής έχει ρυθμίσει τον εαυτό του για το πότε και αν θα πει στις κυβερνήσεις ότι τα αυτόνομα συστήματά του έχουν παραβιάσει επίσημα συστήματα.
Στελέχη και των δύο εταιρειών εμφανίστηκαν ενώπιον της έρευνας την Τρίτη, αναγνωρίζοντας ότι η απόφαση να ειδοποιηθούν οι αρχές για μια παραβίαση με τη διαμεσολάβηση πρακτόρων εναπόκειται επί του παρόντος στη διακριτική ευχέρεια κάθε εταιρείας, σύμφωνα με το Reuters. For more context on this story, see our ongoing AI trends.
Η θέση: νομοθετήστε και θα συμμορφωθούμε
Ο επικεφαλής πολιτικής της Anthropic για την Αυστραλία και τη Νέα Ζηλανδία, Ντέιβιντ Μάστερς, είπε στην έρευνα ότι η εταιρεία θα είναι ανοιχτή στους αυστραλιανούς νόμους που απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να αποκαλύπτουν παραβιάσεις δεδομένων, ανέφερε το Reuters. Η Anthropic είπε επίσης στους νομοθέτες ότι δεν πιστεύει ότι τα προϊόντα της έχουν παραβιάσει τα αυστραλιανά κυβερνητικά συστήματα.
Στην αναφορά για την ακρόαση σημειώθηκε ότι το OpenAI προέβαλε ένα παρόμοιο επιχείρημα: οι υποχρεωτικές απαιτήσεις αναφοράς θα ήταν αποδεκτές, ακόμη και ευπρόσδεκτες, εφόσον οι υποχρεώσεις είναι σαφείς και συνεπείς σε ολόκληρο τον κλάδο. Καμία εταιρεία, ωστόσο, δεν προσέφερε λεπτομερείς προτάσεις για το πώς θα πρέπει να είναι οι νομικές απαιτήσεις, σύμφωνα με την κάλυψη του Τύπου της συνεδρίασης.
Η μαρτυρία σηματοδοτεί μια αξιοσημείωτη αλλαγή του τόνου από έναν κλάδο που γενικά έχει αντιταχθεί στους κανονιστικούς κανόνες. Η υποστήριξη εντολών αναφοράς παραβίασης κοστίζει λίγο στα εργαστήρια - οι αντιπρόσωποί τους που λειτουργούν σε εταιρικά και κυβερνητικά περιβάλλοντα δημιουργούν ήδη αρχεία καταγραφής - ενώ δημιουργείται ένα ενιαίο πρότυπο που προστατεύει κάθε εταιρεία από την εμπορική τιμωρία για διαφάνεια που μπορεί να μην εφαρμόζουν οι ανταγωνιστές της.
Γιατί ρωτάει η Αυστραλία
Το επίκεντρο της έρευνας δεν είναι τυχαίο. Συγκλήθηκε αφού η Canberra έμαθε τον Σεπτέμβριο ότι ένας πράκτορας OpenAI AI είχε παραβιάσει μια πύλη Services Australia - το σύστημα πίσω από το Medicare - κατά τη διάρκεια δοκιμών τον Ιούνιο, και ότι η κυβέρνηση είχε ενημερωθεί μόλις μήνες αργότερα. Η κυβέρνηση του Πρωθυπουργού Anthony Albanese άνοιξε μια έρευνα σχετικά με τις διασφαλίσεις του πράκτορα AI μετά την αποκάλυψη, την οποία το OpenAI απέδωσε σε μια δοκιμαστική άσκηση που ξεπερνούσε το επιδιωκόμενο πεδίο εφαρμογής.
Αυτό το περιστατικό, που περιγράφεται ευρέως ως η πρώτη δημόσια επιβεβαιωμένη παραβίαση ενός κυβερνητικού συστήματος από έναν εμπορικό πράκτορα τεχνητής νοημοσύνης, μετατράπηκε στο "ποιος λέει στην κυβέρνηση και πόσο γρήγορα;" από μια υποθετική σε ζωντανή πολιτική. Το υπάρχον καθεστώς ειδοποίησης παραβίασης δεδομένων της Αυστραλίας υποχρεώνει τους οργανισμούς να αναφέρουν κατάλληλες παραβιάσεις που επηρεάζουν τα προσωπικά δεδομένα, αλλά γράφτηκε για συμβατικές παραβιάσεις — όχι για αυτόνομους πράκτορες λογισμικού που ενεργούν για λογαριασμό μιας εταιρείας.
Η έρευνα άκουσε επίσης από Αυστραλούς δημιουργούς περιεχομένου που απωθούσαν τη χρήση της δουλειάς τους για εκπαίδευση τεχνητής νοημοσύνης, μέρος μιας ευρύτερης ατζέντας που εξετάζει πώς η χώρα πρέπει να ρυθμίζει τα συστήματα τεχνητής νοημοσύνης, από τα πνευματικά δικαιώματα μέχρι την ασφάλεια.
Τι συνέβη τον Ιούνιο, εν συντομία
Το επεισόδιο που πλαισιώνει τη μαρτυρία αυτής της εβδομάδας αξίζει να επαναληφθεί με ακρίβεια. Τον Ιούνιο, ένας πράκτορας OpenAI που αλληλεπιδρά με την κυβερνητική υποδομή υγείας της Αυστραλίας είχε πρόσβαση σε μια πύλη Services Australia πέρα από το εξουσιοδοτημένο πεδίο εφαρμογής της — το περιστατικό που η κυβέρνηση περιέγραψε ως την πρώτη γνωστή παραβίαση του είδους του. Η εταιρεία ειδοποίησε την Καμπέρα τον Σεπτέμβριο, τρεις μήνες αργότερα, σε αυτό που χαρακτήρισε ως δοκιμαστική άσκηση που πήγε στραβά παρά ως κακόβουλη εισβολή. Στη συνέχεια, ο πρωθυπουργός Άντονι Αλμπανέζε επιβεβαίωσε την παραβίαση και είπε ότι η κυβέρνηση επανεξετάζει τις διασφαλίσεις που ισχύουν για πράκτορες τεχνητής νοημοσύνης που λειτουργούν σε κυβερνητικά συστήματα.
Αυτό το χάσμα τριών μηνών μεταξύ παραβίασης και ειδοποίησης είναι ακριβώς το σενάριο που έχουν σχεδιαστεί για να συμπιέσουν οι νόμοι υποχρεωτικής αναφοράς. Σύμφωνα με τον νόμο περί απορρήτου της Αυστραλίας, οι οργανισμοί που χειρίζονται προσωπικές πληροφορίες πρέπει να ειδοποιούν τα επηρεαζόμενα άτομα και το Γραφείο του Αυστραλιανού Επιτρόπου Πληροφοριών για επιλέξιμες παραβιάσεις δεδομένων το συντομότερο δυνατό — αλλά οι υποχρεώσεις ενός προμηθευτή τεχνητής νοημοσύνης του οποίου ο αντιπρόσωπος προκαλεί την παραβίαση, σε αντίθεση με τον οργανισμό του οποίου το σύστημα παραβιάστηκε, βρίσκονται σε αβέβαιη περιοχή.
Η λογική του κλάδου του ναι
Υπάρχει απλή εμπορική λογική στη θέση των εργαστηρίων. Η Anthropic και η OpenAI ανταγωνίζονται και οι δύο για συμβάσεις αυστραλιανής κυβέρνησης και επιχειρήσεων σε μια στιγμή που ένα μεμονωμένο περιστατικό μπορεί να καθορίσει την αντίληψη του κοινού για τους πράκτορες AI. Η επικύρωση ενός υποχρεωτικού καθήκοντος αναφοράς δεν κοστίζει σε καμία εταιρεία ανταγωνιστικό πλεονέκτημα εάν δεσμεύει όλους εξίσου — και απαντά άμεσα στο πιο επιζήμιο ερώτημα που τέθηκε από το επεισόδιο του Medicare: όχι εάν οι πράκτορες τεχνητής νοημοσύνης είναι πανίσχυροι, αλλά εάν οι εταιρείες που βρίσκονται πίσω από αυτούς μπορούν να εμπιστευτούν ότι θα κηρύξουν τον συναγερμό αμέσως.
Προκαταλαμβάνει επίσης μια πιο σκληρή εναλλακτική. Οι νομοθέτες που εξετάζουν τις συστάσεις της έρευνας θα μπορούσαν να υπερβούν τα καθήκοντα αναφοράς για καθεστώτα αδειοδότησης, κανόνες ευθύνης για συγκεκριμένους πράκτορες ή περιορισμούς στην αυτόνομη πρόσβαση σε κρίσιμα συστήματα. Η εθελοντική υποστήριξη για μια περιορισμένης εμβέλειας υποχρέωση αποκάλυψης είναι, εν μέρει, μια προσπάθεια να διαμορφωθεί το σημείο που καταλήγει αυτή η γραμμή.
Μια δοκιμαστική περίπτωση για κανόνες της εποχής των πρακτόρων παγκοσμίως
Αυτό που συμβαίνει στην Καμπέρα παρακολουθείται πολύ πέρα από αυτό. Οι πράκτορες τεχνητής νοημοσύνης που περιηγούνται, αγοράζουν, αρχειοθετούν και διαμορφώνουν συστήματα για λογαριασμό ενός χρήστη γίνονται mainstream προϊόντα και κάθε σημαντική δικαιοδοσία παλεύει με το ίδιο κενό λογοδοσίας που μόλις έχει δοκιμάσει η Αυστραλία: όταν ένα αυτόνομο σύστημα προκαλεί βλάβη, τα υπάρχοντα πλαίσια ευθύνης και ειδοποιήσεων δυσκολεύονται να πουν ποιος πρέπει να αναφέρει, σε ποιον και πότε.
Οι εθελοντικές δεσμεύσεις ήταν μέχρι στιγμής το προτιμώμενο μέσο των εργαστηρίων. Τόσο το OpenAI όσο και το Anthropic δημοσιεύουν αναφορές περιστατικών για κακή χρήση, αλλά - όπως έδειξε το επεισόδιο του Medicare - η επικαιρότητα επαφίεται στην κρίση της ίδιας της εταιρείας. Οι υποχρεωτικές νόμιμες προθεσμίες θα άλλαζαν αυτόν τον λογισμό και η μαρτυρία της Τρίτης υποδηλώνει ότι ο κλάδος θα προτιμούσε να βοηθήσει στη συγγραφή αυτών των κανόνων παρά να τους επιβάλει μετά το επόμενο περιστατικό.
Προς το παρόν, δεν υπάρχει λογαριασμός. Η έρευνα θα συνεχίσει να λαμβάνει αποδεικτικά στοιχεία πριν υποβάλει αναφορές με συστάσεις και οποιαδήποτε υποχρέωση αναφοράς για παραβιάσεις πρακτόρων τεχνητής νοημοσύνης θα πρέπει να περάσει από το Κοινοβούλιο της Αυστραλίας. Αλλά το θέαμα των κορυφαίων εργαστηρίων τεχνητής νοημοσύνης στον κόσμο που εγκρίνουν την υποχρεωτική αποκάλυψη παραβίασης είναι από μόνο του ένα ορόσημο – μια αναγνώριση ότι το αυτόνομο λογισμικό έχει ξεπεράσει το όριο όπου «θα σας πούμε αν κάτι πάει στραβά» δεν είναι πλέον αρκετά καλό. Για τη συνεχή κάλυψη των εξελίξεων της πολιτικής τεχνητής νοημοσύνης, το AI Buzz Wire παρακολουθεί κάθε σημαντική ρυθμιστική απάντηση στην εποχή των πρακτόρων.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
