Οι προειδοποιήσεις για την ασφάλεια από τους ερευνητές της Anthropic που κυριάρχησαν στο διάλογο της τεχνητής νοημοσύνης αυτή την εβδομάδα έχουν δημιουργήσει κάτι συγκεκριμένο στην Ουάσιγκτον: μια νομοθετική ώθηση. Το Reuters ανέφερε την Πέμπτη ότι οι αμερικανοί νομοθέτες ζητούν νέους κανόνες τεχνητής νοημοσύνης ως απάντηση στις δηλώσεις των ερευνητών, ενώ η εκπρόσωπος της Μασαχουσέτης Λόρι Τράχαν χρησιμοποίησε μια συνέντευξη το πρωί της Πέμπτης για να περιγράψει λεπτομερώς το Frontier Act της, ένα νομοσχέδιο που θα επιβάλλει δεσμευτικές υποχρεώσεις στους συνοριακούς προγραμματιστές τεχνητής νοημοσύνης για πρώτη φορά.
Μιλώντας στην Πρωινή Έκδοση του WBUR, η Trahan είπε ότι η αντίδραση στο Καπιτώλιο στα γεγονότα αυτής της εβδομάδας δεν μοιάζει με τίποτα που έχει δει από τότε που άρχισε να εργάζεται για τη ρύθμιση της τεχνητής νοημοσύνης νωρίτερα φέτος. Για καθημερινή κάλυψη των κινήσεων της πολιτικής τεχνητής νοημοσύνης στην Ουάσιγκτον, τις Βρυξέλλες και πέρα από αυτήν, ακολουθήστε το AI Buzz Wire, την πηγή σας για έκτακτες ειδήσεις και ενημερώσεις κανονισμών AI.
Τι θα έκανε το Frontier Act
Ο Τράχαν, ο οποίος συνέγραψε το δικομματικό νομοσχέδιο, το περιέγραψε ως ένα σύνολο «κανόνων του δρόμου» για τις λίγες εταιρείες των οποίων τα μοντέλα θα μπορούσαν να προκαλέσουν καταστροφική βλάβη. Ο νόμος Frontier θα επιβάλλει τέσσερα πράγματα, σύμφωνα με τη βουλευτή: απαιτήσεις διαφάνειας για προγραμματιστές συνοριακής τεχνητής νοημοσύνης, αναφορά περιστατικών, ανεξάρτητη επαλήθευση των ισχυρισμών ασφάλειας μοντέλων και αυτό που αποκάλεσε κυβερνητικό κουμπί παύσης εάν ένα μοντέλο ενέχει άμεσο κίνδυνο καταστροφής.
«Σε βασικό επίπεδο, πρέπει να βάλουμε προστατευτικά κιγκλιδώματα στα συνοριακά εργαστήρια», είπε ο Τράχαν, χαρακτηρίζοντας αυτές τις διατάξεις ως «επιτραπέζια στοιχήματα» ενώ το Κογκρέσο επεξεργάζεται πολιτική για πολλούς άλλους τομείς που θα αγγίξει η τεχνητή νοημοσύνη.
«The Honor System»: Η περίπτωση του Trahan για δεσμευτικούς κανόνες
Ο πυρήνας του επιχειρήματος του Trahan είναι ότι τίποτα δεν δεσμεύει επί του παρόντος τους προγραμματιστές των πιο ισχυρών συστημάτων AI. «Σήμερα, το μόνο πράγμα που έχουμε σε εφαρμογή είναι το σύστημα τιμής», είπε. «Η πιο ισχυρή τεχνολογία στην ανθρώπινη ιστορία ελέγχεται από τους προγραμματιστές της».
Αναγνώρισε τον σκεπτικισμό μεταξύ των συναδέλφων, λέγοντας ότι ορισμένοι θεωρούν τις προειδοποιήσεις της εβδομάδας ως τρομοκρατικές ή υπερβολικά ακραίες. Αλλά περιέγραψε μια γρήγορη αλλαγή στη διάθεση της αίθουσας: "Το τηλέφωνό μου δεν σταμάτησε να χτυπά από τότε που σφύριξε ο Jacob Coxon. Νομίζω ότι οι συνάδελφοί μου φοβούνται. Ακούνε από τους ψηφοφόρους τους που θέλουν να ενεργήσουμε... Αυτή η εβδομάδα μόλις έφτασε σε ένα οριακό σημείο."
Συγκεκριμένα, είπε ότι η πίεση δεν περιορίζεται σε ένα κόμμα. "Δεν είναι μόνο οι Δημοκρατικοί", είπε ο Τράχαν, σημειώνοντας ότι "οι Ρεπουμπλικάνοι της MAGA κάλεσαν χθες για δικομματική δράση. Το έδαφος έχει πραγματικά μετατοπιστεί".
Οι προειδοποιήσεις που το ξεκίνησαν
Η νομοθετική ζύμωση εντοπίζεται απευθείας σε δηλώσεις δύο ερευνητών της Anthropic. Ο Τζέικομπ Κόξον παραιτήθηκε από την εταιρεία την Τρίτη, γράφοντας στα μέσα κοινωνικής δικτύωσης ότι η Anthropic «αγωνίζεται κατευθείαν στην αυτοβελτιωμένη υπερευφυΐα και παίζει τζόγο με τις ζωές μας». Ο συνάδελφος ερευνητής Anthropic Evan Hubinger τον υποστήριξε δημόσια, γράφοντας: "Ο Jacob έχει δίκιο εδώ... Πραγματικά πιστεύουμε ειλικρινά η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι είναι >10% μέσα στην επόμενη δεκαετία."
Η ιστορία έκανε μεταστάσεις όλη την εβδομάδα. Το The Hill ανέφερε ότι οι νομοθέτες κρούουν τον κώδωνα του κινδύνου για τους κινδύνους της τεχνητής νοημοσύνης μετά τις προειδοποιήσεις, το BBC και το CBS κάλυψαν την εκτίμηση πιθανοτήτων του Hubinger και το NBC News ανέφερε την Πέμπτη ότι δύο ερευνητές τεχνητής νοημοσύνης εγκατέλειψαν την Anthropic και την Google λόγω ανησυχιών για την ασφάλεια, αναφέροντας έναν που είπε "δεν υπάρχουν ενήλικες στο δωμάτιο". Το Reuters ανέφερε την Πέμπτη ότι οι νομοθέτες ζητούν τώρα νέους κανόνες και έχουν επίσης κυκλοφορήσει αναφορές ότι το OpenAI έχει αναζητήσει κανόνες στις ΗΠΑ που διέπουν ισχυρά μοντέλα τεχνητής νοημοσύνης.
Από τις προειδοποιήσεις σε ένα αρχείο λογαριασμού
Αυτό που κάνει αυτή την εβδομάδα διαφορετική από τις προηγούμενες διαμάχες για την ασφάλεια είναι η ταχύτητα της πολιτικής ανταπόκρισης. Οι αποκαλύψεις του ίδιου του Anthropic αυτή την εβδομάδα - μια έκθεση πληροφοριών απειλών που περιγράφει λεπτομερείς εκστρατείες κατάχρησης που έχουν διακοπεί, συμπεριλαμβανομένων πιθανών προσπαθειών χρήσης του Claude για την ανάπτυξη βιολογικών όπλων - έδωσαν στις προειδοποιήσεις μια αποδεικτική ραχοκοκαλιά ότι η προηγούμενη συζήτηση έλειπε και οι νομοθέτες φαίνεται να κινούνται όσο περνάει η ώρα.
Ο δρόμος μπροστά για τη νομοθεσία AI
Οι προοπτικές για το Frontier Act παραμένουν αβέβαιες. Το Κογκρέσο αγωνίζεται επί χρόνια να εγκρίνει ολοκληρωμένη νομοθεσία για την τεχνητή νοημοσύνη και κάθε νομοσχέδιο που αφορά την υποχρεωτική επαλήθευση ή μια ομοσπονδιακή αρχή παύσης θα αντιμετώπιζε έντονο λόμπι από τα εργαστήρια που θα ρύθμιζε, παράλληλα με μάχες δικαιοδοσίας μεταξύ επιτροπών. Στο περιθώριο, οι πολιτείες δεν περιμένουν: ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ υπέγραψε μια σειρά από νομοσχέδια για την ασφάλεια της τεχνητής νοημοσύνης σε νόμο αυτή την εβδομάδα, σύμφωνα με τους Los Angeles Times, διατηρώντας την πίεση για ένα ομοσπονδιακό πλαίσιο που προλαμβάνει ένα συνονθύλευμα πολιτειακών κανόνων.
Προς το παρόν, η δυναμική έχει αντιστραφεί. Για πρώτη φορά σε αυτό το Κογκρέσο, οι άνθρωποι που κατασκευάζουν μοντέλα συνόρων απαιτούν δημόσια περιορισμούς στη δική τους βιομηχανία — και οι νομοθέτες τους συντάσσουν.
Το αν αυτή η ευθυγράμμιση παράγει νόμο ή απλώς πρωτοσέλιδα θα εξαρτηθεί από τους επόμενους μήνες. Αλλά η εβδομάδα έδειξε κάτι που ούτε τα εργαστήρια ούτε οι επικριτές τους μπορούν να αγνοήσουν: Η ασφάλεια της τεχνητής νοημοσύνης έχει μετακινηθεί από την αίθουσα σεμιναρίων στην καταμέτρηση των μαστιγίων και τα μέλη που μετρούν τις ψήφους λένε ότι οι ψηφοφόροι τους είναι τελικά αυτοί που τους ζητούν να δράσουν.
Το AI Buzz Wire θα συνεχίσει να παρακολουθεί το Frontier Act καθώς κινείται στο Κογκρέσο.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
