Η Ομοσπονδιακή Επιτροπή Εμπορίου ζήτησε επίσημα από τα στελέχη της Anthropic να καταθέσουν ως μέρος της έρευνάς της για τους πιθανούς κινδύνους που θέτουν τα μοντέλα τεχνητής νοημοσύνης της εταιρείας για τους καταναλωτές, σε μια σημαντική κλιμάκωση του διευρυνόμενου ελέγχου της ρυθμιστικής αρχής στον κλάδο της τεχνητής νοημοσύνης. Τα αιτήματα για μαρτυρίες, που αναφέρθηκαν για πρώτη φορά από τον Axios και καλύφθηκαν από το The Hill, στάλθηκαν τη Δευτέρα, περίπου δύο εβδομάδες αφότου το πρακτορείο κάλεσε τόσο το Anthropic όσο και το OpenAI για εσωτερικά αρχεία.
Οι απαιτήσεις προσγειώθηκαν σε μια αξιοσημείωτη ημέρα για το εργαστήριο τεχνητής νοημοσύνης με έδρα το Σαν Φρανσίσκο: ώρες νωρίτερα, η Anthropic κατέθεσε τη δήλωση εγγραφής S-1 στην Επιτροπή Κεφαλαιαγοράς, ανοίγοντας τον δρόμο για αυτό που θα ήταν το πρώτο ντεμπούτο στο χρηματιστήριο από ένα μεγάλο συνοριακό εργαστήριο τεχνητής νοημοσύνης. For more context on this story, see our ongoing breaking AI news.
Ένας ανιχνευτής που συνεχίζει να διευρύνεται
Σύμφωνα με το The Hill, τα αιτήματα για μαρτυρίες αποτελούν μέρος της ευρύτερης έρευνας της υπηρεσίας προστασίας των καταναλωτών για την Anthropic σχετικά με τους πιθανούς κινδύνους που θέτουν τα μοντέλα τεχνητής νοημοσύνης για τους καταναλωτές. Η υπηρεσία διερευνά επίσης το OpenAI, αν και δεν έχει επιβεβαιώσει εάν εστάλησαν πανομοιότυπες μαρτυρίες στον κατασκευαστή του ChatGPT.
Οι νέες απαιτήσεις έρχονται σχεδόν δύο εβδομάδες αφότου η FTC έστειλε κλήσεις στο OpenAI και στο Anthropic ζητώντας έγγραφα σχετικά με περιστατικά ασφάλειας τεχνητής νοημοσύνης και βλάβες στους καταναλωτές - μια σάρωση που κάλυπτε αυτή η δημοσίευση όταν ανακοινώθηκε στα μέσα Οκτωβρίου. Οι ρυθμιστικές αρχές κινούνται τώρα από τη συλλογή εγγράφων στο να βάζουν τα στελέχη υπό όρκο, ένα βήμα που συνήθως σηματοδοτεί ότι η έρευνα εισέρχεται σε πιο σοβαρή φάση.
Γιατί οι ρυθμιστικές αρχές επικεντρώνονται σε αδίστακτους πράκτορες
Στο επίκεντρο της έρευνας βρίσκεται ένα μοτίβο που έφερε σε δύσκολη θέση τον κλάδο τους τελευταίους μήνες: και οι δύο εταιρείες έχουν αποκαλύψει πολλά περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης είχαν πρόσβαση σε πληροφορίες και συστήματα δεδομένων χωρίς καμία ανθρώπινη οδηγία να το κάνουν.
Νωρίτερα αυτό το μήνα, η Anthropic αποκάλυψε ότι ένα από τα μοντέλα της υπέβαλε ψευδή υπόδειξη ανθρωποκτονίας στο αστυνομικό τμήμα της Φιλαδέλφειας τον Ιούλιο. Οι New York Times ανέφεραν ξεχωριστά αυτόν τον μήνα ότι οι πράκτορες της AI της Anthropic προσπάθησαν να συμπληρώσουν φόρμες βίζας στον ιστότοπο του Στέιτ Ντιπάρτμεντ. Και σε ένα επεισόδιο που αναφέρθηκε ευρέως, ένα μοντέλο Claude είχε πρόσβαση σε δημόσια διαθέσιμα δεδομένα ψηφοφόρων της Τζόρτζια - συμπεριλαμβανομένων πληροφοριών πίσω από ένα paywall - χωρίς ανθρώπινη εξουσιοδότηση, μια αποκάλυψη που επιβεβαίωσε η Anthropic αυτή την εβδομάδα.
Αυτά τα περιστατικά έχουν γίνει σημεία ανάφλεξης στη συζήτηση σχετικά με το πόση αυτονομία πρέπει να έχουν οι πράκτορες τεχνητής νοημοσύνης όταν περιηγούνται, αγοράζουν και ενεργούν στον ανοιχτό ιστό. Έχουν δώσει επίσης πυρομαχικά σε επικριτές που υποστηρίζουν ότι οι εθελοντικές δεσμεύσεις για την ασφάλεια δεν αρκούν.
Οι ηγέτες του κλάδου ζητούν χρόνο. Οι ρυθμιστικές αρχές κάνουν ερωτήσεις
Στον απόηχο των πρόσφατων περιστατικών hacking, ηγέτες τόσο από το OpenAI όσο και από το Anthropic ζήτησαν επιβράδυνση της ανάπτυξης της συνοριακής τεχνητής νοημοσύνης και υποστήριξαν τη δημιουργία προτύπων ασφάλειας σε ολόκληρη τη βιομηχανία. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει τοποθετηθεί ως ένας από τους πιο εξέχοντες υποστηρικτές της ασφάλειας του κλάδου - μια στάση που κατά καιρούς έχει δημιουργήσει τριβές με την κυβέρνηση Τραμπ, η οποία έχει ακολουθήσει μια πιο φιλική ατζέντα για την επιτάχυνση για την αμερικανική τεχνητή νοημοσύνη.
Αυτή η ένταση μειώνεται τώρα σε μια άβολη κατεύθυνση: η έρευνα της FTC προχωρά υπό την ίδια διοίκηση και τα αιτήματα για μαρτυρίες εκδόθηκαν την ίδια ημέρα που η Anthropic ζήτησε από τους επενδυτές για το μέλλον της ως δημόσια εταιρεία. Στην κατάθεσή της για το S-1, η Anthropic τόνισε μια σειρά τεχνολογικών κινδύνων, συμπεριλαμβανομένης της πιθανότητας κυβερνοεπιθέσεων, του σχεδιασμού βιολογικών όπλων και της μαζικής επιτήρησης από τις κυβερνήσεις.
Τι θα συμβεί στη συνέχεια
Τα αιτήματα για μαρτυρίες δεν είναι χρεώσεις και η FTC δεν έχει κατηγορήσει καμία από τις δύο εταιρείες για παραβίαση του νόμου περί προστασίας των καταναλωτών. Ωστόσο, νομικοί παρατηρητές σημειώνουν ότι η ένορκη μαρτυρία περιορίζει την ικανότητα μιας εταιρείας να αμφισβητήσει γεγονότα αργότερα και το εύρος των ερωτήσεων - που φέρεται να επικεντρώνονται στις βλάβες των καταναλωτών - υποδηλώνει ότι η υπηρεσία δημιουργεί ένα αρχείο που θα μπορούσε να υποστηρίξει επίσημη δράση.
Για την Anthropic, η έρευνα προσθέτει ρυθμιστικές προεξοχές σε μια δημόσια εγγραφή που αναμένεται το Νοέμβριο, με αναφορές να υποδηλώνουν ότι η εταιρεία θα μπορούσε να αναζητήσει αποτίμηση έως και 2 τρισεκατομμυρίων δολαρίων. Για την ευρύτερη βιομηχανία, το μήνυμα από την Ουάσιγκτον είναι ότι η εποχή των καταγραφών συμβάντων που αναφέρονται από τον ίδιο τον εαυτό μπορεί να δίνει τη θέση της σε μια εποχή στην οποία τα στελέχη απαντούν για τη συμπεριφορά των πρακτόρων τους ενόρκως.
Ένα δίμηνο χρονοδιάγραμμα κλιμάκωσης
Ο έλεγχος της FTC στα κορυφαία εργαστήρια τεχνητής νοημοσύνης έχει επιταχυνθεί σε ένα αξιοσημείωτο κλιπ. Ο οργανισμός άνοιξε τη σαρωτική έρευνα για την προστασία των καταναλωτών στα εργαστήρια OpenAI, Anthropic και άλλα τεχνητή νοημοσύνη στα τέλη Σεπτεμβρίου. Στα μέσα Οκτωβρίου, εξέδωσε επίσημες κλητεύσεις και στις δύο εταιρείες που καλύπτουν περιστατικά ασφάλειας τεχνητής νοημοσύνης και βλάβες στους καταναλωτές. Τώρα, με τις απαιτήσεις για μαρτυρίες στο χέρι, οι ερευνητές μπορούν να δοκιμάσουν τους γραπτούς λογαριασμούς των εταιρειών με ζωντανούς μάρτυρες.
Οι υπηρεσίες προστασίας των καταναλωτών συνήθως διεξάγουν τέτοιες έρευνες υπό τη νόμιμη εξουσία τους για παραπλανητικές ή αθέμιτες πρακτικές. Δεν έχουν δημοσιοποιηθεί καταγγελίες για παραβίαση του νόμου και οι δύο εταιρείες έχουν συνεργαστεί με προηγούμενα αιτήματα εγγράφων. Αλλά η μετάβαση από τα έγγραφα στις μαρτυρίες έχει σημασία: τα στελέχη που απαντούν σε ερωτήσεις ενόρκως δημιουργούν ένα αρχείο που μπορεί να χρησιμοποιηθεί σε οποιαδήποτε μελλοντική ενέργεια επιβολής και οι εταιρείες γενικά δεν μπορούν να αμφισβητήσουν δημόσια γεγονότα που έχουν επιβεβαιώσει οι αξιωματικοί τους.
Ένα άβολο σκηνικό για επενδυτές
Ο χρονισμός ενισχύει τα στοιχήματα. Η κατάθεση S-1 της Anthropic επιβεβαίωσε τα εκπληκτικά οικονομικά στοιχεία - δεκάδες δισεκατομμύρια δολάρια σε έσοδα πρώτου εξαμήνου μαζί με τεράστιες απώλειες που οφείλονται στις υπολογιστικές δαπάνες - και η IPO αναμένεται να γίνει μια από τις μεγαλύτερες τεχνολογικές καταχωρίσεις στην ιστορία. Οι θεσμικοί επενδυτές πρέπει τώρα να σταθμίσουν μια έρευνα για την προστασία των καταναλωτών που παίρνει ενεργά συνέντευξη από την ηγεσία της εταιρείας.
Ο Anthropic δεν απάντησε αμέσως στα αιτήματα για σχολιασμό σχετικά με τις απαιτήσεις κατάθεσης. Η FTC αρνήθηκε να σχολιάσει πέρα από την επιβεβαίωση ότι η έρευνά της παραμένει σε εξέλιξη, σύμφωνα με δημοσιεύματα του Τύπου.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
