Το OpenAI επιβεβαίωσε ότι η ίδια, η Anthropic και η Google DeepMind έχουν συνομιλίες για τον συντονισμό της ασφάλειας της τεχνητής νοημοσύνης εδώ και αρκετές εβδομάδες και λέει ότι υποστηρίζει νομοθεσία που θα αναγκάσει τα συνοριακά εργαστήρια να ανοίξουν τις πόρτες τους σε ανεξάρτητους οργανισμούς επαλήθευσης.

Ο Chris Lehane, επικεφαλής διεθνών υποθέσεων του OpenAI, έκανε την αποκάλυψη σε συνάντηση την Τρίτη, σύμφωνα με το TechCrunch. Το Reuters και το Bloomberg, επικαλούμενοι τις ίδιες παρατηρήσεις, ανέφεραν ότι το OpenAI συνεργάζεται με την Anthropic και την Google για την ασφάλεια της τεχνητής νοημοσύνης. Η επιβεβαίωση μετατρέπει εβδομάδες υποδείξεων - συμπεριλαμβανομένης μιας συνέντευξης στο Fortune στην οποία ο Sam Altman αναγνώρισε ιδιωτικές συζητήσεις με άλλους ηγέτες της τεχνητής νοημοσύνης - σε μια ρητή παραδοχή ότι τα τρία κορυφαία συνοριακά εργαστήρια στον κόσμο συντονίζουν το πόσο γρήγορα κινούνται και πώς ελέγχονται τα μοντέλα τους.

Για τους αναγνώστες που παρακολουθούν την ευρύτερη πολιτική μάχη γύρω από μια επιβράδυνση της τεχνητής νοημοσύνης, η κάλυψη των [ενημέρωσης τεχνητής νοημοσύνης] (https://aibuzzwire.news) αυτή την εβδομάδα κυμάνθηκε από τον συνιδρυτή της Anthropic, Τζακ Κλαρκ, που ενέκρινε την υποχρεωτική αλλαγή θανάτωσης στον Πρόεδρο Τραμπ, ο οποίος αποκάλεσε τους φόβους για την ασφάλεια φάρσα κατά τη διάρκεια μιας επί σκηνής συνομιλίας με τον Jensenang της Nvidia.

Εβδομάδες επιβεβαίωσης σε εξέλιξη

Οι συνομιλίες ακολουθούν ένα δοκίμιο που δημοσιεύτηκε το Σάββατο από τον CEO της Anthropic, Dario Amodei, καλώντας τη βιομηχανία να εργαστεί από κοινού για να επιβραδύνει τον ρυθμό ανάπτυξης της συνοριακής τεχνητής νοημοσύνης προκειμένου να αποφευχθούν οι καταστροφικοί κίνδυνοι. Η επιστολή έλαβε υποστήριξη από όλο τον κλάδο, με τον Altman, τον Demis Hassabis της Google και τον Elon Musk να υποστηρίζουν το κάλεσμα για δράση και τον Altman να λέει ότι το OpenAI θα συμμετάσχει στην προσπάθεια.

Στη συνέχεια, οι Πληροφορίες ανέφεραν ότι οι τρεις εταιρείες εργάζονται για τη δημιουργία ενός φορέα προτύπων για τη βιομηχανία τεχνητής νοημοσύνης. Ο Hassabis έχει ιστορικό στην ιδέα: τον Ιούλιο κάλεσε τις Ηνωμένες Πολιτείες να ιδρύσουν έναν νέο οργανισμό προτύπων που θα λειτουργεί ως φύλακας της τεχνητής νοημοσύνης, με τη δύναμη να εξετάζει τα πιο προηγμένα μοντέλα του κόσμου και να συντονίζει τις επιβραδύνσεις σε ολόκληρη τη βιομηχανία εάν προχωρούν κίνδυνοι.

Αυτό που προσθέτουν οι παρατηρήσεις του Lehane είναι επίσημη επιβεβαίωση. Μέχρι τώρα, οι εκπρόσωποι των εργαστηρίων έκαναν σε μεγάλο βαθμό χειρονομίες για άτυπο διάλογο. Ο επικεφαλής παγκόσμιων υποθέσεων του OpenAI έχει πλέον καταγράψει τον συντονισμό.

Η αντιμονοπωλιακή σκιά

Οποιαδήποτε συμφωνία μεταξύ άμεσων ανταγωνιστών για αργή ανάπτυξη προκαλεί προφανή αντιμονοπωλιακά ερωτήματα και τα εργαστήρια το γνωρίζουν. Ο ίδιος ο Άλτμαν σημείωσε ότι τέτοιες συνομιλίες θα μπορούσαν να θέσουν τις εταιρείες σε κίνδυνο παραβίασης της αντιμονοπωλιακής νομοθεσίας εάν διαπιστωθεί ότι ο συντονισμός καταστείλει τον ανταγωνισμό. Το δοκίμιο του Amodei πρότεινε μια στενή παραίτηση από την κυβέρνηση που θα επέτρεπε τον συντονισμό για την ασφάλεια χωρίς να ενεργοποιεί τη νομοθεσία περί ανταγωνισμού - ένα σημάδι του πόσο σοβαρά αντιμετωπίζεται το ζήτημα εντός των εταιρειών.

Οι επικριτές έσπευσαν να επισημάνουν την ένταση στην καρδιά της συμφωνίας: οι τρεις εταιρείες που κατέχουν τα μεγαλύτερα μερίδια αγοράς στη συνοριακή τεχνητή νοημοσύνη αποφασίζουν από κοινού να μεριμνήσουν για την πρόοδο, στους σκεπτικιστές, όπως η συμπεριφορά των καρτέλ με ένα περιτύλιγμα ασφαλείας. Οι υποστηρικτές αντικρούουν ότι ο καταστροφικός κίνδυνος είναι ακριβώς το είδος του προβλήματος που οι ανταγωνιστές δεν μπορούν να λύσουν μονομερώς, καθώς κάθε εργαστήριο που επιβραδύνει μόνο του απλώς παραχωρεί τα σύνορα στους ανταγωνιστές.

Το OpenAI περιλαμβάνει ελέγχους τρίτων

Οι πιο συγκεκριμένες ειδήσεις πολιτικής στις παρατηρήσεις του Lehane αφορούν τη νομοθεσία. Είπε ότι το OpenAI υποστηρίζει μια διάταξη του FRONTIER Act που θα απαιτούσε από τα κορυφαία συνοριακά εργαστήρια να επιτρέπουν σε «ανεξάρτητους οργανισμούς επαλήθευσης» να εισέρχονται στις εταιρείες τους για να διασφαλίσουν ότι τα μοντέλα αναπτύσσονται με ασφάλεια. Το Politico ανέφερε ότι το OpenAI υποστηρίζει ένα δικομματικό σχέδιο του Σώματος που βασίζεται σε αξιολογήσεις ασφάλειας τρίτων.

Αυτή η θέση θα ήταν αδιανόητη για το γήπεδο πριν από δύο χρόνια, όταν οι εθελοντικές δεσμεύσεις και οι εσωτερικές κόκκινες ομάδες ήταν το πρότυπο της βιομηχανίας. Τώρα ευθυγραμμίζει το OpenAI με τη στάση του πρώτου ελέγχου που έχει προωθήσει εδώ και καιρό η Anthropic και δημιουργεί ένα σπάνιο σημείο συμφωνίας μεταξύ των εργαστηρίων και της πτέρυγας της συζήτησης πολιτικής που πέρασε το έτος απαιτώντας εκτελεστή επίβλεψη.

Στήνει επίσης μια σύγκρουση με τον Λευκό Οίκο. Ο Πρόεδρος Τραμπ απέρριψε τις ανησυχίες για την ασφάλεια ως φάρσα και υποστήριξε ότι οποιαδήποτε επιβράδυνση θα έδινε στην Κίνα ένα πλεονέκτημα στον αγώνα τεχνητής νοημοσύνης. Ο σύμβουλός του για την τεχνητή νοημοσύνη David Sacks, ένας μακροχρόνιος επενδυτής με προσωπικά μερίδια σε ολόκληρο τον κλάδο, έχει χαρακτηρίσει υπερβολικούς τους φόβους για υπαρξιακό κίνδυνο. Στο Ηνωμένο Βασίλειο, οι υπουργοί παραμένουν δημοσίως διχασμένοι για το ίδιο ερώτημα, με μια φατρία να προτρέπει την κυβέρνηση να λάβει υπόψη τις προειδοποιήσεις των ειδικών, ενώ ο υπουργός Επιχειρήσεων Ρέινολντς έχει απορρίψει τις συζητήσεις για διακόπτη kill για προηγμένα συστήματα.

Ένας αγώνας πολιτικής χωρίς ουδέτερο έδαφος

Τις επόμενες εβδομάδες θα δοκιμαστεί εάν ο συντονισμός των εργαστηρίων επιβιώνει σε επαφή με τις αρχές ανταγωνισμού και μια δύσπιστη διοίκηση. Ένας οργανισμός προτύπων που χτίστηκε από τρεις εταιρείες που ελέγχουν τα σύνορα θα αντιμετωπίσει απαιτήσεις να συμπεριλάβει ανεξάρτητους διευθυντές, να δημοσιεύσει τα κριτήριά του και να υποβληθεί σε κρατική αναθεώρηση - ή να απορριφθεί ως ιδιωτικό καρτέλ με δημόσια ρούχα.

Για τον Νόμο FRONTIER, η έγκριση του OpenAI δίνει στους χορηγούς του νομοσχεδίου έναν υποστηρικτικό τίτλο, αλλά και μια νέα γραμμή επίθεσης για τους αντιπάλους που υποστηρίζουν ότι τα μεγαλύτερα εργαστήρια απλώς καταλαμβάνουν το πεδίο, γράφοντας κανόνες που μόνο αυτοί μπορούν να αντέξουν οικονομικά να ακολουθήσουν. Τα μικρότερα εργαστήρια και η κοινότητα των ανοιχτών βαρών, η οποία δεν έχει θέση στις συνομιλίες, παρακολουθεί στενά: οποιοδήποτε καθεστώς επαλήθευσης προκύψει θα καθορίσει το κόστος συμμόρφωσης για όλους όσοι βρίσκονται πίσω από τα σύνορα.

Αυτό που δεν αμφισβητείται πλέον είναι το ίδιο το γεγονός του συντονισμού. Οι τρεις εταιρείες που καθορίζουν την αιχμή της τεχνητής νοημοσύνης συζητούν τώρα ανοιχτά πόσο γρήγορα θα τρέξουν - και καλούν την κυβέρνηση να βοηθήσει τον διαιτητή.

---

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Λάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.

Διαβάστε περισσότερα νέα AI →