Ώρες αφότου ο διευθύνων σύμβουλος της Anthropic, Dario Amodei δημοσίευσε το δοκίμιό του "We Must Pace the Frontier" καλώντας τις κυβερνήσεις να επιβραδύνουν την κούρσα της τεχνητής νοημοσύνης, μια έντονη ανταπόκριση άρχισε να σκαρφαλώνει στο Hacker News, και τελικά έγινε μια από τις πιο δημοφιλείς ιστορίες της ημέρας. Το επιχείρημά του, που διατυπώθηκε σε μια ανοιχτή επιστολή από τον συγγραφέα και προγραμματιστή Jacob Gold, είναι αφοπλιστικά απλό: αν η Amodei είναι ειλικρινής σχετικά με την επιβράδυνση της τεχνητής νοημοσύνης, υπάρχει ένας νόμος που θα μπορούσε να ζητήσει ότι θα το έκανε - και κανένα άλλο στέλεχος εργαστηρίου δεν θα μπορούσε να το προτείνει. Απαιτήστε κάθε μοντέλο AI που προσφέρει μια εταιρεία στο κοινό να κυκλοφορεί ως ανοιχτά βάρη.
«Πιστεύω ότι είσαι ειλικρινής», ανοίγει η επιστολή, απευθυνόμενη απευθείας στον Amodei, «γι' αυτό σας ζητώ να ζητήσετε έναν διαφορετικό νόμο, έναν νόμο που θα επιβραδύνει πραγματικά τα πράγματα, παρόλο που θα απαιτούσε πραγματική θυσία από την πλευρά σας». Η επιστολή έχει χτυπήσει τα νεύρα ακριβώς επειδή εμπλέκεται με την ισχυρότερη εκδοχή του επιχειρήματος του Amodei αντί να το απορρίπτει — και επειδή βρίσκεται στη μέση της πιο συνεπακόλουθης συζήτησης για την πολιτική στην τεχνητή νοημοσύνη σήμερα, μια συζήτηση που παρακολουθούμε καθημερινά στην [πολιτική κάλυψη AI] (https://aibuzzwire.news).
Τι πρότεινε η Amodei και γιατί η Gold λέει ότι δεν θα λειτουργήσει
Το δοκίμιο του Amodei δέσμευε την Anthropic σε ενσωματωμένους τρίτους αξιολογητές και ζήτησε από τις κυβερνήσεις να απαιτήσουν από κάθε άλλη εταιρεία συνόρων να ανταποκρίνεται σε αυτή τη δέσμευση. Ο Σαμ Άλτμαν συμφώνησε μέσα σε λίγες ώρες — «Συμφωνώ με τον Ντάριο ότι πρέπει να περάσουμε τα σύνορα», είπε, σύμφωνα με το Politico, με το OpenAI να ταιριάζει και με τη δέσμευση του αξιολογητή. Εκ πρώτης όψεως, αυτή είναι μια άνευ προηγουμένου ευθυγράμμιση: οι επικεφαλής των δύο πιο πολύτιμων εργαστηρίων τεχνητής νοημοσύνης στον κόσμο ζητούν δημόσια να επιβραδυνθούν.
Η επιστολή του Gold υποστηρίζει ότι αυτή ακριβώς η συναίνεση πρέπει να κάνει τους παρατηρητές να υποψιαστούν. «Κάθε ρύθμιση που ζητήσατε καταλήγει σε σύλληψη», προειδοποιεί. Ενσωματωμένοι αξιολογητές, υπολογιστικά όρια, συντονισμός του κλάδου με παραιτήσεις αντιμονοπωλιακών συμφωνιών — «Όλα αυτά γράφονται με τη βοήθεια των σημερινών εργαστηρίων συνόρων, επειδή κανείς άλλος δεν καταλαβαίνει τις τεχνικές λεπτομέρειες αρκετά καλά για να το γράψει». Μόλις αυτοί οι κανόνες γίνουν νόμοι, κάθε περιστατικό προσθέτει έναν κανόνα και κανένας δεν καταργείται ποτέ, και οι γίγαντες μπορούν να αντέξουν οικονομικά τις ομάδες συμμόρφωσης που κρατούν έξω τους μικρότερους αμφισβητίες. «Αντί να σε επιβραδύνει», λέει η επιστολή στην Amodei, «προστατεύει τη θέση και τα κέρδη σου».
Η αντιπρόταση των ανοιχτών βαρών
Τα εναλλακτικά χρυσά σκίτσα είναι εσκεμμένα αμβλύ. Οποιοδήποτε μοντέλο τεχνητής νοημοσύνης προσφέρει μια εταιρεία στο κοινό θα πρέπει να αποστείλει με τα βάρη του δημοσιευμένα. Τα εσωτερικά και ερευνητικά μοντέλα θα ήταν ανέγγιχτα και οι κυβερνήσεις θα διατηρούσαν την πρόσβαση σε συστήματα που δεν έχουν κυκλοφορήσει — αλλά η Anthropic θα έπρεπε να δημοσιεύσει τα βάρη του επόμενου μοντέλου της την ημέρα που κυκλοφόρησε και το OpenAI θα έπρεπε να κάνει το ίδιο. «Δεν υπάρχει τίποτα για παιχνίδι ή αποφυγή», καταλήγει η επιστολή, «ακόμα και για εσάς».
Ο μηχανισμός είναι μάλλον οικονομικός παρά γραφειοκρατικός. Όπως εξηγεί ο Gold, η χρηματοδότηση για την ανάπτυξη μοντέλων συνόρων εξαρτάται από αποτιμήσεις που υποθέτουν ότι τα βάρη παραμένουν ιδιόκτητα. Μια εντολή ανατρέπει αυτή την υπόθεση: εάν κάθε δημόσια κυκλοφορία είναι ανοιχτή, το ανταγωνιστικό πλεονέκτημα ρέει σε όποιον εκπαιδεύει το καλύτερο μοντέλο και όχι σε όποιον πουλάει πρόσβαση σε αυτό, το ασφάλιστρο που ενσωματώνεται στις ιδιωτικές αποτιμήσεις ξεφουσκώνει και τα χρήματα που είναι διαθέσιμα για την επόμενη σειρά εκπαίδευσης συρρικνώνονται — «σε κάθε εργαστήριο ταυτόχρονα, χωρίς ρυθμιστής να αποφασίσει τίποτα». Στην πραγματικότητα, είναι ένα επιχείρημα ότι η προσδοκία της αγοράς για τα κλειστά μοντέλα είναι ο κινητήρας του αγώνα και ότι η κατάργηση της προσδοκίας αφαιρεί τον κινητήρα.
Γιατί το Amodei, συγκεκριμένα
Η υπόθεση της επιστολής για το γιατί ο Amodei είναι το μόνο άτομο που θα μπορούσε να κάνει αυτή την πρόταση βασίζεται στο αρχείο του και είναι ιδιαίτερα σεβαστή. Ο Gold του πιστώνει ότι άφησε το OpenAI στα τέλη του 2020 για να ιδρύσει την Anthropic «όταν η ασφαλής μετακίνηση καριέρας ήταν να μείνει», υποστηρίζοντας τη ρύθμιση της δικής του βιομηχανίας για χρόνια και πιέζοντας τους ελέγχους των εξαγωγών που συρρικνώνουν τη δική του αγορά. Σημειώνει ότι η Anthropic δομήθηκε ως μια Κοινωφελής Εταιρεία με νομική αποστολή - «την υπεύθυνη ανάπτυξη και συντήρηση προηγμένης τεχνητής νοημοσύνης προς όφελος της ανθρωπότητας μακροπρόθεσμα» - που θα επέτρεπε στην ηγεσία της να απορροφήσει το οικονομικό πλήγμα που θα είχε ένας τέτοιος νόμος. Το δοκίμιο του ίδιου του Amodei, παρατηρεί ο Gold, λέει ο Anthropic υποστηρίζει τη ρύθμιση «ακόμα και όταν αυτό μας κατηγορεί για διαφημιστική εκστρατεία, «doomerism» ή ρυθμιστική σύλληψη».
Οι σκεπτικιστές θα σημειώσουν τα προφανή αντεπιχειρήματα και η επιστολή δεν τους απαντά πλήρως: τα ανοιχτά βάρη διευκολύνουν την κακή χρήση καθώς και την πρόοδο δυσκολότερη, μια εντολή ανοιχτών βαρών θα αντιμετώπιζε σφοδρή αντίθεση από τους επενδυτές κάθε εργαστηρίου και οι επικριτές των προηγούμενων θέσεων της Amodei για τα κινεζικά ανοιχτά μοντέλα θα ακούσουν απόηχους παλιών τσακωμών στην πρόταση. Αλλά η βασική πρόκληση της επιστολής δεν εξαρτάται από την υιοθέτηση της πολιτικής της. Εξαρτάται από μια ένταση που κατονομάζει ρητά: ένα εργαστήριο που ζητά από τις κυβερνήσεις να επιβραδύνουν όλους τους άλλους, ενώ η δική του αποτίμηση εξαρτάται από το να παραμείνει μπροστά, δεν έχει ζητήσει ακόμη τίποτα που να του κοστίζει τίποτα.
Μια συζήτηση που είναι πλέον αναπόφευκτη
Το αν ο Amodei ανταποκρίνεται είναι σχεδόν εκτός θέματος. Μέσα σε μια μέρα, τα συνοριακά εργαστήρια πέρασαν από τον ανταγωνισμό για την ικανότητα στη συμφωνία για την ανάγκη βηματοδότησης και η ανταπόκριση του κοινού πέρασε από το ερώτημα εάν η τεχνητή νοημοσύνη είναι επικίνδυνη στο να ρωτήσει αν μπορούν να πιστευτούν οι άνθρωποι που προειδοποιούν γι 'αυτό. Η επιστολή του Gold - μερικές εκατοντάδες λέξεις με λεπτομέρειες πολιτικής περιτυλιγμένες γύρω από μια άβολη ερώτηση - έχει γίνει η πιο έντονη έκφραση αυτού του σκεπτικισμού και η ευρωστία της υποδηλώνει ότι η συζήτηση με ρυθμό θα διεξαχθεί όχι μόνο στην Ουάσιγκτον αλλά δημόσια, σε πλατφόρμες όπως το Hacker News, όπου η κοινότητα των ανοιχτών βαρών κάνει παραλλαγές αυτού του επιχειρήματος εδώ και χρόνια.
Μείνε μπροστά από την τεχνητή νοημοσύνη
Κανονισμός, ανοιχτά βάρη και ο αγώνας για τον ρυθμό της τεχνητής νοημοσύνης — καλύπτονται χωρίς διαφημιστική εκστρατεία.
Διαβάστε περισσότερα νέα AI →
