Το OpenAI συνεργάζεται στενά με τους ανταγωνιστές Anthropic και Google DeepMind εδώ και αρκετές εβδομάδες για να επινοήσει ένα πλαίσιο για την ασφάλεια της τεχνητής νοημοσύνης, επιβεβαίωσε ένα ανώτερο στέλεχος την Τρίτη, αποκαλύπτοντας έναν ασυνήθιστο βαθμό συνεργασίας μεταξύ εταιρειών που ανταγωνίζονται σκληρά σχεδόν σε οτιδήποτε άλλο.
Ο Chris Lehane, επικεφαλής της παγκόσμιας πολιτικής του OpenAI, είπε σε δημοσιογράφους σε συνέντευξη Τύπου στην Ουάσιγκτον ότι τα τρία εργαστήρια συντονίζουν τις πρωτοβουλίες για την ασφάλεια. «Είναι καλύτερα να προσπαθήσουμε να συνεργαστούμε για να δώσουμε προτεραιότητα στην ασφάλεια», είπε ο Lehane, σύμφωνα με δημοσίευμα του Bloomberg για την ενημέρωση. Τα σχόλιά του ήρθαν μέρες μετά από μια σειρά προειδοποιήσεων εξαφάνισης υψηλού προφίλ από ερευνητές που εγκατέλειπαν τα μεγαλύτερα εργαστήρια του κλάδου. For more context on this story, see our ongoing more AI stories.
Τι καλύπτει πραγματικά η Συνεργασία
Ο Lehane δεν διευκρίνισε τη συγκεκριμένη φύση του έργου, αλλά η αποκάλυψη ακολουθεί μια αξιοσημείωτη έκταση δημόσιας τοποθέτησης από τα μεγαλύτερα ονόματα του κλάδου. Το Σάββατο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο καλώντας τον κλάδο της τεχνητής νοημοσύνης να συνεργαστεί για την επιβράδυνση του ρυθμού ανάπτυξης μοντέλων συνόρων για να αποφύγει αυτό που ονόμασε «καταστροφικούς κινδύνους».
Η κλήση κέρδισε εκπληκτική υποστήριξη από όλο το ανταγωνιστικό χάσμα: ο Sam Altman του OpenAI, ο Demis Hassabis της Google και ο Elon Musk υποστήριξαν όλοι το συναίσθημα. Ο Altman προχώρησε παραπέρα, λέγοντας ότι το OpenAI θα ήταν πρόθυμο να συμμετάσχει στην πρωτοβουλία της Anthropic να ενσωματώσει αξιολογητές τρίτων στις ομάδες ανάπτυξής της για να παρακολουθεί την ασφάλεια της τεχνητής νοημοσύνης εκ των έσω. Ο συνιδρυτής της Anthropic, Jack Clark, εν τω μεταξύ, είπε στο NPR ότι η επιβράδυνση της τεχνητής νοημοσύνης είναι θεμελιωδώς ένα «πρόβλημα συλλογικής δράσης» που κανένα εργαστήριο δεν μπορεί να λύσει μόνο του.
Ωστόσο, δεν αντιμετωπίζουν όλοι μέσα στο OpenAI τη συζήτηση ως επείγουσα. Η οικονομική διευθύντρια Sarah Friar είπε στο CNBC ότι δεν ανησυχεί για την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης - μια υπενθύμιση ότι η εταιρεία φλερτάρει ταυτόχρονα τους επενδυτές σε μια αποτίμηση βόρεια του ενός τρισεκατομμυρίου δολαρίων.
Η αντιμονοπωλιακή σκιά πάνω από τη συνεργασία
Οποιοσδήποτε συντονισμός μεταξύ των κυρίαρχων εργαστηρίων τεχνητής νοημοσύνης αντιμετωπίζει ένα προφανές νομικό πρόβλημα: τον αντιμονοπωλιακό νόμο των Ηνωμένων Πολιτειών. Οι νομικοί εμπειρογνώμονες έχουν προειδοποιήσει ότι οι συμφωνίες μεταξύ των ανταγωνιστών για τον περιορισμό των δυνατοτήτων των προϊόντων τους θα μπορούσαν να ερμηνευθούν ως «περιορισμός της παραγωγής», μια παραβίαση του νόμου Sherman.
Αυτή η ανησυχία έχει ήδη μεταφερθεί στο Καπιτώλιο. Οι γερουσιαστές Τζιμ Μπανκς της Ιντιάνα και ο Άνταμ Σιφ της Καλιφόρνια πρότειναν νομοθεσία - τον Νόμο περί Συνεργασίας για τις Αντίπαλες Απειλές και τους Κινδύνους Ασφαλείας - που θα επέτρεπε στα εργαστήρια τεχνητής νοημοσύνης να ενεργούν για την ασφάλεια ακόμη και όταν αυτές οι ενέργειες θα μπορούσαν διαφορετικά να εγείρουν ζητήματα αντιμονοπωλιακής νομοθεσίας. Το δοκίμιο του Amodei υποστήριξε ότι η κυβέρνηση θα πρέπει να εξετάσει το ενδεχόμενο να χορηγήσει στις εταιρείες μια παρέκκλιση για συνεργασία στον τομέα της ασφάλειας, αν και ο Lehane είπε στους δημοσιογράφους ότι πιστεύει ότι μια τέτοια κίνηση δεν είναι απαραίτητη.
Ο Jensen Huang της Nvidia είναι ακόμα πιο ωμάς. Μιλώντας στο Dreamforce την Τρίτη, χαρακτήρισε την πρόταση απαλλαγής από την αντιμονοπωλιακή εταιρεία Anthropic «εντελώς περιττή», σύμφωνα με το CNBC, υπογραμμίζοντας την βαθύτερη διαίρεση μεταξύ των εργαστηρίων που ζητούν αυτοσυγκράτηση και του γίγαντα υλικού που προτρέπει την επιτάχυνση.
"Ένα καρτέλ με άλλο όνομα"
Οι επικριτές της συνεργασίας ήταν καυστικοί. Ο διευθύνων σύμβουλος της Cohere, Aidan Gomez, έγραψε σε μια ανάρτηση ιστολογίου απαντώντας στο δοκίμιο του Amodei ότι οι κλήσεις ασφαλείας μοιάζουν με μια προσπάθεια από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης να συγκαλύψουν ένα αντιανταγωνιστικό σχέδιο που θα διατηρήσει το προβάδισμά τους στην ανάπτυξη μοντέλων συνόρων, επιτρέποντας στα εργαστήρια «κυρίαρχων στην αγορά» να καθορίσουν τους κανόνες για όλους τους άλλους.
«Για άλλη μια φορά χρησιμοποιώντας τον φόβο με το πρόσχημα της προστασίας του κοινού, αυτά τα ολιγοπώλια ζητούν τώρα να κάμψουν τους κανόνες ανταγωνισμού και να τους επιτραπεί να υπαγορεύουν τους όρους για όλους τους άλλους», έγραψε ο Γκόμεζ, αποκαλώντας τη συμφωνία «λύκος με ένδυμα προβάτου, καρτέλ με άλλο όνομα».
Ο Πρόεδρος Ντόναλντ Τραμπ απέρριψε κατηγορηματικά την έκκληση του Amodei για επιβράδυνση, υποστηρίζοντας σε μια ανάρτησή του στο Truth Social ότι οποιαδήποτε επιβράδυνση θα επέτρεπε στην Κίνα να ξεπεράσει τις Ηνωμένες Πολιτείες στον αγώνα τεχνητής νοημοσύνης. Ο Ντέιβιντ Σακς, ο βασικός σύμβουλος τεχνητής νοημοσύνης του Λευκού Οίκου, είπε ότι οι φόβοι ότι η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει υπαρξιακή απειλή είναι υπερβολικοί.
Αναλυτές στο CNBC παρατήρησαν ότι δύο στρατόπεδα έχουν πλέον αναδυθεί πλήρως στη συζήτηση για την ασφάλεια και τη ρύθμιση της τεχνητής νοημοσύνης: ένα που προτρέπει τα σύνορα να επιβραδύνουν πριν κάτι πάει στραβά και ένα άλλο -που κατοικείται από Nvidia, τον Λευκό Οίκο και υποστηρικτές του ανοιχτού μοντέλου- υποστηρίζοντας ότι ο δισταγμός είναι ο μεγαλύτερος κίνδυνος.
OpenAI's Capitol Hill Push
Οι δηλώσεις του Lehane έγιναν κατά τη διάρκεια ενημέρωσης των μέσων ενημέρωσης στην Ουάσιγκτον, όπου επρόκειτο να συναντηθεί με νομοθέτες. Το OpenAI ρίχνει το βάρος του πίσω από δύο δικομματικά νομοσχέδια, σύμφωνα με τις δημόσιες δηλώσεις της εταιρείας και το ρεπορτάζ του Reuters και του Politico.
Ο πρώτος είναι ο νόμος FRONTIER, ο οποίος απαιτεί ένα ομοσπονδιακό πλαίσιο για την ασφάλεια της τεχνητής νοημοσύνης και θα απαιτούσε από τα εργαστήρια τεχνητής νοημοσύνης να υποβάλλουν νέα μοντέλα για ελέγχους από ανεξάρτητους αξιολογητές. Το OpenAI υποστηρίζει επίσης ένα μέτρο που θα απαιτούσε ανεξάρτητους ελέγχους μοντέλων τεχνητής νοημοσύνης, ανέφερε το CBS News. Η δεύτερη πρόταση, που βρίσκεται ακόμη υπό ανάπτυξη, είναι αυτή που επεξεργάζεται ο ηγέτης της πλειοψηφίας στη Γερουσία, Τζον Θουν, μαζί με τον Ρεπουμπλικανό γερουσιαστή Τεντ Κρουζ και τη Δημοκρατική Γερουσιαστή Έιμι Κλόμπουσαρ. Σύμφωνα με το Reuters, αυτό το νομοσχέδιο θα δώσει στον Υπουργό Εμπορίου την εξουσία να υποβάλλει νέα μοντέλα σε ελέγχους ασφαλείας πριν από την κυκλοφορία τους. Το OpenAI έχει εγκρίνει χωριστά δικομματικά σχέδια για την αντιμετώπιση των βιοαπειλών της τεχνητής νοημοσύνης, ανέφερε το Politico.
Η σύγκλιση είναι εντυπωσιακή: οι ίδιες εταιρείες που προειδοποιούν για τη φυγή τεχνητής νοημοσύνης προσφέρονται εθελοντικά για ανεξάρτητους ελέγχους, ενώ οι επικριτές τους προειδοποιούν ότι η ίδια η συνεργασία μπορεί να είναι ο μεγαλύτερος κίνδυνος. Ο τρόπος με τον οποίο το Κογκρέσο διατυπώνει αυτή τη βελόνα - επιτρέποντας τη συνεργασία για την ασφάλεια χωρίς την αδειοδότηση ενός καρτέλ - μπορεί να καθορίσει την πολιτική τεχνητής νοημοσύνης για χρόνια.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
