Ένας συνιδρυτής της Anthropic λέει ότι οι κυβερνήσεις μπορεί να χρειαστεί να αναγκάσουν τις εταιρείες τεχνητής νοημοσύνης να εγκαταστήσουν έναν "διακόπτη εξόντωσης" - έναν μηχανισμό για τον πλήρη τερματισμό των συστημάτων τεχνητής νοημοσύνης - και ότι οι εξωτερικοί επιθεωρητές θα πρέπει να μπορούν να επαληθεύσουν ότι πράγματι λειτουργεί.
Ο Τζακ Κλαρκ, ένας από τους επτά ιδρυτές του εργαστηρίου τεχνητής νοημοσύνης αξίας 965 δισεκατομμυρίων δολαρίων, είπε στο BBC ότι ενώ τα περισσότερα κορυφαία εργαστήρια έχουν ήδη εσωτερικούς τρόπους για να «τραβήξουν την πρίζα» σε επικίνδυνα συστήματα, η κοινωνία «ίσως θέλει να περάσει κανόνες» κάνοντας τέτοιους διακόπτες υποχρεωτικούς και ανεξάρτητους ελέγχους. Για τους αναγνώστες που παρακολουθούν την ευρύτερη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, η παρέμβασή του σηματοδοτεί την πιο συγκεκριμένη πολιτική πρόταση μέχρι στιγμής μέσα από ένα συνοριακό εργαστήριο κατά τη διάρκεια μιας εβδομάδας κλιμακούμενων προειδοποιήσεων.
"Θα έπρεπε να αναθέσετε στις εταιρείες να έχουν οπωσδήποτε έναν διακόπτη kill; Είναι αυτός ο διακόπτης kill επαληθεύσιμος από τρίτο μέρος;" Ο Κλαρκ είπε στη συνέντευξη με τη ρεπόρτερ τεχνολογίας Κάλι Χέις και τον οικονομικό συντάκτη Φαϊζάλ Ισλάμ. «Νομίζω ότι αυτό είναι το είδος των πραγμάτων που η κοινωνία θα θέλει να μάθει και μπορεί να θέλει να περάσει τελικά κανόνες».
'Ρίχνουμε ζάρια με τεράστιους κινδύνους'
Το πιο εντυπωσιακό σχόλιο του Clark ήταν μια γενική απόρριψη του status quo. Ερωτηθείς για την πορεία του κλάδου, είπε ότι το να επιτραπεί στην τεχνητή νοημοσύνη να συνεχίσει ως μια «εντελώς ανεξέλεγκτη βιομηχανία» ήταν κακή ιδέα.
«Ρίχνουμε ζάρια με τεράστιους κινδύνους», είπε. «Και το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτής της βιομηχανίας».
Σε αντίθεση με ορισμένους από τους συναδέλφους του, ο Κλαρκ αρνήθηκε να θέσει έναν αριθμό στον κίνδυνο της ανθρώπινης εξαφάνισης. «Δεν νομίζω ότι αυτά τα στατιστικά στοιχεία είναι τόσο χρήσιμα», είπε - μια αξιοσημείωτη αντίθεση με τον ερευνητή Anthropic Evan Hubinger, ο οποίος είπε την περασμένη εβδομάδα ότι προσωπικά πίστευε ότι υπήρχε μεγαλύτερη από 10% πιθανότητα ανθρώπινης εξαφάνισης από την τεχνητή νοημοσύνη μέσα στην επόμενη δεκαετία, και με τον πρωτοπόρο της τεχνητής νοημοσύνης Geoffrey Hinton, ο οποίος είπε στο BBC την Παρασκευή ότι μια εκτίμηση 10% δεν ήταν «αδύνατη».
Αυτό που δεν αμφισβήτησε ο Κλαρκ είναι η κατεύθυνση του ταξιδιού. Η τεχνητή νοημοσύνη είναι, όπως το έθεσε στην ίδια συνέντευξη, «πιο ισχυρή μέρα με τη μέρα» — και υποστήριξε ότι οι λεπτομέρειες οποιασδήποτε απαίτησης τερματισμού λειτουργίας, συμπεριλαμβανομένου του ποιος θα την επαληθεύσει και πώς, ανήκουν στη «μεγαλύτερη συζήτηση πολιτικής» που γίνεται τώρα γύρω από την τεχνητή νοημοσύνη.
Πρόταση με νομοθετική ορμή
Η πρόταση του Κλαρκ δεν προσγειώνεται στο κενό. Οι αμερικανοί νομοθέτες έχουν ήδη υποβάλει νομοθεσία με την ονομασία Kill Switch Act, η οποία θα απαιτούσε από τους προγραμματιστές τεχνητής νοημοσύνης συνόρων να δημιουργήσουν μηχανισμούς τερματισμού στα συστήματά τους - ένα νομοσχέδιο που κάλυπτε το AI Buzz Wire τον περασμένο μήνα καθώς ο επείγων χαρακτήρας του αυξήθηκε μετά από περιστατικά αδίστακτων πρακτόρων.
Η ιδέα αντιμετωπίζει επίσης ανοιχτό σκεπτικισμό. Στο Ηνωμένο Βασίλειο, ο υπουργός Επιχειρήσεων Τζόναθαν Ρέινολντς είπε στο BBC ότι δεν βρήκε την ιδέα χρήσιμη, λέγοντας ότι "δεν ήταν πραγματικά σίγουρος τι θα σήμαινε αυτό στην πράξη" και προειδοποίησε ότι η υπερβολική ρύθμιση θα μπορούσε να αφήσει τη χώρα αποκομμένη από τα μοντέλα που έχουν αναπτυχθεί στο εξωτερικό.
The Backdrop: A Safety Civil War — και IPO
Τα σχόλια του Clark ανέρχονται σε μια εβδομάδα κατά την οποία η ασφάλεια της τεχνητής νοημοσύνης μετακινήθηκε από το θέμα του σεμιναρίου στις ειδήσεις της πρώτης σελίδας. Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, ζήτησε το Σαββατοκύριακο να επιβραδυνθεί ο ρυθμός ανάπτυξης των συνόρων και να παρακολουθείται πιο στενά, ενώ επιμένει ότι οποιαδήποτε παύση πρέπει να γίνει "χωρίς να θυσιάζει το εμπορικό πλεονέκτημα". Στη συνέχεια μετέφερε αυτή την υπόθεση σε ένα κοινό αμερικανικό κοινό σε μια συνέντευξη με τον Άντερσον Κούπερ του CNN, με τον ίδιο τον Κόξον να εμφανίζεται στο δίκτυο για να αντιδράσει σε αυτό. Οι παρατηρήσεις ακολούθησαν μια ιογενή ανάρτηση παραίτησης από τον πρώην ερευνητή Anthropic Jacob Coxon που προειδοποίησε για την τύχη της ανθρωπότητας, η οποία με τη σειρά της προκάλεσε την εκτίμηση της εξαφάνισης του Hubinger. Ο Guardian, από την πλευρά του, εξέτασε γιατί η συγκεκριμένη προειδοποίηση για την ημέρα της κρίσης έσπασε εκεί που είχαν ξεθωριάσει οι προηγούμενες.
Οι συναγερμοί αντιμετωπίστηκαν με ανοιχτό χλευασμό από μέρη της βιομηχανίας τεχνολογίας. Ο Διευθύνων Σύμβουλος του Hugging Face, Clement Delangue, χλεύασε την απόφαση να γίνει ο Coxon επιστόμιο για τον κίνδυνο εξαφάνισης, γράφοντας: «Συγγνώμη, αλλά το να ρωτάς τον Jacob για τον κίνδυνο εξαφάνισης της τεχνητής νοημοσύνης είναι σαν να ρωτάς τον AC τύπο σου για την κλιματική αλλαγή». Ο Διευθύνων Σύμβουλος της Grindr, Τζορτζ Άρισον, προχώρησε παραπέρα, υποστηρίζοντας ότι η διακίνηση του φόβου έχει εμπορικά κίνητρα. «Ο μόνος τρόπος για να δικαιολογήσουμε αυτές τις αποτιμήσεις είναι να ισχυριστούμε πραγματικά: «Θα αναλάβω κάθε κλάδο και θα αναλάβω κάθε δουλειά και η τεχνητή νοημοσύνη μου θα κάνει όλη αυτή τη δουλειά», είπε.
Υπάρχει επίσης ένα τεράστιο χρηματικό ποσό για το αποτέλεσμα αυτής της συζήτησης. Η Anthropic ετοιμάζεται για μια αρχική δημόσια προσφορά με αποτίμηση 965 δισεκατομμυρίων δολαρίων, ενώ το OpenAI - η πιο πρόσφατη αξία των 852 δισεκατομμυρίων δολαρίων - αναμενόταν να βγει στο χρηματιστήριο πριν ο Διευθύνων Σύμβουλος Sam Altman είπε την Παρασκευή ότι δεν θα πραγματοποιηθεί IPO φέτος λόγω της διαμάχης για την ασφάλεια. Οι κριτικοί όπως ο Arison υποστηρίζουν ότι η ρητορική της καταστροφής και το βήμα συγκέντρωσης κεφαλαίων είναι οι δύο όψεις του ίδιου νομίσματος. Η απάντηση του Clark είναι ότι ο κλάδος πρέπει να αλλάξει πορεία ανεξάρτητα.
Το αν ένας υποχρεωτικός, επαληθεύσιμος διακόπτης kill θα γίνει νόμος θα εξαρτηθεί από τους νομοθέτες που μέχρι στιγμής έχουν δείξει μικρή όρεξη να περιορίσουν έναν κλάδο που τροφοδοτεί την οικονομία των ΗΠΑ. Αλλά για πρώτη φορά, ένας από τους πιο ισχυρούς γνώστες της τεχνολογίας τους καλεί ρητά να δοκιμάσουν.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
