Η OpenAI συνομιλεί με πολλούς ανεξάρτητους αξιολογητές για να βοηθήσει να αυξηθεί ο αριθμός των εταιρειών που διαθέτουν τεχνογνωσία στην ασφάλεια της συνοριακής τεχνητής νοημοσύνης και μπορούν να παρέχουν αποτελεσματικές αξιολογήσεις τρίτων, ανέφερε η εταιρεία σε ανάρτηση ιστολογίου που δημοσιεύθηκε την Τρίτη, 22 Σεπτεμβρίου, όπως αναφέρει το PYMNTS.

Η ανάρτηση καθορίζει τις προτεινόμενες προτεραιότητες και αρχές του OpenAI για αποτελεσματική επίβλεψη από τρίτους - ένα πλαίσιο που λέει ότι πρέπει να ισχύει για όλα τα συνοριακά εργαστήρια τεχνητής νοημοσύνης καθώς εκπαιδεύουν, αξιολογούν και αναπτύσσουν ολοένα και πιο ικανά μοντέλα. Η ανακοίνωση προσγειώνεται στη μέση ενός ασυνήθιστα χρεωμένου μήνα για την πολιτική ασφάλειας της τεχνητής νοημοσύνης και θεωρείται ταυτόχρονα μια παραχώρηση προς τους επικριτές και μια προσπάθεια διαμόρφωσης των κανόνων πριν τους γράψουν οι κυβερνήσεις. Για όποιον ακολουθεί έκτακτες ειδήσεις AI, είναι η πιο πρόσφατη κίνηση σε έναν διαγωνισμό εβδομάδων μεταξύ των εργαστηρίων, των επικριτών τους και των ρυθμιστών για το ποιος μπορεί να επαληθεύσει ότι τα μοντέλα συνόρων είναι ασφαλή.

Τι προτείνει το OpenAI

«Δεσμευόμαστε να υποστηρίζουμε ανεξάρτητους αξιολογητές και να καθιερώνουμε σαφέστερα, κοινά διεθνή πρότυπα — τόσο μέσω μελλοντικών νόμων όσο και πρωτοβουλιών ιδιωτικής διακυβέρνησης — για αποτελεσματικές αξιολογήσεις τρίτων», ανέφερε η OpenAI στην ανάρτηση, σύμφωνα με το PYMNTS.

Το βασικό πρόβλημα που περιγράφει το OpenAI είναι μια αποτυχία της αγοράς: υπάρχουν απλώς πολύ λίγοι οργανισμοί με το τεχνικό βάθος για να ελέγξουν ένα μοντέλο συνόρων. Μια ουσιαστική αξιολόγηση ασφάλειας απαιτεί πρόσβαση σε συστήματα που δεν έχουν κυκλοφορήσει, τεχνογνωσία σε τομείς από την κυβερνοασφάλεια έως τη βιοασφάλεια και τη θεσμική ανεξαρτησία για τη δημοσίευση ανεπιθύμητων ευρημάτων. Προσλαμβάνοντας και υποστηρίζοντας πολλαπλούς αξιολογητές αντί για έναν μόνο προνομιούχο ελεγκτή, η OpenAI λέει ότι θέλει να οικοδομήσει ένα οικοσύστημα όπου η αξιολόγηση τρίτων είναι ένα συνηθισμένο μέρος της ανάπτυξης συστημάτων συνόρων — όχι μια μεμονωμένη άσκηση δημοσίων σχέσεων.

Η εταιρεία δεν κατονόμασε τους αξιολογητές με τους οποίους συνομιλεί και μένει να δούμε αν οι ρυθμίσεις που θα προκύψουν θα δώσουν στους αξιολογητές την πρόσβαση, την ανεξαρτησία χρηματοδότησης και τα δικαιώματα δημοσίευσης που οι ερευνητές ασφάλειας θεωρούν σημαντικά.

Μια εβδομάδα Whiplash για την πολιτική AI

Η πρόταση έρχεται εν μέσω μιας ταχείας αλληλουχίας εξελίξεων πολιτικής που καθόρισαν τη συζήτηση για την τεχνητή νοημοσύνη του Σεπτεμβρίου:

  • Δευτέρα, 21 Σεπτεμβρίου: Το OpenAI κάλεσε τις Ηνωμένες Πολιτείες να ηγηθούν μιας διεθνούς προσπάθειας για την ανάπτυξη παγκόσμιων τεχνικών προτύπων για τη συνοριακή τεχνητή νοημοσύνη — συμπεριλαμβανομένης της αναδρομικής αυτοβελτίωσης, το σημείο στο οποίο τα συστήματα τεχνητής νοημοσύνης βελτιώνονται. Η εταιρεία προειδοποίησε ότι η πλήρως αυτόνομη ανάπτυξη τεχνητής νοημοσύνης θα μπορούσε να ξεπεράσει την ικανότητα των ανθρώπων να την κατανοούν και να την ελέγχουν και είπε ότι πρέπει να ληφθούν αποφάσεις για το αν και πώς θα προχωρήσουν τώρα.
  • Παρασκευή, 18 Σεπτεμβρίου: Ο κυβερνήτης της Καλιφόρνια Γκάβιν Νιούσομ υπέγραψε εκτελεστικό διάταγμα με το οποίο συγκαλούνται εθνικοί εμπειρογνώμονες για να ενισχύσουν τους νόμους για την ασφάλεια της τεχνητής νοημοσύνης της πολιτείας, με ρητό στόχο την επιτάχυνση της εφαρμογής νέας επίβλεψης τρίτων για τους κινδύνους ασφάλειας και ασφάλειας στα συστήματα τεχνητής νοημοσύνης.
  • Σάββατο, 19 Σεπτεμβρίου: Ο Πρόεδρος Ντόναλντ Τραμπ απέρριψε τις ανησυχίες για την ασφάλεια του κλάδου σε μια ανάρτηση του Truth Social, γράφοντας: "Δεν θα εμποδίσουμε ούτε θα καταπνίξουμε με κανέναν τρόπο την ανάπτυξη αυτής της απίστευτης βιομηχανίας. Η τεχνητή νοημοσύνη είναι η επόμενη Βιομηχανική Επανάσταση ή Διαδίκτυο, αλλά θα είναι ακόμη μεγαλύτερη και πιο επιδραστική, πιθανώς όσο το 25% του ΑΕΠ της χώρας μας."

Όπως αναφέραμε νωρίτερα αυτή την εβδομάδα, η πρόταση προτύπων του OpenAI από τις ΗΠΑ σηματοδότησε μια εντυπωσιακή αλλαγή για μια εταιρεία που πέρασε χρόνια αντιστεκόμενη στη δεσμευτική εποπτεία — και οι νέες αρχές αξιολόγησης τρίτων επεκτείνουν αυτή τη στάση στο μέτωπο της ιδιωτικής διακυβέρνησης.

Το πρόβλημα της ανεξαρτησίας

Ο εναγκαλισμός του OpenAI από εξωτερικούς φύλακες ακολουθεί μια παράλληλη πρόταση του κύριου αντιπάλου του. Περίπου μια εβδομάδα νωρίτερα, ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο που προτείνει ένα σχέδιο ασφάλειας AI που βασίζεται σε ανεξάρτητους αξιολογητές που ενσωματώνονται σε κορυφαίες εταιρείες τεχνητής νοημοσύνης, συντονισμό μεταξύ εταιρειών σε δημοκρατικές χώρες και τελικά μια διεθνή συμφωνία που περιλαμβάνει την Κίνα.

Και οι δύο προτάσεις έχουν προκαλέσει άμεσο σκεπτικισμό από τους ειδικούς. Το CNBC ανέφερε ότι ένας συνασπισμός περισσότερων από 100 ειδικών της τεχνητής νοημοσύνης προτρέπει την ανεξαρτησία και τη διαφάνεια από τα εργαστήρια μοντέλων Anthropic, OpenAI και άλλων θεμελιακών μοντέλων που διενεργούν αξιολογήσεις, προειδοποιώντας ότι οι αξιολογητές που είναι ενσωματωμένοι - ή πληρώνονται από - στις εταιρείες που ελέγχουν αντιμετωπίζουν αναπόφευκτες συγκρούσεις συμφερόντων. Οι φύλακες που υποστηρίζονται από τον πρωτοπόρο της τεχνητής νοημοσύνης Geoffrey Hinton έχουν πιέσει και τις δύο εταιρείες σχετικά με τις λεπτομέρειες των σχεδίων ασφαλείας τους και οι σχολιαστές έχουν επισημάνει την περιστρεφόμενη πόρτα μεταξύ των οργανισμών αξιολόγησης ασφάλειας της τεχνητής νοημοσύνης και των ίδιων των εργαστηρίων: οι άνθρωποι που βαθμολογούν την εργασία για την ασφάλεια μπορεί επίσης να είναι αυτοί που την έγραψαν.

Αυτή η ένταση είναι το επίκεντρο της συζήτησης που προσπαθεί να εκτονώσει η νέα ανάρτηση του OpenAI. Η απάντηση της εταιρείας - περισσότεροι αξιολογητές, κοινά διεθνή πρότυπα και εποπτεία που επιβάλλεται τόσο μέσω μελλοντικών νόμων όσο και μέσω ιδιωτικών πρωτοβουλιών - είναι ένα πλαίσιο, όχι ακόμη εγγύηση. Οι επικριτές θα επισημάνουν ότι τα εργαστήρια που προτείνουν τους κανόνες είναι τα ίδια εργαστήρια που υπόκεινται σε αυτούς και ότι η αυτοδιαμορφωμένη διακυβέρνηση ευνόησε ιστορικά τις εταιρείες που κάνουν τη διαμόρφωση.

Γιατί έχει σημασία

Τα επόμενα μοντέλα συνόρων βρίσκονται ήδη σε εκπαίδευση και το παράθυρο για τον σχεδιασμό επίβλεψης πριν από την ανάπτυξη κλείνει. Εάν η πρόσληψη ανεξάρτητων αξιολογητών από το OpenAI παράγει ελεγκτές με πραγματική πρόσβαση και πραγματική ανεξαρτησία, θα μπορούσε να γίνει το πρότυπο για τον τρόπο διακυβέρνησης της συνοριακής τεχνητής νοημοσύνης παγκοσμίως - ένα ιδιωτικό καθεστώς που οι νομοθέτες στην Ουάσιγκτον, τις Βρυξέλλες και αλλού δεν έχουν καταφέρει μέχρι στιγμής να οικοδομήσουν οι ίδιοι. Εάν παράγει συνδεδεμένες συμβούλους με NDA, θα επιβεβαιώσει τη χειρότερη ανάγνωση των σκεπτικιστών.

Είτε έτσι είτε αλλιώς, το γεγονός ότι το OpenAI ανταγωνίζεται την Anthropic για το ποιος μπορεί να προτείνει το πιο αξιόπιστο καθεστώς εποπτείας είναι από μόνο του νέο. Πριν από ένα χρόνο, τα εργαστήρια ενοποιήθηκαν κυρίως σε αντίθετη ρύθμιση. Τώρα αγωνίζονται να το ορίσουν.

---

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Λάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.

Διαβάστε περισσότερα νέα AI →