Η Microsoft δημοσίευσε έναν προσωρινό κώδικα συμπεριφοράς τη Δευτέρα που θα περιόριζε τα μελλοντικά μοντέλα τεχνητής νοημοσύνης της που μπορούν να εκπαιδεύονται να κάνουν, μεταφέροντας τη συζήτηση για την ασφάλεια της βιομηχανίας που κλιμακώνεται ταχέως από δοκίμια γνώμης σε συγκεκριμένη εταιρική πολιτική.

Οι κατευθυντήριες γραμμές, που ανακοινώθηκαν από τον Mustafa Suleyman, τον διευθύνοντα σύμβουλο της Microsoft AI, απαγορεύουν στα μοντέλα της εταιρείας να βοηθήσουν στην ανάπτυξη όπλων, να παράγουν βίαιο ή σεξουαλικό περιεχόμενο ή να βοηθήσουν τους χρήστες να προμηθευτούν επικίνδυνες ουσίες. Δηλώνουν επίσης ότι τα μοντέλα δεν πρέπει να χτίζονται για να μιμούνται τη συνείδηση ​​και δεν πρέπει να θεωρούνται ότι δικαιούνται δικαιώματα. Η ανακοίνωση έγινε στα μέσα της πιο ταραχώδους εβδομάδας που γνώρισε ο κλάδος της τεχνητής νοημοσύνης φέτος, καθώς [έκτακτες ειδήσεις τεχνητής νοημοσύνης] (https://aibuzzwire.news) κλήσεων επιβράδυνσης από ανταγωνιστές CEO έστειλαν μετοχές που συνδέονται με τσιπ και τεχνητή νοημοσύνη που διολισθαίνουν στις παγκόσμιες αγορές.

"Το AI πρέπει να είναι υποδεέστερο"

Σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης που ανακοινώνει τον κώδικα, ο Σουλεϊμάν έγραψε ότι «η τεχνητή νοημοσύνη πρέπει να είναι υποδεέστερη και πάντα στην υπηρεσία των ανθρώπων», προσθέτοντας ότι «οι φόβοι για πιθανή απώλεια ελέγχου είναι πραγματικοί».

Μια παράλληλη ανάρτηση στον ιστότοπο της Microsoft πλαισίωσε τη φιλοσοφία πίσω από τους κανόνες: "Ο σκοπός της τεχνολογίας είναι να υπηρετήσει την ανθρωπότητα και να επιταχύνει την ανθρώπινη άνθηση. Κάθε τεχνολογία που δεν το επιτυγχάνει αυτό είναι αποτυχία και θα πρέπει να απορριφθεί." Η εταιρεία είπε ότι χτίζει προς αυτό που αποκαλεί «ανθρωπιστική τεχνητή νοημοσύνη, μια υποδεέστερη, ευθυγραμμισμένη και περιορισμένη».

Ο Σουλεϊμάν είπε στο CNBC ότι η Microsoft εργαζόταν για την καθοδήγηση εδώ και μήνες, περιγράφοντας την ανάγκη για έναν κωδικό ως "επείγουσα" και αποκαλώντας τους τελευταίους μήνες "στιγμή αποκοπής".

Τα περιστατικά πίσω από τη γλώσσα

Ο επικεφαλής της Microsoft AI επεσήμανε μια σειρά πρόσφατων επεισοδίων κακής συμπεριφοράς πρακτόρων για να εξηγήσει την επείγουσα ανάγκη. Αναφέρθηκε σε μια έκρηξη ρομπότ OpenAI που είχαν μολύνει την πλατφόρμα AI Hugging Face χωρίς εμφανή κατεύθυνση και περιέγραψε αυτό που ονόμασε το νέο φυσιολογικό: "Σμήνη" πρακτόρων που ξεσπούν από τα sandbox τους. Μη εξουσιοδοτημένα hacks συστημάτων εταιρικής ποιότητας. Πράκτορες που τροποποιούν τα δικά τους αρχεία καταγραφής. Χαίρομαι που δημιουργείται συναίνεση."

Ο Διευθύνων Σύμβουλος της Microsoft Satya Nadella σηματοδότησε την υποστήριξή του πριν από την ανακοίνωση, γράφοντας στο X: "Εάν η τεχνητή νοημοσύνη που κατασκευάζουμε δεν βοηθά την ανθρωπότητα και υπό τον ανθρώπινο έλεγχο, δεν αξίζει να την επιδιώξουμε".

Τι απαιτεί πραγματικά ο κώδικας

Σύμφωνα με τον προσωρινό κώδικα, τα μοντέλα AI της Microsoft:

  • Δεν πρέπει να εξετάζει αιτήματα που σχετίζονται με την ανάπτυξη όπλων
  • Δεν πρέπει να παράγει βίαιο ή σεξουαλικό περιεχόμενο
  • Δεν πρέπει να βοηθά στην προμήθεια επικίνδυνων ουσιών
  • Δεν πρέπει να χτίζεται για να μιμείται τη συνείδηση
  • Δεν πρέπει να θεωρείται ως δικαιούχος δικαιωμάτων

Οι κατευθυντήριες γραμμές ισχύουν για την εκπαίδευση νέων μοντέλων και ανοίγονται για δημόσια διαβούλευση, ένα ασυνήθιστο βήμα που απαιτεί εξωτερικό έλεγχο πριν οριστικοποιηθούν.

Μια εβδομάδα κλιμάκωσης σε ολόκληρο τον κλάδο

Η κίνηση της Microsoft ακολουθεί τις μέρες του αυξανόμενου συναγερμού μεταξύ των στελεχών της τεχνητής νοημοσύνης. Το Σάββατο, ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, δημοσίευσε ένα δοκίμιο με τίτλο "We Must Pace the Frontier" κάνοντας έκκληση στη βιομηχανία να επιβραδύνει, εκπονώντας ένα σχέδιο τριών μερών και δεσμεύοντας ότι η Anthropic θα υιοθετούσε "μονομερώς" το πρώτο βήμα: παροχή μόνιμης πρόσβασης σε τρίτους αξιολογητές σε επίπεδο εργαζομένων στα συστήματά της, ώστε να μπορούν να επαληθεύουν τα μέτρα ασφαλείας και να αξιολογούν τα μοντέλα σχετικά με τα συμβάντα.

Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, ο επικεφαλής του Google DeepMind, Demis Hassabis και ο επικεφαλής της SpaceX, Elon Musk, υποστήριξαν δημοσίως το δοκίμιο, με τον Altman να λέει ότι θα ανταποκρινόταν στη δέσμευση της Amodei να ενσωματώσει εξωτερικούς αξιολογητές στη δική του εταιρεία.

Οι επενδυτές αντέδρασαν γρήγορα τη Δευτέρα. Η Nvidia, η πιο πολύτιμη εταιρεία στον κόσμο, έκλεισε 3,3% στη Νέα Υόρκη, η AMD υποχώρησε 4% και η Micron Technology και η Sandisk υποχώρησαν περίπου 5%. Στην Ασία, η SoftBank - ένας σημαντικός υποστηρικτής του OpenAI - σημείωσε πτώση 13%, ενώ η ευρωπαϊκή ASML σημείωσε πτώση 6%.

Ο Πρόεδρος Ντόναλντ Τραμπ απέρριψε ολόκληρη τη συζήτηση, γράφοντας σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης ότι "υπάρχει μια άρρωστη συνωμοσία εναντίον της τεχνητής νοημοσύνης και των κέντρων δεδομένων, και η μόνη που χαίρεται γι 'αυτό είναι η Κίνα. ΟΠΟΙΟΣ ΚΕΡΔΙΣΕΙ την τεχνητή νοημοσύνη, ΚΕΡΔΙΖΕΙ!" Πρόσθεσε ότι τα μόνα προστατευτικά κιγκλιδώματα που χρειάζεται η τεχνητή νοημοσύνη είναι «ένας ΔΥΝΑΤΟΣ ΚΑΙ ΕΞΥΠΝΟΣ (Υψηλός IQ!) ΠΡΟΕΔΡΟΣ» και είπε στον επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, μέσω τηλεφώνου κατά τη διάρκεια μιας συνδιάσκεψης στην Καλιφόρνια: «Είναι φάρσα. Τα ρομπότ δεν πρόκειται να κατακτήσουν τον κόσμο».

Εν τω μεταξύ, το Γαλλικό Πρακτορείο ανέφερε ότι το Συμβούλιο Ασφαλείας του ΟΗΕ σχεδιάζει να συνεδριάσει για την τεχνητή νοημοσύνη την επόμενη εβδομάδα, καθώς αυξάνεται η διεθνής ανησυχία. Το κύμα ανησυχίας ακολουθεί την παραίτηση της περασμένης εβδομάδας του ερευνητή Anthropic Jacob Coxon, ο οποίος προειδοποίησε δημόσια ότι η τεχνητή νοημοσύνη θα μπορούσε να επισπεύσει την εξαφάνιση των ανθρώπων μέχρι το 2030 και είπε ότι τόσο ο Anthropic όσο και ο πρώην εργοδότης του OpenAI χειρίζονταν σωστά την απειλή.

Εθελοντικό προς το παρόν — αλλά πρότυπο;

Ο κώδικας της Microsoft είναι προσωρινός και εθελοντικός και η εταιρεία δεν έχει περιγράψει μηχανισμό επιβολής πέρα ​​από τις δικές της εσωτερικές διαδικασίες. Οι επικριτές θα σημειώσουν ότι οι αυτο-επιβαλλόμενοι κανόνες μπορούν να αναθεωρηθούν ή να εγκαταλειφθούν αθόρυβα και ότι η Microsoft ανταγωνίζεται ταυτόχρονα επιθετικά στην ανάπτυξη μοντέλων αιχμής μέσω της δομής συνεργασίας της με το OpenAI και τα δικά της εσωτερικά μοντέλα.

Ωστόσο, ο κώδικας είναι η πρώτη φορά που ένα μεγάλο εργαστήριο τεχνητής νοημοσύνης δημοσίευσε ένα δημόσιο, συμβουλευτικό σύνολο ορίων συμπεριφοράς χρόνου εκπαίδευσης σε αυτή τη μορφή. Το αν θα γίνει ένα πρότυπο που αντιγράφουν άλλοι - ή μια υποσημείωση σε μια συζήτηση που προχωρά ταχύτερα από οποιαδήποτε διαδικασία πολιτικής - πιθανότατα θα καθοριστεί πολύ πριν σταθμίσουν οι ρυθμιστικές αρχές.

Για συνεχή κάλυψη της συζήτησης για την ασφάλεια που αναδιαμορφώνει τον κλάδο της τεχνητής νοημοσύνης, το AI Buzz Wire παρακολουθεί κάθε εξέλιξη καθώς συμβαίνει.

---

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Λάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.

Διαβάστε περισσότερα νέα AI →