Το OpenAI απέσυρε τρεις από τις 722 προεκτυπώσεις της έρευνας που δημοσίευσε στο GitHub στις 6 Οκτωβρίου, ανέφερε το Retraction Watch στις 8 Οκτωβρίου, αφού ένα σφάλμα πρόσημο ακύρωνε ένα κεντρικό επιχείρημα και, μαζί με αυτό, δύο αποτελέσματα που εξαρτιόνταν από αυτήν την κατασκευή. Η απόσυρση έγινε λιγότερο από 24 ώρες μετά τη μαζική απελευθέρωση, την οποία το OpenAI είχε χαρακτηρίσει ως μια προσπάθεια «να ωθήσει τα όρια της ανθρώπινης γνώσης και να επιτρέψει την περαιτέρω πρόοδο στα μαθηματικά».
Οι προεκτυπώσεις περιέγραφαν υποτιθέμενη πρόοδο από ένα εσωτερικό μοντέλο τεχνητής νοημοσύνης σε 372 άλυτα προβλήματα στη γεωμετρία, την επιστήμη των υπολογιστών, την άλγεβρα και άλλους τομείς. Η κίνηση προκάλεσε άμεσο έλεγχο από τις ερευνητικές κοινότητες — και, όπως καλύψαμε νωρίτερα αυτή την εβδομάδα στην έκθεσή μας για την [αρχική έκδοση των 722 μαθηματικών χειρογράφων] (https://aibuzzwire.news), η εταιρεία χαρακτήρισε την πτώση ως μια άνευ προηγουμένου επίδειξη του τι μπορεί να παράγει το ακυκλοφόρητο μοντέλο συνόρων της. Ακολουθήστε τα πιο πρόσφατα σχετικά με αυτήν την ιστορία στην κάλυψη τελευταίες εξελίξεις AI.
Ένα σημάδι σφάλματος καταρράκτη μέσω εξαρτημένων αποδείξεων
Στις 7 Οκτωβρίου, το OpenAI ανακοίνωσε την απόσυρση τριών χειρογράφων λόγω λάθους υπογραφής. Σύμφωνα με την ανακοίνωση, το σφάλμα ακύρωσε ένα επιχείρημα σε ένα χειρόγραφο και την κατασκευή που χρησιμοποιήθηκε από δύο εξαρτημένα χαρτιά. Κάθε χαρτί που αποσύρεται φέρει τώρα μια ειδοποίηση που εξηγεί "το κενό".
Η εταιρεία είπε επίσης ότι έχει αναθεωρήσει 14 άλλα χειρόγραφα με επισκευές απόδειξης, διορθώσεις δηλώσεων, σαφέστερες υποθέσεις και εξαρτήσεις και μία διόρθωση σε μια παρωχημένη αναφορά. Ο Dan Roberts, επικεφαλής της έρευνας στο OpenAI, ανακοίνωσε τις αποσύρσεις στο X και έγραψε ότι η εταιρεία «θα συνεχίσει να ενημερώνει τα repo με νέες επισημοποιήσεις και με όποια σφάλματα παρατηρήσουμε».
Ένας εκπρόσωπος του OpenAI είπε στο Retraction Watch ότι η εταιρεία εντόπισε τα σφάλματα κατά τη διάρκεια ενός ελέγχου, περιγράφοντας τη διαδικασία ως επαναληπτική «όπως και με άλλα ερευνητικά χειρόγραφα». Ο εκπρόσωπος πρόσθεσε ότι το OpenAI χαιρετίζει τον έλεγχο και «θα εργαστεί για να διορθώσει [λάθη] αμέσως και να αποσύρει τα έγγραφα εάν δεν βρεθούν διορθώσεις».
Συγκεκριμένα, ένας εκπρόσωπος του OpenAI είπε ότι οι συνεργάτες της εταιρείας στη Συμβουλευτική Ομάδα για τα Μαθηματικά και την Τεχνητή Νοημοσύνη (AGMAI) συνέστησαν τη δημοσιοποίηση των αποτελεσμάτων χωρίς να περιμένουν την «πλήρη επισημοποίηση» — και ότι περίπου το 50% των αποτελεσμάτων κυκλοφόρησαν ανεπιβεβαίωτα.
Μαθηματικοί: Γρήγορες επιδιορθώσεις, χαμένη εμπιστοσύνη
Οι αντιδράσεις από ερευνητές μαθηματικούς ήταν μετρημένες αλλά επιδεικτικές. Ο Άλεξ Τάουνσεντ, αναπληρωτής καθηγητής μαθηματικών στο Πανεπιστήμιο Κορνέλ, είπε στο Retraction Watch ότι ένα σφάλμα που κατακλύζεται σε τρία χειρόγραφα δεν ήταν περίεργο και ότι υποπτεύεται ότι θα βρεθούν περισσότερα λάθη. «Δεδομένου του σκεπτικισμού της τεχνητής νοημοσύνης στην κοινότητα των μαθηματικών, νομίζω ότι το OpenAI θα έπρεπε να είχε ανακοινώσει πρώτα τα χειρόγραφα που επαληθεύτηκαν Lean», είπε, αναφερόμενος στη γλώσσα προγραμματισμού ανοιχτού κώδικα που ελέγχει μηχανικά τις μαθηματικές αποδείξεις. Μια ξεχωριστή ανακοίνωση θα μπορούσε στη συνέχεια να είχε καλέσει την κοινότητα να βοηθήσει στην επαλήθευση των υπολοίπων, υποστήριξε.
Ο Άντριου Σάδερλαντ, ανώτερος ερευνητής στο τμήμα μαθηματικών του MIT, είπε ότι εκτιμά ότι το OpenAI ενεργούσε γρήγορα μετά την εύρεση των σφαλμάτων, αποκαλώντας το "το υπεύθυνο πράγμα που πρέπει να κάνουμε". Αλλά τόνισε ότι πολλοί μαθηματικοί παραμένουν « δυσαρεστημένοι με το πώς συμπεριφέρθηκε το OpenAI μέχρι αυτό το σημείο», επισημαίνοντας ιδιαίτερα την ανακοίνωση της εταιρείας στις 8 Σεπτεμβρίου ότι ένα σύστημα τεχνητής νοημοσύνης είχε λύσει το πρόβλημα Navier-Stokes - έναν ισχυρισμό που μια ομάδα κορυφαίων ερευνητών επέκρινε ως βιαστικό, «δεν άφησε χρόνο για σωστή εγγραφή, απομόνωση νέων μεθόδων και προηγούμενων ιδεών». Περισσότεροι από 8.000 ερευνητές έχουν υποστηρίξει αυτές τις ανησυχίες.
Η Ένωση για τα Ανθρώπινα Μαθηματικά προχώρησε περαιτέρω σε μια δήλωση που κυκλοφόρησε στις 7 Οκτωβρίου: "Οι μαθηματικοί δεν ζήτησαν να γίνει αυτό το έργο. Η απελευθέρωση περισσότερων από 700 αρχείων ταυτόχρονα δεν είναι επίδειξη υποτροφίας, αλλά επίδειξη δύναμης. Προτρέπουμε τους μαθηματικούς να διακόψουν τη δουλειά τους με το OpenAI και να επιστρέψουν σε ένα όραμα της επιστήμης που επικεντρώνει την ανθρώπινη κατανόηση."
Τι σημαίνει αυτό για την επιστήμη που δημιουργείται από AI
Το επεισόδιο διαμορφώνεται ως μια πρώιμη δοκιμαστική περίπτωση για το πώς τα εργαστήρια τεχνητής νοημοσύνης θα πρέπει να χειρίζονται την έρευνα που δημιουργείται από μηχανή σε κλίμακα. Η προσέγγιση του OpenAI — γρήγορη απελευθέρωση, έλεγχος στο κοινό, απόσυρση ό,τι αποτυγχάνει — έρχεται σε αντίθεση με την προσέγγιση που προτιμούν πολλοί μαθηματικοί με την πρώτη επίσημη επαλήθευση, στην οποία τα αποτελέσματα ελέγχονται σε έναν βοηθό απόδειξης όπως ο Lean πριν από οποιαδήποτε ανακοίνωση.
Υπάρχουν εύλογα επιχειρήματα και από τις δύο πλευρές. Η αναμονή για πλήρη επισημοποίηση θα μπορούσε να καθυστερήσει τα χρήσιμα αποτελέσματα κατά μήνες και η OpenAI λέει ότι κυκλοφόρησε με την ευλογία της AGMAI. Αλλά το φαινόμενο καταρράκτη - ένα σφάλμα πρόσημου που αφαιρεί δύο εξαρτημένα έγγραφα - δείχνει γιατί η επαλήθευση πριν από τη δημοσίευση ήταν ο κανόνας στα μαθηματικά και γιατί είναι πιθανό να εμφανιστούν περισσότερα σφάλματα καθώς η κοινότητα εργάζεται στα υπόλοιπα περίπου 700 χειρόγραφα.
Προς το παρόν, το OpenAI λέει ότι θέλει να μάθει από τα σχόλια και θα ακολουθήσει το πρωτόκολλο της AGMAI "όσο καλύτερα μπορούμε" στο μέλλον. Το αν αυτό είναι αρκετό για να ξαναχτιστεί η αξιοπιστία με τη μαθηματική κοινότητα είναι ένα άλλο ερώτημα. Όπως το έθεσε ο Σάδερλαντ: «Νομίζω ότι οι αναλήψεις και οι διορθώσεις θα θεωρηθούν θετικά από την κοινότητα των μαθηματικών, αλλά θα χρειαστούν πολλά περισσότερα για να κερδίσουν πίσω την εμπιστοσύνη που έχασαν».
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
