Μια ομάδα 25 Μεταλλίων Fields - κάθε αρχικός υπογράφοντες νικητής της υψηλότερης διάκρισης στα μαθηματικά - δημοσίευσε μια επίσημη δήλωση προειδοποιώντας ότι ο αγώνας για την επίδειξη τεχνητής νοημοσύνης σε μαθηματικά σημεία αναφοράς βλάπτει τόσο την επιστήμη των μαθηματικών όσο και την κοινότητα που τη συντηρεί. Η δήλωση, με τίτλο «Μια σοβαρή κακή ευθυγράμμιση της τεχνητής νοημοσύνης στα Μαθηματικά», κυκλοφόρησε την Παρασκευή και μεταξύ των αρχικών υπογραφόντων της είναι ο Terence Tao, ένας από τους πιο σημαντικούς μαθηματικούς της γενιάς του.
Η δήλωση δημοσιεύεται στο mathandai.org και μέσα σε μια μέρα συγκέντρωσε περισσότερους από 1.300 επιπλέον υποστηρικτές από πανεπιστήμια και ερευνητικά ιδρύματα σε όλο τον κόσμο, σύμφωνα με τη δημόσια λίστα υπογραφών του ιστότοπου. Ο Τάο επιβεβαίωσε τη συμμετοχή του σε μια ανάρτηση στο προσωπικό του ιστολόγιο, γράφοντας ότι «είναι περήφανος που ήταν μεταξύ της λίστας των 25 αρχικών υπογραφόντων — όλοι οι νικητές του Fields Medalists». Για οποιονδήποτε παρακολουθεί [τις τελευταίες εξελίξεις της τεχνητής νοημοσύνης] (https://aibuzzwire.news), η παρέμβαση σηματοδοτεί μια από τις πιο αιχμηρές κριτικές που έχουν γίνει μέχρι σήμερα μέσα από την ελίτ των μαθηματικών σχετικά με το πώς τα εργαστήρια τεχνητής νοημοσύνης μετρούν - και δημοσιοποιούν - τις δυνατότητες των μοντέλων τους. Κυριάρχησε στη συζήτηση στο Hacker News την Παρασκευή, αποσπώντας εκατοντάδες σχόλια.
Τι λέει η Διακήρυξη
Οι υπογράφοντες δεν αμφισβητούν ότι τα συστήματα τεχνητής νοημοσύνης έχουν γίνει εξαιρετικά ικανά. «Τους τελευταίους μήνες, οι μαθηματικές δυνατότητες των LLM έχουν βελτιωθεί δραματικά, σε σημείο που μπορούν να λύσουν σημαντικά προβλήματα σε πολλούς τομείς των μαθηματικών», αναφέρει η δήλωση. Η ένσταση έγκειται στο τι θα συμβεί στη συνέχεια: εταιρείες τεχνητής νοημοσύνης που χρησιμοποιούν αυτές τις λύσεις ως ανταγωνιστικά σημεία αναφοράς, κάτι που οι συγγραφείς υποστηρίζουν ότι είναι «επιζήμιο για την επιστήμη των μαθηματικών και για τη μαθηματική κοινότητα».
Ο βασικός ισχυρισμός είναι ξεκάθαρος: «Οι στόχοι των εταιρειών τεχνητής νοημοσύνης και οι στόχοι της μαθηματικής κοινότητας είναι σοβαρά εσφαλμένοι».
Η δήλωση υποστηρίζει ότι η επίλυση διάσημων προβλημάτων χρησίμευε παραδοσιακά ως ένδειξη νέας διορατικότητας - η αρχή μιας μακράς κοινοτικής διαδικασίας συνομιλιών, συζήτησης, απλούστευσης και τελικά συγγραφής σχολικών βιβλίων - παρά ως αυτοσκοπός. «Η επίλυση προβλημάτων είναι μόνο ένα εργαλείο και ένας αντιπρόσωπος για την επίτευξη του πρωταρχικού στόχου της εννοιολογικής κατανόησης και διορατικότητας», γράφουν οι συγγραφείς. «Το να ξεχάσουμε αυτό στον κόσμο της τεχνητής νοημοσύνης μπορεί να στρέψει το εργαλείο ενάντια στον πρωταρχικό στόχο».
Η γραμμή που αναφέρεται με τις περισσότερες αναφορές καταγράφει την ανησυχία: «η μαζική παραγωγή με ολοένα και ταχύτερους ρυθμούς δηλώσεων «αληθής/ψευδής» θα μπορούσε να καταστρέψει γόνιμο έδαφος αντί να δώσει ζωή σε νέες ιδέες».
Αναφορά απόδοσης, λογοκλοπή και βιαστικές ανακοινώσεις
Οι υπογράφοντες διατυπώνουν επίσης ένα πρακτικό παράπονο. «Συχνά αυτές οι λύσεις ανακοινώνονται βιαστικά, χωρίς να αφήνουν χρόνο για σωστή συγγραφή, απομόνωση νέων μεθόδων και ιδεών και παραθέτοντας σχετικές προηγούμενες εργασίες άλλων», αναφέρει η δήλωση. "Όπως σε όλα τα δημιουργικά επαγγέλματα, αυτό εγείρει σοβαρά ερωτήματα απόδοσης και λογοκλοπής."
Οι συγγραφείς προειδοποιούν για ένα αποτέλεσμα δεύτερης τάξης: χωρίς «πρόθυμους μαθηματικούς που πρέπει να φροντίσουν για την ανάπτυξη και την ενσωμάτωσή τους στον μαθηματικό κανόνα», οι ιδέες που συλλαμβάνονται από την τεχνητή νοημοσύνη δεν θα αναπτυχθούν ποτέ πλήρως και «η κρίσιμη ανθρώπινη αλυσίδα μετάδοσης μεταξύ των μαθηματικών θα χαθεί».
Μια ασυνήθιστη επίδειξη επείγοντος
Η ίδια η διαδικασία ήταν ασυνήθιστη. Ο Τάο αναγνώρισε στο ιστολόγιό του ότι η δήλωση προέκυψε από συζητήσεις μεταξύ των υπογραφόντων "την τελευταία εβδομάδα" και ζήτησε συγγνώμη που δεν διεξήγαγε μια πιο συμβουλευτική διαδικασία. «Αποφασίσαμε ότι ο επείγων χαρακτήρας της κατάστασης ήταν τέτοιος που έπρεπε να δημοσιεύσουμε μια δήλωση νωρίτερα παρά αργότερα», έγραψε.
Η δήλωση ακολουθεί το πρότυπο της προηγούμενης δήλωσης του Leiden, και οι διοργανωτές καλούν ρητά περαιτέρω υπογραφές. Ο Tao υπέδειξε επίσης στους αναγνώστες την πρόσφατη κάλυψη της δήλωσης από τον Economist. Οι αρχικοί 25 υπογράφοντες ήταν όλοι μετάλλιο του Fields, ένα σκόπιμα σημάδι — οι πιο διακεκριμένοι ερευνητές των μαθηματικών μιλούσαν με μια φωνή. Η ευρύτερη λίστα έγκρισης περιλαμβάνει ήδη μαθηματικούς από το MIT, το ETH της Ζυρίχης, το Ινστιτούτο Max Planck, το Northwestern, το NYU και δεκάδες άλλα ιδρύματα.
Μια προειδοποίηση πέρα από τα μαθηματικά
Ενώ η δήλωση έχει τις ρίζες της στα μαθηματικά, οι συγγραφείς την πλαισιώνουν ως πρότυπο για ένα πολύ ευρύτερο πρόβλημα. «Βρισκόμαστε μάρτυρες μιας γενικής απειλής για την πνευματική εργασία, με κακή ευθυγράμμιση μεταξύ του αποτελέσματος της χρήσης της τεχνητής νοημοσύνης και του αρχικού της σκοπού», αναφέρει η δήλωση.
Το επιχείρημα θα έχει απήχηση πολύ πέρα από τα τμήματα μαθηματικών. Σε πολλά επαγγέλματα, σημειώνουν οι συγγραφείς, τα χρόνια εκπαίδευσης παραδοσιακά χρησιμεύουν όχι μόνο για την παραγωγή τελικών απαντήσεων, αλλά και για την ανάπτυξη της κατανόησης και της ικανότητας διατύπωσης νέων ερωτήσεων. Καθώς τα συστήματα τεχνητής νοημοσύνης καθίστανται ικανά να παράγουν άμεσα τα αποτελέσματα μιας τέτοιας εργασίας, «αυτοί οι στόχοι παύουν να ευθυγραμμίζονται». Η δήλωση περιγράφει τα ζητήματα που αντιμετωπίζουν οι μαθηματικοί ως «παρόμοια με ζητήματα που αντιμετωπίζουν άλλα επιστημονικά και δημιουργικά επαγγέλματα και υποδεικνύουν ζητήματα που μπορεί να αντιμετωπίσει ολόκληρη η ανθρωπότητα».
Δεν είναι απόρριψη της τεχνητής νοημοσύνης
Συγκεκριμένα, η δήλωση δεν αποτελεί έκκληση για διακοπή της ανάπτυξης της τεχνητής νοημοσύνης. «Το AI προσφέρει τη δυνατότητα ενίσχυσης και επιτάχυνσης της γνήσιας μαθηματικής μελέτης και κατανόησης», γράφουν οι συγγραφείς, ενώ παραδέχονται ότι «τα μαθηματικά ως επάγγελμα θα πρέπει να προσαρμοστούν».
Η παρέμβαση προσγειώνεται σε μια φορτισμένη στιγμή. Οι ισχυρισμοί ότι τα συστήματα τεχνητής νοημοσύνης έχουν λύσει ή έχουν σημειώσει σημαντική πρόοδο σε περίφημα ανοιχτά προβλήματα έχουν επανειλημμένα γίνει πρωτοσέλιδο και νωρίτερα φέτος μια ξεχωριστή διαφωνία σχετικά με έναν ισχυρισμό OpenAI που σχετίζεται με το πρόβλημα Navier-Stokes έδειξε πόσο αμφιλεγόμενες μπορούν να γίνουν τέτοιες ανακοινώσεις. Η δήλωση των Μεταλλίων του Fields είναι ουσιαστικά η πιο σημαντική απάντηση της μαθηματικής κοινότητας σε αυτή τη δυναμική: ένα αίτημα να σταματήσουν τα εργαστήρια τεχνητής νοημοσύνης να αντιμετωπίζουν αιώνια ανοιχτά προβλήματα ως καταχωρίσεις στο leaderboard.
Το εάν οι εταιρείες τεχνητής νοημοσύνης ανταποκρίνονται - συμβουλευόμενοι μαθηματικούς πριν από ανακοινώσεις, πιστώνοντας προηγούμενη εργασία ή επανεξετάζοντας τα σημεία αναφοράς - μένει να φανεί. Αυτό που είναι ήδη σαφές είναι ότι οι άνθρωποι που γνωρίζουν καλύτερα αυτά τα προβλήματα δεν παρακολουθούν πλέον από το περιθώριο.
