Το να ξοδεύεις μόλις δέκα λεπτά βασιζόμενος σε ένα εργαλείο τεχνητής νοημοσύνης βλάπτει σημαντικά την ικανότητα ενός ατόμου να επικεντρώνεται και να επιμένει σε δύσκολες εργασίες, σύμφωνα με μια μελέτη που έγινε με κριτές που παρουσιάστηκε αυτή την εβδομάδα στο Conference on Language Modeling (COLM).
Η εργασία, με τίτλο «Η Βοήθεια AI μειώνει την επιμονή και βλάπτει την ανεξάρτητη απόδοση», συντάχθηκε από τον συγγραφέα και ερευνητή Brian Christian, ερευνητή στο UC Berkeley Center for Human-Compatible AI, μαζί με μελετητές από το Πανεπιστήμιο Carnegie Mellon, το Τεχνολογικό Ινστιτούτο Μασαχουσέτης, το Πανεπιστήμιο της Οξφόρδης και το UCLA. Ένα προηγούμενο προσχέδιο της εργασίας κυκλοφόρησε την άνοιξη, αλλά η ενημερωμένη έκδοση με κριτές παρουσιάστηκε στο συνέδριο αυτή την εβδομάδα και το ερευνητικό γραφείο του UC Berkeley δημοσίευσε μια λεπτομερή περίληψη στις 9 Οκτωβρίου. For more context on this story, see our ongoing AI industry coverage.
Τι βρήκαν οι ερευνητές
Για να μετρήσει πόσο γρήγορα μειώθηκε η εστίαση και η επιμονή των ανθρώπων, η ομάδα διεξήγαγε μια σειρά τυχαιοποιημένων ελεγχόμενων δοκιμών με 1.222 συμμετέχοντες που στρατολογήθηκαν στο διαδίκτυο.
Στο πρώτο πείραμα, ζητήθηκε από 354 συμμετέχοντες να λύσουν 15 βασικά προβλήματα κλασμάτων. Μια ομάδα εργάστηκε χωρίς βοήθεια, ενώ μια δεύτερη ομάδα είχε ανοιχτό το ChatGPT στο πλάι και ήταν ελεύθερο να το χρησιμοποιήσει για βοήθεια — ή ακόμα και να ζητήσει απαντήσεις. Η ομάδα με πρόσβαση AI ξεκίνησε με μεγαλύτερη ακρίβεια. Στη συνέχεια, μετά από 12 προβλήματα, οι ερευνητές αφαίρεσαν το εργαλείο. Σχεδόν αμέσως, η ακρίβεια σε αυτή την ομάδα κατέρρευσε.
Το μοτίβο επαναλήφθηκε με μια δεύτερη, μεγαλύτερη ομάδα 667 συμμετεχόντων. Όταν αποσύρθηκε η βοήθεια της τεχνητής νοημοσύνης, οι χρήστες τεχνητής νοημοσύνης έλαβαν λανθασμένες απαντήσεις ή εγκατέλειψαν εντελώς, ενώ η ομάδα που είχε εργαστεί χωρίς βοήθεια κόλλησε με την εργασία και ολοκλήρωσε με μεγαλύτερη επιτυχία.
Ένα τρίτο πείραμα με 201 συμμετέχοντες άλλαξε τα μαθηματικά προβλήματα με μια προτροπή κατανόησης ανάγνωσης SAT. Το αποτέλεσμα απηχούσε τις προηγούμενες δοκιμές: όταν εξαφανίστηκε το εργαλείο, εξαφανίστηκε η επιμονή και η ακρίβεια.
«Σχεδόν δεν θα μπορούσατε να ζητήσετε μια πιο ξεκάθαρη ιστορία», είπε ο Christian σε σχόλια που δημοσιεύθηκαν από το UC Berkeley.
Το «Ανθρώπινο Κόστος» των Άμεσων Απαντήσεων
Οι ερευνητές υποστηρίζουν ότι το πρόβλημα δεν είναι η ίδια η τεχνητή νοημοσύνη, αλλά το είδος της βοήθειας που παρέχει. Όταν ένα σύστημα παράγει απαντήσεις σε δευτερόλεπτα, οι χρήστες εξοικειώνονται με αυτή την ταχύτητα και οτιδήποτε πιο αργό αρχίζει να αισθάνεται αναποτελεσματικό. Η στήριξη στο εργαλείο αφαιρεί επίσης αυτό που η ομάδα αποκαλεί «παραγωγική πάλη» — την επίπονη δέσμευση που βοηθά τους ανθρώπους να ανακαλύψουν τις δυνάμεις και τα ενδιαφέροντά τους.
"Έχουμε δημιουργήσει αυτά τα συστήματα για να είναι χρήσιμα, αλλά μας βοηθούν με έναν τρόπο που μας βοηθάει πραγματικά;" είπε ο Κρίστιαν. «Δείξαμε, κατά ειρωνεία, ότι μας βοηθούν συχνά με τρόπους που είναι κάπως άχρηστοι».
Ο Christian, του οποίου το βιβλίο του 2020 "The Alignment Problem" θεωρείται ευρέως ως ένα από τα κορυφαία προσβάσιμα έργα για την ασφάλεια της τεχνητής νοημοσύνης, είπε ότι το εύρημα παρέχει στοιχεία για μια διαίσθηση που έχουν πολλοί άνθρωποι. «Είναι ένα εντυπωσιακό εύρημα, αλλά κατά κάποιο τρόπο παρέχει πυρομαχικά για μια ιστορία που πολλοί από εμάς νιώθουμε στα έντερα μας», είπε. «Το βιώνω κι εγώ».
Γιατί έχει σημασία πέρα από τα κλάσματα
Η μελέτη προσγειώνεται εν μέσω αυξανόμενης ανησυχίας για τη γνωστική εκφόρτωση στην εκπαίδευση. Οι ίδιες οι εταιρείες Frontier AI έχουν αναγνωρίσει ότι η εκφόρτωση εργασιών σε chatbots μπορεί να μειώσει τη βασική κατανόηση ενός θέματος από έναν χρήστη, σύμφωνα με την έκθεση του Berkeley. Ο Christian προτείνει μια πιθανή λύση: οι απαντήσεις AI θα μπορούσαν προεπιλογή να είναι πιο διδακτικές - να συμπεριφέρονται σαν δάσκαλος που καθοδηγεί αντί για αυτόματο τηλεφωνητή που αντικαθιστά.
«Πρέπει να εργαστούμε προς ένα μέλλον στο οποίο οι ανθρώπινες ικανότητες θα αυξάνονται όσο το δυνατόν περισσότερο αντί να αντικαθίστανται», είπε.
Η ανησυχία του επεκτείνεται και στην επαγγελματική έρευνα. Ο Christian ανησυχεί ότι η υπερβολική εξάρτηση από τα εργαλεία τεχνητής νοημοσύνης στην επιστήμη θα μπορούσε να διαβρώσει ακριβώς τις συνήθειες που κάνουν έναν καλό επιστήμονα: να μένει κοντά στα δεδομένα, να βυθίζεται στο υλικό και να συνεργάζεται στενά με μια ομάδα. Μια ερευνητική ομάδα δέκα ατόμων που δημιουργεί τις ιδέες πίσω από μια σημαντική ανακάλυψη, σημείωσε, μπορεί να συρρικνωθεί σε δύο ή τρεις ερευνητές και ένα chatbot.
"Αυτή δεν είναι μια ιστορία για κλάσματα και προβλήματα SAT", είπε ο Christian. «Αυτό είναι κάτι που συμβαίνει με την ανθρώπινη γνώση και την ανθρώπινη τεχνογνωσία από την κορυφή μέχρι τα κάτω και από μαθητές δημοτικών σχολείων μέχρι τους κορυφαίους ειδικούς στον κόσμο».
Μια μελέτη που μπήκε στο κυρίαρχο ρεύμα
Τα πρώτα ευρήματα έλαβαν κάλυψη από το WIRED και το Psychology Today, όταν εμφανίστηκε το προκαταρκτικό σχέδιο την άνοιξη, και οι New York Times δημοσίευσαν μια ιστορία για το έγγραφο και παρόμοια έρευνα την περασμένη εβδομάδα, σύμφωνα με το UC Berkeley. Η παρουσίαση με κριτές στο COLM — έναν από τους κύριους χώρους έρευνας για τη μοντελοποίηση γλωσσών — δίνει τώρα στο αποτέλεσμα μια επίσημη σφραγίδα.
Για τους εκπαιδευτικούς και τους εργοδότες, το μήνυμα είναι άβολο αλλά συγκεκριμένο: ακόμη και η σύντομη έκθεση σε στιγμιαίες απαντήσεις τεχνητής νοημοσύνης αλλάζει μετρήσιμα τον τρόπο με τον οποίο συμπεριφέρονται οι άνθρωποι όταν οι απαντήσεις δεν είναι πλέον διαθέσιμες. Και για τις εταιρείες τεχνητής νοημοσύνης, η μελέτη αυξάνει την πίεση για τον σχεδιασμό συστημάτων που διδάσκουν όσο συχνά λύνουν.
Ο Κρίστιαν, από την πλευρά του, κρατά ένα σημειωματάριο στο γραφείο του και γράφει σε αυτό κάθε μέρα. Η πρακτική, είπε στο Berkeley, τον κρατά προσγειωμένο - και προστατεύει τη δική του επιστημονική πλεονεκτήματα από θαμπό.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
