Καθώς οι επαγγελματίες σε όλες τις βιομηχανίες αγωνίζονται να υιοθετήσουν εργαλεία τεχνητής νοημοσύνης, ένα ανησυχητικό ερώτημα μετακινείται από την εικασία στη σφαίρα των μετρούμενων αποδεικτικών στοιχείων: χάνουμε τις δεξιότητες που προορίζονταν να βοηθήσουν αυτά τα εργαλεία;
Μια έκθεση που δημοσιεύτηκε στο Nature διαπιστώνει ότι τα πρώιμα αποτελέσματα είναι - και δεν είναι ενθαρρυντικά. Η εξάρτηση από συστήματα που βασίζονται στην τεχνητή νοημοσύνη αρχίζει να διαβρώνει τις ικανότητες των γιατρών, των μηχανικών λογισμικού και άλλων ειδικευμένων εργαζομένων, εγείροντας επείγοντα ερωτήματα σχετικά με το πώς να διατηρηθεί η ανθρώπινη τεχνογνωσία σε μια εποχή αυτοματισμού. For more context on this story, see our ongoing artificial intelligence updates.
Οι γιατροί αποδίδουν χειρότερα χωρίς AI
Ένα από τα πιο ξεκάθαρα παραδείγματα προέρχεται από την ιατρική. Μια μελέτη Πολωνών γιατρών που ειδικεύονται στην ενδοσκόπηση εξέτασε τι συμβαίνει όταν οι έμπειροι γιατροί εξοικειώνονται με έναν βοηθό τεχνητής νοημοσύνης και μετά χάνουν την πρόσβαση σε αυτόν.
Οι γιατροί, οι οποίοι είχαν κάνει όλοι τουλάχιστον 2.000 κολονοσκοπήσεις κατά τη διάρκεια της καριέρας τους, έλαβαν ένα σύστημα τεχνητής νοημοσύνης που αναλύει εικόνες κολονοσκόπησης σε πραγματικό χρόνο και επισημαίνει έναν τύπο προκαρκινικής εντερικής βλάβης που ονομάζεται αδένωμα. Το εργαλείο ήταν διαθέσιμο κάποιες μέρες αλλά όχι άλλες, δημιουργώντας ένα φυσικό πείραμα.
Τα αποτελέσματα ήταν έντονα. Κατά τη διάρκεια της τρίμηνης περιόδου πριν από την εισαγωγή του εργαλείου AI, οι ειδικοί βρήκαν τουλάχιστον ένα αδένωμα κατά τη διάρκεια του 28,4 τοις εκατό των κολονοσκοπήσεων. Μετά την εισαγωγή του εργαλείου, το ποσοστό ανίχνευσης αδενώματος για κολονοσκοπήσεις που πραγματοποιήθηκαν χωρίς βοήθεια AI μειώθηκε στο 22,4 τοις εκατό.
Με άλλα λόγια, από τη στιγμή που οι γιατροί άρχισαν να βασίζονται στο σύστημα AI, η δική τους διαγνωστική απόδοση μειώθηκε όταν δεν ήταν διαθέσιμο. Τα ευρήματα δημοσιεύτηκαν τον περασμένο Οκτώβριο στο The Lancet Gastroenterology and Hepatology.
Οι συγγραφείς της μελέτης κατέληξαν στο συμπέρασμα ότι η συνεχής έκθεση σε τέτοια εργαλεία μπορεί να κάνει τους κλινικούς γιατρούς να αποκτήσουν «λιγότερο κίνητρο, λιγότερο συγκεντρωμένοι και λιγότερο υπεύθυνοι όταν λαμβάνουν γνωστικές αποφάσεις χωρίς βοήθεια AI».
Μια έρευνα δείχνει ότι η ανησυχία είναι ευρέως διαδεδομένη
Ο φόβος της απώλειας δεξιοτήτων δεν περιορίζεται σε λίγες μελέτες. Μια έρευνα των εργαζομένων στον τομέα της υγείας των ΗΠΑ που δημοσιεύθηκε νωρίτερα τον Ιούνιο διαπίστωσε ότι το 70 τοις εκατό των νοσηλευτών και το 77 τοις εκατό των γιατρών ανησυχούν μήπως χάσουν τις δεξιότητές τους λόγω υπερβολικής εξάρτησης από συστήματα τεχνητής νοημοσύνης.
Αυτό το άγχος φαίνεται να δικαιολογείται από τα αναδυόμενα δεδομένα. Καθώς περισσότεροι επαγγελματίες ενσωματώνουν την τεχνητή νοημοσύνη στις καθημερινές ροές εργασίας τους, το χάσμα μεταξύ του τι μπορούν να κάνουν με την τεχνολογία και του τι μπορούν να κάνουν χωρίς αυτήν μπορεί να διευρύνεται.
Ο Kevin Crowston, ένας επιστήμονας πληροφοριών στο Πανεπιστήμιο των Συρακουσών, πλαισίωσε την πρόκληση ξεκάθαρα: «Απλώς γνωρίζοντας ότι υπάρχει αυτό το φαινόμενο, ελπίζουμε ότι προκαλεί αυτοστοχασμό σχετικά με το ποιες δεξιότητες θέλουν να διατηρήσουν οι άνθρωποι και ποιες είναι πρόθυμοι να αναθέσουν σε τρίτους» σε εργαλεία AI.
Οι Μηχανικοί Λογισμικού Εμφανίζουν Παρόμοια Μοτίβα
Το αποτέλεσμα απομάκρυνσης των δεξιοτήτων δεν περιορίζεται στην ιατρική. Για να διερευνήσουν εάν χάνονται δεξιότητες στην επιστήμη των υπολογιστών, ερευνητές της εταιρείας AI Anthropic σχεδίασαν μια τυχαιοποιημένη ελεγχόμενη δοκιμή στην οποία συμμετείχαν 52 μηχανικοί λογισμικού.
Όλοι οι συμμετέχοντες κλήθηκαν να εκτελέσουν μια βασική εργασία κωδικοποίησης. Κάθε μηχανικός μπορούσε να κάνει αναζήτηση στον Ιστό και να έχει πρόσβαση σε οδηγίες για το πώς να το ολοκληρώσει. Οι μισοί κλήθηκαν επίσης να χρησιμοποιήσουν έναν βοηθό τεχνητής νοημοσύνης. Η μελέτη, που κυκλοφόρησε ως προεκτύπωση, σχεδιάστηκε για να απομονώσει την επίδραση της βοήθειας AI στη θεμελιώδη ικανότητα κωδικοποίησης.
Τα ευρήματα προσθέτουν σε ένα αυξανόμενο σύνολο αποδεικτικών στοιχείων ότι η εκφόρτωση της καθημερινής γνωστικής εργασίας στην τεχνητή νοημοσύνη μπορεί να αποδυναμώσει τις υποκείμενες ικανότητες που κάποτε ανέπτυξαν οι επαγγελματίες μέσω επαναλαμβανόμενης πρακτικής. Όταν η τεχνητή νοημοσύνη χειρίζεται την άρση βαρέων βαρών, ο άνθρωπος που ασκείται έχει λιγότερες ευκαιρίες να οικοδομήσει και να διατηρήσει την κυριαρχία του.
The Mechanics of Deskilling
Οι ερευνητές περιγράφουν την αποπροσαρμογή ως μια σταδιακή διαδικασία. Όταν ένα εργαλείο χειρίζεται αξιόπιστα μια εργασία, η δέσμευση ενός εργαζόμενου με την υποκείμενη δεξιότητα μειώνεται. Με την πάροδο του χρόνου, τα νευρωνικά μονοπάτια και η κρίση που ακονίζεται μέσα από χρόνια πρακτικής αρχίζουν να ξεθωριάζουν.
Στην ιατρική, αυτό μπορεί να είναι ιδιαίτερα επικίνδυνο. Ένας γιατρός που κάποτε βασιζόταν στην έντονη οπτική κρίση για να εντοπίσει ύποπτο ιστό, μπορεί, μετά από μήνες βοήθειας με τεχνητή νοημοσύνη, να εξαρτηθεί από τις προτροπές του συστήματος. Εάν το σύστημα αποτύχει ή δεν είναι διαθέσιμο, η απόδοση του γιατρού χωρίς βοήθεια ενδέχεται να μην πληροί πλέον τα πρότυπα που ίσχυε κάποτε.
Ο Yuichi Mori, γιατρός-ερευνητής στο Πανεπιστήμιο του Όσλο και συν-συγγραφέας της μελέτης κολονοσκόπησης, προειδοποιεί ότι τα άτομα που χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης θα πρέπει να γνωρίζουν ότι κινδυνεύουν να χάσουν κάποιες από τις δεξιότητές τους. «Δεν υπάρχει καμία καθιερωμένη λύση κατά της αποπροσαρμογής δεξιοτήτων αυτή τη στιγμή», είπε. «Θα πρέπει να είναι ένα πολύ καυτό ερευνητικό θέμα την επόμενη δεκαετία».
Γιατί η τυπική δοκιμή χάνει το πρόβλημα
Μέρος της δυσκολίας στην αντιμετώπιση της αποπροσαρμογής είναι ότι είναι αόρατο μέχρι να αφαιρεθεί η τεχνητή νοημοσύνη. Οι μετρήσεις απόδοσης φαίνονται ισχυρές όταν το εργαλείο χρησιμοποιείται, καλύπτοντας τη σταδιακή διάβρωση της ανθρώπινης ικανότητας από κάτω.
Αυτό δημιουργεί έναν βρόχο ανατροφοδότησης. Οι εργαζόμενοι αποδίδουν καλύτερα με την τεχνητή νοημοσύνη, επομένως τη χρησιμοποιούν περισσότερο. Όσο περισσότερο το χρησιμοποιούν, τόσο λιγότερο εξασκούν τη μη υποβοηθούμενη δεξιότητα. Μέχρι να γίνει εμφανής η πτώση - όταν το εργαλείο είναι εκτός λειτουργίας, αποσύρεται ή αντικατασταθεί - η ικανότητα μπορεί να έχει ήδη ατροφήσει.
Το φαινόμενο εγείρει επίσης ερωτήματα σχετικά με το πώς οι οργανισμοί πρέπει να δομούν την εκπαίδευση και την αξιολόγηση. Εάν η επαγγελματική επάρκεια μετριέται όλο και περισσότερο ενώ η βοήθεια τεχνητής νοημοσύνης είναι ενεργή, οι αξιολογήσεις μπορεί να υπερεκτιμήσουν τι μπορούν πραγματικά να κάνουν οι εργαζόμενοι μόνοι τους.
Διατήρηση της ανθρώπινης τεχνογνωσίας
Ερευνητές και ειδικοί στο χώρο εργασίας συζητούν τώρα πώς να διατηρήσουν σημαντικές ανθρώπινες δεξιότητες στην εποχή της τεχνητής νοημοσύνης. Οι λύσεις δεν είναι ακόμη σαφείς, αλλά αναδύονται αρκετές αρχές.
Πρώτον, σημασία έχει η ευαισθητοποίηση. Η απλή αναγνώριση του γεγονότος ότι μπορεί να προκύψει αποπροσαρμογή μπορεί να ωθήσει τα άτομα και τους οργανισμούς να διατηρήσουν σκόπιμα μη υποβοηθούμενη πρακτική. Δεύτερον, οι επαγγελματίες μπορεί να χρειαστεί να κάνουν συνειδητές επιλογές σχετικά με το ποιες δεξιότητες θα διατηρήσουν αιχμηρές και ποιες θα αναθέσουν. Δεν αξίζει να διατηρηθούν όλες οι δεξιότητες σε πλήρη ισχύ, αλλά ορισμένες - ιδιαίτερα αυτές που συνδέονται με την ασφάλεια, τη διάγνωση και την κριτική κρίση - είναι ξεκάθαρα.
Τρίτον, οι οργανισμοί μπορεί να χρειαστεί να επανασχεδιάσουν τις ροές εργασίας έτσι ώστε η τεχνητή νοημοσύνη να αυξάνει αντί να αντικαθιστά τη βασική γνωστική εργασία. Αντί να αφήσει το εργαλείο να κάνει τη σκέψη, η τεχνητή νοημοσύνη θα μπορούσε να τοποθετηθεί ως έλεγχος της ανθρώπινης κρίσης, απαιτώντας από τον επαγγελματία να καταλήξει σε μια απάντηση πρώτα πριν συμβουλευτεί το σύστημα.
Μια καθοριστική πρόκληση για την εποχή της AI
Η έκθεση Nature καθιστά σαφές ότι η απομάκρυνση δεξιοτήτων δεν αποτελεί πλέον υποθετική ανησυχία. Τα στοιχεία, αν και είναι ακόμη νωρίς, είναι συνεπή σε όλους τους τομείς: όταν οι άνθρωποι παραδίδουν τη γνωστική εργασία στην τεχνητή νοημοσύνη, οι υποκείμενες δεξιότητες μπορεί να εξασθενήσουν.
Για τα εκατομμύρια των επαγγελματιών που ενσωματώνουν τώρα την τεχνητή νοημοσύνη στην καθημερινή τους ρουτίνα, το διακύβευμα είναι τόσο προσωπικό όσο και κοινωνικό. Ένας χειρουργός που χάνει την αφή για να εντοπίσει έναν όγκο, ένας μηχανικός που ξεχνά πώς να εντοπίζει σφάλματα χωρίς βοηθό, μια νοσοκόμα της οποίας η κλινική διαίσθηση εξασθενεί — αυτοί δεν είναι αφηρημένοι κίνδυνοι.
Όπως σημείωσε ο Μόρι, δεν υπάρχει ακόμη εδραιωμένη λύση. Αλλά το πρώτο βήμα, συμφωνούν οι ερευνητές, είναι να λάβουν την απειλή στα σοβαρά. Τα πρώτα αποτελέσματα είναι ήδη και αποτελούν προειδοποίηση: τα εργαλεία που έχουν σχεδιαστεί για να μας κάνουν καλύτερους μπορεί, εάν χρησιμοποιηθούν απρόσεκτα, να μας αφήσουν λιγότερο ικανούς από πριν.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
