Memandangkan profesional di seluruh industri berlumba-lumba untuk menggunakan alat kecerdasan buatan, persoalan yang membimbangkan sedang beralih daripada spekulasi ke alam bukti terukur: adakah kita kehilangan kemahiran alat ini bertujuan untuk membantu?
Laporan yang diterbitkan dalam Nature mendapati bahawa keputusan awal adalah dalam — dan mereka tidak menggalakkan. Pergantungan pada sistem dipacu AI mula menghakis kebolehan pakar perubatan, jurutera perisian dan pekerja mahir lain, menimbulkan persoalan mendesak tentang cara mengekalkan kepakaran manusia dalam era automasi. For more context on this story, see our ongoing breaking AI news.
Doktor Berprestasi Lebih Buruk Tanpa AI
Salah satu contoh yang paling jelas datang dari perubatan. Kajian pakar perubatan Poland yang pakar dalam endoskopi meneliti perkara yang berlaku apabila doktor berpengalaman membiasakan diri dengan pembantu AI dan kemudian kehilangan akses kepadanya.
Pakar perubatan, yang kesemuanya telah melakukan sekurang-kurangnya 2,000 kolonoskopi semasa kerjaya mereka, diberikan sistem AI yang menganalisis imej kolonoskopi dalam masa nyata dan menandakan sejenis lesi usus prakanser yang dipanggil adenoma. Alat ini tersedia pada beberapa hari tetapi tidak pada hari lain, mencipta percubaan semula jadi.
Hasilnya adalah nyata. Dalam tempoh tiga bulan sebelum alat AI diperkenalkan, pakar menemui sekurang-kurangnya satu adenoma semasa 28.4 peratus kolonoskopi. Selepas alat itu diperkenalkan, kadar pengesanan adenoma untuk kolonoskopi yang dilakukan tanpa bantuan AI menurun kepada 22.4 peratus.
Dalam erti kata lain, sebaik sahaja doktor mula bergantung pada sistem AI, prestasi diagnostik mereka sendiri menurun apabila ia tidak tersedia. Penemuan itu diterbitkan pada Oktober lalu dalam The Lancet Gastroenterology and Hepatology.
Penulis kajian menyimpulkan bahawa pendedahan berterusan kepada alat sedemikian boleh menyebabkan doktor menjadi "kurang bermotivasi, kurang fokus, dan kurang bertanggungjawab apabila membuat keputusan kognitif tanpa bantuan AI."
Tinjauan Menunjukkan Kebimbangan Berleluasa
Ketakutan kehilangan kemahiran tidak terhad kepada beberapa kajian. Tinjauan terhadap pekerja penjagaan kesihatan AS yang diterbitkan awal pada bulan Jun mendapati bahawa 70 peratus jururawat dan 77 peratus pakar perubatan bimbang kehilangan kemahiran mereka kerana terlalu bergantung pada sistem AI.
Kebimbangan itu nampaknya dibenarkan oleh data yang muncul. Apabila lebih ramai profesional menyepadukan AI ke dalam aliran kerja harian mereka, jurang antara perkara yang boleh mereka lakukan dengan teknologi dan perkara yang boleh mereka lakukan tanpanya mungkin semakin melebar.
Kevin Crowston, seorang saintis maklumat di Universiti Syracuse, merangka cabaran itu dengan jelas: "Hanya menyedari bahawa fenomena ini wujud diharapkan dapat menimbulkan beberapa refleksi diri tentang kemahiran yang ingin dikekalkan oleh orang dan yang mereka bersedia untuk menyumber luar" kepada alatan AI.
Jurutera Perisian Menunjukkan Corak Serupa
Kesan deskilling tidak terhad kepada ubat. Untuk menyiasat sama ada kemahiran dalam sains komputer hilang, penyelidik di firma AI Anthropic mereka bentuk percubaan terkawal rawak yang melibatkan 52 jurutera perisian.
Semua peserta diminta melaksanakan tugasan pengekodan asas. Setiap jurutera boleh mencari di web dan mengakses arahan tentang cara menyelesaikannya. Separuh juga digesa untuk menggunakan pembantu AI. Kajian yang dikeluarkan sebagai pracetak, direka untuk mengasingkan kesan bantuan AI pada keupayaan pengekodan asas.
Penemuan ini menambah bukti yang semakin meningkat bahawa memunggah kerja kognitif rutin kepada AI boleh melemahkan kecekapan asas yang pernah dibangunkan oleh profesional melalui amalan berulang. Apabila AI mengendalikan beban berat, pengamal manusia mendapat lebih sedikit peluang untuk membina dan mengekalkan penguasaan.
Mekanik Meja Kerja
Penyelidik menggambarkan deskilling sebagai proses beransur-ansur. Apabila alat mengendalikan tugas dengan pasti, penglibatan pekerja dengan kemahiran asas akan berkurangan. Dari masa ke masa, laluan saraf dan pertimbangan yang diasah selama bertahun-tahun amalan mula pudar.
Dalam perubatan, ini boleh menjadi sangat berbahaya. Seorang doktor yang pernah bergantung pada pertimbangan visual yang tajam untuk mengesan tisu yang mencurigakan mungkin, selepas berbulan-bulan bantuan AI, menjadi bergantung pada gesaan sistem. Jika sistem gagal atau tidak tersedia, prestasi tanpa bantuan doktor mungkin tidak lagi memenuhi standard yang pernah dilakukan.
Yuichi Mori, seorang doktor-penyelidik di Universiti Oslo dan pengarang bersama kajian kolonoskopi, memberi amaran bahawa orang yang menggunakan alat AI harus sedar bahawa mereka berisiko kehilangan beberapa kemahiran mereka. "Tiada penyelesaian yang mapan terhadap deskilling sekarang ini," katanya. "Ia sepatutnya menjadi topik penyelidikan yang sangat hangat dalam dekad yang akan datang."
Mengapa Ujian Standard Terlepas Masalah
Sebahagian daripada kesukaran dalam menangani deskilling ialah ia tidak dapat dilihat sehingga AI dialih keluar. Metrik prestasi kelihatan kukuh apabila alat sedang digunakan, menutupi penghakisan beransur-ansur keupayaan manusia di bawahnya.
Ini mewujudkan gelung maklum balas. Pekerja menunjukkan prestasi yang lebih baik dengan AI, jadi mereka lebih banyak menggunakannya. Semakin banyak mereka menggunakannya, semakin kurang mereka mengamalkan kemahiran tanpa bantuan. Pada masa kemerosotan menjadi jelas - apabila alat itu tidak berfungsi, bersara atau diganti - kemahiran itu mungkin telah berkurangan.
Fenomena ini juga menimbulkan persoalan tentang bagaimana organisasi harus menstruktur latihan dan penilaian. Jika kecekapan profesional semakin diukur semasa bantuan AI aktif, penilaian mungkin melebih-lebihkan perkara yang benar-benar boleh dilakukan oleh pekerja sendiri.
Memelihara Kepakaran Manusia
Penyelidik dan pakar tempat kerja kini berdebat bagaimana untuk mengekalkan kemahiran manusia yang penting dalam era AI. Penyelesaian masih belum jelas, tetapi beberapa prinsip muncul.
Pertama, kesedaran penting. Sekadar menyedari bahawa deskilling boleh berlaku mungkin mendorong individu dan organisasi untuk mengekalkan amalan tanpa bantuan dengan sengaja. Kedua, profesional mungkin perlu membuat pilihan sedar tentang kemahiran mana yang harus dipertahankan dan yang mana untuk diwakilkan. Tidak setiap kemahiran bernilai dipelihara dengan kekuatan penuh, tetapi beberapa - terutamanya yang berkaitan dengan keselamatan, diagnosis dan pertimbangan kritikal - jelas.
Ketiga, organisasi mungkin perlu mereka bentuk semula aliran kerja supaya AI menambah dan bukannya menggantikan kerja kognitif teras. Daripada membiarkan alat itu berfikir, AI boleh diletakkan sebagai semakan terhadap pertimbangan manusia, memerlukan profesional untuk mendapatkan jawapan terlebih dahulu sebelum berunding dengan sistem.
Cabaran Menentukan untuk Era AI
Laporan Nature menjelaskan bahawa deskilling tidak lagi menjadi kebimbangan hipotetikal. Buktinya, semasa masih awal, adalah konsisten merentas bidang: apabila manusia menyerahkan kerja kognitif kepada AI, kemahiran asas boleh melemahkan.
Bagi berjuta-juta profesional yang kini mengintegrasikan AI ke dalam rutin harian mereka, kepentingannya adalah peribadi dan juga masyarakat. Seorang pakar bedah yang kehilangan sentuhan untuk mengesan tumor, seorang jurutera yang terlupa cara menyahpepijat tanpa pembantu, seorang jururawat yang intuisi klinikalnya malap — ini bukan risiko abstrak.
Seperti yang dinyatakan Mori, belum ada penyelesaian yang mantap. Tetapi langkah pertama, penyelidik bersetuju, adalah mengambil serius ancaman itu. Keputusan awal sudah ada, dan ini adalah amaran: alat yang direka untuk menjadikan kita lebih baik mungkin, jika digunakan secara tidak berhati-hati, menjadikan kita kurang berkemampuan daripada sebelumnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
