W miarę jak profesjonaliści z różnych branż prześcigają się w wdrażaniu narzędzi sztucznej inteligencji, niepokojące pytanie przenosi się ze spekulacji w sferę mierzonych dowodów: czy tracimy umiejętności, którym te narzędzia miały pomóc?
Z raportu opublikowanego w Nature wynika, że wstępne wyniki są już dostępne i nie są zachęcające. Poleganie na systemach opartych na sztucznej inteligencji zaczyna ograniczać umiejętności lekarzy, inżynierów oprogramowania i innych wykwalifikowanych pracowników, co rodzi pilne pytania o to, jak zachować ludzką wiedzę w epoce automatyzacji. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Lekarze radzą sobie gorzej bez sztucznej inteligencji
Jeden z najwyraźniejszych przykładów pochodzi z medycyny. W badaniu przeprowadzonym wśród polskich lekarzy specjalizujących się w endoskopii zbadano, co dzieje się, gdy doświadczeni lekarze przyzwyczajają się do asystenta AI, a następnie tracą do niego dostęp.
Lekarze, z których wszyscy wykonali w swojej karierze co najmniej 2000 kolonoskopii, otrzymali system sztucznej inteligencji, który analizuje obrazy kolonoskopii w czasie rzeczywistym i wykrywa rodzaj przedrakowej zmiany jelit zwanej gruczolakiem. Narzędzie było dostępne w niektóre dni, ale w inne nie, co stanowiło naturalny eksperyment.
Wyniki były surowe. W okresie trzech miesięcy poprzedzających wprowadzenie narzędzia AI specjaliści wykryli co najmniej jednego gruczolaka w 28,4% kolonoskopii. Po wprowadzeniu narzędzia wskaźnik wykrywalności gruczolaka podczas kolonoskopii wykonywanych bez pomocy AI spadł do 22,4%.
Innymi słowy, gdy lekarze zaczęli polegać na systemie sztucznej inteligencji, ich skuteczność diagnostyczna spadła, gdy był on niedostępny. Wyniki opublikowano w październiku ubiegłego roku w The Lancet Gastroenterology and Hepatology.
Autorzy badania doszli do wniosku, że ciągły kontakt z takimi narzędziami może spowodować, że klinicyści staną się „mniej zmotywowani, mniej skupieni i mniej odpowiedzialni przy podejmowaniu decyzji poznawczych bez pomocy sztucznej inteligencji”.
Ankieta pokazuje, że niepokój jest powszechny
Strach przed utratą umiejętności nie ogranicza się do kilku badań. Ankieta przeprowadzona wśród amerykańskich pracowników służby zdrowia opublikowana w czerwcu wykazała, że 70 procent pielęgniarek i 77 procent lekarzy obawia się utraty swoich umiejętności z powodu nadmiernego polegania na systemach sztucznej inteligencji.
Napływające dane wydają się uzasadniać ten niepokój. W miarę jak coraz więcej profesjonalistów integruje sztuczną inteligencję w swoich codziennych przepływach pracy, przepaść między tym, co mogą zrobić dzięki tej technologii, a tym, co mogą zrobić bez niej, może się pogłębiać.
Kevin Crowston, informatyk na Uniwersytecie Syracuse, jasno sformułował wyzwanie: „Miejmy nadzieję, że sama świadomość istnienia tego zjawiska skłania do refleksji nad tym, jakie umiejętności ludzie chcą utrzymać, a które są skłonni zlecić” narzędziom sztucznej inteligencji.
Inżynierowie oprogramowania wykazują podobne wzorce
Efekt deskillingu nie ogranicza się do medycyny. Aby zbadać, czy w informatyce zanikają umiejętności, badacze z firmy Anthropic zajmującej się sztuczną inteligencją opracowali randomizowane, kontrolowane badanie z udziałem 52 inżynierów oprogramowania.
Wszyscy uczestnicy zostali poproszeni o wykonanie podstawowego zadania związanego z kodowaniem. Każdy inżynier mógł przeszukać Internet i uzyskać dostęp do instrukcji, jak go wykonać. Połowę z nich poproszono także o skorzystanie z asystenta AI. Badanie, opublikowane w formie wstępnej, miało na celu wyizolowanie wpływu wspomagania sztucznej inteligencji na podstawowe umiejętności kodowania.
Odkrycia stanowią coraz większą liczbę dowodów na to, że przerzucanie rutynowych zadań poznawczych na sztuczną inteligencję może osłabić podstawowe kompetencje, które profesjonaliści rozwinęli kiedyś w wyniku powtarzanej praktyki. Kiedy sztuczna inteligencja radzi sobie z dźwiganiem ciężkich rzeczy, praktykujący ma mniej możliwości budowania i utrzymywania mistrzostwa.
Mechanika desillingu
Naukowcy opisują deskilling jako proces stopniowy. Kiedy narzędzie niezawodnie radzi sobie z zadaniem, zaangażowanie pracownika w podstawową umiejętność spada. Z biegiem czasu ścieżki neuronowe i osąd wydoskonalony przez lata praktyki zaczynają zanikać.
W medycynie może to być szczególnie niebezpieczne. Lekarz, który kiedyś polegał na wnikliwej ocenie wzrokowej przy wykrywaniu podejrzanych tkanek, po miesiącach korzystania ze sztucznej inteligencji może uzależnić się od wskazówek systemu. Jeśli system zawiedzie lub będzie niedostępny, działanie lekarza samodzielnie może nie spełniać już dotychczasowych standardów.
Yuichi Mori, lekarz-naukowiec na Uniwersytecie w Oslo i współautorka badania dotyczącego kolonoskopii, ostrzega, że osoby korzystające z narzędzi AI powinny mieć świadomość, że ryzykują utratą części swoich umiejętności. „W tej chwili nie ma ustalonego rozwiązania przeciwko deskillingowi” – powiedział. „To powinien być bardzo gorący temat badawczy w następnej dekadzie”.
Dlaczego standardowe testowanie pomija problem
Częścią trudności w rozwiązaniu problemu deskillingu jest to, że jest on niewidoczny do czasu usunięcia sztucznej inteligencji. Wskaźniki wydajności wyglądają dobrze, gdy narzędzie jest używane, maskując stopniową erozję ludzkich możliwości.
Tworzy to pętlę sprzężenia zwrotnego. Pracownicy lepiej radzą sobie ze sztuczną inteligencją, więc częściej z niej korzystają. Im częściej go używają, tym mniej ćwiczą umiejętność samodzielnego korzystania. Zanim upadek stanie się widoczny – gdy narzędzie zostanie wyłączone, wycofane z użytku lub wymienione – umiejętność może już zaniknąć.
Zjawisko to rodzi również pytania o to, jak organizacje powinny organizować szkolenia i oceny. Jeżeli kompetencje zawodowe będą coraz częściej mierzone w czasie, gdy aktywne jest wsparcie AI, oceny mogą przeceniać to, co pracownicy tak naprawdę mogą zrobić samodzielnie.
Zachowanie ludzkiej wiedzy
Naukowcy i eksperci zajmujący się miejscami pracy debatują obecnie, jak zachować ważne umiejętności ludzkie w erze sztucznej inteligencji. Rozwiązania nie są jeszcze jasne, ale pojawia się kilka zasad.
Po pierwsze, liczy się świadomość. Samo uświadomienie sobie, że może wystąpić desilling, może skłonić osoby i organizacje do celowego kontynuowania samodzielnej praktyki. Po drugie, profesjonaliści mogą być zmuszeni dokonać świadomego wyboru, które umiejętności zachować, a które przekazać. Nie każda umiejętność jest warta zachowania w pełni, ale niektóre – szczególnie te związane z bezpieczeństwem, diagnozą i krytyczną oceną – z pewnością tak.
Po trzecie, organizacje mogą potrzebować przeprojektowania przepływów pracy, tak aby sztuczna inteligencja raczej wspomagała, a nie zastępowała podstawową pracę poznawczą. Zamiast pozwalać narzędziu myśleć, sztuczną inteligencję można ustawić jako narzędzie sprawdzające ludzki osąd, wymagające od specjalisty uzyskania odpowiedzi przed skonsultowaniem się z systemem.
Definiujące wyzwanie dla ery sztucznej inteligencji
Z raportu Nature jasno wynika, że desilling nie jest już hipotetycznym problemem. Dowody, choć wciąż wczesne, są spójne we wszystkich dziedzinach: kiedy ludzie przekazują sztuczną inteligencję pracę poznawczą, podstawowe umiejętności mogą osłabnąć.
Dla milionów profesjonalistów włączających obecnie sztuczną inteligencję do swoich codziennych zajęć stawka jest zarówno osobista, jak i społeczna. Chirurg, który traci wyczucie guza, inżynier, który zapomina, jak debugować bez asystenta, pielęgniarka, której intuicja kliniczna przygasa – to nie jest abstrakcyjne ryzyko.
Jak zauważył Mori, nie ma jeszcze ustalonego rozwiązania. Naukowcy zgadzają się jednak, że pierwszym krokiem jest poważne potraktowanie zagrożenia. Są już pierwsze wyniki i stanowią ostrzeżenie: narzędzia zaprojektowane, aby uczynić nas lepszymi, mogą, jeśli zostaną użyte nieostrożnie, sprawić, że będziemy mniej zdolni niż wcześniej.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
