Während Fachleute aus allen Branchen um die Einführung künstlicher Intelligenzwerkzeuge kämpfen, verlagert sich eine besorgniserregende Frage von der Spekulation in den Bereich der gemessenen Beweise: Verlieren wir die Fähigkeiten, die diese Werkzeuge unterstützen sollten?
Ein in Nature veröffentlichter Bericht stellt fest, dass erste Ergebnisse vorliegen – und diese nicht ermutigend sind. Die Abhängigkeit von KI-gesteuerten Systemen beginnt, die Fähigkeiten von Ärzten, Softwareentwicklern und anderen Fachkräften zu untergraben, was dringende Fragen darüber aufwirft, wie menschliches Fachwissen im Zeitalter der Automatisierung erhalten werden kann. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
##Ärzte leisten ohne KI schlechtere Leistungen
Eines der deutlichsten Beispiele kommt aus der Medizin. Eine Studie mit polnischen Ärzten, die auf Endoskopie spezialisiert sind, untersuchte, was passiert, wenn erfahrene Ärzte sich an einen KI-Assistenten gewöhnen und dann den Zugang dazu verlieren.
Die Ärzte, die im Laufe ihrer Karriere alle mindestens 2.000 Koloskopien durchgeführt hatten, erhielten ein KI-System, das Koloskopiebilder in Echtzeit analysiert und eine Art präkanzeröse Darmläsion namens Adenom erkennt. Das Tool war an manchen Tagen verfügbar, an anderen jedoch nicht, was ein natürliches Experiment darstellte.
Die Ergebnisse waren krass. Im Zeitraum von drei Monaten vor Einführung des KI-Tools stellten die Spezialisten bei 28,4 Prozent der Koloskopien mindestens ein Adenom fest. Nach der Einführung des Tools sank die Adenomerkennungsrate bei Koloskopien, die ohne KI-Unterstützung durchgeführt wurden, auf 22,4 Prozent.
Mit anderen Worten: Als die Ärzte begannen, sich auf das KI-System zu verlassen, sank ihre eigene Diagnoseleistung, als es nicht verfügbar war. Die Ergebnisse wurden letzten Oktober in The Lancet Gastroenterology and Hepatology veröffentlicht.
Die Autoren der Studie kamen zu dem Schluss, dass der kontinuierliche Kontakt mit solchen Tools dazu führen kann, dass Ärzte „weniger motiviert, weniger konzentriert und weniger verantwortungsbewusst werden, wenn sie kognitive Entscheidungen ohne KI-Unterstützung treffen“.
Eine Umfrage zeigt, dass die Sorge weit verbreitet ist
Die Angst vor Kompetenzverlust ist nicht auf einige wenige Studien beschränkt. Eine Anfang Juni veröffentlichte Umfrage unter US-amerikanischen Gesundheitspersonal ergab, dass 70 Prozent der Krankenschwestern und 77 Prozent der Ärzte Angst haben, ihre Fähigkeiten aufgrund einer übermäßigen Abhängigkeit von KI-Systemen zu verlieren.
Diese Besorgnis scheint durch die neuen Daten gerechtfertigt zu sein. Je mehr Fachleute KI in ihre täglichen Arbeitsabläufe integrieren, desto größer wird möglicherweise die Kluft zwischen dem, was sie mit der Technologie tun können, und dem, was sie ohne sie tun können.
Kevin Crowston, ein Informationswissenschaftler an der Syracuse University, brachte die Herausforderung klar auf den Punkt: „Allein das Bewusstsein, dass dieses Phänomen existiert, provoziert hoffentlich eine gewisse Selbstreflexion darüber, welche Fähigkeiten die Menschen beibehalten möchten und welche sie bereit sind, auszulagern“ in KI-Tools.
Softwareentwickler zeigen ähnliche Muster
Der Deskilling-Effekt ist nicht auf die Medizin beschränkt. Um zu untersuchen, ob in der Informatik Fähigkeiten verloren gehen, haben Forscher des KI-Unternehmens Anthropic eine randomisierte kontrollierte Studie mit 52 Softwareentwicklern entwickelt.
Alle Teilnehmer wurden gebeten, eine grundlegende Codierungsaufgabe durchzuführen. Jeder Ingenieur könnte im Internet nach Anleitungen zur Fertigstellung suchen. Die Hälfte wurde außerdem aufgefordert, einen KI-Assistenten zu nutzen. Die als Vorabdruck veröffentlichte Studie sollte die Auswirkung der KI-Unterstützung auf grundlegende Programmierfähigkeiten isolieren.
Die Ergebnisse ergänzen eine wachsende Zahl von Beweisen dafür, dass die Verlagerung routinemäßiger kognitiver Arbeit auf KI die zugrunde liegenden Kompetenzen schwächen kann, die Fachkräfte einst durch wiederholtes Üben entwickelt haben. Wenn die KI die schwere Arbeit übernimmt, hat der menschliche Praktiker weniger Möglichkeiten, Meisterschaft aufzubauen und aufrechtzuerhalten.
Die Mechanik des Deskilling
Forscher beschreiben Deskilling als einen schrittweisen Prozess. Wenn ein Werkzeug eine Aufgabe zuverlässig erledigt, sinkt die Beschäftigung des Mitarbeiters mit der zugrunde liegenden Fähigkeit. Mit der Zeit beginnen die Nervenbahnen und das durch jahrelange Übung verfeinerte Urteilsvermögen zu verblassen.
In der Medizin kann dies besonders gefährlich sein. Ein Arzt, der sich früher auf sein scharfes visuelles Urteilsvermögen verlassen hat, um verdächtiges Gewebe zu erkennen, könnte nach Monaten der KI-Unterstützung auf die Eingabeaufforderungen des Systems angewiesen sein. Wenn das System ausfällt oder nicht verfügbar ist, entspricht die Leistung des Arztes ohne fremde Hilfe möglicherweise nicht mehr dem Standard, den er einmal hatte.
Yuichi Mori, Arzt und Forscher an der Universität Oslo und Mitautor der Koloskopiestudie, warnt davor, dass Menschen, die KI-Tools verwenden, sich darüber im Klaren sein sollten, dass sie Gefahr laufen, einige ihrer Fähigkeiten zu verlieren. „Es gibt derzeit keine etablierte Lösung gegen Dequalifizierung“, sagte er. „Es sollte im nächsten Jahrzehnt ein sehr heißes Forschungsthema sein.“
Warum Standardtests das Problem verfehlen
Ein Teil der Schwierigkeit bei der Bekämpfung von Deskilling besteht darin, dass es unsichtbar bleibt, bis die KI entfernt wird. Wenn das Tool im Einsatz ist, sehen die Leistungskennzahlen gut aus und verbergen den allmählichen Rückgang der menschlichen Fähigkeiten darunter.
Dadurch entsteht eine Rückkopplungsschleife. Mitarbeiter leisten mit KI bessere Leistungen und nutzen sie daher häufiger. Je häufiger sie es verwenden, desto weniger üben sie die Fertigkeit ohne fremde Hilfe aus. Bis der Rückgang sichtbar wird – wenn das Werkzeug ausfällt, ausgemustert oder ersetzt wird – ist die Fähigkeit möglicherweise bereits verkümmert.
Das Phänomen wirft auch die Frage auf, wie Organisationen Schulung und Beurteilung strukturieren sollten. Wenn die berufliche Kompetenz zunehmend bei aktiver KI-Unterstützung gemessen wird, kann es in den Bewertungen zu einer Überbewertung dessen kommen, was Arbeitnehmer wirklich aus eigener Kraft leisten können.
Menschliches Fachwissen bewahren
Forscher und Arbeitsplatzexperten diskutieren derzeit darüber, wie wichtige menschliche Fähigkeiten im KI-Zeitalter erhalten werden können. Die Lösungen sind noch nicht klar, aber es zeichnen sich mehrere Prinzipien ab.
Erstens ist Bewusstsein wichtig. Allein die Erkenntnis, dass es zu einer Dequalifizierung kommen kann, kann Einzelpersonen und Organisationen dazu veranlassen, bewusst die Praxis ohne fremde Hilfe beizubehalten. Zweitens müssen Fachkräfte möglicherweise bewusste Entscheidungen darüber treffen, welche Fähigkeiten sie auf dem neuesten Stand halten und welche sie delegieren möchten. Nicht jede Fähigkeit ist es wert, in voller Stärke erhalten zu werden, aber einige – insbesondere diejenigen, die mit Sicherheit, Diagnose und kritischem Urteilsvermögen verbunden sind – sind es eindeutig.
Drittens müssen Unternehmen möglicherweise Arbeitsabläufe neu gestalten, damit KI die kognitive Kernarbeit ergänzt und nicht ersetzt. Anstatt das Denken dem Tool zu überlassen, könnte die KI als Kontrolle des menschlichen Urteilsvermögens positioniert werden, sodass der Fachmann zunächst eine Antwort finden muss, bevor er das System konsultiert.
Eine entscheidende Herausforderung für das KI-Zeitalter
Der Nature-Bericht macht deutlich, dass Dequalifizierung kein hypothetisches Problem mehr ist. Die Beweise sind zwar noch früh, aber in allen Bereichen konsistent: Wenn Menschen kognitive Arbeit an die KI übergeben, können die zugrunde liegenden Fähigkeiten schwächer werden.
Für die Millionen von Fachleuten, die jetzt KI in ihre täglichen Routinen integrieren, steht sowohl persönliches als auch gesellschaftliches auf dem Spiel. Ein Chirurg, der das Gespür für die Erkennung eines Tumors verliert, ein Ingenieur, der vergisst, ohne einen Assistenten Fehler zu beheben, eine Krankenschwester, deren klinische Intuition nachlässt – das sind keine abstrakten Risiken.
Wie Mori feststellte, gibt es noch keine etablierte Lösung. Aber der erste Schritt, darin sind sich die Forscher einig, besteht darin, die Bedrohung ernst zu nehmen. Die ersten Ergebnisse liegen vor, und sie sind eine Warnung: Die Werkzeuge, die uns besser machen sollen, können bei unachtsamer Anwendung dazu führen, dass wir weniger leistungsfähig sind als zuvor.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
