Laut einem neuen Forschungsbericht des britischen Fintech-Unternehmens Saturn, der 18 der beliebtesten KI-Modelle getestet und eine durchschnittliche Fehlerquote von 57 % ermittelt hat, geben führende KI-Chatbots häufiger falsche Antworten auf Finanzfragen, berichtete die Financial Times am Montag.

Der Bericht mit dem Titel „Künstliche Autorität“ erscheint zu einem Zeitpunkt, an dem sich Millionen von Verbrauchern zunehmend an Chatbots wenden, um Ratschläge zu Renten, Steuern, Schulden und Ersparnissen zu erhalten – Fragen, bei denen eine einzige falsche Antwort echte finanzielle Folgen haben kann. Während Allzweckassistenten in den regulierten Bereich gedrängt werden, werden Studien wie diese zu einem wiederkehrenden Stresstest für die Verbraucherversprechen der Branche, und wir werden die neuesten KI-Entwicklungen weiterhin verfolgen, sobald die Regulierungsbehörden reagieren.

So funktionierte der Test

Das Domain-Team von Saturn hat 18 der am weitesten verbreiteten KI-Modelle 121 Fragen aus den Bereichen Rente, Steuern, Schulden und Ersparnisse gestellt – die Kernbereiche, in denen Privatkunden am häufigsten Rat suchen. Zu den getesteten Modellen gehörten laut der veröffentlichten Zusammenfassung des Berichts ChatGPT, Gemini, Claude und Microsofts Copilot.

Im Durchschnitt machten die Modelle in 57 % der Fälle Fehler, sagte Saturn. Das Unternehmen formulierte die Ergebnisse so, dass sie „von Fehlern bis hin zum Versagen des Verbraucherschutzes“ reichten, und argumentierte damit, dass die Beratungslücke im Vereinigten Königreich – die Kluft zwischen Menschen, die Zugang zu regulierter Finanzberatung haben, und denen, die keinen Zugang haben – nicht allein durch unregulierte Chatbots geschlossen werden kann.

Selbst das beste Model macht häufig Fehler

Die Ergebnisse waren nicht einheitlich, aber selbst der stärkste Leistungsträger scheiterte oft. Dem FT-Bericht zufolge war das Modell mit der besten Leistung Claude Opus 5 von Anthropic, das im Argumentationsmodus lief – und es machte immer noch Fehler in 39 % der Antworten.

Dieses Detail könnte sich als die folgenreichste Erkenntnis des Berichts erweisen. Argumentationsmodi, die es den Modellen ermöglichen, vor der Antwort nachzudenken, sind die branchenweit führende Antwort auf Halluzinationen und Irrtümer, und Grenzmodelle erzielen regelmäßig gute Ergebnisse bei Berufsprüfungen in den Bereichen Finanzen und Recht. Eine Fehlerquote von 39 % bei praktischen Finanzfragen deutet darauf hin, dass prüfungsähnliche Benchmarks und reale Verbraucheranfragen sehr unterschiedliche Dinge messen.

Die Ergebnisse stießen ebenfalls auf Widerstand. Kommentatoren von Hacker News stellten die Methodik und Modellauswahl in Frage und stellten fest, dass mehrere der Beispielfehler im Bericht von kleineren Free-Tier-Modellen stammten. Aber der Durchschnitt von 57 % und der klassenbeste Wert von 39 % sind veröffentlichte Behauptungen von Saturn und der FT, und die zentrale Warnung des Berichts – dass Verbraucher Chatbot-Ausgaben nicht als regulierte Beratung betrachten sollten – wurde nicht bestritten.

Eine Warnung, die Aufsichtsbehörden schon einmal gehört haben

Der Bericht landet inmitten des wachsenden offiziellen Unbehagens über Chatbots in Geldangelegenheiten. Britische Verbraucher wurden bereits Ende 2025 in einer weit verbreiteten Warnung des Guardian vor ungenauen Finanzberatungen durch KI-Chatbots gewarnt, und Finanzaufsichtsbehörden in ganz Europa und den Vereinigten Staaten haben seitdem KI-generierte Beratung als aufstrebenden Verbraucherrisikobereich gekennzeichnet.

Saturns eigene Position verleiht dem Bericht einen besonderen Vorteil: Das Unternehmen entwickelt KI-Tools für die Finanzberatung und veröffentlichte die Ergebnisse nicht als Ablehnung von KI im Finanzwesen, sondern als Argument dafür, die Leitplanken richtig zu setzen. Sein Argument ist, dass schlecht gesteuerte Chatbots die Beratungslücke bereits standardmäßig füllen und dass die Regulierungsbehörden vor der Wahl zwischen überwachter KI-Anleitung und unbeaufsichtigter KI-Anleitung stehen – und nicht zwischen KI und menschlicher Beratung.

Saturns Beitrag zu dieser Debatte ist ein Argument über die Gestaltung von Richtlinien: Das Unternehmen sagt, dass eine Verlagerung von einer, wie es sagt, übermäßigen Regulierung hin zur Einführung praktischer Leitplanken für große Sprachmodelle die Beratungslücke schneller schließen und gleichzeitig die Menschen vor unregulierter KI-Anleitung schützen würde. Mit anderen Worten: Anstatt die KI vollständig aus der Finanzberatung herauszuhalten, bauen Sie überwachte, eingeschränkte Bereitstellungen auf, die sicher Kunden bedienen können, für deren Erreichung menschliche Berater zu teuer sind.

Diese Formulierung ist wichtig, denn die Beratungslücke ist die stärkste Rechtfertigung der Branche, überhaupt in diesem Bereich tätig zu sein. Im Vereinigten Königreich liegen die meisten Haushalte außerhalb der Schwelle, ab der eine regulierte Finanzberatung als wirtschaftlich sinnvoll angesehen wird, und genau dies ist die Bevölkerung, die Chatbots jetzt nach Renten und Schulden fragt.

Was Verbraucher mitnehmen sollten

Bis sich die Modelle verbessern oder die Regulierungsbehörden eingreifen, ist die praktische Anleitung aus der Forschung unkompliziert:

  • Behandeln Sie Chatbot-Antworten zu Steuern, Renten, Schulden und Ersparnissen als Ausgangspunkt für Recherchen und nicht als Ratschläge.
  • Überprüfen Sie alle spezifischen Zahlen – Schwellenwerte, Sätze, Zulagen – anhand einer offiziellen Quelle, bevor Sie entsprechend handeln.
  • Seien Sie besonders vorsichtig bei Free-Tier-Modellen, die möglicherweise älter oder kleiner sind als die von einem Labor beworbenen Flaggschiff-Versionen.
  • Für Folgeentscheidungen bleibt ein regulierter menschlicher Berater der einzige Kanal mit rechtlicher Verantwortung.

Die umfassendere Frage, die der Bericht aufwirft, ist eine, mit der sich die KI-Branche im Jahr 2026 immer wieder auseinandersetzen wird: Fähigkeiten, die in Demos und Benchmarks überzeugen, können immer noch hinter der Zuverlässigkeitsgrenze zurückbleiben, die regulierte Bereiche erfordern. Die Finanzberatung ist einfach der erste Bereich, in dem diese Lücke so deutlich quantifiziert wurde.

Bleiben Sie der KI immer einen Schritt voraus

Verfolgen Sie, wie KI Finanzwesen, Forschung und Regulierung verändert? Lesen Sie weitere KI-Neuigkeiten auf AI Buzz Wire – unabhängige KI-Berichterstattung, jeden Tag.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →