Drei unerfahrene Wanderer aus Roseville, Kalifornien, verbrachten eine Nacht im Mud Creek Canyon am Mount Shasta, nachdem sie ihren Aufstieg mit dem Gemini-Chatbot von Google geplant hatten, so das Sheriffbüro des Siskiyou County. Das Trio begann seinen Aufstieg um 3 Uhr morgens, erreichte um 19 Uhr den 14.000 Fuß hohen Gipfel und versuchte dann in der Dunkelheit abzusteigen, bevor es die Behörden nach dem Weg rief.

Die Rettung, über die zuerst von lokalen Medien berichtet wurde und seitdem von Fox News, Digital Trends und anderen berichtet wurde, ist zu einer der am weitesten verbreiteten KI-Warnmeldungen des Sommers geworden. Es ist auch eine Erinnerung daran, dass Konversationsassistenten nur so zuverlässig sind wie die Planungsannahmen, die ihnen zugrunde liegen. Wir verfolgen dies genau, indem wir in unseren aktuellen KI-Nachrichten darüber berichten, wie Menschen diese Tools in Situationen, in denen viel auf dem Spiel steht, tatsächlich nutzen.

Was auf dem Berg passiert ist

Nach Angaben des Büros des Sheriffs verließen sich die drei Wanderer bei der Vorbereitung ihrer Reise stark auf Gemini und nutzten den Chatbot als ihre Hauptquelle für Routen- und Logistikinformationen. Ihr geplanter achtstündiger Aufstieg zog sich bis weit in den Abend hinein. Nachdem sie um 19 Uhr auf dem Gipfel gestanden hatten, versuchten sie nach Einbruch der Dunkelheit den Weg nach unten zu finden und riefen schließlich während des Abstiegs das Sheriffbüro des Siskiyou County an, um nach dem Weg zu fragen.

Die Gruppe verbrachte die Nacht im Mud Creek Canyon auf der Südostseite des Berges, bevor sie am nächsten Morgen von Rangern des US Forest Service und freiwilligen Rettern geborgen wurde. Niemand wurde ernsthaft verletzt, aber die Tortur hätte leicht schlimmer sein können: Die Nachttemperaturen in der Höhe von Shasta können sogar im Sommer stark sinken, und das Gelände des Canyons ist für jeden, der nicht über angemessene Vorräte verfügt, unversöhnlich.

Ein Plan für acht Stunden

Das am häufigsten zitierte Detail aus dem Vorfall ist die Feststellung des Büros des Sheriffs, dass Gemini den Wanderern „riet, weit weniger Nahrung und Wasser mitzubringen, als ihre Gruppe benötigte, insbesondere als ihr geplanter achtstündiger Aufstieg zu einer mehrtägigen Tortur wurde“. Mit anderen Worten: Der Packratschlag des Chatbots war auf einen Best-Case-Reiseplan abgestimmt, ohne Sicherheitsspielraum für das tatsächlich eintretende Szenario.

Erfahrene Shasta-Kletterer betrachten im Allgemeinen die Mittagszeit als Wendepunkt für einen Gipfelversuch, sodass der Abstieg bei Tageslicht erfolgt. Der Start um 3 Uhr morgens und das Erreichen des Höchststands sieben Stunden nach dieser Richtlinie bedeuteten, dass die Gruppe bereits tief in der Improvisation steckte, bevor der Abstieg überhaupt begann. Das Büro des Sheriffs bezeichnete das Vertrauen der Wanderer in den Chatbot als „kritischen Fehltritt“.

Die Warnung des Sheriffs: Überprüfen Sie, bevor Sie gehen

In der Folge forderte das Sheriffbüro des Siskiyou County jeden, der eine Shasta-Besteigung plant, auf, vor der Reise die örtliche Rangerstation des US Forest Service Mount Shasta anzurufen. Die Anleitung ist einfach: Erhalten Sie genaue und aktuelle Informationen von Menschen, die den Berg kennen, und verlassen Sie sich bei der Tourenplanung nicht ausschließlich auf KI-Tools.

Dieser Rat lässt sich weit über einen Vulkan hinaus verallgemeinern. Routenbedingungen, Wetterfenster, Wasserquellen und Genehmigungsanforderungen ändern sich ständig, und ein Chatbot, der eine Route souverän zusammenfasst, vermischt möglicherweise veraltete Reiseführertexte, Forenbeiträge und allgemeine Alpinismus-Ratschläge zu etwas, das maßgeblich klingt, aber keine aktuelle Grundwahrheit hat. Bei einer Wanderung ist diese Lücke ärgerlich. Auf einem 14.000 Fuß hohen Vulkan wird daraus ein Rettungsruf.

Eine Debatte über die Rolle der KI bei der Planung mit hohen Einsätzen

Die öffentliche Reaktion auf den Vorfall war gemischt. Einige Kommentatoren kritisierten die Wanderer dafür, dass sie überlebenskritische Entscheidungen überhaupt an einen Chatbot ausgelagert hätten. Andere verteidigten sie und argumentierten, dass der Einsatz von KI für die Reiserecherche sinnvoll sei, solange die Ergebnisse unabhängig anhand offizieller Quellen überprüft würden, heißt es in Berichten über die Rettung.

Die Episode passt zu einem breiteren Muster, das KI-Beobachter dokumentiert haben, während Assistenten von der Neuheit zur Infrastruktur übergehen: Modelle sind zunehmend zuversichtlich, aber Vertrauen ist nicht dasselbe wie Genauigkeit, und die Kosten eines Fehlers steigen mit dem Risiko. Bei kreativen oder risikoarmen Aufgaben kostet eine falsche Antwort Zeit. Im Hinterland, am Ausgangspunkt eines Wanderweges oder im Notfall kann die gleiche falsche Antwort Leben gefährden.

Was es für die KI-Reiseplanung bedeutet

Der praktische Unterricht ist vorerst glanzlos. Behandeln Sie KI-Reisepläne als einen ersten Überblick und nicht als abschließende Checkliste. Vergleichen Sie die Routen mit offiziellen Rangerstationen, Parkdiensten und aktuellen Reiseberichten. Packen Sie für den denkbar schlechtesten Tag, nicht für den geplanten. Und bauen Sie eine Bearbeitungszeit ein und behalten Sie sie dann bei.

Nichts davon macht Tools wie Gemini für die Outdoor-Planung unbrauchbar. Als Forschungsassistent, der den Rangern Fragen stellt, kann es Menschen bei der Vorbereitung wirklich helfen. Der Mount Shasta-Vorfall passiert, wenn der Assistent zur Autorität wird. Die Botschaft des Sheriff-Büros und die Rettung, die sie auslöste, werden wahrscheinlich noch lange in Debatten darüber zitiert, wo die KI-Beratung enden und das menschliche Urteil beginnen sollte.

Der KI einen Schritt voraus sein

Für verifizierte Berichte darüber, wie KI das tägliche Leben, die Sicherheit und die Gesellschaft verändert, folgen Sie AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →